論文の概要: National Origin Discrimination in Deep-learning-powered Automated Resume Screening

• arxiv url: http://arxiv.org/abs/2307.08624v1
• Date: Thu, 13 Jul 2023 01:35:29 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-18 12:05:50.108533
• Title: National Origin Discrimination in Deep-learning-powered Automated Resume Screening
• Title（参考訳）: ディープラーニングを利用した自動検索における国家原産地識別
• Authors: Sihang Li, Kuangzheng Li, Haibing Lu
• Abstract要約: 多くの企業や組織は、採用プロセスを支援するために、ある種のAI対応のオートマットツールを使い始めています。 AIシステムの根底にあるバイアスによって、候補者に対する不公平な扱いが懸念されている。 本研究では,近年の技術革新である深層学習手法について検討し,自動再開検診への応用に焦点をあてた。
• 参考スコア（独自算出の注目度）: 3.251347385432286
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Many companies and organizations have started to use some form of AIenabled auto mated tools to assist in their hiring process, e.g. screening resumes, interviewing candi dates, performance evaluation. While those AI tools have greatly improved human re source operations efficiency and provided conveniences to job seekers as well, there are increasing concerns on unfair treatment to candidates, caused by underlying bias in AI systems. Laws around equal opportunity and fairness, like GDPR, CCPA, are introduced or under development, in attempt to regulate AI. However, it is difficult to implement AI regulations in practice, as technologies are constantly advancing and the risk perti nent to their applications can fail to be recognized. This study examined deep learning methods, a recent technology breakthrough, with focus on their application to automated resume screening. One impressive performance of deep learning methods is the represen tation of individual words as lowdimensional numerical vectors, called word embedding, which are learned from aggregated global wordword cooccurrence statistics from a cor pus, like Wikipedia or Google news. The resulting word representations possess interest ing linear substructures of the word vector space and have been widely used in down stream tasks, like resume screening. However, word embedding inherits and reinforces the stereotyping from the training corpus, as deep learning models essentially learn a probability distribution of words and their relations from history data. Our study finds out that if we rely on such deeplearningpowered automated resume screening tools, it may lead to decisions favoring or disfavoring certain demographic groups and raise eth ical, even legal, concerns. To address the issue, we developed bias mitigation method. Extensive experiments on real candidate resumes are conducted to validate our study
• Abstract（参考訳）: 多くの企業や組織は、採用プロセス、例えば履歴書のスクリーニング、カンディデートへのインタビュー、パフォーマンス評価を支援するために、AI対応のオートマットツールの使用を開始している。 これらのAIツールは、人間のオープンソース運用の効率を大幅に改善し、求職者にも利便性を提供してきたが、AIシステムの根底にあるバイアスに起因する候補に対する不公平な扱いに関する懸念が高まっている。 GDPRやCCPAのような平等な機会と公正に関する法律は、AIを規制するために導入または開発中である。 しかし、技術は常に進歩しており、アプリケーションに従属するリスクを認識できないため、実際にはAI規制を実装するのは難しい。 本研究では,近年の技術革新である深層学習手法について検討し,自動再開検診への応用に焦点をあてた。 深層学習手法の顕著な性能の1つは、単語埋め込みと呼ばれる低次元の数値ベクトルとしての個々の単語の再認識であり、これは、ウィキペディアやGoogleニュースのようなコーパスから集約されたグローバルワード共起統計から学習される。 その結果得られる単語表現は、単語ベクトル空間の線形部分構造に関心を持ち、履歴スクリーニングのようなダウンストリームタスクで広く使われている。 しかし、ディープラーニングモデルが基本的に単語の確率分布とそれらの関係を履歴データから学習するため、単語埋め込みはトレーニングコーパスからステレオタイプを継承し強化する。 我々の研究は、もし我々がこのような深層学習を利用した自動再開スクリーニングツールに頼れば、特定の人口集団を好ましくも好ましくない決定を導き、倫理的、法的にも関心を喚起する可能性があることを突き止めた。 この問題に対処するため,偏差緩和法を開発した。 実候補者履歴書の総合的な実験を行い,本研究の検証を行った。

関連論文リスト

• Generative AI in Writing Research Papers: A New Type of Algorithmic Bias and Uncertainty in Scholarly Work [0.38850145898707145]
  大規模言語モデル(LLM)と生成AIツールは、バイアスを特定し、対処する上での課題を提示している。 生成型AIツールは、不正な一般化、幻覚、レッド・チーム・プロンプトのような敵攻撃を目標とする可能性がある。 研究原稿の執筆過程に生成AIを組み込むことで,新しいタイプの文脈依存型アルゴリズムバイアスがもたらされることがわかった。
  論文  参考訳（メタデータ） (2023-12-04T04:05:04Z)
• Combatting Human Trafficking in the Cyberspace: A Natural Language Processing-Based Methodology to Analyze the Language in Online Advertisements [55.2480439325792]
  このプロジェクトは、高度自然言語処理(NLP)技術により、オンラインC2Cマーケットプレースにおける人身売買の急激な問題に取り組む。 我々は、最小限の監督で擬似ラベル付きデータセットを生成する新しい手法を導入し、最先端のNLPモデルをトレーニングするための豊富なリソースとして機能する。 重要な貢献は、Integrated Gradientsを使った解釈可能性フレームワークの実装であり、法執行にとって重要な説明可能な洞察を提供する。
  論文  参考訳（メタデータ） (2023-11-22T02:45:01Z)
• Unsupervised Sentiment Analysis of Plastic Surgery Social Media Posts [91.3755431537592]
  ソーシャルメディアプラットフォームにまたがる膨大なユーザー投稿は、主に人工知能(AI)のユースケースに使われていない。 自然言語処理(NLP)は、コーパス(corpora)として知られるドキュメントの体系を利用して、人間のような言語理解でコンピュータを訓練するAIのサブフィールドである。 本研究は, 教師なし解析の応用により, コンピュータがプラスティック手術に対する否定的, 肯定的, 中立的なユーザ感情を予測できることを示した。
  論文  参考訳（メタデータ） (2023-07-05T20:16:20Z)
• Implementing Active Learning in Cybersecurity: Detecting Anomalies in Redacted Emails [10.303697869042283]
  本研究は,電子メールの異常検出に対するアクティブラーニングの適用に関する研究成果について述べる。 我々は、異なるAL戦略とそれらがモデル性能に与える影響を評価する。
  論文  参考訳（メタデータ） (2023-03-01T23:53:01Z)
• Human-Centric Multimodal Machine Learning: Recent Advances and Testbed on AI-based Recruitment [66.91538273487379]
  人間中心のアプローチでAIアプリケーションを開発する必要性には、ある程度のコンセンサスがある。 i)ユーティリティと社会的善、(ii)プライバシとデータ所有、(iii)透明性と説明責任、(iv)AIによる意思決定プロセスの公正性。 異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。
  論文  参考訳（メタデータ） (2023-02-13T16:44:44Z)
• A methodology to characterize bias and harmful stereotypes in natural language processing in Latin America [2.05094736006609]
  社会科学者、ドメインの専門家、機械学習の専門家が、単語の埋め込みや大きな言語モデルにおいて、バイアスや有害なステレオタイプを共同で探求する方法について説明している。 我々の方法論は以下の原則に基づいている。
  論文  参考訳（メタデータ） (2022-07-14T01:07:55Z)
• Verifying Learning-Based Robotic Navigation Systems [61.01217374879221]
  有効モデル選択に現代検証エンジンをどのように利用できるかを示す。 具体的には、検証を使用して、最適下行動を示す可能性のあるポリシーを検出し、除外する。 我々の研究は、現実世界のロボットにおける準最適DRLポリシーを認識するための検証バックエンドの使用を初めて実証したものである。
  論文  参考訳（メタデータ） (2022-05-26T17:56:43Z)
• FairCVtest Demo: Understanding Bias in Multimodal Learning with a Testbed in Fair Automatic Recruitment [79.23531577235887]
  このデモは、非構造化データから機密情報を抽出する採用ツールの背後にある人工知能(AI)の能力を示しています。 また、このデモには差別認識学習のための新しいアルゴリズムが含まれており、マルチモーダルAIフレームワークの機密情報を排除している。
  論文  参考訳（メタデータ） (2020-09-12T17:45:09Z)
• Bias in Multimodal AI: Testbed for Fair Automatic Recruitment [73.85525896663371]
  異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。 我々は、性別や人種の偏りを意識的に評価したマルチモーダルな合成プロファイルを用いて、自動求人アルゴリズムを訓練する。 我々の方法論と結果は、一般により公平なAIベースのツール、特により公平な自動採用システムを生成する方法を示している。
  論文  参考訳（メタデータ） (2020-04-15T15:58:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。