論文の概要: Bias: Friend or Foe? User Acceptance of Gender Stereotypes in Automated Career Recommendations

• arxiv url: http://arxiv.org/abs/2106.07112v1
• Date: Sun, 13 Jun 2021 23:27:45 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-16 06:31:14.381606
• Title: Bias: Friend or Foe? User Acceptance of Gender Stereotypes in Automated Career Recommendations
• Title（参考訳）: Bias: フレンドかフォアか? 自己紹介におけるジェンダーステレオタイプのユーザ受容
• Authors: Clarice Wang, Kathryn Wang, Andrew Bian, Rashidul Islam, Kamrun Naher Keya, James Foulde, Shimei Pan
• Abstract要約: 我々は、公正なAIアルゴリズムが現実の世界でその意図した結果を達成するには不十分であることを示した。 キャリアレコメンデーションをケーススタディとして利用し、ジェンダーの偏りを抑える機械学習技術を用いて、公正なAIキャリアレコメンデーターを構築する。
• 参考スコア（独自算出の注目度）: 8.44485053836748
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Currently, there is a surge of interest in fair Artificial Intelligence (AI) and Machine Learning (ML) research which aims to mitigate discriminatory bias in AI algorithms, e.g. along lines of gender, age, and race. While most research in this domain focuses on developing fair AI algorithms, in this work, we show that a fair AI algorithm on its own may be insufficient to achieve its intended results in the real world. Using career recommendation as a case study, we build a fair AI career recommender by employing gender debiasing machine learning techniques. Our offline evaluation showed that the debiased recommender makes fairer career recommendations without sacrificing its accuracy. Nevertheless, an online user study of more than 200 college students revealed that participants on average prefer the original biased system over the debiased system. Specifically, we found that perceived gender disparity is a determining factor for the acceptance of a recommendation. In other words, our results demonstrate we cannot fully address the gender bias issue in AI recommendations without addressing the gender bias in humans.
• Abstract（参考訳）: 現在、AIアルゴリズムにおける差別バイアスを軽減することを目的とした、公正な人工知能(AI)と機械学習(ML)研究への関心が高まっている。 性別、年齢、人種の線に沿っています この領域におけるほとんどの研究は、公正なAIアルゴリズムの開発に重点を置いているが、この研究において、公正なAIアルゴリズム自体が現実の世界でその意図された結果を達成するには不十分であることを示している。 キャリアレコメンデーションをケーススタディとして用い,ジェンダーの偏りを抑える機械学習技術を用いて,公正なAIレコメンデーションを構築する。 オフライン評価の結果、偏りのない推奨者は正確さを犠牲にすることなく、より公平なキャリアレコメンデーションを行うことがわかった。 それにもかかわらず、200人以上の大学生のオンラインユーザー調査により、平均的な参加者は偏りのあるシステムよりも元の偏りのあるシステムを好むことが明らかになった。 具体的には,性別格差が推薦の受諾の決定要因であることが判明した。 言い換えれば、この結果は、人間の性別バイアスに対処せずに、ai推奨のジェンダーバイアス問題に完全に対処できないことを示している。

関連論文リスト

• Revealing and Reducing Gender Biases in Vision and Language Assistants (VLAs) [82.57490175399693]
  画像・テキスト・ビジョン言語アシスタント(VLA)22種における性別バイアスの検討 以上の結果から,VLAは実世界の作業不均衡など,データ中の人間のバイアスを再現する可能性が示唆された。 これらのモデルにおける性別バイアスを排除するため、微調整に基づくデバイアス法は、下流タスクにおけるデバイアスとパフォーマンスの最良のトレードオフを実現する。
  論文  参考訳（メタデータ） (2024-10-25T05:59:44Z)
• The Pursuit of Fairness in Artificial Intelligence Models: A Survey [2.124791625488617]
  この調査は、研究者がAIシステムの公正性を促進する方法の相乗効果を提供する。 AIモデルのバイアスを軽減するために研究者が採用したアプローチとテクニックについて、徹底的な研究がなされている。 また、偏見付きモデルがユーザエクスペリエンスに与える影響や、そのようなモデルの開発とデプロイにおいて考慮すべき倫理的考慮についても調べます。
  論文  参考訳（メタデータ） (2024-03-26T02:33:36Z)
• "I'm Not Confident in Debiasing AI Systems Since I Know Too Little": Teaching AI Creators About Gender Bias Through Hands-on Tutorials [11.823789408603908]
  学校のカリキュラムは、このトピックでAIクリエーターを教育することができない。 ジェンダーバイアスはAIシステムにおいて増加し、悪いユーザー体験、不正、そして女性に精神的危害をもたらす。
  論文  参考訳（メタデータ） (2023-09-15T03:09:36Z)
• Human-Centric Multimodal Machine Learning: Recent Advances and Testbed on AI-based Recruitment [66.91538273487379]
  人間中心のアプローチでAIアプリケーションを開発する必要性には、ある程度のコンセンサスがある。 i)ユーティリティと社会的善、(ii)プライバシとデータ所有、(iii)透明性と説明責任、(iv)AIによる意思決定プロセスの公正性。 異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。
  論文  参考訳（メタデータ） (2023-02-13T16:44:44Z)
• Whole Page Unbiased Learning to Rank [59.52040055543542]
  アンバイアスド・ラーニング・トゥ・ランク(ULTR)アルゴリズムは、バイアスド・クリックデータを用いたアンバイアスド・ランキングモデルを学ぶために提案される。 本稿では,BALというアルゴリズムをランク付けするバイアス非依存学習を提案する。 実世界のデータセットによる実験結果から,BALの有効性が検証された。
  論文  参考訳（メタデータ） (2022-10-19T16:53:08Z)
• D-BIAS: A Causality-Based Human-in-the-Loop System for Tackling Algorithmic Bias [57.87117733071416]
  D-BIASは、人間のループ内AIアプローチを具現化し、社会的バイアスを監査し軽減する視覚対話型ツールである。 ユーザは、因果ネットワークにおける不公平な因果関係を識別することにより、グループに対する偏見の存在を検出することができる。 それぞれのインタラクション、例えばバイアスのある因果縁の弱体化/削除は、新しい(偏りのある)データセットをシミュレートするために、新しい方法を用いている。
  論文  参考訳（メタデータ） (2022-08-10T03:41:48Z)
• Fair Representation Learning for Heterogeneous Information Networks [35.80367469624887]
  公平なHIN表現学習のための包括的非バイアス化手法を提案する。 これらのアルゴリズムの挙動,特にフェアネスと予測精度のトレードオフをバランスさせる能力について検討した。 キャリアカウンセリングの自動化アプリケーションにおいて,提案手法の性能を評価する。
  論文  参考訳（メタデータ） (2021-04-18T08:28:18Z)
• On the Basis of Sex: A Review of Gender Bias in Machine Learning Applications [0.0]
  まず、機械学習のジェンダーバイアスの実践例をいくつか紹介する。 次に、機械学習モデルをより公平にする方法に対処するために、最も広く使われているフェアネスの形式化を詳述する。
  論文  参考訳（メタデータ） (2021-04-06T14:11:16Z)
• Biased Programmers? Or Biased Data? A Field Experiment in Operationalizing AI Ethics [6.946103498518291]
  我々は$approx$400のAIエンジニアによる数学性能のアルゴリズム予測820万を評価した。 偏りのある予測は、主に偏りのあるトレーニングデータによって引き起こされる。 より良いトレーニングデータの利点の3分の1は、新しい経済メカニズムによって得られる。
  論文  参考訳（メタデータ） (2020-12-04T04:12:33Z)
• Gender Stereotype Reinforcement: Measuring the Gender Bias Conveyed by Ranking Algorithms [68.85295025020942]
  本稿では,性別ステレオタイプをサポートする検索エンジンの傾向を定量化するジェンダーステレオタイプ強化(GSR)尺度を提案する。 GSRは、表現上の害を定量化できる情報検索のための、最初の特別に調整された尺度である。
  論文  参考訳（メタデータ） (2020-09-02T20:45:04Z)
• Bias in Multimodal AI: Testbed for Fair Automatic Recruitment [73.85525896663371]
  異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。 我々は、性別や人種の偏りを意識的に評価したマルチモーダルな合成プロファイルを用いて、自動求人アルゴリズムを訓練する。 我々の方法論と結果は、一般により公平なAIベースのツール、特により公平な自動採用システムを生成する方法を示している。
  論文  参考訳（メタデータ） (2020-04-15T15:58:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。