論文の概要: Resume Screening, Fast and Slow: (Biased) AI Recommendations' Influence on Human Decision Making

• arxiv url: http://arxiv.org/abs/2606.22213v1
• Date: Sat, 20 Jun 2026 20:22:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-25 22:00:39.616341
• Title: Resume Screening, Fast and Slow: (Biased) AI Recommendations' Influence on Human Decision Making
• Title（参考訳）: Resume Screening, Fast and Slow: (Biased) AI Recommendations's Influence on Human Decision Making
• Authors: Kyra Wilson, Mattea Sim, Anna-Maria Gueorguieva, Soham Chatterjee, Aylin Caliskan,
• Abstract要約: 偏りのあるAI履歴検定実験から候補者履歴を視聴する時間を分析した。 その結果,履歴書閲覧により多くの時間を費やすと,推薦されない場合,候補者の選択確率が3～4%増加することがわかった。 これらの結果は、ハイテイクドメインにおけるAIの監視に人々の意思決定プロセスが不十分であることを示す。
• 参考スコア（独自算出の注目度）: 8.112078916511516
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: AI is increasingly being used collaboratively with people to make decisions in high-stakes domains, but this new paradigm is still not well-understood in many respects -- particularly regarding how AI that replicates human social biases influences people's decision making processes and how that can influence outcomes. In this study, we analyzed the time people spend viewing candidate resumes from an experiment investigating biased AI resume screening to evaluate decision-making fairness and cognitive processes underlying human-AI collaboration. We found that spending more time viewing resumes corresponds to candidates' selection chance increasing by 3-4% if they are not recommended, and people may spend up to 55.6% longer viewing resumes when no AI recommendations are given. Furthermore, people who completed an implicit association test (IAT) before resume screening were significantly more likely to evaluate candidates of different races for the same amount of time, and their IAT scores were also predictive of the time spent in human-AI collaboration. These results demonstrate how people's decision-making processes can be insufficient for overseeing AI in high-stakes domains.
• Abstract（参考訳）: しかし、この新たなパラダイムは、人間の社会的偏見を再現するAIが人々の意思決定プロセスにどのように影響するか、結果にどのように影響するかに関して、多くの点で十分に理解されていない。 本研究では,人間とAIのコラボレーションに基づく意思決定の公正さと認知過程を評価するために,偏りのあるAI履歴スクリーニングを調査した結果から,候補者の履歴書を見る時間を分析した。 我々は、履歴書の視聴により多くの時間を費やすことは、推薦がなければ候補者の選択機会が3～4%増加することに対応し、AI勧告が与えられない場合、人々は履歴書の視聴に最大55.6%時間を費やす可能性があることを発見した。 さらに,再選前の暗黙的関連試験(IAT)を完了した人は,同じ期間に異なる人種の候補者を評価する可能性が有意に高く,また,そのIATスコアも人間とAIのコラボレーションに費やした時間の予測値であった。 これらの結果は、ハイテイクドメインにおけるAIの監視に人々の意思決定プロセスが不十分であることを示す。

関連論文リスト

• Bias in the Loop: How Humans Evaluate AI-Generated Suggestions [9.578382668831988]
  人間とAIのコラボレーションは、医療診断からコンテンツモデレーションに至るまで、業界全体の意思決定を促進する。 これらのコラボレーションが成功するか失敗するかを決定する心理的要因についてはほとんど分かっていません。 我々は,2,784人の参加者によるランダム化実験を行い,AIによる提案に対するタスクデザインと個人特性がどのように人間の反応を形作るかを検討した。
  論文  参考訳（メタデータ） (2025-09-10T11:43:29Z)
• No Thoughts Just AI: Biased LLM Hiring Recommendations Alter Human Decision Making and Limit Human Autonomy [8.423021413553464]
  人々は、レースベースの選好(バイアス)を示すシミュレーションAIモデルと協力し、16のハイステータスな職業の候補を評価する。 シミュレーションされたAIバイアスは、実世界のAIシステムにおける人種バイアスの事実的および反事実的推定を近似する。
  論文  参考訳（メタデータ） (2025-09-04T17:16:26Z)
• How Performance Pressure Influences AI-Assisted Decision Making [52.997197698288936]
  我々は、プレッシャーと説明可能なAI(XAI)技術がAIアドバイステイク行動とどのように相互作用するかを示す。 我々の結果は、圧力とXAIの異なる組み合わせで複雑な相互作用効果を示し、AIアドバイスの行動を改善するか、悪化させるかのどちらかを示す。
  論文  参考訳（メタデータ） (2024-10-21T22:39:52Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• Advancing Human-AI Complementarity: The Impact of User Expertise and Algorithmic Tuning on Joint Decision Making [10.890854857970488]
  ユーザのドメイン知識、AIシステムのメンタルモデル、レコメンデーションへの信頼など、多くの要因がヒューマンAIチームの成功に影響を与える可能性がある。 本研究は,非自明な血管ラベル作成作業において,血管が流れているか停止しているかを被験者に示すことを目的とした。 以上の結果から,AI-Assistantからの推薦はユーザの意思決定に役立つが,AIに対するユーザベースラインのパフォーマンスや,AIエラー型の相補的チューニングといった要因は,チーム全体のパフォーマンスに大きな影響を及ぼすことが示された。
  論文  参考訳（メタデータ） (2022-08-16T21:39:58Z)
• Deciding Fast and Slow: The Role of Cognitive Biases in AI-assisted Decision-making [46.625616262738404]
  我々は、認知科学の分野からの知識を用いて、人間とAIの協調的な意思決定設定における認知バイアスを考慮します。 私たちは、人間とAIのコラボレーションでよく見られるバイアスであるバイアスのアンカーに特に焦点を当てています。
  論文  参考訳（メタデータ） (2020-10-15T22:25:41Z)
• Effect of Confidence and Explanation on Accuracy and Trust Calibration in AI-Assisted Decision Making [53.62514158534574]
  ケース固有のモデル情報を明らかにする特徴が、信頼度を調整し、人間とAIのジョイントパフォーマンスを向上させることができるかどうかを検討する。 信頼スコアは、AIモデルに対する人々の信頼を校正するのに役立ちますが、信頼の校正だけでは、AI支援による意思決定を改善するには不十分です。
  論文  参考訳（メタデータ） (2020-01-07T15:33:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。