論文の概要: Biased Error Attribution in Multi-Agent Human-AI Systems Under Delayed Feedback

• arxiv url: http://arxiv.org/abs/2603.23419v1
• Date: Tue, 24 Mar 2026 16:52:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.595602
• Title: Biased Error Attribution in Multi-Agent Human-AI Systems Under Delayed Feedback
• Title（参考訳）: 遅延フィードバックによるマルチエージェントAIシステムにおけるバイアスエラー属性
• Authors: Teerthaa Parakh, Karen M. Feigh,
• Abstract要約: マルチエージェント型ヒューマンAIタスクにおいて、遅延結果が意思決定や責任帰属を形作るかを検討する。 非対称な反応の利得と損失を観察し, 負の結果の補正がより強くなった。 我々は,この現象を帰属バイアスの一形態として言及し,遅延フィードバック下での誤り帰属として現れる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Human decision-making is strongly influenced by cognitive biases, particularly under conditions of uncertainty and risk. While prior work has examined bias in single-step decisions with immediate outcomes and in human interaction with a single autonomous agent, comparatively little attention has been paid to decision-making under delayed outcomes involving multiple AI agents, where decisions at each step affect subsequent states. In this work, we study how delayed outcomes shape decision-making and responsibility attribution in a multi-agent human-AI task. Using a controlled game-based experiment, we analyze how participants adjust their behavior following positive and negative outcomes. We observe asymmetric responses to gains and losses, with stronger corrective adjustments after negative outcomes. Importantly, participants often fail to correctly identify the actions that caused failure and misattribute responsibility across AI agents, leading to systematic revisions of decisions that are weakly related to the underlying causes of poor performance. We refer to this phenomenon as a form of attribution bias, manifested as biased error attribution under delayed feedback. Our findings highlight how cognitive biases can be amplified in human-AI systems with delayed outcomes and multiple autonomous agents, underscoring the need for decision-support systems that better support causal understanding and learning over time.
• Abstract（参考訳）: 人間の意思決定は認知バイアスに強く影響され、特に不確実性とリスクの条件下では。 先行研究では、即時結果による単一ステップ決定のバイアスと、単一の自律エージェントとのヒューマンインタラクションについて検討されているが、複数のAIエージェントを含む遅延結果の下では、各ステップにおける決定がその後の状態に影響を与える決定に対して、比較的注意が払われていない。 本研究では,マルチエージェントのヒューマンAIタスクにおいて,遅延結果が意思決定や責任帰属を形作る方法について検討する。 制御されたゲームベース実験を用いて、参加者が肯定的および否定的な結果に従って行動を調整する方法を分析する。 非対称な反応の利得と損失を観察し, 負の結果の補正がより強くなった。 重要なことに、参加者はAIエージェント間で失敗や誤った責任を負う行為を正しく識別することができず、パフォーマンス不良の原因の根本原因と弱い関係にある決定を体系的に修正する。 我々は,この現象を帰属バイアスの一形態として言及し,遅延フィードバック下での誤り帰属として現れる。 我々の研究は、遅れた結果と複数の自律エージェントを持つAIシステムにおいて認知バイアスがどのように増幅されるかを示し、因果的理解と学習をより良く支援する意思決定支援システムの必要性を強調した。

関連論文リスト

• Human Attribution of Causality to AI Across Agency, Misuse, and Misalignment [0.0]
  本稿では,AIシステムが有害な結果に関与する場合の因果連鎖構造における因果責任に関する民間の認識について検討する。 我々は人間実験を行い、因果性、非難、予測可能性、反実的推論の判断を調べる。
  論文  参考訳（メタデータ） (2026-02-17T02:48:39Z)
• When Bias Backfires: The Modulatory Role of Counterfactual Explanations on the Adoption of Algorithmic Bias in XAI-Supported Human Decision-Making [0.0]
  この研究は採用決定をシミュレートし、偏りのあるAIレコメンデーションが時間の経過とともに人間の判断にどのように影響するかを調べる。 その結果,対象候補者の資格が同等であった時期の70%は,参加者がAIレコメンデーションに従っていたことが示唆された。 相互作用後の段階では、参加者の独立した決定は、以前に反実的な説明が提供されなかった場合のバイアスと一致したが、説明が与えられた場合のバイアスを逆転させた。
  論文  参考訳（メタデータ） (2025-05-20T14:00:28Z)
• Engaging with AI: How Interface Design Shapes Human-AI Collaboration in High-Stakes Decision-Making [8.948482790298645]
  各種意思決定支援機構がユーザエンゲージメント,信頼,人間とAIの協調タスクパフォーマンスに与える影響について検討する。 その結果,AIの信頼性レベルやテキスト説明,パフォーマンス視覚化などのメカニズムにより,人間とAIの協調作業性能が向上することが判明した。
  論文  参考訳（メタデータ） (2025-01-28T02:03:00Z)
• Causal Responsibility Attribution for Human-AI Collaboration [62.474732677086855]
  本稿では,人間のAIシステムにおける責任を体系的に評価するために,構造因果モデル(SCM)を用いた因果的枠組みを提案する。 2つのケーススタディは、多様な人間とAIのコラボレーションシナリオにおけるフレームワークの適応性を示している。
  論文  参考訳（メタデータ） (2024-11-05T17:17:45Z)
• How Performance Pressure Influences AI-Assisted Decision Making [52.997197698288936]
  我々は、プレッシャーと説明可能なAI(XAI)技術がAIアドバイステイク行動とどのように相互作用するかを示す。 我々の結果は、圧力とXAIの異なる組み合わせで複雑な相互作用効果を示し、AIアドバイスの行動を改善するか、悪化させるかのどちらかを示す。
  論文  参考訳（メタデータ） (2024-10-21T22:39:52Z)
• Online Decision Mediation [72.80902932543474]
  意思決定支援アシスタントを学習し、(好奇心)専門家の行動と(不完全)人間の行動の仲介役として機能することを検討する。 臨床診断では、完全に自律的な機械行動は倫理的余裕を超えることが多い。
  論文  参考訳（メタデータ） (2023-10-28T05:59:43Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• Inverse Online Learning: Understanding Non-Stationary and Reactionary Policies [79.60322329952453]
  エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。 一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。 本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。 UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
  論文  参考訳（メタデータ） (2022-03-14T17:40:42Z)
• Deciding Fast and Slow: The Role of Cognitive Biases in AI-assisted Decision-making [46.625616262738404]
  我々は、認知科学の分野からの知識を用いて、人間とAIの協調的な意思決定設定における認知バイアスを考慮します。 私たちは、人間とAIのコラボレーションでよく見られるバイアスであるバイアスのアンカーに特に焦点を当てています。
  論文  参考訳（メタデータ） (2020-10-15T22:25:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。