論文の概要: 2-Step Agent: A Framework for the Interaction of a Decision Maker with AI Decision Support

• arxiv url: http://arxiv.org/abs/2602.21889v1
• Date: Wed, 25 Feb 2026 13:11:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-26 18:19:16.841615
• Title: 2-Step Agent: A Framework for the Interaction of a Decision Maker with AI Decision Support
• Title（参考訳）: 2ステップエージェント:AI意思決定支援と意思決定者のインタラクションのためのフレームワーク
• Authors: Otto Nyberg, Fausto Carcassi, Giovanni Cinà,
• Abstract要約: 本稿では,AIによる意思決定の効果をモデル化する汎用計算フレームワークである2-Step Agentを紹介する。 我々の結果は、AIによる意思決定サポートの潜在的な落とし穴を明らかにし、詳細なモデルドキュメンテーションと適切なユーザートレーニングの必要性を強調します。
• 参考スコア（独自算出の注目度）: 0.254890465057467
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Across a growing number of fields, human decision making is supported by predictions from AI models. However, we still lack a deep understanding of the effects of adoption of these technologies. In this paper, we introduce a general computational framework, the 2-Step Agent, which models the effects of AI-assisted decision making. Our framework uses Bayesian methods for causal inference to model 1) how a prediction on a new observation affects the beliefs of a rational Bayesian agent, and 2) how this change in beliefs affects the downstream decision and subsequent outcome. Using this framework, we show by simulations how a single misaligned prior belief can be sufficient for decision support to result in worse downstream outcomes compared to no decision support. Our results reveal several potential pitfalls of AI-driven decision support and highlight the need for thorough model documentation and proper user training.
• Abstract（参考訳）: 多くの分野において、人間の意思決定はAIモデルからの予測によって支えられている。 しかし、これらの技術の採用による影響について、まだ深く理解されていない。 本稿では,AIによる意思決定の効果をモデル化する汎用計算フレームワークである2-Step Agentを紹介する。 我々のフレームワークはモデルへの因果推論にベイズ的手法を用いる 1)新しい観察の予測が合理的なベイズエージェントの信念にどのように影響するか、そして 2) この信念の変化が下流の意思決定とその後の結果にどのように影響するか。 この枠組みを用いて, 意思決定支援において, 意思決定支援を伴わないよりも, 下流結果の悪化を招く上で, 一つの信念がいかに不一致であるかをシミュレーションにより示す。 我々の結果は、AIによる意思決定サポートの潜在的な落とし穴を明らかにし、詳細なモデルドキュメンテーションと適切なユーザートレーニングの必要性を強調します。

関連論文リスト

• Cascaded Language Models for Cost-effective Human-AI Decision-Making [52.81324217423194]
  複数の専門分野にまたがってタスクを適応的に委譲するLLM決定フレームワークを提案する。 まず、deferral Policyは、ベースモデルの回答を受け入れるか、あるいは大きなモデルでそれを再生するかを決定する。 第2に、禁忌ポリシーは、カスケードモデル応答が十分に確実であるか、または人間の介入を必要とするかを判定する。
  論文  参考訳（メタデータ） (2025-06-13T15:36:22Z)
• Human-Alignment Influences the Utility of AI-assisted Decision Making [16.732483972136418]
  我々は,アライメントの程度が,AIによる意思決定の有用性に与える影響について検討する。 以上の結果から,AIによる意思決定におけるアライメントの程度と有効性との関連が示唆された。
  論文  参考訳（メタデータ） (2025-01-23T19:01:47Z)
• Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
  我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。 学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。 トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
  論文  参考訳（メタデータ） (2024-07-03T15:38:57Z)
• From Evidence to Decision: Exploring Evaluative AI [6.460500772980468]
  本稿では,Evidenceフレームワークの拡張による評価AIの実装を提案する。 住宅価格予測と皮膚癌診断の2分野に新たな意思決定支援アプローチを適用した。
  論文  参考訳（メタデータ） (2024-02-02T10:28:24Z)
• Decoding AI's Nudge: A Unified Framework to Predict Human Behavior in AI-assisted Decision Making [24.258056813524167]
  本稿では,AI支援の様々な形態が意思決定者に与える影響を解釈できる計算フレームワークを提案する。 人間の意思決定プロセスにおけるAIアシストを「エマード」として概念化することで、私たちのアプローチは、異なる形のAIアシストが人間の戦略をどのように修正するかをモデル化することに集中します。
  論文  参考訳（メタデータ） (2024-01-11T11:22:36Z)
• Explainability's Gain is Optimality's Loss? -- How Explanations Bias Decision-making [0.0]
  説明は、アルゴリズムと人間の意思決定者とのコミュニケーションを促進するのに役立つ。 因果モデルに関する特徴に基づく説明のセマンティクスは、意思決定者の以前の信念から漏れを引き起こす。 このような違いは、準最適かつ偏った決定結果をもたらす可能性がある。
  論文  参考訳（メタデータ） (2022-06-17T11:43:42Z)
• Inverse Online Learning: Understanding Non-Stationary and Reactionary Policies [79.60322329952453]
  エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。 一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。 本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。 UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
  論文  参考訳（メタデータ） (2022-03-14T17:40:42Z)
• On the Fairness of Machine-Assisted Human Decisions [3.4069627091757178]
  偏りのある人間の意思決定者を含めることで、アルゴリズムの構造と結果の判断の質との間の共通関係を逆転させることができることを示す。 実験室実験では,性別別情報による予測が,意思決定における平均的な性別格差を減少させることを示す。
  論文  参考訳（メタデータ） (2021-10-28T17:24:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。