論文の概要: Bayesian and Motivated Reasoning in AI Agents

• arxiv url: http://arxiv.org/abs/2608.00339v1
• Date: Fri, 31 Jul 2026 23:02:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-04 15:07:24.603283
• Title: Bayesian and Motivated Reasoning in AI Agents
• Title（参考訳）: AIエージェントのベイズ的・動機的推論
• Abstract要約: 我々は,実体フレーミングが変化すると,AIエージェントが同一の数値データから異なる結論を導き出すことを示す。 医学, 選挙法学, 地政学的な予測において, この行動を示す。
• 参考スコア（独自算出の注目度）: 1.2691047660244335
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI agents increasingly perform open-ended tasks in settings where their conclusions can guide consequential decisions. We provide evidence that AI agents draw different conclusions from identical numerical data when the substantive framing changes. We demonstrate this behavior in high-stakes domains in medicine, election forensics, and geopolitical forecasting by holding the evidence fixed while changing the scenario in which the evidence appears. Across twelve agent-domain comparisons, agents' conclusions are strongly influenced by their prior beliefs. They are more likely to reach an affirmative conclusion when it is framed around a proposition they already regard as likely, while the reverse holds when the framing conflicts with their prior. The framing also changes how some agents work: they search more extensively, choose different analytical specifications, and evaluate the same evidence differently. These results identify a particular risk of delegating decision-making to AI agents, as their decisions may depend on prior beliefs that are neither specified in the task nor visible in the decision record.
• Abstract（参考訳）: AIエージェントは、結論が連続的な決定を導出できるような環境で、ますますオープンなタスクを実行します。 実体フレーミングが変化すると、AIエージェントが同一の数値データから異なる結論を導き出す証拠を提供する。 本研究では, 医療, 選挙法学, 地政学的予測において, 証拠が現れるシナリオを変えながら, 証拠を固定したまま保持することで, この行動を実証する。 12のエージェントドメインの比較において、エージェントの結論は以前の信念に強く影響されている。 彼らは、既に想定している命題に枠を組んだときに肯定的な結論に達する傾向があり、逆は、フレーミングが以前のものと矛盾するときに成り立つ。 より広範囲に探索し、異なる分析仕様を選択し、同じ証拠を異なる方法で評価する。 これらの結果は、AIエージェントに意思決定を委譲する特定のリスクを特定する。

関連論文リスト

• Preventing Error Propagation in Multi-Agent AI through Runtime Monitoring [4.75542422590052]
  推論交換と実行時応答のリビジョンにより,信頼性の高いマルチエージェントAI通信について検討する。 エージェントがまず個別に複数の質問に回答し、その後、推論の痕跡を共有し、意思決定を再考するフレームワークを開発する。
  論文  参考訳（メタデータ） (2026-06-27T17:44:24Z)
• Misinformation Propagation in Benign Multi-Agent Systems [11.967259729189388]
  マルチエージェントシステムは、医学的診断、法的な分析、法医学的な意思決定など、ハイテイクな環境にますます導入されている。 彼らの信頼性は、単一のエージェントが誤った、あるいは誤解を招くコンテキストから推論した場合、危険にさらされる可能性がある。 本研究は、意図に基づく誤報を良性単エージェントおよび多エージェントシステムに注入することにより、このリスクを研究する。
  論文  参考訳（メタデータ） (2026-06-15T13:40:01Z)
• The Deliberative Illusion: Diagnosing Factual Attrition and Stance Homogenization in Multi-Agent LLM Deliberation [68.98390038721963]
  問題クリティカルな事実の最大72%を,マルチエージェントによる議論で消し去ることを示す。 保持された証拠は誤解を招くことなく問題を再構築し、最終的なスタンスをベースモデルに固定し、単一の悪意のあるエージェントが誤った情報を共有コンテキストに注入することができる。 我々は、どの事実、不確実性、正当な不一致が相互作用を生き残るかを測定する評価を求める。
  論文  参考訳（メタデータ） (2026-06-02T02:15:40Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• The Why Behind the Action: Unveiling Internal Drivers via Agentic Attribution [63.61358761489141]
  LLM(Large Language Model)ベースのエージェントは、カスタマーサービス、Webナビゲーション、ソフトウェアエンジニアリングといった現実世界のアプリケーションで広く使われている。 本稿では,タスク結果に関係なく,エージェントの動作を駆動する内部要因を識別する,テキスト汎用エージェント属性のための新しいフレームワークを提案する。 標準ツールの使用やメモリ誘起バイアスのような微妙な信頼性リスクなど、さまざまなエージェントシナリオでフレームワークを検証する。
  論文  参考訳（メタデータ） (2026-01-21T15:22:21Z)
• Learning to Seek Evidence: A Verifiable Reasoning Agent with Causal Faithfulness Analysis [10.749786847079163]
  医学のような高度な領域におけるAIモデルの説明は、しばしば信頼性を欠いているため、信頼を妨げる可能性がある。 本稿では,対話型エージェントを提案する。 このポリシーは強化学習を用いて最適化され、効率的かつ一般化可能なモデルとなる。
  論文  参考訳（メタデータ） (2025-11-03T10:21:35Z)
• Can an Individual Manipulate the Collective Decisions of Multi-Agents? [53.01767232004823]
  M-Spoilerは、マルチエージェントシステム内のエージェントインタラクションをシミュレートして、対向サンプルを生成するフレームワークである。 M-スポイラーは、敵対的サンプルの最適化を積極的に支援するスタブボーン剤を導入した。 本研究は,マルチエージェントシステムにおける個々のエージェントの知識によって引き起こされるリスクを検証した。
  論文  参考訳（メタデータ） (2025-09-20T01:54:20Z)
• OAgents: An Empirical Study of Building Effective Agents [46.50371876218872]
  キーエージェントコンポーネントにおける一般的な設計選択の影響を,公平かつ厳密な方法で検討する。 この結果に基づいて,新たな基盤エージェントフレームワークであるOAgentsをオープンソースとして開発しています。
  論文  参考訳（メタデータ） (2025-06-17T17:59:02Z)
• Will Agents Replace Us? Perceptions of Autonomous Multi-Agent AI [0.0]
  本研究は、AIエージェントの能力、影響、およびガバナンスに関する調査に対する130人の参加者からの回答を分析する。 我々は、AIがプログラマを置き換える予定のタイムラインを調べ、デプロイの障壁を認識し、エージェントが決定を下すときの責任に関する信念を調べます。
  論文  参考訳（メタデータ） (2025-06-01T11:02:52Z)
• Causal Influence in Federated Edge Inference [34.487472866247586]
  本稿では、未ラベルのストリーミングデータを用いて、接続性のある異種エージェントが推論を行う環境について考察する。 不確実性を克服するために、エージェントは、融合センターを通じてローカルな推論を交換することで互いに協力する。 エージェントの関与パターンや核融合センターの方針を反映した様々なシナリオを考察した。
  論文  参考訳（メタデータ） (2024-05-02T13:06:50Z)
• Inverse Online Learning: Understanding Non-Stationary and Reactionary Policies [79.60322329952453]
  エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。 一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。 本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。 UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
  論文  参考訳（メタデータ） (2022-03-14T17:40:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。