論文の概要: Talk Isn't Always Cheap: Understanding Failure Modes in Multi-Agent Debate

• arxiv url: http://arxiv.org/abs/2509.05396v1
• Date: Fri, 05 Sep 2025 13:47:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-09 14:07:03.494222
• Title: Talk Isn't Always Cheap: Understanding Failure Modes in Multi-Agent Debate
• Title（参考訳）: マルチエージェントの議論における失敗モードの理解
• Authors: Andrea Wynn, Harsh Satija, Gillian Hadfield,
• Abstract要約: 議論は時間の経過とともに精度を低下させる可能性があることを示す。 分析の結果,ピア推論に応答して,モデルが正解から誤解へと頻繁にシフトしていることが判明した。 これらの結果は、マルチエージェントの議論における理由の交換において重要な障害モードを浮き彫りにする。
• 参考スコア（独自算出の注目度）: 2.3027211055417283
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While multi-agent debate has been proposed as a promising strategy for improving AI reasoning ability, we find that debate can sometimes be harmful rather than helpful. The prior work has exclusively focused on debates within homogeneous groups of agents, whereas we explore how diversity in model capabilities influences the dynamics and outcomes of multi-agent interactions. Through a series of experiments, we demonstrate that debate can lead to a decrease in accuracy over time -- even in settings where stronger (i.e., more capable) models outnumber their weaker counterparts. Our analysis reveals that models frequently shift from correct to incorrect answers in response to peer reasoning, favoring agreement over challenging flawed reasoning. These results highlight important failure modes in the exchange of reasons during multi-agent debate, suggesting that naive applications of debate may cause performance degradation when agents are neither incentivized nor adequately equipped to resist persuasive but incorrect reasoning.
• Abstract（参考訳）: マルチエージェントの議論はAI推論能力を改善するための有望な戦略として提案されているが、議論は役に立つというよりも有害な場合もある。 従来の研究はエージェントの均質なグループ内での議論にのみ焦点をあててきたが、モデル能力の多様性がマルチエージェント相互作用の力学と結果にどのように影響するかを考察した。 一連の実験を通じて、より強い(すなわちより有能な)モデルが弱いモデルよりも多い設定であっても、議論が時間の経過とともに精度を低下させることを示した。 分析の結果,モデルがピア推論に反応して正解から誤解へと頻繁に移行し,欠点のある推論よりも合意を優先していることが判明した。 これらの結果は、マルチエージェントの議論における理由の交換において重要な障害モードを強調しており、エージェントにインセンティブを与えていない場合や、説得力があるが誤った推論に適切に対応できない場合、議論の素早い適用がパフォーマンス劣化を引き起こす可能性があることを示唆している。

関連論文リスト

• MV-Debate: Multi-view Agent Debate with Dynamic Reflection Gating for Multimodal Harmful Content Detection in Social Media [26.07883439550861]
  MV-Debateは、マルチモード有害コンテンツ検出のための動的リフレクションゲーティングを備えたマルチビューエージェント討論フレームワークである。 MV-Debateは4つの相補的な議論エージェント、表面分析者、深い推論者、モダリティコントラスト、社会的文脈主義者を集め、多様な解釈的視点からコンテンツを分析する。
  論文  参考訳（メタデータ） (2025-08-07T16:38:25Z)
• Debating for Better Reasoning: An Unsupervised Multimodal Approach [56.74157117060815]
  議論のパラダイムをマルチモーダルな設定に拡張し、より弱いモデルがより強力なモデルの性能を監督し、強化する可能性を探る。 視覚的質問応答 (VQA) に焦点をあて, 2つの「目に見える」専門家の視覚言語モデルが解答について議論する一方, 「盲目」(テキストのみ)の判断は議論の品質にのみ依存する。 この枠組みでは, 専門家は信念に沿う回答のみを守り, 明示的な役割プレーの必要性を排除し, 専門家の不一致の事例に議論を集中させる。
  論文  参考訳（メタデータ） (2025-05-20T17:18:17Z)
• Teaching Models to Balance Resisting and Accepting Persuasion [69.68379406317682]
  PBT (Persuasion-Training) は正と負の説得のバランスをとることができる。 PBTにより、より小さな7-8Bモデル間の対話から生成されたデータを使用して、より大規模な70Bモデルのトレーニングを行うことができる。 PBTは, より安定な結果をもたらし, 順序依存の低減につながることが判明した。
  論文  参考訳（メタデータ） (2024-10-18T16:49:36Z)
• GroupDebate: Enhancing the Efficiency of Multi-Agent Debate Using Group Discussion [8.948702488582583]
  本稿では,マルチエージェントの議論においてトークンコストを大幅に削減する手法を提案する。 本手法は,マルチエージェント討論におけるインタラクションの性能と効率を大幅に向上させる。
  論文  参考訳（メタデータ） (2024-09-21T07:49:38Z)
• DebUnc: Improving Large Language Model Agent Communication With Uncertainty Metrics [52.242449026151846]
  大規模言語モデル(LLM)の精度向上のためのマルチエージェント論争が紹介されている。 エージェントの信頼性を評価するために不確実性指標を用いた議論フレームワークであるDebUncを提案する。
  論文  参考訳（メタデータ） (2024-07-08T22:15:01Z)
• Towards CausalGPT: A Multi-Agent Approach for Faithful Knowledge Reasoning via Promoting Causal Consistency in LLMs [55.66353783572259]
  Causal-Consistency Chain-of-Thoughtは、基礎モデルの忠実さと因果性を強化するために、マルチエージェントコラボレーションを活用する。 我々のフレームワークは、広範囲かつ包括的な評価を通じて、最先端の手法よりも大きな優位性を示す。
  論文  参考訳（メタデータ） (2023-08-23T04:59:21Z)
• What Changed Your Mind: The Roles of Dynamic Topics and Discourse in Argumentation Process [78.4766663287415]
  本稿では,議論の説得力において重要な要因を自動的に分析する研究について述べる。 議論的会話における潜在トピックや談話の変化を追跡できる新しいニューラルモデルを提案する。
  論文  参考訳（メタデータ） (2020-02-10T04:27:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。