論文の概要: When Upstream Messages Override Correct Answers: A Controlled Study of Multi-Agent LLM Collaboration

• arxiv url: http://arxiv.org/abs/2609.36855v1
• Date: Tue, 29 Sep 2026 07:01:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.253566
• Title: When Upstream Messages Override Correct Answers: A Controlled Study of Multi-Agent LLM Collaboration
• Title（参考訳）: 上流メッセージが正解をオーバーライドする場合:マルチエージェントLLMコラボレーションの制御に関する研究
• Abstract要約: 上流エージェントは、下流エージェントが自身の証拠によって支持された正しい回答をオーバーライドさせる有用な情報または誤った回答を提供することができる。 この問題を,5つのベンチマークと5つの受信機にまたがる制御実験を用いて検討する。
• 参考スコア（独自算出の注目度）: 40.492310451180366
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multi-agent LLM systems rely on message passing among specialized agents to accomplish complex tasks. However, an upstream agent may provide useful information or an incorrect answer that causes a downstream agent to override a correct answer supported by its own evidence. Prior work has not clearly separated the benefits of communication from the damage caused by incorrect messages. We study this problem with controlled experiments across five benchmarks and five receivers, keeping the downstream task and evidence fixed while comparing answers under three conditions: no message, the upstream agent's original message, or a message with the opposite conclusion. Our experiments reveal three key findings. First, messages often help when the downstream agent would otherwise answer incorrectly. Second, messages can also hurt: when the downstream agent would answer correctly without a message, an incorrect upstream message changes the answer in up to 32% of cases. Third, in 94% of audited harmful cases, the downstream agent copies the upstream's specific wrong answer--a pattern we term answer substitution. Removing unreliable messages recovers part of the lost accuracy, suggesting that communication should be selective based on upstream reliability and the evidence already available to the downstream agent.
• Abstract（参考訳）: マルチエージェントLLMシステムは、複雑なタスクを達成するために、特殊エージェント間のメッセージパッシングに依存している。 しかし、上流エージェントは、下流エージェントが自身の証拠によって支持された正しい回答をオーバーライドさせる有用な情報または誤った回答を提供することができる。 以前の作業では、誤ったメッセージによる損傷からコミュニケーションの利点が明確に分離されていなかった。 我々は,5つのベンチマークと5つの受信機を対象とした制御実験によりこの問題を考察し,応答を3つの条件(メッセージなし,上流エージェントのオリジナルメッセージ、反対の結論付きメッセージ)で比較しながら,下流タスクとエビデンスを固定した。 私たちの実験では3つの重要な発見が明らかになった。 第一に、下流のエージェントが正しく答えない場合、メッセージはよく役立ちます。 第二に、メッセージが傷つくことがある: ダウンストリームのエージェントがメッセージなしで正しく答えると、間違ったアップストリームのメッセージが最大32%のケースで答えを変更する。 第三に、監査された有害症例の94%では、下流のエージェントが上流の特定の誤った回答をコピーする。 信頼できないメッセージを削除することは、失った精度の一部を回復し、上流の信頼性と既に下流のエージェントに利用可能な証拠に基づいて通信を選択すべきであることを示唆する。

関連論文リスト

• Self-Adapting Group of Experts for Multi-Agent Reasoning [31.74784844948257]
  本研究は,エージェントの初期応答が,現在の問題に適した戦略を識別し,他のエージェントへの転送を導くことができるかどうかを考察する。 SAGEは、回答合意、プレフィックス一貫性、相互ピアレビューを利用して、ストラテジードナーを選択するトレーニングフリーフレームワークである。 複数のエージェントのバックボーンと推論ベンチマークによる実験により、SAGEは評価されたベースラインよりも高い平均精度を達成することが示された。
  論文  参考訳（メタデータ） (2026-09-28T15:29:08Z)
• Who is the Agent to Blame? Localizing Faithfulness and Citation Mistakes in Agentic Deep Research [75.8770212601511]
  ディープリサーチ(DR)システムは、Webから情報を検索して合成する複数のエージェントを編成することで、長い形式の引用レポートを生成する。 循環はこれらの報告の忠実さを評価するための主要なメカニズムであるが、現在のDRシステムでは引用のリコールが不十分である。 そこで本稿では,エージェントが各エラーをローカルにテストすることで,各エラーをピンポイントで検出する手法を提案する。
  論文  参考訳（メタデータ） (2026-08-25T09:34:18Z)
• Wrong but Useful: Trajectory Value Beyond Answer Correctness in Multi-Agent Messages [44.340269814027174]
  マルチエージェント推論システムは、合意、信頼、あるいは自動スコアを使用して、どのメッセージが最終回答になるかを決定する。 しかし、間違った答えは、有用な分解、制約、または科学的原理を含むことができる。 この区別は、5つの独立に生成されたメッセージをキャッシュする制御された測定プロトコルであるDHD(Diverse hypothesis Deliberation)で検証する。
  論文  参考訳（メタデータ） (2026-08-14T15:16:57Z)
• Writing Bug Reports for Software Repair Agents: What Information Matters Most? [45.10027008889631]
  バグレポートのエージェント対応について検討する。 バグレポートを表す441の課題に注目します。 その結果,エージェントファーストレポートは,エージェントの検索・修理スペースを狭める情報から最も恩恵を受けることが示唆された。
  論文  参考訳（メタデータ） (2026-07-10T16:00:57Z)
• Preventing Error Propagation in Multi-Agent AI through Runtime Monitoring [4.75542422590052]
  推論交換と実行時応答のリビジョンにより,信頼性の高いマルチエージェントAI通信について検討する。 エージェントがまず個別に複数の質問に回答し、その後、推論の痕跡を共有し、意思決定を再考するフレームワークを開発する。
  論文  参考訳（メタデータ） (2026-06-27T17:44:24Z)
• Misinformation Propagation in Benign Multi-Agent Systems [11.967259729189388]
  マルチエージェントシステムは、医学的診断、法的な分析、法医学的な意思決定など、ハイテイクな環境にますます導入されている。 彼らの信頼性は、単一のエージェントが誤った、あるいは誤解を招くコンテキストから推論した場合、危険にさらされる可能性がある。 本研究は、意図に基づく誤報を良性単エージェントおよび多エージェントシステムに注入することにより、このリスクを研究する。
  論文  参考訳（メタデータ） (2026-06-15T13:40:01Z)
• Where Do Deep-Research Agents Go Wrong? Span-Level Error Localization in Agent Trajectories [51.22051230894794]
  最終回答に基づく評価は、エージェントが成功するかどうかを示すが、どの部分の軌道が答えを信頼できないかを示すものではない。 2つのエージェントフレームワーク、3つのバックボーンモデル、3つのベンチマークから2,790の実際のトラジェクトリを収集し、生ログをセマンティックスパンに変換し、エキスパートレビューを通じて有害なエラースパンを注釈付けします。 我々は,エージェントの主張を追跡するクレーム中心の監査フレームワークであるDRIFTを提案する。
  論文  参考訳（メタデータ） (2026-06-01T10:50:26Z)
• On the Resilience of LLM-Based Multi-Agent Collaboration with Faulty Agents [58.79302663733703]
  大規模言語モデルに基づくマルチエージェントシステムは、専門家エージェントの協力により、様々なタスクにまたがる優れた能力を示している。 不器用なエージェントや悪意のあるエージェントが与える影響 - システム全体のパフォーマンスにおいて、頻繁にタスクでエラーを犯すものは、いまだに過小評価されていない。 本稿では,下流タスクにおける障害要因下での各種システム構造のレジリエンスについて検討する。
  論文  参考訳（メタデータ） (2024-08-02T03:25:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。