論文の概要: MADBench: Benchmarking the Security of Multi-Agent Debate

• arxiv url: http://arxiv.org/abs/2609.39146v1
• Date: Wed, 30 Sep 2026 07:12:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.345673
• Title: MADBench: Benchmarking the Security of Multi-Agent Debate
• Title（参考訳）: MADBench: マルチエージェントの議論のセキュリティのベンチマーク
• Abstract要約: マルチエージェント討論(MAD)は、複数のエージェントが同じタスクに対して回答を交換し、批判することで、大きな言語モデル(LLM)推論を改善することができる。 我々は,MADの安全性を評価するベンチマークであるMADBenchを紹介する。
• 参考スコア（独自算出の注目度）: 28.08021371030784
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-agent debate (MAD) can improve large language model (LLM) reasoning by allowing multiple agents to exchange and critique their answers to the same task. However, the interactions that enable agents to correct mistakes can also spread adversarial errors and steer the agents toward an incorrect answer. Although some efforts have been made to examine particular attack types on MAD, systematic evaluation of MAD under diverse attacks remains limited. A central question is whether debate mitigates adversarial influence or amplifies it. In this paper, we present MADBench, a benchmark for evaluating the security of MAD. We organize attacks into a layered taxonomy following the MAD workflow, incorporating both established attacks and new strategies tailored to debate. We evaluate six attack families over 356 source tasks and 3,958 test cases, examining their effects on the final answer and the propagation of adversarial influence. Our results show that, under attacks, MAD does not necessarily improve LLM reasoning. Compared with a single-agent baseline, MAD can mitigate attacks on answer accuracy in question-answering tasks while amplifying unauthorized reads or writes in both question-answering and workspace tasks. Moreover, even when three out of five agents collude, the attack changes the final answer from correct to wrong on only 28.30\% of tasks answered correctly without attack, while only 3.26\% of initially correct honest agents switch to wrong answers during debate.
• Abstract（参考訳）: マルチエージェント討論(MAD)は、複数のエージェントが同じタスクに対して回答を交換し、批判することで、大きな言語モデル(LLM)推論を改善することができる。 しかし、エージェントがミスを正すことができるような相互作用は、敵の誤りを拡散し、エージェントを誤った答えに向けて操ることもできる。 MADの特定の攻撃タイプを調べるためにいくつかの試みがなされているが、様々な攻撃下でのMADの体系的評価は限定的である。 中心的な問題は、議論が敵の影響を緩和するか、増幅するかである。 本稿では,MADの安全性を評価するベンチマークであるMADBenchを提案する。 我々は、MADワークフローに従って階層化された分類に攻撃を組織し、確立された攻撃と議論に適した新しい戦略の両方を取り入れた。 356件のソースタスクと3,958件のテストケースに対して6件のアタック・ファミリーを評価し,最終回答と敵の影響力の伝播について検討した。 以上の結果から,MAD は LLM 推論を必ずしも改善しないことが明らかとなった。 シングルエージェントベースラインと比較して、MADは質問応答タスクにおける回答精度に対する攻撃を軽減すると同時に、質問応答タスクとワークスペースタスクの両方において、不正な読み込みや書き込みを増幅することができる。 さらに、5つのエージェントのうち3つが衝突しても、攻撃なしで正しく答えられるタスクの28.30倍のタスクで最終回答が正しいものから間違っているものに変更される。

関連論文リスト

• When Order Matters: First-Speaker Bias and Mitigation through Personality in Sequential Multi-Agent Debate [41.99844472131922]
  マルチエージェント論争(MAD)は、大規模言語モデル(LLM)推論を改善するためにしばしば用いられる。 エージェントは、最初に話すときに最終回答を不均等に形成する。 本研究は, 行動介入が強い側, 弱い側, どちらにも適用されるかとして, 一致性と外向性について検討する。
  論文  参考訳（メタデータ） (2026-09-30T04:33:46Z)
• Remember and Reweight: Enhancing Multi-Agent Debate with Experience Memory and Confidence Estimation [6.5331167606521205]
  マルチエージェントディベート(MAD)は、複数のエージェントが議論を通じて応答を反復的に洗練することにより、大規模言語モデルの推論能力を改善する。 MADは共有誤解と呼ばれる致命的な脆弱性に悩まされる: エージェントの大多数が誤った答えに収束すると、議論プロセスは誤りを訂正するよりも増幅する傾向にある。 既存の方法は主にピアスキューに対処するが、エージェントの本質的に偏見のある概念は未適応のままである。 R$2$-MADは,過去の議論から蓄積した経験記憶をエージェントに提供するフレームワークである。
  論文  参考訳（メタデータ） (2026-09-03T10:05:01Z)
• iMAD: Intelligent Multi-Agent Debate for Efficient and Accurate LLM Inference [11.86992814928132]
  マルチエージェント・ディベート(MAD)は、構造化された議論に複数のエージェントを関与させる有望なフレームワークとして登場した。 トークン効率の高いフレームワークであるインテリジェントマルチエージェント・ディベート(iMAD)を提案する。 iMADはトークン使用率(最大92%)を大幅に削減し、最終回答精度(最大13.5%)も向上することを示した。
  論文  参考訳（メタデータ） (2025-11-14T13:50:51Z)
• Towards Scalable Oversight with Collaborative Multi-Agent Debate in Error Detection [81.52796950244705]
  自己診断は、信頼できる外部からのフィードバックがなければ、複雑なタスクでは信頼できない。 我々は,新たなコラボレーティブMADプロトコルであるColMADを導入し,MADを非ゼロ和ゲームとして再構成する。 ColMADは従来の競合MADよりも19%優れていた。
  論文  参考訳（メタデータ） (2025-10-23T19:46:00Z)
• Free-MAD: Consensus-Free Multi-Agent Debate [17.384699873512464]
  マルチエージェント討論(MAD)は、大規模言語モデル(LLM)の推論能力を改善するための新しいアプローチである。 既存のMADメソッドは、合意に達するためにエージェント間の複数ラウンドの相互作用に依存しており、最終的な出力は前回のラウンドで多数決によって選択される。 エージェント間のコンセンサスを必要としない新しいMADフレームワークであるtextscFree-MADを提案する。
  論文  参考訳（メタデータ） (2025-09-14T01:55:01Z)
• MELON: Provable Defense Against Indirect Prompt Injection Attacks in AI Agents [60.30753230776882]
  LLMエージェントは間接的プロンプトインジェクション(IPI)攻撃に対して脆弱であり、ツール検索情報に埋め込まれた悪意のあるタスクはエージェントをリダイレクトして不正なアクションを取ることができる。 マスク機能によって修正されたマスク付きユーザでエージェントの軌道を再実行することで攻撃を検知する新しいIPIディフェンスであるMELONを提案する。
  論文  参考訳（メタデータ） (2025-02-07T18:57:49Z)
• Encouraging Divergent Thinking in Large Language Models through Multi-Agent Debate [85.3444184685235]
  複数のエージェントが"tit for tat"の状態で議論を表現するマルチエージェント議論(MAD)フレームワークを提案し、審査員が議論プロセスを管理して最終解を得る。 我々のフレームワークは、深い熟考を必要とするタスクに役立ちそうなLSMにおける散発的思考を奨励する。
  論文  参考訳（メタデータ） (2023-05-30T15:25:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。