論文の概要: Multi-Agent Debate with Memory Masking

• arxiv url: http://arxiv.org/abs/2603.20215v1
• Date: Tue, 03 Mar 2026 07:14:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-06 02:36:12.895255
• Title: Multi-Agent Debate with Memory Masking
• Title（参考訳）: メモリマスクを用いたマルチエージェント討論
• Authors: Hongduan Tian, Xiao Feng, Ziyuan Zhao, Xiangyu Zhu, Rolan Yan, Bo Han,
• Abstract要約: 大規模言語モデル(LLM)は、最近、推論タスクにおいて印象的な機能を示した。 本稿では, 誤記憶が残っており, LLM エージェントはこれらの誤記憶に対して脆弱であることを示す。 メモリマスキングによるマルチエージェントの議論* (MAD-M$2$)。 このようにして、MAD-M$2$は、誤った記憶を捨てながら、情報的かつ有意義な記憶を保存することによって、各討論ラウンド前の文脈情報を洗練することができる。
• 参考スコア（独自算出の注目度）: 29.2454787727185
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) have recently demonstrated impressive capabilities in reasoning tasks. Currently, mainstream LLM reasoning frameworks predominantly focus on scaling up inference-time sampling to enhance performance. In particular, among all LLM reasoning frameworks, *multi-agent debate* (MAD), which employs multiple LLMs as agents to perform reasoning in the way of multi-round debate, has emerged as a powerful reasoning paradigm since it allows agents to access previous memories to alleviate fallacious content and refine their reasoning iteratively in each debate round. However, although MAD significantly improves the reasoning capabilities of LLMs, in this paper, we observe that there remain erroneous memories, and LLM agents are vulnerable to these erroneous memories. To explore this phenomenon, we provide a theoretical insight that the performance of MAD is highly dependent on the quality of memories derived from the previous debate, indicating that the existence of erroneous memories poses a threat to the performance of MAD. To address this problem, we introduce a simple yet effective multi-agent debate framework, *multi-agent debate with memory masking* (MAD-M$^2$), to improve the robustness of MAD by allowing LLM agents to mask erroneous memories from the previous debate round at the beginning of each debate round. In this way, MAD-M$^2$ can polish the contextual information before each debate round by preserving informative and meaningful memories while discarding the erroneous memories. Extensive experiments and analyses on mainstream mathematical and logical reasoning benchmarks demonstrate that MAD-M$^2$ can identify the erroneous memories and achieve better performance in reasoning than MAD.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、最近、推論タスクにおいて印象的な機能を示した。 現在、主要なLCM推論フレームワークは、パフォーマンスを向上させるために推論時間サンプリングのスケールアップに重点を置いている。 特に、全てのLLM推論フレームワークにおいて、マルチエージェント議論*(MAD)は、複数ラウンドの議論において推論を行うエージェントとして複数のLSMを使用するが、エージェントが以前のメモリにアクセスでき、誤った内容が軽減され、各議論ラウンドで反復的に推論を洗練できるため、強力な推論パラダイムとして現れている。 しかし,MADはLLMの推論能力を大幅に向上させるが,本論文では誤記憶は残っており,LLMエージェントはこれらの誤記憶に対して脆弱である。 この現象を探求するため,従来の議論から得られた記憶の質にMADの性能が強く依存しているという理論的洞察を与え,誤記憶の存在がMADの性能に脅威をもたらすことを示唆した。 この問題に対処するために, メモリマスク付きマルチエージェント討論フレームワーク*(MAD-M$^2$)を導入し, 各討論ラウンドの開始時に, LLMエージェントが前回の討論ラウンドの誤記憶を隠蔽することで, MADの堅牢性を向上させる。 このようにして、MAD-M$^2$は、誤った記憶を捨てながら、情報的かつ意味のある記憶を保存することによって、各討論ラウンド前の文脈情報を洗練することができる。 MAD-M$^2$は誤った記憶を識別し、MADよりも優れた推論性能が得られることを示す。

関連論文リスト

• Prepare Reasoning Language Models for Multi-Agent Debate with Self-Debate Reinforcement Learning [49.99694105650486]
  自己決定強化学習(Self-Debate Reinforcement Learning, SDRL)は、強力な問題解決能力を持つ単一の大規模言語モデルを備えたトレーニングフレームワークである。 我々は,SDRLが単一モデル推論を同時に強化しつつ,総合的マルチエージェント議論(MAD)性能を向上させることを示す。
  論文  参考訳（メタデータ） (2026-01-29T20:21:44Z)
• iMAD: Intelligent Multi-Agent Debate for Efficient and Accurate LLM Inference [11.86992814928132]
  マルチエージェント・ディベート(MAD)は、構造化された議論に複数のエージェントを関与させる有望なフレームワークとして登場した。 トークン効率の高いフレームワークであるインテリジェントマルチエージェント・ディベート(iMAD)を提案する。 iMADはトークン使用率(最大92%)を大幅に削減し、最終回答精度(最大13.5%)も向上することを示した。
  論文  参考訳（メタデータ） (2025-11-14T13:50:51Z)
• Enhancing Multi-Agent Debate System Performance via Confidence Expression [55.34012400580016]
  マルチエージェント・ディベート(MAD)システムは人間の議論をシミュレートし、タスク性能を向上させる。 一部の大規模言語モデル(LLM)は、特定のタスクに対して優れた知識や推論能力を持っているが、議論の間、この利点を明確に伝えるのに苦労している。 不適切な信頼表現は、MADシステムのエージェントが、不適切な信念を頑固に維持するか、あるいは最適でない答えに早急に収束させる可能性がある。 我々は,議論プロセス全体を通して信頼表現を統合するMADフレームワークConfMADを開発した。
  論文  参考訳（メタデータ） (2025-09-17T14:34:27Z)
• CortexDebate: Debating Sparsely and Equally for Multi-Agent Debate [11.155092859033784]
  単一大言語モデル(LLM)の問題を緩和するための効果的な戦略としてマルチエージェント議論(MAD)が登場した。 既存のMAD手法では、 (a) LLMエージェントが多くの入力情報に紛失し、性能低下を経験する、 (b) 自信過剰なジレンマ(自己保証LDMエージェントが議論を支配し、議論の有効性を低くする、という2つの問題に直面している。 そこで我々は,ヒトの脳に着想を得た新しいMAD手法"CortexDebate"を提案する。
  論文  参考訳（メタデータ） (2025-07-05T07:23:15Z)
• Encouraging Divergent Thinking in Large Language Models through Multi-Agent Debate [85.3444184685235]
  複数のエージェントが"tit for tat"の状態で議論を表現するマルチエージェント議論(MAD)フレームワークを提案し、審査員が議論プロセスを管理して最終解を得る。 我々のフレームワークは、深い熟考を必要とするタスクに役立ちそうなLSMにおける散発的思考を奨励する。
  論文  参考訳（メタデータ） (2023-05-30T15:25:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。