論文の概要: MiniRep: Robust Reputation-Based Aggregation for Multi-Agent Debate

• arxiv url: http://arxiv.org/abs/2609.39297v1
• Date: Wed, 30 Sep 2026 08:41:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.452157
• Title: MiniRep: Robust Reputation-Based Aggregation for Multi-Agent Debate
• Title（参考訳）: MiniRep: マルチエージェント議論のためのロバストな意見に基づく集約
• Abstract要約: MiniRepは、悪意のあるエージェントの下でMADのための評判に基づくアグリゲーションシステムである。 評価システム攻撃とソフトウェアテスト突然変異演算子に基づく攻撃分類を構築した。 様々なタスク、LLMエージェントの構成、汚職配置、および我々の分類学から引き出された攻撃タイプについてMiniRepを評価する。
• 参考スコア（独自算出の注目度）: 28.08021371030784
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Autonomous agents powered by large language models (LLMs) are rapidly evolving into an open agentic ecosystem. To support trustworthy collaboration, industry initiatives increasingly assess agent reputation from past behavior and provide performance leaderboards. However, reputation derived from past performance may not reliably predict an agent's behavior on new tasks, particularly when malicious agents can adapt their behavior and influence other agents during collaboration. We study reputation in multi-agent debate (MAD), where multiple agents answer the same query, debate to improve their answers, and aggregate them into a final output. We present MiniRep, a reputation-based aggregation system for MAD under malicious agents. To ground our threat model in established research, we construct an attack taxonomy drawing on reputation-system attacks and software-testing mutation operators, covering strategic exploitation of reputation and subtle corruption of agent proposals. Guided by this taxonomy, MiniRep evaluates agents based on both their behavior on the current task and their reputation over time, while preventing groups of agents with highly similar responses from dominating the final decision. We assess MiniRep across diverse tasks, LLM-agent compositions, corruption placements, and attack types drawn from our taxonomy. Our experimental results show that, MiniRep outperforms both conventional MAD aggregation and conventional reputation-based approaches on MATH no matter being attacked or not. Also, under a heterogeneous 10-agent setting on MATH, MiniRep outperforms all baselines in all 28 attack conditions.
• Abstract（参考訳）: 大規模言語モデル(LLM)を利用した自律エージェントは、オープンエージェントエコシステムへと急速に進化している。 信頼できるコラボレーションを支援するために、業界のイニシアチブは、過去の行動からエージェントの評判を評価し、パフォーマンスのリーダーボードを提供する。 しかし、特に悪質なエージェントが彼らの行動に適応し、コラボレーション中に他のエージェントに影響を与える場合、過去のパフォーマンスに由来する評判は新しいタスクにおいてエージェントの振る舞いを確実に予測することはできない。 マルチエージェント討論(MAD)では,複数のエージェントが同じ質問に回答し,回答を改善するための議論を行い,それらを最終的な結果に集約する。 悪意のあるエージェントによるMADのための評価に基づくアグリゲーションシステムであるMiniRepを提案する。 確立された研究における脅威モデルを構築するため,評価システム攻撃とソフトウェアテスト突然変異演算子に基づく攻撃分類を構築し,評価の戦略的活用とエージェント提案の微妙な汚職をカバーした。 この分類法によって導かれたMiniRepは、エージェントが現在のタスクに対する行動と、時間とともに評価の両方に基づいて評価すると同時に、非常に類似した応答を持つエージェントのグループが最終決定を支配するのを防ぐ。 様々なタスク、LLMエージェントの構成、汚職配置、および我々の分類学から引き出された攻撃タイプについてMiniRepを評価する。 実験結果から,MiniRepは従来のMADアグリゲーションと従来の評判に基づくアプローチの両方において,攻撃の有無に関わらず高い性能を示した。 また、MATH上での不均一な10エージェント設定の下では、MiniRepは28の攻撃条件すべてですべてのベースラインを上回ります。

関連論文リスト

• Defending LLM-based Multi-Agent Systems Against Cooperative Attacks with Sentence-Level Rectification [42.88763759237844]
  大規模言語モデルに基づくマルチエージェントシステム(MAS)の悪意のあるエージェントは、誤情報を注入して他のエージェントを誤解させ、システム性能を損なう可能性がある。 本稿では,攻撃戦略を自律的に調整し,動的に調整する適応型協調攻撃フレームワークを提案する。 本稿では,エージェント通信における文レベルでのミスリード情報を識別・修正する防衛フレームワークであるSentence-Level Trustworthiness Analysis and Rectification(STAR)を紹介する。
  論文  参考訳（メタデータ） (2026-05-27T07:56:33Z)
• Unlocking the Power of Multi-Agent LLM for Reasoning: From Lazy Agents to Deliberation [42.38513187601995]
  強化学習と検証可能な報酬で訓練された大規模言語モデル(LLM)は、複雑な推論タスクにおいて大きな成果を上げている。 最近の研究は、メタ思考エージェントが計画を提案し、進捗を監視し、推論エージェントが逐次的な会話のターンを通じてサブタスクを実行するというマルチエージェント設定にまで拡張されている。 1つのエージェントが支配的であり、もう1つのエージェントがほとんど貢献せず、コラボレーションが損なわれ、セットアップが非効率なシングルエージェントに崩壊する。 我々は、推論エージェントがノイズのある出力を破棄し、指示を集約し、推論プロセスを再起動させることで、議論を促す検証可能な報酬機構を提案する。
  論文  参考訳（メタデータ） (2025-11-04T06:37:31Z)
• Can an Individual Manipulate the Collective Decisions of Multi-Agents? [53.01767232004823]
  M-Spoilerは、マルチエージェントシステム内のエージェントインタラクションをシミュレートして、対向サンプルを生成するフレームワークである。 M-スポイラーは、敵対的サンプルの最適化を積極的に支援するスタブボーン剤を導入した。 本研究は,マルチエージェントシステムにおける個々のエージェントの知識によって引き起こされるリスクを検証した。
  論文  参考訳（メタデータ） (2025-09-20T01:54:20Z)
• An Adversary-Resistant Multi-Agent LLM System via Credibility Scoring [8.779871128906787]
  信頼性スコアリングに基づく汎用・対向抵抗型マルチエージェントLCMフレームワークを提案する。 私たちのシステムは、チームのアウトプットを集約するときに使用される信頼性スコアを関連付けています。
  論文  参考訳（メタデータ） (2025-05-30T05:57:37Z)
• Free Agent in Agent-Based Mixture-of-Experts Generative AI Framework [0.0]
  強化学習自由エージェント (Reinforcement Learning Free Agent, RLFA) アルゴリズムは、永続的な過パフォーマンスを示すエージェントを検出し、除去するための報酬に基づくメカニズムを導入する。 第一のユースケースは不正検出であり、RLFAは事前に設定された閾値以下で検出精度が低下するエージェントを即座に交換する。 このダイナミックでフリーの緊急サイクルは、持続的な正確さ、出現する脅威への迅速な適応、進行中の運用に対する最小限の中断を保証する。
  論文  参考訳（メタデータ） (2025-01-29T13:00:22Z)
• Dissecting Adversarial Robustness of Multimodal LM Agents [70.2077308846307]
  我々は、VisualWebArena上に現実的な脅威モデルを用いて、200の敵タスクと評価スクリプトを手動で作成する。 我々は,クロボックスフロンティアLMを用いた最新のエージェントを,リフレクションやツリーサーチを行うエージェントを含む,壊すことに成功している。 AREを使用して、新しいコンポーネントの追加に伴うロバスト性の変化を厳格に評価しています。
  論文  参考訳（メタデータ） (2024-06-18T17:32:48Z)
• Malicious Agent Detection for Robust Multi-Agent Collaborative Perception [52.261231738242266]
  多エージェント協調(MAC)知覚は、単エージェント認識よりも敵攻撃に対して脆弱である。 MAC知覚に特異的な反応防御であるMADE(Malicious Agent Detection)を提案する。 我々は、ベンチマーク3DデータセットV2X-simとリアルタイムデータセットDAIR-V2Xで包括的な評価を行う。
  論文  参考訳（メタデータ） (2023-10-18T11:36:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。