論文の概要: Hierarchical Attacks for Multi-Modal Multi-Agent Reasoning
- arxiv url: http://arxiv.org/abs/2605.13213v1
- Date: Wed, 13 May 2026 09:06:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-14 23:30:27.932586
- Title: Hierarchical Attacks for Multi-Modal Multi-Agent Reasoning
- Title（参考訳）: マルチモーダルマルチエージェント推論のための階層的アタック
- Authors: Hao Zhou, Tiru Wu, Yan Jiang, Wanqi Zhou, Junxing Hu, Ai Han,
- Abstract要約: マルチモーダルマルチエージェントシステムのための階層的アタックフレームワークであるHAM$3$を紹介する。
認識層では、HAM$3$は視覚入力、テキスト入力、融合した視覚テキスト表現を摂動することで攻撃する。
通信層では、メッセージの内容と相互作用トポロジを破損させる通信レベルアタックを実行する。
推論層では、各エージェントの認知パイプラインに干渉する推論レベル攻撃を実行し、推論を偏り、最終的な決定を妥協する。
- 参考スコア（独自算出の注目度）: 13.919211247193958
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-modal multi-agent systems (MM-MAS) have gained increasing attention for their capacity to enable complex reasoning and coordination across diverse modalities. As these systems continue to expand in scale and functionality, investigating their potential vulnerabilities has become increasingly important. However, existing studies on adversarial attacks in multi-agent systems primarily focus on isolated agents or unimodal settings, leaving the vulnerabilities of MM-MAS largely underexplored. To bridge this gap, we introduce HAM$^{3}$, a Hierarchical Attack framework for multi-modal multi-agent systems that decomposes attacks into three interconnected layers. Specifically, at the perception layer, HAM$^{3}$ mounts attacks by perturbing visual inputs, textual inputs, and their fused visual-textual representations. At the communication layer, it performs communication-level attacks that corrupt message content and interaction topology, such as manipulating shared context or communication links to distort collective information flow. At the reasoning layer, it conducts reasoning-level attacks that interfere with each agent's cognitive pipeline, biasing reasoning trajectories and ultimately compromising final decisions. We evaluate HAM$^{3}$ on the GQA benchmark through multi-agent systems built on distinct reasoning paradigms including ReAct, Plan-and-Solve, and Reflexion. Experiments demonstrate that our framework achieves an Attack Success Rate of up to 78.3%, with reasoning-layer attacks being the most effective. More than half of the successful attacks lead multiple agents to produce consistent errors. These findings offer valuable insights for building more robust and interpretable multi-agent intelligence.
- Abstract（参考訳）: マルチモーダルマルチエージェントシステム(MM-MAS)は、様々なモダリティをまたいだ複雑な推論と協調を可能にする能力に注目が集まっている。
これらのシステムはスケールと機能の拡張を続けており、潜在的な脆弱性の調査がますます重要になっている。
しかし、マルチエージェントシステムにおける敵攻撃に関する既存の研究は、主に孤立したエージェントや一過性のセッティングに焦点を当てており、MM-MASの脆弱性はほとんど調査されていない。
このギャップを埋めるために,攻撃を3つの相互接続層に分解するマルチモーダルマルチエージェントシステムのための階層的アタックフレームワークであるHAM$^{3}$を紹介した。
具体的には、認識層において、HAM$^{3}$は、視覚的入力、テキスト入力およびそれらの融合した視覚的テキスト表現を摂動することで攻撃をマウントする。
通信層では、共有コンテキストの操作や、集団情報の流れを歪ませる通信リンクなど、メッセージ内容と相互作用トポロジを損なう通信レベルアタックを実行する。
推論層では、各エージェントの認知パイプラインに干渉する推論レベル攻撃を実行し、推論軌道を偏り、最終的な決定を妥協する。
我々は、ReAct、Plan-and-Solve、Reflexionなどの異なる推論パラダイムに基づいて構築されたマルチエージェントシステムを用いて、GQAベンチマーク上でHAM$^{3}$を評価する。
実験により、我々のフレームワークは最大78.3%の攻撃成功率を実現しており、推論層攻撃が最も効果的であることが示された。
攻撃の成功率は半数以上で、複数のエージェントが一貫したエラーを発生させる。
これらの発見は、より堅牢で解釈可能なマルチエージェントインテリジェンスを構築する上で、貴重な洞察を提供する。
関連論文リスト
- Don't Trust Stubborn Neighbors: A Security Framework for Agentic Networks [32.791374704820925]
悪意または妥協されたエージェントは、誤った情報を伝達し、集合的な結果を操作するために通信チャネルを利用することができる。
本研究では,社会科学からFriedkin-Johnsen意見形成モデルを借りて,このような操作がいかに広まるかを検討する。
本稿では,エージェント間の信頼を動的に調整し,敵の影響力を抑えることによって脅威を軽減する新しいメカニズムを提案する。
論文 参考訳（メタデータ） (2026-03-16T18:41:21Z) - Explainable and Fine-Grained Safeguarding of LLM Multi-Agent Systems via Bi-Level Graph Anomaly Detection [76.91230292971115]
大規模言語モデル (LLM) に基づくマルチエージェントシステム (MAS) は複雑なタスクを解く上で強力な能力を示している。
XG-Guardは、MAS内の悪意のあるエージェントを検出するための、説明可能な、きめ細かい保護フレームワークである。
論文 参考訳（メタデータ） (2025-12-21T13:46:36Z) - Tipping the Dominos: Topology-Aware Multi-Hop Attacks on LLM-Based Multi-Agent Systems [14.555944084540435]
LLMベースのマルチエージェントシステム(MAS)は、デジタルランドスケープを創発的コーディネーションと問題解決能力で再構築した。
我々は,MASを対象としたトポロジ対応マルチホップ攻撃方式であるTOMAを提案する。
論文 参考訳（メタデータ） (2025-12-03T05:10:39Z) - Can an Individual Manipulate the Collective Decisions of Multi-Agents? [53.01767232004823]
M-Spoilerは、マルチエージェントシステム内のエージェントインタラクションをシミュレートして、対向サンプルを生成するフレームワークである。
M-スポイラーは、敵対的サンプルの最適化を積極的に支援するスタブボーン剤を導入した。
本研究は,マルチエージェントシステムにおける個々のエージェントの知識によって引き起こされるリスクを検証した。
論文 参考訳（メタデータ） (2025-09-20T01:54:20Z) - BlindGuard: Safeguarding LLM-based Multi-Agent Systems under Unknown Attacks [58.959622170433725]
BlindGuardは、攻撃固有のラベルや悪意のある振る舞いに関する事前の知識を必要とせずに学習する、教師なしの防御方法である。
BlindGuardはマルチエージェントシステムにまたがる多様な攻撃タイプ(即時注入、メモリ中毒、ツール攻撃)を効果的に検出する。
論文 参考訳（メタデータ） (2025-08-11T16:04:47Z) - Who's the Mole? Modeling and Detecting Intention-Hiding Malicious Agents in LLM-Based Multi-Agent Systems [25.6233463223145]
大規模言語モデル(LLM-MAS)を用いたマルチエージェントシステムにおける意図隠蔽脅威について検討する。
高いステルス性を維持しながらタスク完了を微妙に妨害する4つの代表的な攻撃パラダイムを設計する。
これらの脅威に対処するために,心理学に着想を得た検出フレームワークであるAgentXposedを提案する。
論文 参考訳（メタデータ） (2025-07-07T07:34:34Z) - AgentVigil: Generic Black-Box Red-teaming for Indirect Prompt Injection against LLM Agents [54.29555239363013]
本稿では,間接的なインジェクション脆弱性を自動的に検出し,悪用するための汎用的なブラックボックスファジリングフレームワークであるAgentVigilを提案する。
我々はAgentVigilをAgentDojoとVWA-advの2つの公開ベンチマークで評価し、o3-miniとGPT-4oに基づくエージェントに対して71%と70%の成功率を達成した。
攻撃を現実世界の環境に適用し、悪質なサイトを含む任意のURLに誘導するエージェントをうまく誘導する。
論文 参考訳（メタデータ） (2025-05-09T07:40:17Z) - Manipulating Multimodal Agents via Cross-Modal Prompt Injection [34.35145839873915]
マルチモーダルエージェントにおいて、これまで見過ごされていた重要なセキュリティ脆弱性を特定します。
攻撃者が複数のモードにまたがって敵の摂動を埋め込む新たな攻撃フレームワークであるCrossInjectを提案する。
本手法は,攻撃成功率を少なくとも30.1%向上させることで,最先端の攻撃よりも優れる。
論文 参考訳（メタデータ） (2025-04-19T16:28:03Z) - On the Resilience of LLM-Based Multi-Agent Collaboration with Faulty Agents [58.79302663733703]
大規模言語モデルに基づくマルチエージェントシステムは、専門家エージェントの協力により、様々なタスクにまたがる優れた能力を示している。
不器用なエージェントや悪意のあるエージェントが与える影響 - システム全体のパフォーマンスにおいて、頻繁にタスクでエラーを犯すものは、いまだに過小評価されていない。
本稿では,下流タスクにおける障害要因下での各種システム構造のレジリエンスについて検討する。
論文 参考訳（メタデータ） (2024-08-02T03:25:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。