論文の概要: MESA: Prioritizing Vulnerable Communication Channels for Securing Multi-Agent Systems

• arxiv url: http://arxiv.org/abs/2606.30602v1
• Date: Mon, 29 Jun 2026 17:40:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:16.366547
• Title: MESA: Prioritizing Vulnerable Communication Channels for Securing Multi-Agent Systems
• Title（参考訳）: MESA:マルチエージェントシステムのための脆弱性通信チャネルの優先順位付け
• Abstract要約: マルチエージェントシステム(MAS)は複雑な分散システムの自動化にますます利用されている。 本稿は、脆弱な通信チャネルを保護するために、守備側が限定的なセキュリティ努力を優先すべきかどうかを論じる。 Mesaは、MASエッジが最もセキュリティクリティカルである、積極的にランク付けするためのラベルなしフレームワークである。
• 参考スコア（独自算出の注目度）: 1.754308878830791
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-agent systems (MAS) are increasingly used to automate complex, distributed workflows. However, their inter-agent communication channels introduce new attack surfaces that remain poorly understood and are difficult to defend against. In this paper, we address how defenders should prioritize limited security effort to protect vulnerable communication channels before attacks are observed. This is motivated by our observation that the channel-level attack impact is highly non-uniform: a single compromised edge can account for up to 75% of total attack success. We introduce Mesa, a label-free framework for proactively ranking which MAS edges are most security-critical -- that is, most likely to affect the system's decision if compromised. Mesa combines six graph-theoretic metrics and two dynamic probes (ablation and masking) without requiring attack traces. We evaluate Mesa against a dynamic misinformation attack pipeline across three diverse MAS scenarios, eight network topologies, and five open-source LLMs from Qwen, Llama, and Gemma families. Mesa rankings correlate strongly with empirical per-edge attack success rate, achieving mean Spearman $ρ=+0.60$ (peaking at $+0.73$). In resource-constrained defense deployment, monitoring the top 10% of Mesa-ranked edges intercepts about 3x the successful attacks as random allocation. We further test Mesa under varying attacker and defender models and LangGraph workflows and characterize its limits under adaptive attacks and high-redundancy graphs. Overall, our results show that edge-level risk in MAS is often concentrated and predictable, allowing proactive hardening of multi-agent infrastructures.
• Abstract（参考訳）: マルチエージェントシステム(MAS)は、複雑な分散ワークフローを自動化するためにますます使われている。 しかし、彼らのエージェント間通信チャネルは、理解が不十分で防御が難しい新しい攻撃面を導入している。 本稿では、攻撃が観測される前に脆弱な通信路を保護するため、守備側が限定的なセキュリティ対策を優先する方法について述べる。 これは、チャネルレベルの攻撃効果が極めて非一様であり、単一の妥協されたエッジが攻撃成功の最大75%を占める、という我々の観察に動機づけられる。 私たちはMesaを紹介します。これは、MASエッジが最もセキュリティクリティカルである、積極的にランク付けするためのラベルのないフレームワークです。 Mesaは6つのグラフ理論メトリクスと2つの動的プローブ(アブレーションとマスキング)を、攻撃トレースを必要とせずに組み合わせている。 我々は,3つのMASシナリオ,8つのネットワークトポロジ,およびQwen,Llama,GemmaファミリーのオープンソースLLMを対象とした動的誤情報攻撃パイプラインに対するMesaの評価を行った。 Mesaランキングは、経験的/エッジ攻撃の成功率と強く相関し、平均的なSpearman $ρ=+0.60$($+0.73$)を達成する。 リソース制約のある防衛配置では、Mesaがランク付けしたエッジの上位10%が、ランダムなアロケーションとして成功した攻撃の約3倍をインターセプトする。 さらに、さまざまな攻撃モデルとディフェンダーモデル、LangGraphワークフローの下でMesaをテストし、アダプティブアタックと高冗長グラフの下でその限界を特徴づけます。 以上の結果から,MASのエッジレベルリスクは集中的かつ予測可能であり,マルチエージェントインフラストラクチャの積極的な硬化を可能にすることが示唆された。

関連論文リスト

• Stateful Cooperative Agents Safeguarding LLMs Against Evolving Multi-Turn Attacks [56.45762972211923]
  マルチターン攻撃に対するLDMの安全性を確保するためのプロアクティブ・ディフェンス・フレームワークを提案する。 特殊なエージェントが補完的な防衛戦略を実行するような、協調的なマルチエージェントアーキテクチャを採用している。 マルチターン攻撃における進化戦略をシミュレートするEMRAデータセットを提案する。
  論文  参考訳（メタデータ） (2026-07-31T14:04:49Z)
• MAStrike: Shapley-Guided Collusive Red-Teaming on Multi-Agent Systems [26.889808672555393]
  階層型マルチエージェントシステム(MAS)は、金融やソフトウェア工学といった高度な分野に急速にデプロイされている。 MASの既存の赤チーム方式は、ターゲットエージェントと分離されたメッセージストリームの選択に依存している。 階層型MASにおけるコラシブ・リピートのためのクローズドループ・フレームワークであるMAStrikeを提案する。
  論文  参考訳（メタデータ） (2026-06-11T05:21:39Z)
• Hierarchical Attacks for Multi-Modal Multi-Agent Reasoning [13.919211247193958]
  マルチモーダルマルチエージェントシステムのための階層的アタックフレームワークであるHAM$3$を紹介する。 認識層では、HAM$3$は視覚入力、テキスト入力、融合した視覚テキスト表現を摂動することで攻撃する。 通信層では、メッセージの内容と相互作用トポロジを破損させる通信レベルアタックを実行する。 推論層では、各エージェントの認知パイプラインに干渉する推論レベル攻撃を実行し、推論を偏り、最終的な決定を妥協する。
  論文  参考訳（メタデータ） (2026-05-13T09:06:21Z)
• TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
  分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。 我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。 我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
  論文  参考訳（メタデータ） (2026-04-30T13:44:01Z)
• From Stateless Queries to Autonomous Actions: A Layered Security Framework for Agentic AI Systems [0.0]
  エージェントAIシステムは、拡張された水平線を越えて計画し、永続的なメモリを維持し、外部ツールを起動し、ピアエージェントと調整する。 既存のセキュリティ分析は、攻撃タイプ(プロンプトインジェクション、ジェイルブレイク)によって脅威を整理するが、アーキテクチャコンポーネントが脆弱な原則モデルを提供しない。 脅威を異なるアーキテクチャコンポーネントにマッピングする7層フレームワークであるLayered Attack Surface Model (LASM)を紹介する。
  論文  参考訳（メタデータ） (2026-04-25T14:57:15Z)
• Tipping the Dominos: Topology-Aware Multi-Hop Attacks on LLM-Based Multi-Agent Systems [14.555944084540435]
  LLMベースのマルチエージェントシステム(MAS)は、デジタルランドスケープを創発的コーディネーションと問題解決能力で再構築した。 我々は,MASを対象としたトポロジ対応マルチホップ攻撃方式であるTOMAを提案する。
  論文  参考訳（メタデータ） (2025-12-03T05:10:39Z)
• Multi-Faceted Attack: Exposing Cross-Model Vulnerabilities in Defense-Equipped Vision-Language Models [54.61181161508336]
  MFA(Multi-Faceted Attack)は、防衛装備型ビジョンランゲージモデル(VLM)の一般的な安全性上の脆弱性を明らかにするフレームワークである。 MFAの中核となるコンポーネントはアテンション・トランスファー・アタック(ATA)であり、競合する目的を持ったメタタスク内に有害な命令を隠す。 MFAは58.5%の成功率を獲得し、既存の手法を一貫して上回っている。
  論文  参考訳（メタデータ） (2025-11-20T07:12:54Z)
• BlindGuard: Safeguarding LLM-based Multi-Agent Systems under Unknown Attacks [58.959622170433725]
  BlindGuardは、攻撃固有のラベルや悪意のある振る舞いに関する事前の知識を必要とせずに学習する、教師なしの防御方法である。 BlindGuardはマルチエージェントシステムにまたがる多様な攻撃タイプ(即時注入、メモリ中毒、ツール攻撃)を効果的に検出する。
  論文  参考訳（メタデータ） (2025-08-11T16:04:47Z)
• X-Teaming: Multi-Turn Jailbreaks and Defenses with Adaptive Multi-Agents [76.66287343106204]
  X-Teamingは、一見無害な相互作用が有害な結果へとエスカレートし、対応する攻撃シナリオを生成するフレームワークである。 X-Teamingは最新のClaude 3.7 Sonnetモデルに対して96.2%の攻撃成功率を達成した。 XGuard-Trainは、オープンソースのマルチターン安全トレーニングデータセットで、前回のベストリソースの20倍大きい。
  論文  参考訳（メタデータ） (2025-04-15T16:11:28Z)
• $\ extit{Agents Under Siege}$: Breaking Pragmatic Multi-Agent LLM Systems with Optimized Prompt Attacks [45.74758377276353]
  マルチエージェント大規模言語モデル(LLM)システムは,エージェント間の通信や分散推論に依存するため,新たな敵対的リスクを生み出す。 本研究では,トークンの帯域幅の制限,メッセージ配信のレイテンシ,防御機構といった制約のある実用的システムへの攻撃に革新的な焦点をあてる。 我々は、レイテンシと帯域幅制約のあるネットワークトポロジ間の迅速な分散を最適化し、分散安全機構をバイパスする、$textitpermutation-invariant adversarial attack$を設計する。
  論文  参考訳（メタデータ） (2025-03-31T20:43:56Z)
• Multi-granular Adversarial Attacks against Black-box Neural Ranking Models [111.58315434849047]
  多粒性摂動を取り入れた高品質な逆数例を作成する。 我々は,多粒体攻撃を逐次的意思決定プロセスに変換する。 本手法は,攻撃の有効性と非受容性の両方において,一般的なベースラインを超えている。
  論文  参考訳（メタデータ） (2024-04-02T02:08:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。