論文の概要: The Show-Up Attack: When Subagents Win Over Their Supervisor

• arxiv url: http://arxiv.org/abs/2610.27574v1
• Date: Tue, 20 Oct 2026 03:41:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.619572
• Title: The Show-Up Attack: When Subagents Win Over Their Supervisor
• Title（参考訳）: ショーアップ攻撃: 代理店がスーパーバイザーに勝つとき
• Abstract要約: 我々は、悪意あるサブエージェントが管理者を操作して、割り当てられた範囲を超えたタスクに組み込む、テキストショーアップ攻撃について検討する。 このリスクを評価するために,攻撃戦略を6つ実装し,テストケースを188個含むSUA-Arenaを提案する。
• 参考スコア（独自算出の注目度）: 17.823655539861463
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-agent systems are increasingly deployed to coordinate multiple large language model (LLM) agents. However, this also creates new attack surfaces: malicious agents may have chances to exploit the coordination. In this paper, we propose and study the \textit{show-up attack}, in which a malicious subagent manipulates the supervisor into involving it in tasks beyond its assigned scope. To evaluate this risk, we propose SUA-Arena, which implements 6 attack strategies and contains 188 test cases. Then, we evaluate 6 frontier LLMs and find that all of them are vulnerable to show-up attacks. For example, GPT-5.6-Sol as a supervisor suffers an ASR of up to 0.93. Mitigation strategies such as prompting and restricted communication fail to reduce the risk consistently. These results show that multi-agent systems need explicit mechanisms for enforcing authority boundaries.
• Abstract（参考訳）: マルチエージェントシステムは、複数の大規模言語モデル(LLM)エージェントを協調するためにますます多くデプロイされている。 悪意のあるエージェントは、調整を悪用する可能性がある。 本稿では、悪意のあるサブエージェントが管理者を操作して、割り当てられた範囲を超えたタスクに組み込む「textit{show-up attack」を提案し、研究する。 このリスクを評価するために,攻撃戦略を6つ実装し,テストケースを188個含むSUA-Arenaを提案する。 次に,6つのフロンティアLSMを評価し,それらすべてが攻撃に対する攻撃に対して脆弱であることを確認した。 例えば、監督官としてのGPT-5.6-Solは最大0.93のASRに苦しむ。 プロンプトや制限されたコミュニケーションといった緩和戦略は、リスクを継続的に減少させません。 これらの結果から,マルチエージェントシステムには権限境界を強制する明確な機構が必要であることが示唆された。

関連論文リスト

• MAS-Guard: Unified Guardrails from Individual Agents to Multi-Agent LLM Systems [51.71210243527022]
  我々は、計測可能なエージェントと不透明なエージェントの両方を含むシングルエージェントとマルチエージェントAIアプリケーションを保護するための統合フレームワークであるMAS-Guardを紹介する。 測定可能なエージェントの中で、提案されたローカルエージェントガードレール(A-Guard)レイヤは、エージェントイベントを評価するためにタスク固有の専門家を適用する。 システムレベルでは、開発者が所有するエージェント憲章とコントロールプレーンは、ルート、エージェント機能、メッセージフォーマットの決定論的構造チェックと、ロールとメッセージコンテンツのセマンティックアセスメントを組み合わせる。
  論文  参考訳（メタデータ） (2026-10-20T15:44:37Z)
• When the Manual Lies: A Realistic Benchmark to Evaluate MCP Poisoning Attacks for LLM Agents [43.702131498259384]
  本稿では,新しいセマンティックアタックであるTDP(Tool Description Poisoning)を体系的に検討する。 TDPでは、悪意のある命令はツールの実行可能なコードに埋め込まれず、記述的なメタデータに隠蔽的に注入される。 この研究は、TDP用に調整された最初の特別なセキュリティベンチマークを提供し、高度なエージェントシステムの認知層と計画層の確保に不可欠な洞察を提供する。
  論文  参考訳（メタデータ） (2026-05-22T08:34:48Z)
• OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
  オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。 本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
  論文  参考訳（メタデータ） (2026-02-13T21:32:32Z)
• Who's the Mole? Modeling and Detecting Intention-Hiding Malicious Agents in LLM-Based Multi-Agent Systems [25.6233463223145]
  大規模言語モデル(LLM-MAS)を用いたマルチエージェントシステムにおける意図隠蔽脅威について検討する。 高いステルス性を維持しながらタスク完了を微妙に妨害する4つの代表的な攻撃パラダイムを設計する。 これらの脅威に対処するために,心理学に着想を得た検出フレームワークであるAgentXposedを提案する。
  論文  参考訳（メタデータ） (2025-07-07T07:34:34Z)
• AgentVigil: Generic Black-Box Red-teaming for Indirect Prompt Injection against LLM Agents [54.29555239363013]
  本稿では,間接的なインジェクション脆弱性を自動的に検出し,悪用するための汎用的なブラックボックスファジリングフレームワークであるAgentVigilを提案する。 我々はAgentVigilをAgentDojoとVWA-advの2つの公開ベンチマークで評価し、o3-miniとGPT-4oに基づくエージェントに対して71%と70%の成功率を達成した。 攻撃を現実世界の環境に適用し、悪質なサイトを含む任意のURLに誘導するエージェントをうまく誘導する。
  論文  参考訳（メタデータ） (2025-05-09T07:40:17Z)
• Breaking Agents: Compromising Autonomous LLM Agents Through Malfunction Amplification [35.16099878559559]
  大規模言語モデル(LLM)は大きな発展を遂げ、現実世界のアプリケーションにデプロイされている。 エージェントが繰り返しまたは無関係なアクションを実行することを誤解させることで誤動作を引き起こす新しいタイプの攻撃を導入する。 実験の結果、これらの攻撃は複数のシナリオで80%以上の障害率を誘導できることがわかった。
  論文  参考訳（メタデータ） (2024-07-30T14:35:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。