論文の概要: An Exploration of Attacks on AI Agent Systems
- arxiv url: http://arxiv.org/abs/2610.12524v1
- Date: Thu, 08 Oct 2026 02:29:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.214899
- Title: An Exploration of Attacks on AI Agent Systems
- Title（参考訳）: AIエージェントシステムに対する攻撃の探索
- Abstract要約: 自律型AIエージェントがセンシティブなドメインに統合されるにつれて、シングルエージェントとマルチエージェントのAIシステムが安全であることが不可欠である。
本稿では,直接ユーザ入力とエージェント間通信の両方を即時インジェクション攻撃で活用し,機密情報を漏洩させ,エージェント間感染を誘発する方法について検討する。
- 参考スコア（独自算出の注目度）: 3.014771008835981
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As autonomous AI agents become more integrated into sensitive domains, it is crucial that single and multi-agent AI systems are secured. This paper investigates how prompt injection attacks can exploit both direct user inputs and inter?agent communication to leak sensitive information and trigger cross-agent infections. While our tests mostly highlight key vulnerabilities in single-agent systems, we also extend these attacks to multi-agent frameworks, investigating how weaknesses can propagate across agents. Our findings emphasize the need for more robust defenses as AI agents become more commonly embedded in real-world workflows.
- Abstract（参考訳）: 自律型AIエージェントがセンシティブなドメインに統合されるにつれて、シングルエージェントとマルチエージェントのAIシステムが安全であることが不可欠である。
本稿では、インジェクション攻撃が直接ユーザ入力とインターの両方をどのように活用できるかを検討する。
機密情報を漏洩し、クロスエージェント感染を引き起こすエージェント通信。
テストは主にシングルエージェントシステムの重要な脆弱性を強調していますが、これらの攻撃をマルチエージェントフレームワークに拡張し、エージェント間で弱点がどのように伝播するかを調べています。
私たちの発見は、AIエージェントが現実世界のワークフローに一般的に埋め込まれるにつれて、より堅牢な防御の必要性を強調します。
関連論文リスト
- When Prompts Control Robots: Prompt Injection Attacks in Multi-Agent Robotic Systems [0.5161531917413708]
大規模言語モデルはタスク計画と制御のための自律ロボットシステムに統合されつつある。
この統合によって、安全でない決定や身体的危害につながる可能性のあるインジェクション攻撃が促される。
本稿では,LLMをベースとしたマルチエージェントロボットシステムに対する即時インジェクション攻撃の評価を行う。
論文 参考訳（メタデータ） (2026-08-01T16:31:00Z) - DecodingTrust-Agent Platform (DTap): A Controllable and Interactive Red-Teaming Platform for AI Agents [121.77550256034]
DecodingTrust-Agent Platform (DTap)は、AIエージェントのためのコントロール可能でインタラクティブなレッドチームプラットフォームである。
DTap-Redは、多様なインジェクションベクターを探索し、効果的な攻撃戦略を自律的に発見する、最初の自律的赤チームエージェントである。
DTapを通じて、さまざまなバックボーンモデル上に構築された一般的なAIエージェントの大規模評価を行う。
論文 参考訳（メタデータ） (2026-05-06T11:59:48Z) - OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。
本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
論文 参考訳（メタデータ） (2026-02-13T21:32:32Z) - BlindGuard: Safeguarding LLM-based Multi-Agent Systems under Unknown Attacks [58.959622170433725]
BlindGuardは、攻撃固有のラベルや悪意のある振る舞いに関する事前の知識を必要とせずに学習する、教師なしの防御方法である。
BlindGuardはマルチエージェントシステムにまたがる多様な攻撃タイプ(即時注入、メモリ中毒、ツール攻撃)を効果的に検出する。
論文 参考訳（メタデータ） (2025-08-11T16:04:47Z) - PeerGuard: Defending Multi-Agent Systems Against Backdoor Attacks Through Mutual Reasoning [8.191214701984162]
マルチエージェントシステムは、複雑なタスクを完了させたり、協力したり、競合したりする自律エージェントとして、高度なAIモデルを活用する。
重要性は増しているが、マルチエージェントシステムの安全性はいまだに未調査である。
本研究では,マルチエージェントシステムにおけるバックドア脆弱性を調査し,エージェントインタラクションに基づく防御機構を提案する。
論文 参考訳（メタデータ） (2025-05-16T19:08:29Z) - AgentVigil: Generic Black-Box Red-teaming for Indirect Prompt Injection against LLM Agents [54.29555239363013]
本稿では,間接的なインジェクション脆弱性を自動的に検出し,悪用するための汎用的なブラックボックスファジリングフレームワークであるAgentVigilを提案する。
我々はAgentVigilをAgentDojoとVWA-advの2つの公開ベンチマークで評価し、o3-miniとGPT-4oに基づくエージェントに対して71%と70%の成功率を達成した。
攻撃を現実世界の環境に適用し、悪質なサイトを含む任意のURLに誘導するエージェントをうまく誘導する。
論文 参考訳（メタデータ） (2025-05-09T07:40:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。