論文の概要: Extending the OWASP Multi-Agentic System Threat Modeling Guide: Insights from Multi-Agent Security Research

• arxiv url: http://arxiv.org/abs/2508.09815v1
• Date: Wed, 13 Aug 2025 13:47:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-14 20:42:00.912929
• Title: Extending the OWASP Multi-Agentic System Threat Modeling Guide: Insights from Multi-Agent Security Research
• Title（参考訳）: OWASPMulti-Agentic System Threat Modeling Guideの拡張:Multi-Agent Security Researchからの洞察
• Authors: Klaudia Krawiecka, Christian Schroeder de Witt,
• Abstract要約: この研究は、最近のマルチエージェントセキュリティ(MASEC)の予測研究を、大規模言語モデル(LLM)駆動のマルチエージェントアーキテクチャに特有の課題に対処するための実践的なガイダンスに翻訳する。 我々は,実践的なMAS展開に根ざした新たな脅威クラスとシナリオを導入し,良心的目標ドリフト,クロスエージェント伝搬,情緒的プロンプトフレーミング,マルチエージェントバックドアのリスクを強調した。 この研究は、ますます複雑で自律的で適応的なマルチエージェントシステムに適用性を広げることによって、堅牢性の枠組みを補完する。
• 参考スコア（独自算出の注目度）: 0.8057006406834466
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose an extension to the OWASP Multi-Agentic System (MAS) Threat Modeling Guide, translating recent anticipatory research in multi-agent security (MASEC) into practical guidance for addressing challenges unique to large language model (LLM)-driven multi-agent architectures. Although OWASP's existing taxonomy covers many attack vectors, our analysis identifies gaps in modeling failures, including, but not limited to: reasoning collapse across planner-executor chains, metric overfitting, unsafe delegation escalation, emergent covert coordination, and heterogeneous multi-agent exploits. We introduce additional threat classes and scenarios grounded in practical MAS deployments, highlighting risks from benign goal drift, cross-agent hallucination propagation, affective prompt framing, and multi-agent backdoors. We also outline evaluation strategies, including robustness testing, coordination assessment, safety enforcement, and emergent behavior monitoring, to ensure complete coverage. This work complements the framework of OWASP by expanding its applicability to increasingly complex, autonomous, and adaptive multi-agent systems, with the goal of improving security posture and resilience in real world deployments.
• Abstract（参考訳）: 我々は,OWASPマルチエージェントシステム(MAS)の脅威モデリングガイドの拡張を提案し,近年のマルチエージェントセキュリティ(MASEC)の予測研究を,大規模言語モデル(LLM)駆動型マルチエージェントアーキテクチャに特有の課題に対処するための実践的ガイダンスに翻訳した。 OWASPの既存の分類は、多くの攻撃ベクトルをカバーしているが、我々の分析では、プランナー・エグゼクタチェーン間の崩壊の推論、メートル法オーバーフィッティング、安全でないデリゲートエスカレーション、創発的な隠蔽調整、異種多エージェントエクスプロイトなど、モデリング失敗のギャップを識別する。 実践的なMAS展開に根ざした新たな脅威クラスとシナリオを導入し、良心的目標ドリフト、クロスエージェント幻覚伝播、感情的プロンプトフレーミング、マルチエージェントバックドアのリスクを強調した。 完全カバレッジを確保するため、ロバストネステスト、コーディネーションアセスメント、安全対策、緊急行動監視などの評価戦略についても概説する。 この作業はOWASPのフレームワークを補完し、より複雑で自律的で適応的なマルチエージェントシステムに適用し、現実のデプロイメントにおけるセキュリティ姿勢とレジリエンスを改善することを目的としている。

関連論文リスト

• Towards Unifying Quantitative Security Benchmarking for Multi Agent Systems [0.0]
  AIシステムの進化 自律エージェントが協力し、情報を共有し、プロトコルを開発することでタスクを委譲するマルチエージェントアーキテクチャをますます展開する。 そのようなリスクの1つはカスケードリスクである。あるエージェントの侵入はシステムを通してカスケードし、エージェント間の信頼を利用して他人を妥協させる。 ACI攻撃では、あるエージェントに悪意のあるインプットまたはツールエクスプロイトが注入され、そのアウトプットを信頼するエージェント間でカスケードの妥協とダウンストリーム効果が増幅される。
  論文  参考訳（メタデータ） (2025-07-23T13:51:28Z)
• SafeMobile: Chain-level Jailbreak Detection and Automated Evaluation for Multimodal Mobile Agents [58.21223208538351]
  本研究は,モバイルマルチモーダルエージェントを取り巻くセキュリティ問題について考察する。 行動シーケンス情報を組み込んだリスク識別機構の構築を試みる。 また、大規模言語モデルに基づく自動アセスメントスキームも設計している。
  論文  参考訳（メタデータ） (2025-07-01T15:10:00Z)
• From Prompt Injections to Protocol Exploits: Threats in LLM-Powered AI Agents Workflows [1.202155693533555]
  構造化関数呼び出しインタフェースを持つ大規模言語モデル(LLM)は、リアルタイムデータ検索と計算機能を大幅に拡張した。 しかし、プラグイン、コネクター、エージェント間プロトコルの爆発的な増殖は、発見メカニズムやセキュリティプラクティスよりも大きくなっている。 ホスト・ツー・ツールとエージェント・ツー・エージェント・エージェントの通信にまたがる,LDM-エージェントエコシステムに対する最初の統一エンドツーエンド脅威モデルを導入する。
  論文  参考訳（メタデータ） (2025-06-29T14:32:32Z)
• Kaleidoscopic Teaming in Multi Agent Simulations [75.47388708240042]
  我々は,エージェントが行う複雑な行動,思考プロセス,行動の安全性リスクを評価する上で,既存のレッドチームや安全評価フレームワークは不十分であると主張している。 我々は,新しいコンテキスト内最適化手法を導入し,安全解析のためのより良いシナリオを生成する。 エージェントの安全性を測定するためのフレームワークとともに使用できる適切なメトリクスを提案する。
  論文  参考訳（メタデータ） (2025-06-20T23:37:17Z)
• ATAG: AI-Agent Application Threat Assessment with Attack Graphs [23.757154032523093]
  本稿では,Attack Graphs (ATAG) を用いたAIエージェントアプリケーションThreatアセスメントを提案する。 ATAGは、AIエージェントアプリケーションに関連するセキュリティリスクを体系的に分析するために設計された、新しいフレームワークである。 マルチエージェントアプリケーションにおけるAIエージェント脅威の積極的な識別と緩和を容易にする。
  論文  参考訳（メタデータ） (2025-06-03T13:25:40Z)
• MASTER: Multi-Agent Security Through Exploration of Roles and Topological Structures -- A Comprehensive Framework [35.50223358356218]
  大規模言語モデル (LLMs) に基づくマルチエージェントシステム (MAS) は、目覚ましい問題解決とタスク計画能力を示す。 我々は,MASの新しいセキュリティ研究フレームワークであるMASTERを紹介し,多様な役割構成とトポロジ的構造に着目した。 我々は,様々なシナリオにおけるMASレジリエンスを大幅に向上させる,対応する防衛戦略を提案する。
  論文  参考訳（メタデータ） (2025-05-24T07:24:29Z)
• AgentVigil: Generic Black-Box Red-teaming for Indirect Prompt Injection against LLM Agents [54.29555239363013]
  本稿では,間接的なインジェクション脆弱性を自動的に検出し,悪用するための汎用的なブラックボックスファジリングフレームワークであるAgentVigilを提案する。 我々はAgentVigilをAgentDojoとVWA-advの2つの公開ベンチマークで評価し、o3-miniとGPT-4oに基づくエージェントに対して71%と70%の成功率を達成した。 攻撃を現実世界の環境に適用し、悪質なサイトを含む任意のURLに誘導するエージェントをうまく誘導する。
  論文  参考訳（メタデータ） (2025-05-09T07:40:17Z)
• Manipulating Multimodal Agents via Cross-Modal Prompt Injection [34.35145839873915]
  マルチモーダルエージェントにおいて、これまで見過ごされていた重要なセキュリティ脆弱性を特定します。 攻撃者が複数のモードにまたがって敵の摂動を埋め込む新たな攻撃フレームワークであるCrossInjectを提案する。 本手法は,攻撃成功率を少なくとも30.1%向上させることで,最先端の攻撃よりも優れる。
  論文  参考訳（メタデータ） (2025-04-19T16:28:03Z)
• Multi-Agent Risks from Advanced AI [90.74347101431474]
  先進的なAIのマルチエージェントシステムは、新規で未発見のリスクを生じさせる。 エージェントのインセンティブに基づく3つの重要な障害モードと7つの重要なリスク要因を同定する。 各リスクのいくつかの重要な事例と、それらを緩和するための有望な方向性を強調します。
  論文  参考訳（メタデータ） (2025-02-19T23:03:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。