論文の概要: Connecting the Dots in Agentic AI Security: A Cross-Dimensional Threat Taxonomy, Evaluation Maturity, and Open Challenges
- arxiv url: http://arxiv.org/abs/2609.23894v1
- Date: Sun, 20 Sep 2026 22:00:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-23 18:04:03.955216
- Title: Connecting the Dots in Agentic AI Security: A Cross-Dimensional Threat Taxonomy, Evaluation Maturity, and Open Challenges
- Title（参考訳）: エージェントAIセキュリティにおけるドットの接続: クロス次元の脅威分類、評価成熟度、オープンチャレンジ
- Abstract要約: 既存の脅威分類は、しばしば個々の次元を強調する。
T=S, B, P, Aは、影響を受ける機能やシステム表面をリンクする断面表現である。
エージェントAIのより体系的で、アーキテクチャを意識し、再現可能なセキュリティ評価を導くために、13のオープンな研究質問を導出する。
- 参考スコア（独自算出の注目度）: 28.38621542670968
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Agentic AI extends LLM security beyond generated content to persistent state, autonomous actions, tool use, and interactions with humans and other agents. Existing threat classifications often emphasize individual dimensions, obscuring connections among entry points, affected components, and security consequences. The known threat landscape also differs from the coverage demonstrated by empirical research. Through a structured review of 66 studies published from 2022 to 2026, we introduce T={S, B, P, A}, a cross-dimensional representation linking affected functional or system surfaces {S}, interaction or trust boundaries {B}, violated security properties {P}, and empirically examined architectures {A}. We analyze 22 artifact-backed red-teaming studies and 11 representative security benchmarks to characterize empirical coverage and evaluation maturity. Within the selected studies, evidence concentrates on prompt/reasoning, memory, and tool-mediated attacks, predominantly in single-agent settings. Persistent, Human--Agent, complex multi-agent, systemic, and long-horizon threats receive less coverage. These findings describe the selected corpus rather than establish gaps across all empirical research. Heterogeneous metrics, limited adaptive defense evaluation, architectural imbalance, and incomplete execution-state capture further constrain comparison and reproducibility. We derive 13 open research questions to guide more systematic, architecture-aware, and reproducible security evaluation of agentic AI.
- Abstract（参考訳）: Agentic AIは、LLMのセキュリティを、生成されたコンテンツから永続的な状態、自律的なアクション、ツールの使用、人間や他のエージェントとのインタラクションまで拡張する。
既存の脅威分類では、個々の次元を強調し、エントリポイント間の接続を隠蔽し、影響を受けるコンポーネントやセキュリティ上の結果が強調されることが多い。
既知の脅威の風景は、経験的研究によって示された範囲とは異なる。
2022年から2026年にかけて発行された66の研究では、T={S, B, P, A}、影響を受ける機能やシステム表面をリンクする断面表現 {S}、相互作用や信頼境界 {B}、セキュリティ特性 {P}、経験的に検討されたアーキテクチャ {A}を紹介する。
我々は,22のアーティファクト支援型レッドチーム研究と11の代表的なセキュリティベンチマークを分析し,経験的カバレッジと評価の成熟度を特徴付ける。
選択された研究の中では、エビデンスは主に単一エージェントの設定で、プロンプト/推論、メモリ、ツールによる攻撃に焦点を当てている。
Persistent, Human-Agent, complex multi-agent, systemic, long-horizon threats は対象外である。
これらの結果は、すべての経験的研究のギャップを確立するよりも、選択されたコーパスを記述している。
不均一なメトリクス、限定適応防御評価、アーキテクチャの不均衡、不完全な実行状態のキャプチャ、さらなる制約比較と再現性。
エージェントAIのより体系的で、アーキテクチャを意識し、再現可能なセキュリティ評価を導くために、13のオープンな研究質問を導出する。
関連論文リスト
- AI Slop and Hallucinations in Vulnerability Assessment: A Survey on Reasoning Failures and Trustworthy Mitigation [48.55515767840701]
AIスロープ(AI slop)は、アーティファクト、幻覚的脆弱性、可視だが正しくないパッチ、セマンティックに再パッケージされたバグレポートである。
本稿では,実証的証拠を調査し,統一メカニズムを特定し,信頼に値するトリアージへの道筋をたどる。
論文 参考訳（メタデータ） (2026-08-26T11:48:38Z) - IP Protection in the Era of Visual Generative AI: A Survey [70.06761647752164]
本稿では,視覚生成モデルにおけるIP保護のための2次元分類法を提案する。
主要な軸は制御論理ビューであり、メソッドを情報公開制御、生成行動制約、属性と説明責任に分類する。
二次軸は、データIPとモデルIPを横断的な資産次元として区別する。
論文 参考訳（メタデータ） (2026-08-13T00:26:41Z) - Cyber-Capable AI Agents: Vulnerabilities, Evaluation Containment, and Defensive Response [0.0]
サイバー対応AIエージェントは、言語モデルとツール、メモリ、実行環境を組み合わせて、攻撃的なセキュリティタスクを実行する。
このレビューでは、その境界における5つの脆弱性クラスを合成する。マルチステップ攻撃チェーン、サンドボックス境界と競合する目的、サプライチェーンとクレデンシャル露出、永続的なコマンド・アンド・コントロール、自動アクションのスピード。
論文 参考訳（メタデータ） (2026-07-28T07:34:37Z) - Agentic and Generative AI for Open-Source Intelligence and Cyber Investigations: Taxonomy, Evaluation, Challenges, and Future Directions [24.28151698249644]
大規模言語モデル(LLM)とエージェントAIシステムが有望なソリューションとして登場している。
本調査は74研究を体系的にレビューし,4つのコントリビューションを行った。
論文 参考訳（メタデータ） (2026-07-03T11:42:29Z) - Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。
アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。
ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
論文 参考訳（メタデータ） (2026-04-21T15:05:58Z) - Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses [168.50301366360344]
Embodied AI (Embodied AI) は、知覚、認知、計画、相互作用を、安全クリティカルな環境で機能するエージェントに統合する。
デジタルAIシステムとは異なり、エンボディエージェントは不確実な検知、不完全な知識、動的な人間とロボットの相互作用の下で行動しなければならない。
この調査は、エンボディされたAIにおける安全性研究の包括的なレビューを提供し、完全なエンボディされたパイプラインにわたる攻撃と防御を調査している。
論文 参考訳（メタデータ） (2026-03-28T13:21:44Z) - SoK: The Attack Surface of Agentic AI -- Tools, and Autonomy [3.340255811686752]
最近のAIシステムは、大規模な言語モデルとツール、検索強化生成(RAG)による外部知識を組み合わせている。
このエージェントAIパラダイムは、能力を大幅に拡張すると同時に、攻撃面を大きく拡大する。
我々は、即時レベルの注射、知識ベース中毒、ツール/プラグインエクスプロイト、マルチエージェント緊急脅威にまたがる攻撃の包括的分類を開発する。
論文 参考訳（メタデータ） (2026-03-24T08:21:51Z) - Security Considerations for Multi-agent Systems [4.004329206052807]
マルチエージェント人工知能システム(英: Multi-agent AI system、MAS)は、エージェント間のコミュニケーションを通じて、委任されたツール権限を行使し、永続的なメモリを共有し、コーディネートする自律エージェントのシステムである。
本研究は、MASの脅威景観を体系的に特徴づけ、それに対するAIのための16のセキュリティフレームワークを定量的に評価する。
論文 参考訳（メタデータ） (2026-03-09T22:46:27Z) - The Landscape of Prompt Injection Threats in LLM Agents: From Taxonomy to Analysis [24.51410516475904]
The Prompt Injection (PI) landscape, including attack, Defenses, and their evaluation practices。
我々は,コンテキストに依存したインタラクション設定下でエージェントの振る舞いを体系的に評価する新しいベンチマークであるAgentPIを紹介する。
我々は,文脈依存推論が不可欠である現実的なエージェント設定に一般化することができないが,文脈依存的入力を抑えることで,既存のベンチマークにおいて多くの防御が有効であることを示す。
論文 参考訳（メタデータ） (2026-02-11T02:47:10Z) - Just Ask: Curious Code Agents Reveal System Prompts in Frontier LLMs [65.6660735371212]
textbftextscJustAskは,インタラクションのみで効果的な抽出戦略を自律的に発見するフレームワークである。
これは、アッパー信頼境界に基づく戦略選択と、原子プローブと高レベルのオーケストレーションにまたがる階層的なスキル空間を用いて、オンライン探索問題として抽出を定式化する。
この結果から,現代のエージェントシステムにおいて,システムプロンプトは致命的ではあるがほぼ無防備な攻撃面であることがわかった。
論文 参考訳（メタデータ） (2026-01-29T03:53:25Z) - Explainable and Fine-Grained Safeguarding of LLM Multi-Agent Systems via Bi-Level Graph Anomaly Detection [76.91230292971115]
大規模言語モデル (LLM) に基づくマルチエージェントシステム (MAS) は複雑なタスクを解く上で強力な能力を示している。
XG-Guardは、MAS内の悪意のあるエージェントを検出するための、説明可能な、きめ細かい保護フレームワークである。
論文 参考訳（メタデータ） (2025-12-21T13:46:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。