論文の概要: Toward Secure AI-Powered Penetration Testing Agents: Security Threats, Guardrails, and Architectural Perspectives
- arxiv url: http://arxiv.org/abs/2609.16694v1
- Date: Tue, 15 Sep 2026 06:19:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 14:56:08.372332
- Title: Toward Secure AI-Powered Penetration Testing Agents: Security Threats, Guardrails, and Architectural Perspectives
- Title（参考訳）: セキュアなAI駆動貫入テストエージェントを目指して - セキュリティの脅威、ガードレール、アーキテクチャの観点から
- Abstract要約: LLMを動力とする自律エージェントは、動的で多段階の攻撃的セキュリティで浸透試験空間を変革している。
しかし、永続的なメモリを持ち、現実世界で行動し、長期にわたる推論を行う能力は、質的に異なるセキュリティ上の懸念を引き起こす。
既存の会話型AIのガードレール機構は、それに応じて自律型AIペンテスティングエージェントを確保するのに十分ではないかもしれない。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: LLM-powered autonomous agents are transforming the penetration testing space with dynamic, multi-step offensive security workflows that require minimal supervision by humans. These agents leverage sophisticated reasoning abilities and external security tools to independently carry out reconnaissance, identify vulnerabilities, devise exploitation plans, and perform post-exploitation operations. But the ability to have persistent memory, to take actions in the real world, and to do long-horizon reasoning raises qualitatively different security concerns than traditional chat-based LLM systems. Existing guardrail mechanisms for conversational AI may not be sufficient to secure autonomous AI pentesting agents accordingly. To address these issues, we carry out a comprehensive security analysis on autonomous AI-penetration testing agents. We systematically analyse representative agent architectures, characterise their trust boundaries and attack surfaces and propose a threat taxonomy that is aligned with the lifecycle and covers LLM lifecycle attacks, agent-architecture attacks and cross-cutting behavioural attacks. We analyse the limitations of existing guardrail mechanisms, identify key research gaps, and discuss future research directions for developing specialised, context-aware, and architecture-aware guardrails to secure next-generation AI-driven offensive security systems.
- Abstract（参考訳）: LLMを動力とする自律エージェントは、人間による最小限の監視を必要とする動的で多段階の攻撃的セキュリティワークフローによって、浸透試験空間を変革している。
これらのエージェントは高度な推論能力と外部セキュリティツールを活用して、独立して偵察を行い、脆弱性を特定し、搾取計画を考案し、探索後の操作を行う。
しかし、永続的なメモリを持ち、現実世界で行動し、長期にわたる推論を行う能力は、従来のチャットベースのLLMシステムと定性的に異なるセキュリティ上の懸念を引き起こす。
既存の会話型AIのガードレール機構は、それに応じて自律型AIペンテスティングエージェントを確保するのに十分ではないかもしれない。
これらの問題に対処するため、自律型AIネットワークテストエージェントの総合的なセキュリティ分析を行う。
我々は、代表エージェントアーキテクチャを体系的に分析し、信頼境界と攻撃面を特徴づけ、ライフサイクルに整合した脅威分類を提案し、LCMライフサイクルアタック、エージェントアーキテクチャアタック、クロスカット行動アタックをカバーしている。
我々は、既存のガードレール機構の限界を分析し、重要な研究ギャップを特定し、次世代のAI駆動型攻撃セキュリティシステムを確保するために、特殊化、コンテキスト対応、アーキテクチャ対応ガードレールを開発するための今後の研究方向性について議論する。
関連論文リスト
- LLM-Centric Agentic AI for UAV Swarms: Architecture, Enabling Technologies, and Open Problems [4.4579151410787246]
Uncrewed Aerial Vehicle (UAV) Swarmsは、サーチ・アンド・レスキュー (SAR) や環境モニタリングなどの応用に有意な可能性を秘めている。
Agentic Artificial Intelligence(AI)は、スタンドアロンのLarge Language Model(LLM)からクローズドループ認知アーキテクチャへのシフトを表す。
本稿では,UAV Swarms (LAUS) のための LLM-Centric Agentic AI を提案する。
論文 参考訳（メタデータ） (2026-07-05T13:08:06Z) - AgentLens: Interpretable Safety Steering via Mechanistic Subspaces for Multi-Turn Coding Agent [53.82005364479556]
大規模言語モデル(LLM)に基づく符号化エージェントは、驚くべき自律性を示す。
既存の安全機構は主に外部ガードレールに依存している。
我々は,ランタイムの安全性検出と表現レベルの緩和を行う,ホワイトボックスの防御フレームワークであるAgentLensを提案する。
論文 参考訳（メタデータ） (2026-06-21T21:13:55Z) - Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。
この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。
各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
論文 参考訳（メタデータ） (2026-05-17T10:26:37Z) - Vision-Language-Action Safety: Threats, Challenges, Evaluations, and Mechanisms [61.29786895012393]
VLA(Vision-Language-Action)モデルがインボディードインテリジェンスのための統一された基盤として登場している。
この調査は、ビジョン・ランゲージ・アクションモデルにおける安全性の統一的で最新の概要を提供する。
論文 参考訳（メタデータ） (2026-04-26T15:58:19Z) - Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses [168.50301366360344]
Embodied AI (Embodied AI) は、知覚、認知、計画、相互作用を、安全クリティカルな環境で機能するエージェントに統合する。
デジタルAIシステムとは異なり、エンボディエージェントは不確実な検知、不完全な知識、動的な人間とロボットの相互作用の下で行動しなければならない。
この調査は、エンボディされたAIにおける安全性研究の包括的なレビューを提供し、完全なエンボディされたパイプラインにわたる攻撃と防御を調査している。
論文 参考訳（メタデータ） (2026-03-28T13:21:44Z) - SoK: The Attack Surface of Agentic AI -- Tools, and Autonomy [3.340255811686752]
最近のAIシステムは、大規模な言語モデルとツール、検索強化生成(RAG)による外部知識を組み合わせている。
このエージェントAIパラダイムは、能力を大幅に拡張すると同時に、攻撃面を大きく拡大する。
我々は、即時レベルの注射、知識ベース中毒、ツール/プラグインエクスプロイト、マルチエージェント緊急脅威にまたがる攻撃の包括的分類を開発する。
論文 参考訳（メタデータ） (2026-03-24T08:21:51Z) - The Attack and Defense Landscape of Agentic AI: A Comprehensive Survey [46.278608570660005]
大規模言語モデルと非AIシステムコンポーネントを組み合わせたAIエージェントは、現実世界のアプリケーションで急速に出現している。
本稿では,AIエージェントのセキュリティに関する最初の体系的かつ包括的な調査について述べる。
論文 参考訳（メタデータ） (2026-03-11T05:25:55Z) - Securing AI Agents in Cyber-Physical Systems: A Survey of Environmental Interactions, Deepfake Threats, and Defenses [2.6726842616701703]
この調査は、サイバー物理システムにおけるAIエージェントをターゲットにしたセキュリティ脅威の包括的なレビューを提供する。
我々は、環境相互作用、ディープフェイクによる攻撃、MCPによる脆弱性に焦点を当てる。
タイミング、騒音、偽陽性がいかに制約可能な防御を犠牲にするかを定量的に説明する。
論文 参考訳（メタデータ） (2026-01-28T02:33:24Z) - Securing Agentic AI Systems -- A Multilayer Security Framework [0.0]
エージェント人工知能(AI)システムのセキュア化には、自律性、意思決定、適応行動によってもたらされる複雑なサイバーリスクに対処する必要がある。
既存のAIセキュリティフレームワークは、これらの課題やエージェントAIのユニークなニュアンスに適切に対処していない。
本研究は,エージェントAIシステムに特化して設計されたライフサイクル対応セキュリティフレームワークを開発する。
論文 参考訳（メタデータ） (2025-12-19T20:22:25Z) - OS-Sentinel: Towards Safety-Enhanced Mobile GUI Agents via Hybrid Validation in Realistic Workflows [77.95511352806261]
VLM(Vision-Language Models)を利用したコンピュータ利用エージェントは、モバイルプラットフォームのようなデジタル環境を操作する上で、人間のような能力を実証している。
我々は,明示的なシステムレベルの違反を検出するための形式検証器と,文脈的リスクとエージェント行動を評価するコンテキスト判断器を組み合わせた,新しいハイブリッド安全検出フレームワークOS-Sentinelを提案する。
論文 参考訳（メタデータ） (2025-10-28T13:22:39Z) - Agentic AI Security: Threats, Defenses, Evaluation, and Open Challenges [14.546961299604554]
大規模言語モデル(LLM)を利用したエージェントAIシステムは、自動化のための強力で柔軟なプラットフォームとして出現している。
ウェブ、ソフトウェア、物理的な環境にまたがってタスクを自律的に実行する能力は、新しい、そして増幅されたセキュリティリスクを生み出します。
この調査はエージェントAI特有の脅威の分類を概説し、最近のベンチマークと評価手法をレビューし、防衛戦略について議論する。
論文 参考訳（メタデータ） (2025-10-27T21:48:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。