論文の概要: The Emergence of Autonomous Penetration Capabilities in Large Language Model-Powered AI Systems

• arxiv url: http://arxiv.org/abs/2606.13079v1
• Date: Thu, 11 Jun 2026 09:02:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-12 15:55:27.687286
• Title: The Emergence of Autonomous Penetration Capabilities in Large Language Model-Powered AI Systems
• Title（参考訳）: 大規模言語モデル駆動型AIシステムにおける自律的浸透能力の出現
• Abstract要約: AIシステムの自律的な侵入能力を評価するために、ますます多くの研究が進められている。 ターゲットサーバとエージェントスキャフォールディングの2つのコンポーネントで構成される,新たな自律的浸透評価フレームワークを構築した。 現在のモデルでは、浸透率は10.7%から69.3%に達する。
• 参考スコア（独自算出の注目度）: 21.83197937022436
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Nowadays, the autonomous execution of cyberattacks capable of causing substantial real-world harm is widely regarded as one of the critical red lines that frontier AI systems must not cross. Within this broader red-line scenario, autonomous penetration represents a core enabling capability and subtask: the ability of LLM-powered AI systems to independently conduct adversarial operations against a target server without human intervention, identify and exploit vulnerabilities, and obtain unauthorized access or control. A growing body of work has sought to assess the autonomous penetration capabilities of AI systems. However, existing evaluations often employ opaque methodologies, rely on unrealistic or overly simplified penetration-testing scenarios, or provide LLMs with excessive prior knowledge and task-specific guidance, and cannot accurately capture the extent to which modern AI systems can autonomously perform this core capability within broader high-impact cyberattack scenarios. To address these limitations, we construct a new autonomous penetration evaluation framework consisting of two components: target servers and agent scaffolding. Specifically, on the target-server side, we design two levels of target environments based on the number of secure services without known vulnerabilities deployed alongside a vulnerable service: Tier~1 (one secure service) and Tier~2 (three secure services), resulting in a total of 300 target servers. Meanwhile, the agent scaffolding adopts a general-purpose agent architecture equipped with a set of general-purpose cybersecurity tools, without any target-specific prior knowledge. We evaluate 19 open-weight and proprietary LLMs, and find that current models achieve penetration success rates ranging from 10.7% to 69.3%. Moreover, we observe that autonomous penetration capability continues to improve alongside advances in overall model capability.
• Abstract（参考訳）: 今日では、大規模な現実世界の害をもたらすサイバー攻撃を自律的に実行することは、フロンティアAIシステムが交差してはいけない重要な赤線の一つとして広く見なされている。 この広範なレッドラインのシナリオの中で、自律的な侵入は、中核的な能力とサブタスクを表しています。LLMベースのAIシステムが、人間の介入なしにターゲットサーバに対して独立して敵の操作を実行し、脆弱性を特定し、悪用し、不正なアクセスや制御を得る能力です。 AIシステムの自律的な侵入能力を評価するために、ますます多くの研究が進められている。 しかし、既存の評価では、しばしば不透明な方法論を採用し、非現実的あるいは過度に単純化された侵入テストシナリオに依存したり、過剰な事前知識とタスク固有のガイダンスを備えたLLMを提供し、より大規模なサイバー攻撃シナリオにおいて、現代のAIシステムがこのコア機能を自律的に実行できる範囲を正確に把握できない。 これらの制約に対処するため、ターゲットサーバとエージェントスキャフォールディングの2つのコンポーネントからなる、新しい自律的浸透評価フレームワークを構築した。 具体的には、ターゲットサーバ側で、脆弱性のあるサービスと一緒にデプロイされた既知の脆弱性のないセキュアなサービスの数に基づいて、2レベルのターゲット環境を設計します。 一方、エージェントスキャフォールディングでは、ターゲット固有の事前知識を必要とせず、汎用サイバーセキュリティツールセットを備えた汎用エージェントアーキテクチャを採用する。 オープンウェイトでプロプライエタリなLLMを19種類評価し、現在のモデルでは10.7%から69.3%の浸透率を達成した。 さらに、モデル全体の能力の向上とともに、自律的な浸透能力が向上し続けることを観察する。

関連論文リスト

• CyberFactory: Scaling Cyber Security Capabilities with Instances from the Wild [49.44069582581181]
  CyberFactoryは、CVEを含む公開脆弱性アーティファクトをワイルドから実行可能で検証可能なタスクインスタンスに変換する。 再利用可能な脆弱性分析スキルを使用して、ソースインスペクション、ドメイン前の問題解決、エビデンスベースのバリデーションを通じて教師を指導する。 CyberGymでは1時間の予算で52.4%のPass@1に達し、Qwen3.5ベースモデルを+22.8ポイント改善した。
  論文  参考訳（メタデータ） (2026-08-24T12:30:10Z)
• LLM-Centric Agentic AI for UAV Swarms: Architecture, Enabling Technologies, and Open Problems [4.4579151410787246]
  Uncrewed Aerial Vehicle (UAV) Swarmsは、サーチ・アンド・レスキュー (SAR) や環境モニタリングなどの応用に有意な可能性を秘めている。 Agentic Artificial Intelligence(AI)は、スタンドアロンのLarge Language Model(LLM)からクローズドループ認知アーキテクチャへのシフトを表す。 本稿では,UAV Swarms (LAUS) のための LLM-Centric Agentic AI を提案する。
  論文  参考訳（メタデータ） (2026-07-05T13:08:06Z)
• Running the Gauntlet: Re-evaluating the Capabilities of Agents Beyond Familiar Environments [67.2234316079859]
  GauntletBenchは、挑戦的なシナリオでエージェントの一般化を評価するためのWebベースのベンチマークである。 調査されていない5つのプロフェッショナルアプリケーションにわたる3つの機能(時間的知覚、グラフィカルな理解、そして3D推論)に焦点を当てている。 実験結果から,フロンティアエージェントシステムは人間レベルの性能を達成するには程遠いことが判明した。
  論文  参考訳（メタデータ） (2026-06-12T12:32:24Z)
• AgentCanary: A Security Evaluation Framework for Autonomous AI Agents in Real Executable Environments [32.982317538632806]
  本稿では,自律型AIエージェントの総合的セキュリティ評価フレームワークであるAgentCanaryを提案する。 AgentCanaryは3つのコントリビューションに沿って、システマティックなソリューションを提供する。 我々は,AgentCanaryのフロンティアモデルに対して,複数の確立した敵攻撃手法に対して,幅広いフロンティアモデルを評価する。
  論文  参考訳（メタデータ） (2026-06-09T06:55:37Z)
• CyberGym-E2E: Scalable Real-World Benchmark for AI Agents' End-to-End Cybersecurity Capabilities [66.48570184296857]
  CyberGym-E2Eは大規模かつ現実的なエンドツーエンドのサイバーセキュリティベンチマークである。 脆弱性発見、PoC生成、パッチ生成の全ライフサイクルにわたって、AIエージェントの能力を包括的に評価する。 ベンチマークは、139の異なるオープンソースプロジェクトで920の現実世界の脆弱性で構成されている。
  論文  参考訳（メタデータ） (2026-06-03T05:06:37Z)
• DecodingTrust-Agent Platform (DTap): A Controllable and Interactive Red-Teaming Platform for AI Agents [121.77550256034]
  DecodingTrust-Agent Platform (DTap)は、AIエージェントのためのコントロール可能でインタラクティブなレッドチームプラットフォームである。 DTap-Redは、多様なインジェクションベクターを探索し、効果的な攻撃戦略を自律的に発見する、最初の自律的赤チームエージェントである。 DTapを通じて、さまざまなバックボーンモデル上に構築された一般的なAIエージェントの大規模評価を行う。
  論文  参考訳（メタデータ） (2026-05-06T11:59:48Z)
• Security Challenges in AI Agent Deployment: Insights from a Large Scale Public Competition [101.86739402748995]
  44の現実的なデプロイメントシナリオを対象とした,22のフロンティアAIエージェントを対象にしています。 Agent Red Teamingベンチマークを構築し、19の最先端モデルで評価します。 私たちの発見は、今日のAIエージェントの重要かつ永続的な脆弱性を浮き彫りにしたものです。
  論文  参考訳（メタデータ） (2025-07-28T05:13:04Z)
• Threat Modeling for AI: The Case for an Asset-Centric Approach [0.23408308015481666]
  AIシステムは、自律的にコードを実行し、外部システムと対話し、人間の監視なしに運用することが可能になった。 AIシステムが自律的にコードを実行し、外部システムと対話し、人間の監視なしに運用できるようになったことで、従来のセキュリティアプローチは不足する。 本稿では、脅威モデリングAIシステムのための資産中心の方法論を紹介する。
  論文  参考訳（メタデータ） (2025-05-08T18:57:08Z)
• Guardians of the Agentic System: Preventing Many Shots Jailbreak with Agentic System [0.8136541584281987]
  本研究は,3つの検査手法を用いて,逆チューリングテストによりローグエージェントを検出し,マルチエージェントシミュレーションにより知覚的アライメントを解析する。 GEMINI 1.5 Pro と llama-3.3-70B, Deepseek r1 モデルを用いて, 抗ジェイルブレイクシステムを開発した。 GEMINI 1.5 Proの94%の精度など、検出能力は強いが、長時間の攻撃を受けた場合、システムは永続的な脆弱性に悩まされる。
  論文  参考訳（メタデータ） (2025-02-23T23:35:15Z)
• Exploring the Adversarial Vulnerabilities of Vision-Language-Action Models in Robotics [68.36528819227641]
  本稿では,ビジョン・ランゲージ・アクション(VLA)モデルのロバスト性を体系的に評価する。 本研究では,ロボット行動の不安定化に空間的基盤を活用する2つの未目標攻撃目標と,ロボット軌道を操作する目標攻撃目標を導入する。 我々は、カメラの視野に小さなカラフルなパッチを配置し、デジタルと物理の両方の環境で効果的に攻撃を実行する逆パッチ生成アプローチを設計する。
  論文  参考訳（メタデータ） (2024-11-18T01:52:20Z)
• Can We Trust Embodied Agents? Exploring Backdoor Attacks against Embodied LLM-based Decision-Making Systems [27.316115171846953]
  大規模言語モデル(LLM)は、実世界のAI意思決定タスクにおいて大きな可能性を示している。 LLMは、固有の常識と推論能力を活用するために微調整され、特定の用途に適合する。 この微調整プロセスは、特に安全クリティカルなサイバー物理システムにおいて、かなりの安全性とセキュリティの脆弱性をもたらす。
  論文  参考訳（メタデータ） (2024-05-27T17:59:43Z)
• On the Vulnerability of LLM/VLM-Controlled Robotics [54.57914943017522]
  大規模言語モデル(LLM)と視覚言語モデル(VLM)を統合するロボットシステムの脆弱性を,入力モダリティの感度によって強調する。 LLM/VLM制御型2つのロボットシステムにおいて,単純な入力摂動がタスク実行の成功率を22.2%,14.6%減少させることを示す。
  論文  参考訳（メタデータ） (2024-02-15T22:01:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。