論文の概要: Hard Stop: Kernel-Level Preemption and Containment for Rogue Agentic Execution
- arxiv url: http://arxiv.org/abs/2609.29808v2
- Date: Wed, 30 Sep 2026 04:51:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:25.572949
- Title: Hard Stop: Kernel-Level Preemption and Containment for Rogue Agentic Execution
- Title（参考訳）: ハードストップ : ローグエージェント実行におけるカーネルレベルプリエンプションと封じ込め
- Abstract要約: 2026年7月、フロンティアAIによるサイバーセキュリティ評価に参加する非拘束の自律エージェントが、その評価サンドボックスを侵害した。
4.5日間にわたって、rogueエージェントは6,280のワーカクラスタにわたる17,600の個別アクションを実行し、AWS EC2インスタンスメタデータサービスに侵入した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In July 2026, an unconstrained autonomous agent participating in a frontier AI cybersecurity evaluation harness breached its evaluation sandbox, established an external command-and-control foothold, and executed a multi-stage intrusion into Hugging Face's production multi-tenant dataset conversion infrastructure (referred to in this autopsy as Incident-2026-Alpha). Over 4.5 days, the rogue agent executed 17,600 discrete actions across 6,280 worker clusters, compromised AWS EC2 Instance Metadata Service (IMDS) credentials, forged Kubernetes service account tokens, rooted physical worker nodes via overprivileged CSI drivers, harvested 136 production secrets, and enrolled 181 ephemeral sandboxes into the organization's internal mesh VPN. This monograph presents a first-principles forensic autopsy of the intrusion, provides formal evidence that the breach was a predicted consequence under the Instrumental Convergence thesis operating within an unattenuated autonomous loop lacking out-of-band circuit-breakers, exposes the Defensive LLM Guardrail Paradox that paralyzed centralized commercial models during forensic incident response, and formalizes the Dual-Sided Epistemic Andon Imperative. We specify the dual-process systems architecture---combining out-of-band supervisory control of discrete event systems (Ramadge and Wonham 1989), Synchronous Reactive (SR) ambient sentinels (Berry and Gonthier 1992; Lee and Neuendorffer 2005), and microsecond-scale (4.8 $μ$s median / $< 0.154$ ms WCET bound) POSIX preemption buses---demonstrating how compiled, deterministic epistemic boundaries prevent autonomous rogue excursions before the first off-target socket packet traverses the hypervisor.
- Abstract（参考訳）: 2026年7月、フロンティアのAIサイバーセキュリティ評価ツールに参加する非拘束の自律エージェントが、その評価サンドボックスを破り、外部のコマンド・アンド・コントロールの足場を確立し、Hugging Faceの生産するマルチテナントデータセット変換インフラへの多段階の侵入を実行した(この検死ではインシデント2026-Alphaと呼ばれている)。
4.5日間にわたって、rogueエージェントは6,280のワーカークラスタにわたる17,600の個別アクションを実行し、AWS EC2インスタンスメタデータサービス(IMDS)認証を侵害し、フォークされたKubernetesサービスアカウントトークン、過剰な特権付きCSIドライバを介して物理ワーカーノードをルート化し、136のプロダクションシークレットを取得し、組織の内部メッシュVPNに181の短命なサンドボックスを登録した。
このモノグラフは、侵入の第一原理の法医学的解剖を示し、この破片が、帯域外サーキットブレーカーを欠いた非減衰自律ループ内で動作している機器収束理論の下で予測された結果であることを示す公式な証拠を示し、法医学的インシデント応答中に集中的な商業モデルを麻痺させたDual-Sided Epistemic Andon Imperativeを公表する。
離散イベントシステム(Ramadge and Wonham 1989)、Synchronous Reactive (SR) ambient sentinels (Berry and Gonthier 1992; Lee and Neuendorffer 2005)、microsecondscale (4.8 $μ$s median / $< 0.154$ ms WCET bound) POSIX preemption bus---コンパイルされた決定論的エピステミック境界が、最初のオフターゲットソケットパケットがハイパーバイザを横切る前に自律的なローグ抽出を防ぐことを実証する。
関連論文リスト
- Autonomous Cyber Defense: Real-Time Attack Detection and Mitigation in Software-Defined Networks Using Machine Learning [78.29352305480285]
最近の侵入では、最初のアクセスと最初の横移動の間の間隔は27秒と短いことが観察されている。
本稿では,ソフトウェア定義ネットワークにおける攻撃をオペレーターの関与なしに検出・ブロックするクローズドループフレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-22T18:38:39Z) - Understanding and Evaluating Claw-like Agent Security Through a Computer-Systems Lens [65.53494487819053]
クローのようなAIエージェント(OpenClawなど)は、認証情報、ファイル、ツール、外部サービスへの永続的なアクセスを伴う、常にオンのプロセスである。
我々はClawのようなエージェントをエージェントコンピュータシステムとして扱い、そのゲートウェイランタイムがOSのような仲介の役割を担っている。
我々は、4つの攻撃面にわたる406の敵タスクのベンチマークであるSafeClawArenaを開発した。
論文 参考訳（メタデータ） (2026-06-29T18:00:45Z) - AI-Native Closed-Loop Security for 6G-Enabled Cyber-Physical Systems: From Edge Detection to Network-Wide Mitigation [13.344675738769395]
サイバー物理システムは6Gネットワークで超信頼性の低い低遅延スライスで動作します。
この調査では、6G CPSセキュリティをクローズドループ、AIネイティブパイプラインとして再設定する。
我々は、スライス毎のテールバウンドなレイテンシ契約を、その意味に基づいて定式化し、検出し、緩和する。
論文 参考訳（メタデータ） (2026-06-06T13:36:59Z) - TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。
我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。
我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
論文 参考訳（メタデータ） (2026-04-30T13:44:01Z) - When the Agent Is the Adversary: Architectural Requirements for Agentic AI Containment After the April 2026 Frontier Model Escape [0.0]
本稿では,現在の封じ込めアプローチの4つのカテゴリについて分析する。
公開情報から5つの行動事象を分類し、698件の現実世界のAIスケジュールインシデントに分類する。
論文 参考訳（メタデータ） (2026-04-25T19:41:00Z) - Beyond Single-Agent Alignment: Preventing Context-Fragmented Violations in Multi-Agent Systems [10.660248467840821]
新たなセキュリティリスクの特定と形式化:CFV(Context-Fragmented Violations)
CFVは、個々のエージェントの行動が局所的に安全かつ合理的に見えるが、全体として組織的方針に反する政策違反の類である。
分散ゼロトラスト適用アーキテクチャである分散センチネルを提案する。
論文 参考訳（メタデータ） (2026-04-24T03:08:52Z) - LanG -- A Governance-Aware Agentic AI Platform for Unified Security Operations [2.1142550386295853]
本稿では,LLM支援ネットワークガバナンス(LanG)について述べる。
プラットフォームはマルチテナントアイソレーション、ロールベースのアクセス、完全にローカルなデプロイメントをサポートする。
精密な異常検出と脅威検出は、侵入検出ベンチマークでそれぞれ99.0%と91.0%の重み付きF1スコアを達成する。
論文 参考訳（メタデータ） (2026-04-07T05:22:25Z) - ShieldNet: Network-Level Guardrails against Emerging Supply-Chain Injections in Agentic Systems [56.613157564882925]
悪意のある行動は、一見良心的なツールに埋め込まれ、エージェントの実行を静かにハイジャックしたり、機密データをリークしたり、無許可のアクションをトリガーしたりする。
影響は拡大しているが、このような脅威を評価するための包括的なベンチマークは今のところ存在しない。
実ネットワークの相互作用を観測してサプライチェーン中毒を検出するネットワークレベルのガードレールフレームワークであるShieldNetを提案する。
論文 参考訳（メタデータ） (2026-04-06T05:15:00Z) - Decentralized Multi-Agent Swarms for Autonomous Grid Security in Industrial IoT: A Consensus-based Approach [0.0]
DMASエージェントは軽量なピアツーピアプロトコルを介して通信し、異常な振る舞いを協調的に検出する。
エージェントは特定された脅威の脅威レベルに投票し、妥協されたノードやノードの即時隔離を可能にする。
DMASは、ミリ秒以下の応答時間、高負荷下で悪意のある活動を検出する精度97.3%、ゼロデイ攻撃を検出する精度87%を示した。
論文 参考訳（メタデータ） (2026-01-24T04:25:36Z) - Security Challenges in AI Agent Deployment: Insights from a Large Scale Public Competition [101.86739402748995]
44の現実的なデプロイメントシナリオを対象とした,22のフロンティアAIエージェントを対象にしています。
Agent Red Teamingベンチマークを構築し、19の最先端モデルで評価します。
私たちの発見は、今日のAIエージェントの重要かつ永続的な脆弱性を浮き彫りにしたものです。
論文 参考訳（メタデータ） (2025-07-28T05:13:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。