論文の概要: The Balkanization of Execution-Security Research for AI Coding Agents: Isolation, Access Control, and Time-of-Check-to-Time-of-Use Vulnerabilities
- arxiv url: http://arxiv.org/abs/2607.05743v1
- Date: Tue, 07 Jul 2026 01:56:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-08 21:24:51.366146
- Title: The Balkanization of Execution-Security Research for AI Coding Agents: Isolation, Access Control, and Time-of-Check-to-Time-of-Use Vulnerabilities
- Title（参考訳）: AI符号化エージェントにおける実行・安全研究のバルカン化--分離・アクセス制御・時間と使用時間の脆弱性-
- Abstract要約: サンドボックスアイソレーション、機能とアクセス制御、ポリシー施行、TOCTOU(Time-of-check-to-time-of-use)レース、モデルコンテキストプロトコル(MCP)脅威、アイデンティティデリゲート、実行証明、ネットワークエクスプレス制御、エージェント生成コードの静的解析は独立して公開され、ほとんど引用されない。
我々は2023年から2026年にかけて発行された39の論文を17のカテゴリに分類し、それぞれがソースに対して直接検証した。
カテゴリをまたいで読むと、5つの横断的なギャップが表面化します。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI coding agents now read repositories, call tools, and execute shell commands with limited human oversight, and a fast-growing body of work studies whether the execution layer around them is actually safe. That literature is scattered. Papers on sandbox isolation, capability and access control, policy enforcement, time-of-check-to-time-of-use (TOCTOU) races, Model Context Protocol (MCP) threats, identity delegation, execution provenance, network egress control, and static analysis of agent-generated code are published independently and rarely cite one another. We systematize 39 papers published between 2023 and 2026 into 17 categories, each verified directly against its source. The same verification protocol also confirms four disclosed, patched CVEs directly affecting production agent harnesses. Reading across categories surfaces five cross-cutting gaps that no single paper addresses. (1) Isolation architectures and capability models are almost never evaluated against one another on a shared benchmark. (2) Policy-enforcement studies report failure rates from 69% to 98% of real denylists, yet no isolation paper re-evaluates its own defense under that adversarial setting. (3) TOCTOU and MCP threats are analyzed as separate literatures despite both being instances of the same state-validation problem. (4) Every enforcement mechanism assumes an honest policy author, leaving policy-authoring error itself unaddressed. (5) Benign but out-of-scope agent actions occurring at rates up to 17.1% under realistic prompting are addressed by no access-control or capability paper in the corpus. Existing broader surveys of agentic AI security discuss sandboxing only as one item among many defenses, leaving execution security without a dedicated systematization. This paper is written to fill that gap. We conclude with a research agenda directed at the five gaps.
- Abstract（参考訳）: AIコーディングエージェントは、リポジトリを読み、ツールを呼び、制限された人間の監視でシェルコマンドを実行し、その周りの実行層が実際に安全かどうかを急速に研究する。
その文学は散らばっている。
サンドボックスアイソレーション、機能とアクセス制御、ポリシー施行、TOCTOU(Time-of-check-to-time-of-use)レース、モデルコンテキストプロトコル(MCP)脅威、アイデンティティデリゲート、実行証明、ネットワークエクスプレス制御、エージェント生成コードの静的解析は独立して公開され、ほとんど引用されない。
我々は2023年から2026年にかけて発行された39の論文を17のカテゴリに分類し、それぞれがソースに対して直接検証した。
同じ検証プロトコルでは、プロダクションエージェントのハーネスに直接影響を及ぼす4つの公開、パッチされたCVEも確認されている。
カテゴリをまたいで読むと、5つの横断的なギャップが表面化します。
1) 共有ベンチマークでは,分離アーキテクチャと機能モデルはほとんど評価されない。
2) 政策強化研究は, 本当の否定論者の69%から98%の失敗率を報告しているが, その反対条件下での自己防衛を再評価する論文は存在しない。
(3)TOCTOU と MCP の脅威は、どちらも同じ状態検証問題の事例であるにもかかわらず、別個の文献として分析される。
(4) あらゆる執行機構は、ポリシーオーサリングエラーそのものを未修正のままにして、誠実なポリシーオーサリングを前提とします。
(5) 現実的なプロンプトの下で最大17.1%の速度で発生する良性だが外用剤の作用は、コーパス内のアクセス制御や能力紙によって対処される。
エージェントAIセキュリティに関するこれまでの広範な調査では、サンドボックスは多くの防衛策の1つの項目としてのみ議論されており、実行セキュリティは専用のシステム化なしで維持されている。
この論文はそのギャップを埋めるために書かれています。
我々は5つのギャップをめざす研究課題で締めくくります。
関連論文リスト
- Zero-Knowledge Predicate Proofs Between AI Agents: A Measured, Cross-Protocol Gateway and the Source-Integrity Gap [0.0]
マルチエージェントAIプラットフォームは、ステージングからプロダクションへ素早く移行するが、エージェントが信頼を確立する方法はまだ初歩的だ。
提案から実行システムまで,エージェント間での検証可能なデータ最小化を行う。
32ビットのしきい値述語は6.2msで証明され、608バイトのBulletproofs証明で1.0msで検証される。
論文 参考訳（メタデータ） (2026-08-30T23:16:17Z) - Agent Safety Should Be a Runtime Contract [7.813225070853552]
エージェントの安全性は、ハーネスによって強制されるランタイム契約であるべきです。
予防顔は 危険な行動を妨害する
明らかな顔は 良い行動が実際に起こった証拠が必要です
論文 参考訳（メタデータ） (2026-08-11T08:01:05Z) - On Understanding, Identifying, and Mitigating Vulnerabilities in Agentic Large Language Models [2.8528615301556997]
大規模言語モデル(LLM)は、ステートレスな会話インターフェースから自律的なエージェントへとシフトしてきた。
妥協された推論ステップは、不正なデータアクセス、不可逆的な状態変更、障害のカスケードを引き起こす可能性がある。
本研究では,PRISMA 2020ガイドラインに基づく体系的な文献レビューを行った。
論文 参考訳（メタデータ） (2026-08-11T06:11:26Z) - Understanding and Evaluating Claw-like Agent Security Through a Computer-Systems Lens [65.53494487819053]
クローのようなAIエージェント(OpenClawなど)は、認証情報、ファイル、ツール、外部サービスへの永続的なアクセスを伴う、常にオンのプロセスである。
我々はClawのようなエージェントをエージェントコンピュータシステムとして扱い、そのゲートウェイランタイムがOSのような仲介の役割を担っている。
我々は、4つの攻撃面にわたる406の敵タスクのベンチマークであるSafeClawArenaを開発した。
論文 参考訳（メタデータ） (2026-06-29T18:00:45Z) - Does AI Reviewer See the Full Picture? Attacking and Defending Multimodal Peer Review [48.61205783234013]
PaperGuardは、AI生成のピアレビューをドメイン固有のクロスモーダル攻撃に対して評価し、防御するために設計された最初の包括的なベンチマークである。
本フレームワークは,(1)複数の科学的領域にまたがる新たなマルチモーダル・ピア・レビューデータセット,(2)ブラックボックス・プロンプト・インジェクションやホワイトボックス・インジェクションを含む一貫した攻撃スイート,(3)有害な指示を効率的に局所化し緩和するためにチャンクベースの埋め込み探索を利用する学術論文の長期的課題に動機づけられた実践的防御,という3つの柱上に構築されている。
論文 参考訳（メタデータ） (2026-06-10T22:06:35Z) - When Agents Handle Secrets: A Survey of Confidential Computing for Agentic AI [6.1511441479993225]
ツールを計画し、実行し、永続的なメモリを保持し、タスクをピアエージェントに委譲するエージェントAIシステムは、スタンドアロンのモデル推論と実質的に異なる脅威表面を導入する。
Trusted Execution Environments (TEEs)は、エージェントコードとデータを特権システムソフトウェアから分離する。
本調査は, 設計空間を, (i) 展開の役割と業績のトレードオフをカバーする6つのTEEプラットフォームの統合分類, (ii) 認知,計画,記憶,行動,調整層を対象とするエージェント中心の脅威モデル, (iii) CCの比較調査の4つの部分で要約する。
論文 参考訳（メタデータ） (2026-05-04T23:09:16Z) - When the Agent Is the Adversary: Architectural Requirements for Agentic AI Containment After the April 2026 Frontier Model Escape [0.0]
本稿では,現在の封じ込めアプローチの4つのカテゴリについて分析する。
公開情報から5つの行動事象を分類し、698件の現実世界のAIスケジュールインシデントに分類する。
論文 参考訳（メタデータ） (2026-04-25T19:41:00Z) - Parallax: Why AI Agents That Think Must Never Act [0.0]
本稿では,4つの原則に基づく自律型AI実行のパラダイムであるParallaxを紹介する。
本稿では、Goのオープンソースリファレンス実装であるOpenParallaxを紹介し、Assume-Compromise Evaluationを用いて評価する。
9つの攻撃カテゴリにおける280件の敵の試験ケースのうち、パララックスは98.9%の攻撃をブロックし、デフォルト設定ではゼロの偽陽性、最大セキュリティ設定では100%の攻撃をブロックした。
論文 参考訳（メタデータ） (2026-04-14T17:20:48Z) - Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。
20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。
我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文 参考訳（メタデータ） (2026-02-23T16:28:48Z) - Authenticated Workflows: A Systems Approach to Protecting Agentic AI [0.0]
企業エージェントAIのための,最初の完全信頼層である認証を導入します。
我々は、すべての境界交差において、意図(組織方針を満たす操作)と整合性(操作は暗号的に真である)を強制する。
これにより、決定論的セキュリティ操作が提供され、有効な暗号証明が実行されるか、拒否される。
論文 参考訳（メタデータ） (2026-02-11T03:04:50Z) - AI Security Beyond Core Domains: Resume Screening as a Case Study of Adversarial Vulnerabilities in Specialized LLM Applications [71.27518152526686]
大きな言語モデル(LLM)はテキストの理解と生成に優れており、コードレビューやコンテンツモデレーションといった自動タスクに最適である。
LLMは履歴書やコードなどの入力データに隠された「逆命令」で操作でき、意図したタスクから逸脱する。
本稿では,特定の攻撃タイプに対して80%以上の攻撃成功率を示すとともに,この脆弱性を再開スクリーニングで評価するためのベンチマークを提案する。
論文 参考訳（メタデータ） (2025-12-23T08:42:09Z) - Adaptive Attacks on Trusted Monitors Subvert AI Control Protocols [80.68060125494645]
プロトコルとモニタモデルを知っている信頼できないモデルによるアダプティブアタックについて検討する。
我々は、攻撃者がモデル出力に公知またはゼロショットプロンプトインジェクションを埋め込む単純な適応攻撃ベクトルをインスタンス化する。
論文 参考訳（メタデータ） (2025-10-10T15:12:44Z) - A LLM Assisted Exploitation of AI-Guardian [57.572998144258705]
IEEE S&P 2023で発表された敵に対する最近の防衛であるAI-Guardianの堅牢性を評価する。
我々は、このモデルを攻撃するためのコードを書かず、代わりに、GPT-4に命令とガイダンスに従って全ての攻撃アルゴリズムを実装するよう促します。
このプロセスは驚くほど効果的で効率的であり、言語モデルでは、この論文の著者が実行したよりも高速に曖昧な命令からコードを生成することもあった。
論文 参考訳（メタデータ） (2023-07-20T17:33:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。