論文の概要: Stop Means Stop: Measuring and Repairing the Enforcement Gap in Agent-Framework Control Primitives

• arxiv url: http://arxiv.org/abs/2607.14166v1
• Date: Wed, 15 Jul 2026 05:55:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-17 17:01:32.848326
• Title: Stop Means Stop: Measuring and Repairing the Enforcement Gap in Agent-Framework Control Primitives
• Title（参考訳）: 停止手段:エージェントフレーム制御プリミティブにおける強化ギャップの測定と修復
• Authors: Sajjad Khan,
• Abstract要約: LLM-agentフレームワークはコントロールプリミティブを公開します。 実行が一時停止されたり、キャンセルされたり、タイムアウトされたりしても、ゲートサイドエフェクトは実行されない。 この暗黙の契約は、私たちがテストした6つの広く使われているオープンソースフレームワークのどれにも当てはまりません。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Production LLM-agent frameworks expose control primitives -- human-in-the-loop approval gates, run cancellation, and execution timeouts -- whose names and documentation imply barrier semantics: while a run is paused, cancelled, or timed out, no gated side effect executes. We show this implied contract holds on none of the six widely used open-source frameworks we test. Model-free differential probes isolate a recurring sibling leak -- an approval gate suspends its own branch while a sibling branch's effect executes during the pause, so a later rejection cannot prevent it -- in every framework shipping a pre-execution gate (five of six), plus three further gaps: replay double-execution, cancellation orphans, and timeout zombies. The hazard is reachable, not merely constructible: under an a-priori-fixed protocol, frontier models emit the leak-triggering plan shape at pooled rates up to 14%, and when live models drive the unmodified frameworks under an approval pause, 215 of 1,200 runs execute their effect during the pause, across three schedulers and two language runtimes. To repair the measured gaps we present SOUNDGATE, an environment-external effect gate in Rust through which every side effect must be admitted, enforcing hold-until-decided, reject-cancels, dedup-on-replay, and fence-on-cancel -- one property per violation class -- under a stated complete-mediation contract discharged for network egress by kernel-enforced routes. We verify the properties over a model of the admission core (Verus; TLA+/TLC, exhaustive to 7.5e7 states; TLAPS), model-check the deployed Rust with Loom, and bridge model to code by differential conformance over 1.2e7 operations -- refinement evidence, not a mechanized proof. SOUNDGATE blocks every measured violation end-to-end on all six frameworks while releasing legitimate effects, at about 1 ms admission per write and 12k-26k durable admissions per second.
• Abstract（参考訳）: プロダクション LLM-agent フレームワークはコントロールプリミティブ - ループ内の承認ゲート、実行キャンセル、実行タイムアウト -- を公開している。 この暗黙の契約は、私たちがテストした6つの広く使われているオープンソースフレームワークのどれにも当てはまりません。 モデルフリーのディファレンシャルプローブは、再実行前のゲート(5つから6つ)を出荷するすべてのフレームワークで、さらに3つのギャップ(ダブル実行、キャンセル孤児、タイムアウトゾンビ)を再現する。 a-priori-fixedプロトコルの下では、フロンティアモデルはプールレートでリークトリガ計画形状を最大14%出力し、ライブモデルが承認停止の下で修正されていないフレームワークを駆動すると、1,200のうち215が3つのスケジューラと2つの言語ランタイムで停止中にその効果を実行する。 SOUNDGATEはRustの環境外効果ゲートで、カーネル強化されたルートによってネットワークエクスプレスのために排出される、ネットワークエクスプレスのための条件付き完全修復契約の下で、ホールド・アンティル決定、拒否キャンセル、デダップ・オン・リプレイ(dedup-on-replay)、フェンス・オン・カンセル( fence-on-cancel)を強制する。 受け入れコアのモデル(Verus, TLA+/TLC, outive to 7.5e7 state; TLAPS, model-check the deployed Rust with Loom, and bridge model to code by differential conformance over 1.2e7 operation -- refinement evidence, not a mechanized proof。 SOUNDGATEは6つのフレームワークすべてに対して、すべての測定済みの違反をブロックし、正当な効果を放出する。

関連論文リスト

• Proof-or-Stop: Don't Trust the Agent, Trust the Evidence -- Loop Engineering for Verifiable Evidence-Gated Lifecycle Control [5.796499740822509]
  本稿では, プロフ・オ・ストップライフサイクル・コントロールについて紹介する。 これは、新しい、追跡されたソースベースで機械的に検証可能な証拠が関連するゲートを満たす場合にのみ、ライフサイクルの遷移を可能にする。 我々は, 機構試験, パワードコントロール・ポリシー・アブレーション, セルフアプリケーション・エビデンスによるオープンソース実装の評価を行った。
  論文  参考訳（メタデータ） (2026-07-16T12:06:21Z)
• Falsifiable Release Gates for Self-Improving Systems [0.0]
  本稿では,フェール可能なリリースゲートと,そのようなシステムの構築と検証方法について述べる。 すべての新機能は、出荷前に、指定されたマシン検証可能な受け入れスイートをパスしなければならない。 コントロールリングによってマイニングされる安全クリティカルなプロパティ機能トークンのないエフェクターには、アクションは発生しない。
  論文  参考訳（メタデータ） (2026-07-11T06:06:34Z)
• Token-Flow Firewall: Semantic Runtime Auditing for Persistent AI Agents [76.4694046738862]
  TokenWallは、エージェントトークンフローのセマンティックファイアウォールとして機能するランタイム防衛フレームワークである。 TokenWallは攻撃成功率を12.5%に抑えつつ、97.4%の良質なパスレートを維持している。
  論文  参考訳（メタデータ） (2026-07-09T12:18:40Z)
• Lingering Authority: Revocable Resource-and-Effect Capabilities for Coding Agents [0.0]
  PortICOは、プランナーに露出する機能のリファレンスモニターである。 明示的なタスクコントラクトを初期機能にコンパイルし、ルールを付与し、信頼できるクロージャ述語、グローバルな否定ルールを付与する。
  論文  参考訳（メタデータ） (2026-06-21T13:52:37Z)
• A Layered Security Framework Against Prompt Injection in RAG-Based Chatbots [1.948261185683419]
  推論パイプライン全体を通して直接および間接的なインジェクションをインターセプトする3層フレームワークを提案する。 GPT-4o、Llama 3、Mistral 7Bの5,080サンプルの評価は、このフレームワークが攻撃成功率(ASR)を71.4%から11.3%に下げていることを示している。
  論文  参考訳（メタデータ） (2026-06-17T23:59:57Z)
• TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
  分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。 我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。 我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
  論文  参考訳（メタデータ） (2026-04-30T13:44:01Z)
• Layerwise Convergence Fingerprints for Runtime Misbehavior Detection in Large Language Models [5.937023024175801]
  本稿では,階層間隠れ状態軌跡を健康信号として扱う無チューニングランタイムモニタであるLayerwise Convergence Fingerprinting (LCF)を紹介する。 4つのアーキテクチャ(Llama-3-8B、Qwen2.5-7B、Gemma-2-9B、Qwen2.5-14B)をバックドア、ジェイルブレイク、即時注入で評価した。
  論文  参考訳（メタデータ） (2026-04-27T14:38:31Z)
• VLAA-GUI: Knowing When to Stop, Recover, and Search, A Modular Framework for GUI Automation [98.38575149237442]
  VLAA-GUIは3つの統合コンポーネントを中心に構築されたモジュラーGUIフレームワークである。 必須完全性検証は、UIで観測可能な成功基準と検証を、各完了ステップで実施する。 強制的なループブレーカは、繰り返し失敗した後、多層切替インタラクションモードを提供する。
  論文  参考訳（メタデータ） (2026-04-23T07:42:37Z)
• Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
  安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。 敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。 最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
  論文  参考訳（メタデータ） (2026-04-14T06:48:33Z)
• Claw-Eval: Toward Trustworthy Evaluation of Autonomous Agents [66.97968363332465]
  エージェントベンチマークの3つのギャップに対処するエンドツーエンド評価スイートであるClaw-Evalを紹介した。 Claw-Evalは3つのグループにまたがる9つのカテゴリにまたがる300の人間検証タスクで構成されている。 すべてのエージェントアクションは、3つの独立したエビデンスチャネルを通じて記録される。
  論文  参考訳（メタデータ） (2026-04-07T17:43:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。