論文の概要: guardscope: Measuring Which Actions Runtime Controls Check in LLM Agent Systems
- arxiv url: http://arxiv.org/abs/2611.15223v1
- Date: Wed, 11 Nov 2026 09:16:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.089344
- Title: guardscope: Measuring Which Actions Runtime Controls Check in LLM Agent Systems
- Title(参考訳): guardscope: LLMエージェントシステムで実行時コントロールをチェックするアクションを測定する
- Abstract要約: カーネルレベル基底真理測定に対するランタイム制御のカバレッジを計測するフレームワークであるガードスコープを提案する。
guardscopeは、エージェントの15のアクションパスのどれがソースからチェックできるかを予測する静的ステージと、デプロイメント上で固定されたワークロードを実行する経験的なステージである。
我々は、Microsoftのエージェントガバナンスツールキットやエージェントゲートウェイを含む2つのエージェントハーネスと実際のランタイムコントロールで実験を行った。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large-language model (LLM) agents execute actions on external systems through tool calls, and enterprises deploy runtime controls, such as agent gateways, to check this behavior in real time. However, a control can only evaluate the actions that cross the point where it is placed, and an agent can act through more paths than the tool-call channel; no existing work measures this coverage against kernel-level ground truth. In this paper, we present guardscope, a framework that makes this coverage measurable. guardscope works in two stages: a static stage that predicts which of an agent's 15 action paths a control can check from its source, and an empirical stage that runs a fixed workload on a deployment that realizes one of eight topology designs and classifies every executed action as checked, bypassed, or prevented by reconciling the control's decision records against kernel-level ground truth. guardscope makes a control's coverage claim verifiable: a runtime control developer can publish which paths its product inspects under a kernel-verified protocol. We conducted experiments with two agent harnesses and real runtime controls, including Microsoft's agent governance toolkit and agentgateway. guardscope is available at https://github.com/VulcanLab/guardscope.
- Abstract(参考訳): 大規模言語モデル(LLM)エージェントはツールコールを通じて外部システム上でアクションを実行し、企業はエージェントゲートウェイなどのランタイムコントロールをデプロイして、この動作をリアルタイムでチェックする。
しかし、コントロールは、その位置を横切るアクションのみを評価することができ、エージェントはツールコールチャネルよりも多くのパスを通り抜けることができる。
本稿では,このカバレッジを計測可能なフレームワークであるガードスコープを提案する。
guardscopeは、エージェントの15のアクションパスのどれがソースからチェックできるかを予測する静的ステージと、8つのトポロジ設計のうちの1つを実現し、実行されたすべてのアクションをチェック、バイパス、あるいはカーネルレベルの基底真理に対してコントロールの決定レコードの調整によって防止するデプロイ上で、固定されたワークロードを実行する経験的なステージである。
guardscopeは、コントロールのカバレッジを検証している: ランタイムコントロール開発者は、その製品がカーネル認証プロトコルの下で検査するパスをパブリッシュできる。
我々は、Microsoftのエージェントガバナンスツールキットやエージェントゲートウェイを含む2つのエージェントハーネスと実際のランタイムコントロールで実験を行った。
guardscopeはhttps://github.com/VulcanLab/guardscope.comで入手できる。
関連論文リスト
- Agentic Visual Generation: From Generative Models to Agentic Control [73.3572965008302]
ほとんどの既存のシステムでは、コントローラはLLMまたはVLMであり、ビジュアルジェネレーションモデルはツールやエグゼクタとして機能する。
計画の深さ、道具の使用、複数ロールの協調、強化学習は、しばしばエージェント性の証拠として扱われる。
生成プロセスにおいて、コントローラが直接制御できるものに応じてフィールドを整理する。
論文 参考訳(メタデータ) (2026-09-06T17:59:24Z) - ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection [61.4148196085256]
本稿では,信頼という構造概念に根ざしたROPE(Routed Origin Policy Enforcement)について述べる。
提案手法では,(1)軌道の各段階において,攻撃可能コンテンツのみを起点とする値が,原点保護パラメータに到達しない,(2)注入のリワードがない,という2つの保証が認められている。
論文 参考訳(メタデータ) (2026-08-27T01:22:14Z) - PhyAgentOS: A Self-Evolving Operating System for Embodied Agents with Decoupled Cognitive Planning and Physical Execution [49.776611937968]
我々は、スケジューリング、検証、メモリ、ベンチマーク、安全性をシステムレベルのサービスとして提供するPhyAgentOSを紹介します。
セッション中心のセッションは、スケジューリング、互換性、監督された実行、エビデンス収集、受け入れの最小単位として、アクションではなくセッションを扱う。
SessionVerifierは、実行終了とセマンティックタスク完了を、成功、失敗、または再計画のエビデンスに基づいて判断する。
ベンチマークはデプロイメントセッションと検証パスを再利用するので、結果は実際の実行に遡る。
論文 参考訳(メタデータ) (2026-07-18T04:46:53Z) - CAVA: Canonical Action Verification and Attestation for Runtime Governance of Agentic AI Systems [0.6526824510982799]
本稿では、異種エージェントのアクティビティを標準ランタイムオブジェクトに変換するランタイム・セマンティック・レイヤを提案する。
このコントリビューションは、デプロイ側AIガバナンスに必要な基盤として、アクションレベルの標準化とポリシー順応可能なセマンティックパターンを定式化したシステムである。
論文 参考訳(メタデータ) (2026-07-15T11:34:34Z) - A hardware-safety-gated system for LLM-written native ARTIQ control code on a trapped-ion platform [18.226528651110133]
大言語モデル(LLM)エージェントは、実験的な制御コードを書き、実行することができる。
チェックされていないコードは装置を損傷させる可能性があり、人間の承認/監督とエージェントの判断の間に正式な操作ごとの境界は存在しない。
本稿では,LLMエージェントを,そのような境界を保ちながらトラップイオン実験のループに配置する制御システムを提案する。
論文 参考訳(メタデータ) (2026-06-25T16:19:23Z) - CIAware-Bench: Benchmarking Control Intervention Awareness Across Frontier LLMs [100.38986535324284]
我々は、フロンティアモデル全体でのtextbfcontrol textbfintervention (CI) の認識を測定するベンチマークである textbfCIAware-Bench を紹介する。
CIAware-Benchは、モデルが自身の軌跡を制御介入によって修正されたものと区別できるかどうかをテストする。
論文 参考訳(メタデータ) (2026-06-09T16:24:16Z) - Proof-Carrying Agent Actions: Model-Agnostic Runtime Governance for Heterogeneous Agent Systems [0.6526824510982799]
本稿では,アクション証明書を中心としたランタイム中立ガバナンスモデルであるProof-Carrying Agent Actions (PCAA)を提案する。
PCAAは5つのチェックポイント(事前行動の許容、行動のオープン、仮定のキャプチャ、承認、結果のクロージャ)を統括する。
異種エージェント制御プレーンと開示バウンダリ評価プロトコルの参照実装を用いてモデルについて検討する。
論文 参考訳(メタデータ) (2026-06-02T18:10:35Z) - OpenClaw PRISM: A Zero-Fork, Defense-in-Depth Runtime Security Layer for Tool-Augmented LLM Agents [6.185334606321749]
OpenClawベースのエージェントゲートウェイ用のゼロフォークランタイムセキュリティ層であるOpenClaw PRISMを提案する。
PRISMはプロセス内プラグインとオプションのサイドカーサービスを組み合わせることで、10つのライフサイクルフックに強制力を分散する。
エージェントランタイム設定におけるセキュリティの有効性,偽陽性,レイヤコントリビューション,ランタイムオーバーヘッド,運用復旧性を評価するための評価手法とベンチマークパイプラインについて概説する。
論文 参考訳(メタデータ) (2026-03-12T12:20:12Z) - Breaking and Fixing Defenses Against Control-Flow Hijacking in Multi-Agent Systems [7.558938027515112]
制御フローハイジャック攻撃は、マルチエージェントシステムのオーケストレーション機構を操作し、安全でないアクションを実行する。
制御フローの整合性と最小特権の原則に着想を得た新しい防衛法であるCrutValveを提案し,実装し,評価する。
論文 参考訳(メタデータ) (2025-10-20T08:02:51Z) - Adaptive Attacks on Trusted Monitors Subvert AI Control Protocols [80.68060125494645]
プロトコルとモニタモデルを知っている信頼できないモデルによるアダプティブアタックについて検討する。
我々は、攻撃者がモデル出力に公知またはゼロショットプロンプトインジェクションを埋め込む単純な適応攻撃ベクトルをインスタンス化する。
論文 参考訳(メタデータ) (2025-10-10T15:12:44Z) - BlindGuard: Safeguarding LLM-based Multi-Agent Systems under Unknown Attacks [58.959622170433725]
BlindGuardは、攻撃固有のラベルや悪意のある振る舞いに関する事前の知識を必要とせずに学習する、教師なしの防御方法である。
BlindGuardはマルチエージェントシステムにまたがる多様な攻撃タイプ(即時注入、メモリ中毒、ツール攻撃)を効果的に検出する。
論文 参考訳(メタデータ) (2025-08-11T16:04:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。