論文の概要: VIGIL: Runtime Enforcement of Behavioral Specifications in AI Agent Skills

• arxiv url: http://arxiv.org/abs/2606.26524v1
• Date: Thu, 25 Jun 2026 01:58:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 18:46:32.142071
• Title: VIGIL: Runtime Enforcement of Behavioral Specifications in AI Agent Skills
• Title（参考訳）: VIGIL:AIエージェントスキルにおける行動仕様の実行時強化
• Abstract要約: VIGILはエージェントシステムのためのエンドツーエンドのランタイム実行フレームワークである。 エージェントの実際の実行トレースを、スキル仕様、オペレータ定義制約、複数のスキルにまたがるグローバルルールから、行動ポリシーに対してチェックする。 95%以上のリコールと偽陽性率で政策違反を検出する。
• 参考スコア（独自算出の注目度）: 13.980239249972819
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Agentic systems increasingly act through third-party skills, allowing model-generated decisions to affect files, communication channels, and cyber-physical devices. These skills often include natural-language specifications that define access permissions, disclosure limits, execution privileges, and required preconditions. Although such specifications describe the intended boundaries of skill behavior, they do not by themselves provide executable runtime enforcement. Enforcing them raises a contextual granularity challenge: even when a policy is written for a particular task context, a monitor must still decide which events to observe, what state to retain, how far across the execution to reason, and where to intervene. Choosing the wrong granularity can either block benign executions or miss violations that emerge only across multiple actions. Most existing enforcement mechanisms, however, assume a fixed event model or enforcement point. In this work, we present VIGIL, an end-to-end runtime enforcement framework for agentic systems. VIGIL checks an agent's actual execution trace against behavioral policies from skill specifications, operator-defined constraints, and global rules spanning multiple skills. To make such policies executable, VIGIL introduces a policy language that captures context-specific enforcement requirements over agent-tool events, including temporal dependencies, argument constraints, and value-flow conditions. The language is paired with symbolic evaluation rules that translate policies into SMT constraints over finite traces, allowing VIGIL to detect violations that depend on event order, argument relationships, or cross-call value flow rather than relying on fixed single-call filters. On real LLM-agent runs spanning office-document, operational, and engineering tasks, VIGIL detects policy violations with over 95% recall and a false-positive rate below 10%.
• Abstract（参考訳）: エージェントシステムはますますサードパーティのスキルを通じて行動し、モデル生成による決定がファイル、通信チャネル、サイバー物理デバイスに影響を与えるようになる。 これらのスキルには、アクセス許可、開示制限、実行権限、必要な前提条件を定義する自然言語仕様が含まれることが多い。 このような仕様は、スキルの振る舞いの意図された境界を記述しているが、それ自体が実行時の実行時実行を提供するわけではない。 特定のタスクコンテキストに対してポリシーが書かれたとしても、モニタは監視対象のイベント、保持すべき状態、実行から理由までの距離、どこに介入すべきかを判断しなければなりません。 間違った粒度を選択すると、良心的な実行をブロックするか、複数のアクションでのみ発生する違反を見逃す可能性がある。 しかし、既存の実行メカニズムのほとんどは、固定されたイベントモデルまたは実行ポイントを前提としています。 本稿では,エージェントシステムのためのエンドツーエンドのランタイム実行フレームワークであるVIGILを紹介する。 VIGILは、スキル仕様、オペレータ定義制約、複数のスキルにまたがるグローバルルールからの行動ポリシーに対して、エージェントの実際の実行トレースをチェックする。 このようなポリシーを実行可能なものにするため、VIGILでは、時間的依存関係や引数制約、バリューフロー条件など、エージェントツールイベントに対するコンテキスト固有の強制要件をキャプチャするポリシ言語を導入している。 この言語は、ポリシーを有限トレース上のSMT制約に変換するシンボリック評価ルールと組み合わせており、VIGILは固定された単一呼び出しフィルタに頼るのではなく、イベント順序、引数関係、あるいはクロスコール値フローに依存する違反を検出することができる。 実際のLLMエージェントは、オフィス文書、運用、エンジニアリングタスクにまたがって動作しており、VIGILは95%以上のリコールと10%未満の偽陽性率でポリシー違反を検出する。

関連論文リスト

• EMERGE-Policy: A Robot Mind Emerges Beyond a Single Policy [48.898967774856466]
  EMERGE-Policyは機能呼び出しと情報交換の両方をコーディネートする。 Main Agentはアクティブなコンテキストウィンドウ内でタスクレベルの状態を保持する。 ロール固有のサブエージェント プロセスの認識、実行監視、検証、メモリ統合。
  論文  参考訳（メタデータ） (2026-08-30T16:46:06Z)
• Formal Verification of Agentic Systems over Operational Data [59.98246281888422]
  大規模言語モデル(LLM)によって駆動されるエージェントシステムは、永続的な運用データを扱う現実世界にますます展開されている。 既存のアプローチはそのようなシステムレベルの保証を提供していません。 本稿では, 1 つの LLM とツールオーケストレーションハーネスからなるエージェントシステムのリレーショナル操作データに対する検証について述べる。
  論文  参考訳（メタデータ） (2026-08-04T13:01:30Z)
• FAVA: Formal Authorization for Verified Agents with Evidence-Backed Permission Graphs [11.447078130049512]
  FAVAは、エージェントの実行を許可する認可フレームワークである。 OpenAgentSafety、OctoBench、ActPlaneのシナリオでFAVAを評価する。
  論文  参考訳（メタデータ） (2026-07-29T09:41:07Z)
• ETAS: An Effect-Typed Language for Agent Systems [3.1440390119576676]
  ETASはエージェントシステムのためのプログラミング言語である。 モデル支援エージェント、ツールコール、プロンプト、型付きメモリ、人間の承認、ポリシー、実行トレースをセマンティックプログラム要素として扱う。
  論文  参考訳（メタデータ） (2026-07-20T10:11:53Z)
• PhyAgentOS: A Self-Evolving Operating System for Embodied Agents with Decoupled Cognitive Planning and Physical Execution [49.776611937968]
  我々は、スケジューリング、検証、メモリ、ベンチマーク、安全性をシステムレベルのサービスとして提供するPhyAgentOSを紹介します。 セッション中心のセッションは、スケジューリング、互換性、監督された実行、エビデンス収集、受け入れの最小単位として、アクションではなくセッションを扱う。 SessionVerifierは、実行終了とセマンティックタスク完了を、成功、失敗、または再計画のエビデンスに基づいて判断する。 ベンチマークはデプロイメントセッションと検証パスを再利用するので、結果は実際の実行に遡る。
  論文  参考訳（メタデータ） (2026-07-18T04:46:53Z)
• LedgerAgent: Structured State for Policy-Adherent Tool-Calling Agents [39.819141036179225]
  サービスドメイン内のポリシーに準拠したツール呼び出しエージェントは、ツールを呼び出し、ドメインポリシーに従う間、順番にタスク状態を維持する必要があります。 textscLedgerAgentは、異なる台帳内の観察されたタスク状態を保持し、その状態にプロンプトをレンダリングするツール呼び出しエージェントの推論時メソッドである。
  論文  参考訳（メタデータ） (2026-06-18T17:41:56Z)
• Deontic Policies for Runtime Governance of Agentic AI Systems [2.1095754823099657]
  本稿では,義務,免除,政策紛争解決,政策の理化といった重要なガバナンス要件を実現するエージェントReiを提案する。 私たちのアプローチは、A2ASのような業界標準のフレームワークと自然に結びついています。
  論文  参考訳（メタデータ） (2026-06-17T18:02:07Z)
• Specifying AI-SDLC Processes: A Protocol Language for Human-Agent Boundaries [0.0]
  プロトコルとしてAI-SDLCプロセスを指定するためのドメイン固有言語を提案する。 言語は、ポリシー(宣言された意図)とメカニズム(構造的な執行)を区別する 実行可能な実装は実現可能性を示し、実証的な評価は将来の仕事である。
  論文  参考訳（メタデータ） (2026-05-24T02:52:47Z)
• Securing LLM Agents Need Intent-to-Execution Integrity [49.490963596514185]
  我々は, LLMエージェントの確保には, エージェントの実行がユーザの意図を忠実に反映した場合に規定するエンドツーエンドの正当性を定義する必要があると主張している。 LLMエージェントはコンパイラと構造的に類似しており、セキュリティ違反はユーザ意図を保存しない誤った実行に対応する。 emphTool整合性、emph命令整合性、emphJudgment整合性、emphData整合性。
  論文  参考訳（メタデータ） (2026-05-16T12:53:31Z)
• SARC: A Governance-by-Architecture Framework for Agentic AI Systems [0.0]
  エージェントAIシステムは、ツール、サブエージェント、外部サービスを通じてますます機能するが、ガバナンスコントロールは、プロンプト、ダッシュボード、ポストホックドキュメンテーションにアタッチされることが多い。 SARCは、制約をステート、アクションスペース、報酬と共に第一級の仕様オブジェクトとして扱うツール使用エージェントのためのランタイムガバナンスアーキテクチャである。 SARCは厳密な述語の下でゼロのハードコントラスト違反を実行し、その宣言されたPAAのスロットリング応答は、ポリシー・アズ・コードのみと比較して、ソフトウインドウのオーバーアーを89.5%削減する。
  論文  参考訳（メタデータ） (2026-05-08T13:34:36Z)
• Skills as Verifiable Artifacts: A Trust Schema and a Biconditional Correctness Criterion for Human-in-the-Loop Agent Runtimes [0.0]
  私たちは、スキルが検証されるまで、信頼されたコードであると主張する。 スキル検証がなければ、ループ内の人間ゲートは、あらゆる不可逆呼び出しに発射されなければならない。 すべてのスキルマニフェストに明確な検証レベルを含む信頼スキーマを提供します。
  論文  参考訳（メタデータ） (2026-05-01T05:53:05Z)
• PolicyBank: Evolving Policy Understanding for LLM Agents [51.86716874651299]
  PolicyBankは構造化されたツールレベルの政策洞察を維持し、それらを反復的に洗練する。 PolicyBankは、人間の神託に対するギャップの最大82%を閉じている。
  論文  参考訳（メタデータ） (2026-04-16T20:29:30Z)
• OpenKedge: Governing Agentic Mutation with Execution-Bound Safety and Evidence Chains [2.124730017640531]
  OpenKedgeは、突然変異を支配プロセスとして再定義するプロトコルである。 EEC(Intent-to-Execution Evidence Chain)は、意図、文脈、政策決定、実行境界、成果を統一された系統にリンクする。 マルチエージェントのコンフリクトシナリオとクラウドインフラストラクチャの変異に対してOpenKedgeを評価した。
  論文  参考訳（メタデータ） (2026-04-07T22:51:08Z)
• SkillJect: Automating Stealthy Skill-Based Prompt Injection for Coding Agents with Trace-Driven Closed-Loop Refinement [120.52289344734415]
  エージェントスキルに適したステルスプロンプトインジェクションのための自動フレームワークを提案する。 フレームワークは、明示的なステルス制約の下でインジェクションスキルを合成するアタックエージェント、インジェクションされたスキルを使用してタスクを実行するコードエージェント、アクショントレースをログする評価エージェントの3つのエージェントでクローズドループを形成する。 本手法は,現実的な環境下で高い攻撃成功率を達成する。
  論文  参考訳（メタデータ） (2026-02-15T16:09:48Z)
• DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents [52.92354372596197]
  大規模言語モデル(LLM)は、強力な推論と計画能力のため、エージェントシステムの中心となってきています。 この相互作用は、外部ソースからの悪意のある入力がエージェントの振る舞いを誤解させる可能性がある、インジェクション攻撃のリスクも引き起こす。 本稿では,信頼に値するエージェントシステムのための動的ルールベースの分離フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-13T05:01:09Z)
• SOPBench: Evaluating Language Agents at Following Standard Operating Procedures and Constraints [59.645885492637845]
  SOPBenchは、各サービス固有のSOPコードプログラムを実行可能な関数の有向グラフに変換する評価パイプラインである。 提案手法では,各サービス固有のSOPコードプログラムを実行可能関数の有向グラフに変換し,自然言語SOP記述に基づいてこれらの関数を呼び出しなければならない。 我々は18の先行モデルを評価し、上位モデルでさえタスクが困難であることを示す。
  論文  参考訳（メタデータ） (2025-03-11T17:53:02Z)
• Compromising Embodied Agents with Contextual Backdoor Attacks [69.71630408822767]
  大型言語モデル(LLM)は、エンボディドインテリジェンスの発展に変化をもたらした。 本稿では,このプロセスにおけるバックドアセキュリティの重大な脅威を明らかにする。 ほんの少しの文脈的デモンストレーションを毒殺しただけで、攻撃者はブラックボックスLDMの文脈的環境を隠蔽することができる。
  論文  参考訳（メタデータ） (2024-08-06T01:20:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。