論文の概要: VEPA: Verified Evolving Formal Policy for Lifelong LLM Agent Guardrails

• arxiv url: http://arxiv.org/abs/2610.12813v1
• Date: Thu, 08 Oct 2026 23:49:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.321458
• Title: VEPA: Verified Evolving Formal Policy for Lifelong LLM Agent Guardrails
• Title（参考訳）: VEPA:生涯LLMエージェントガードレールの形式的政策の検証
• Abstract要約: 本稿では,正式なエージェントガードレールの進化を実証するためのフレームワークであるVEPAを紹介する。 VEPAは、タイプされたエージェントイベントに対する実行可能なシンボル規則の正式なポリシーとしてガードレールを表現している。 VEPAは決定論的形式政治の実施範囲を広げつつ、基準線を一貫して上回っている。
• 参考スコア（独自算出の注目度）: 70.49913007464922
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLM agents increasingly operate over sensitive resources, such as private documents and mutable system states, which can create serious safety and security risks. Runtime guardrails should therefore make inspectable, reproducible, and deterministic allow or refuse decisions before potentially irreversible agent actions are executed. However, safety and security requirements are rarely complete before deployment, so guardrails need to keep adapting as new risks emerge. Existing adaptive guardrails learn from deployment experience, but they usually apply safety policies through LLM inference, which can lead to inconsistent decisions and ambiguous policy interpretations. Formal guardrails, on the other hand, enforce policies deterministically, but they usually rely on pre-deployment or task-specific policies and have no mechanism to adapt to newly observed risks. We introduce VEPA, a framework for the verified evolution of formal agent guardrails. VEPA represents the guardrail as a formal policy of executable symbolic rules over typed agent events. During deployment, we use an LLM guided by deployment feedback to propose policy patches that fix newly observed failures while preserving previously correct behavior. Then, a deterministic verifier only accepts policies that are structurally valid and conflict-free. Finally, an evidence-aware authority layer activates a verified rule only when it has enough supporting evidence, so uncertain updates cannot directly affect guardrail decisions. Across ASSEBench-Safety, ASSEBench-Security, and ATBench, VEPA consistently outperforms baselines while expanding the scope of deterministic formal-policy enforcement. These gains also hold under more challenging deployment conditions, including mixed streams, corrupted feedback, and longer horizons.
• Abstract（参考訳）: LLMエージェントは、プライベートドキュメントや変更可能なシステム状態などの機密性の高いリソースを運用し、深刻な安全性とセキュリティリスクを発生させる可能性がある。 したがって、実行時ガードレールは、潜在的に不可逆的なエージェントアクションが実行される前に、検査可能、再現可能、決定論的な許可または拒否を行なわなければならない。 しかし、安全とセキュリティの要件が展開前に完成されることは滅多にないため、新たなリスクが出現するにつれてガードレールは適応し続ける必要がある。 既存の適応ガードレールは、展開経験から学習するが、通常はLLM推論を通じて安全ポリシーを適用し、一貫性のない決定や曖昧なポリシー解釈につながる。 一方、形式的なガードレールは決定論的にポリシーを強制するが、通常は事前配備またはタスク固有のポリシーに依存し、新しく観察されたリスクに適応するメカニズムを持たない。 本稿では,正式なエージェントガードレールの進化を実証するためのフレームワークであるVEPAを紹介する。 VEPAは、タイプされたエージェントイベントに対する実行可能なシンボル規則の正式なポリシーとしてガードレールを表現している。 デプロイ中は、デプロイメントフィードバックによってガイドされたLCMを使用して、以前に正しい動作を維持しながら、新しく観測された障害を修正するポリシーパッチを提案します。 そして、決定論的検証は、構造的に有効で矛盾のないポリシーのみを受け入れる。 最後に、エビデンスを意識した権限層は、十分な証拠がある場合にのみ認証されたルールを起動するので、不確実な更新がガードレールの決定に直接影響を及ぼすことはない。 ASSEBench-Safety、ASSEBench-Security、ATBenchの他、VEPAは決定論的形式政治の実施範囲を広げつつ、一貫してベースラインを上回っている。 これらの増加は、混合ストリーム、破損したフィードバック、より長い水平線など、より困難なデプロイメント条件下でも維持される。

関連論文リスト

• ConsisGuard: Aligning Safety Deliberation with Policy Enforcement in LLM Guardrails [57.25411733152009]
  推論に基づくガードレールは、最終的な決定を下す前に明確な合理性を生成することによって安全性のモデレーションを改善する。 モデルは、その推論において有害な意図を認識することができるが、それでも安全なラベルを予測したり、政策を根拠とした正当化なしに安全でない決定を下す。 推論に基づくガードレールのための一貫性を考慮したフレームワークであるConsisGuardを提案する。
  論文  参考訳（メタデータ） (2026-05-29T09:42:08Z)
• LPG: Balancing Efficiency and Policy Reasoning in Latent Policy Guardrails [41.04710068888387]
  我々は,動的政策に関する世俗的な潜在政策検討を学習するガードレールフレームワークである潜在政策ガードレール(LPG)を紹介した。 政策ガードレールのベンチマークでは、LPG-4Bの平均安全性は84.5%、F1は77.9%に達した。
  論文  参考訳（メタデータ） (2026-05-17T08:35:38Z)
• On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment [54.30690671490447]
  既存の安全アライメント信号は、主に応答レベルまたは政治外である。 FATEは、検証済みの失敗を専門家のデモンストレーションなしで修復管理に変換する。 FATEは攻撃成功率を33.5%、有害なコンプライアンスを82.6%削減し、外的軌道安全診断を6.5%改善する。
  論文  参考訳（メタデータ） (2026-05-12T09:56:28Z)
• PolicyBank: Evolving Policy Understanding for LLM Agents [51.86716874651299]
  PolicyBankは構造化されたツールレベルの政策洞察を維持し、それらを反復的に洗練する。 PolicyBankは、人間の神託に対するギャップの最大82%を閉じている。
  論文  参考訳（メタデータ） (2026-04-16T20:29:30Z)
• When to Act, Ask, or Learn: Uncertainty-Aware Policy Steering [10.01278648231868]
  ポリシーステアリングは、デプロイ時にロボットの振る舞いを適用する新しい方法です。 VLM(Vision-Language Models)は、それらの推論能力のために、汎用的な検証を約束する。 セマンティックタスクの不確実性と低レベルのアクション実現可能性について共同で理由づけるフレームワークである不確実性対応型ポリシーステアリング(UPS)を提案する。
  論文  参考訳（メタデータ） (2026-02-25T23:23:22Z)
• Beyond Static Alignment: Hierarchical Policy Control for LLM Safety via Risk-Aware Chain-of-Thought [5.251527748612469]
  大きな言語モデル(LLM)は、静的で一大の安全ポリシーのため、基本的な安全性のトレードオフに直面します。 我々は、明示的でリスクを意識した推論による動的安全制御のためのフレームワーク、textbfPACT(Prompt-Thought Action via Chain-of-Thought)を提案する。
  論文  参考訳（メタデータ） (2026-02-06T12:20:01Z)
• RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
  視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。 しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。 提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
  論文  参考訳（メタデータ） (2025-12-24T15:01:26Z)
• VeriGuard: Enhancing LLM Agent Safety via Verified Code Generation [40.594947933580464]
  医療などのセンシティブなドメインに自律的なAIエージェントを配置することは、安全性、セキュリティ、プライバシに重大なリスクをもたらす。 LLMをベースとしたエージェントに対して、正式な安全保証を提供する新しいフレームワークであるVeriGuardを紹介する。
  論文  参考訳（メタデータ） (2025-10-03T04:11:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。