論文の概要: AgentPolicyForge: From Executable Environments to Policy Benchmarks and Adaptive Guards
- arxiv url: http://arxiv.org/abs/2610.28989v1
- Date: Tue, 20 Oct 2026 23:31:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 00:40:06.160895
- Title: AgentPolicyForge: From Executable Environments to Policy Benchmarks and Adaptive Guards
- Title（参考訳）: AgentPolicyForge: 実行可能な環境からポリシーベンチマーク、アダプティブガードまで
- Abstract要約: ガードの訓練には、ポリシーに準拠したり違反したりするツールコールの例が必要となる。
我々は、ポリシーベンチマークを構築するために実行可能な環境を使用するフレームワークであるAgentPolicyForgeを紹介する。
PolicyGymでは、最終ガードベースの構成は攻撃成功率を40-44%削減する。
- 参考スコア（独自算出の注目度）: 5.549142025065183
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Customized agent deployments define policies over tools, resources, and execution conditions. Providing these policies in the task agent's prompt does not reliably prevent violations. Training a guard requires examples of tool calls that comply with or violate those policies. We introduce AgentPolicyForge, a framework that uses executable environments to construct policy benchmarks and iteratively train policy guards. With this framework, we construct PolicyGym, a dataset across ten policy families using 698 scenarios for training data generation and 254 separate held-out scenarios for human-reviewed test sets. Tool calls are executed and their outcomes recorded to help determine whether they comply with the policy. Every violating case uses a permitted tool, requiring checks of arguments, resources, and context rather than tool identity alone. The case construction process supports iterative guard training: an attacker generates requests using retrieved strategies, and the guard is fine-tuned on balanced, environment-verified examples. Training improves policy enforcement even with a fixed archive. Updating the archive further reduces in-domain attack success compared with keeping it fixed. We compare policy-aware task agent self-regulation with a trained policy guard. On PolicyGym, the final guard-based configuration achieves a 40-44% relative reduction in attack success rate and fewer benign rejections than policy prompting alone.
- Abstract（参考訳）: カスタムエージェントデプロイメントは、ツール、リソース、実行条件に対するポリシーを定義する。
タスクエージェントのプロンプトにこれらのポリシーを提供することは、確実に違反を防ぐものではない。
ガードのトレーニングには、これらのポリシーに準拠したり違反したりするツールコールの例が必要です。
AgentPolicyForgeは、実行可能な環境を利用してポリシーベンチマークを構築し、ポリシーガードを反復的に訓練するフレームワークです。
このフレームワークでは、データ生成のトレーニングに698のシナリオと、人間レビューされたテストセットのための254の分離された保留シナリオを使用して、10のポリシーファミリにまたがるデータセットであるPhysageGymを構築します。
ツールコールが実行され、その結果を記録して、それらがポリシーに準拠しているかどうかを判断する。
違反するすべてのケースは許可されたツールを使用し、ツールのアイデンティティのみではなく、引数、リソース、コンテキストのチェックを必要とする。
ケース構築プロセスは反復的なガードトレーニングをサポートし、攻撃者は検索した戦略を使ってリクエストを生成し、ガードはバランスのとれた環境検証された例に基づいて微調整される。
訓練は、固定されたアーカイブでも政策執行を改善する。
アーカイブの更新は、ドメイン内の攻撃の成功を、修正の維持よりも減らす。
政策対応型タスクエージェントの自己統制と訓練された政策ガードを比較した。
PolicyGymでは、最後のガードベースの構成は、攻撃の成功率を40-44%削減し、ポリシーのみを刺激するよりも良心的な拒絶を減らす。
関連論文リスト
- Generative Policy Improvement from Observational Data [58.95974626211867]
PolicyLiftは、観測データから構造化されたアクションで生成ポリシーを改善するためのフレームワークである。
本稿では,アクションコードに対するポリシーの改善が,元々のアクション空間における誘導ポリシーの改善を保証することを理論的に示す。
論文 参考訳（メタデータ） (2026-10-16T13:20:43Z) - VEPA: Verified Evolving Formal Policy for Lifelong LLM Agent Guardrails [70.49913007464922]
本稿では,正式なエージェントガードレールの進化を実証するためのフレームワークであるVEPAを紹介する。
VEPAは、タイプされたエージェントイベントに対する実行可能なシンボル規則の正式なポリシーとしてガードレールを表現している。
VEPAは決定論的形式政治の実施範囲を広げつつ、基準線を一貫して上回っている。
論文 参考訳（メタデータ） (2026-10-08T23:49:50Z) - PolicyMem: Geometric Policy Memory for LLM Governance [72.04962480384322]
我々は、自然言語ポリシーを再利用可能な幾何学的メモリオブジェクトとして外部化する幾何学的ポリシーメモリであるPhysicalMemを紹介する。
メモリライターは、自然言語ポリシーをポリシーメモリスロットにコンパイルし、クエリ応答ペアはプロジェクションエネルギーを介してポリシーメモリを読み取る。
得られた政策証拠プロファイルは、安全判断を直接仲介し、政策帰属および事後検証のために再利用される。
論文 参考訳（メタデータ） (2026-09-12T06:07:43Z) - Granite.Trust Policy Tools: Shareable, Actionable Policies for Generative AI Applications [10.941104277511934]
Actionable Policy スキーマは、YAML ベースのフォーマットで、モデル応答が保持可能でできないものを指定する。
合成データ生成パイプラインは、モデルアライメントとテストのためのポリシーに準拠したトレーニングデータを生成する。
スキーマの定義とポリシーの強制を支援するツールは、オープンソースとして利用可能だ。
論文 参考訳（メタデータ） (2026-08-24T22:20:57Z) - Permission Denied: Policy-Graded Evaluation of Coding Agents in Hardened Environments [0.0]
実世界の一般的な企業規制から派生したネストされたセキュリティポリシーレベルに対して、ターミナルベンチ2.1上の12のコーディングエージェントを評価した。
我々は、政策が行動を妨げるときにエージェントがどのように振る舞うかを特徴付け、障害のハードニングを分解する。
コーディングエージェントのポリシー制約付き評価を可能にするオープンソースのハードニングプラグインであるBoundary-Benchをリリースする。
論文 参考訳（メタデータ） (2026-08-02T14:26:12Z) - LPG: Balancing Efficiency and Policy Reasoning in Latent Policy Guardrails [41.04710068888387]
我々は,動的政策に関する世俗的な潜在政策検討を学習するガードレールフレームワークである潜在政策ガードレール(LPG)を紹介した。
政策ガードレールのベンチマークでは、LPG-4Bの平均安全性は84.5%、F1は77.9%に達した。
論文 参考訳（メタデータ） (2026-05-17T08:35:38Z) - PolicyBank: Evolving Policy Understanding for LLM Agents [51.86716874651299]
PolicyBankは構造化されたツールレベルの政策洞察を維持し、それらを反復的に洗練する。
PolicyBankは、人間の神託に対するギャップの最大82%を閉じている。
論文 参考訳（メタデータ） (2026-04-16T20:29:30Z) - Towards Policy-Compliant Agents: Learning Efficient Guardrails For Policy Violation Detection [25.53228630260007]
PolicyGuardBenchは、エージェントのトラジェクトリにおけるポリシー違反を検出するための約60kのサンプルのベンチマークである。
PolicyGuard-4Bは軽量のガードレールモデルであり、すべてのタスクに対して強力な検出精度を提供する。
PolicyGuardBench と PolicyGuard-4B は、Webエージェントのトラジェクトリにおけるポリシーコンプライアンスを研究するための、最初の包括的なフレームワークを提供する。
論文 参考訳（メタデータ） (2025-10-03T20:03:19Z) - Effective Red-Teaming of Policy-Adherent Agents [10.522087614181745]
タスク指向のLLMベースのエージェントは、適格性やキャンセルルールの返金といった厳格なポリシーを持つドメインで、ますます使われています。
本稿では,個人的利益のためにポリシーに忠実なエージェントを活用することを目的とした,敵対的ユーザに焦点を当てた新たな脅威モデルを提案する。
CRAFTは、ポリシーを意識した説得戦略を利用して、顧客サービスシナリオにおいてポリシーに忠実なエージェントを弱体化させるマルチエージェントのレッドチームシステムである。
論文 参考訳（メタデータ） (2025-06-11T10:59:47Z) - BRPO: Batch Residual Policy Optimization [79.53696635382592]
バッチ強化学習では、学習したポリシーが行動(データ生成)ポリシーに近いように制約されることがよくある。
本稿では,学習方針の逸脱が国家の行動に依存した残留政策を提案する。
我々は,ポリシーと許容偏差の両方を学習し,政策性能の低い境界を共同で最大化する新しいRL法BRPOを導出する。
論文 参考訳（メタデータ） (2020-02-08T01:59:33Z) - Preventing Imitation Learning with Adversarial Policy Ensembles [79.81807680370677]
模倣学習は、政策プライバシに関する問題を引き起こす専門家を観察することで、ポリシーを再現することができる。
プロプライエタリなポリシーをクローンする外部オブザーバに対して、どうすれば保護できるのか?
新しい強化学習フレームワークを導入し、準最適政策のアンサンブルを訓練する。
論文 参考訳（メタデータ） (2020-01-31T01:57:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。