論文の概要: Jev-Guard: Fast Routing and Auditing Agent Actions over Editable Policy Trees
- arxiv url: http://arxiv.org/abs/2610.18326v1
- Date: Tue, 13 Oct 2026 13:03:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 06:21:46.655869
- Title: Jev-Guard: Fast Routing and Auditing Agent Actions over Editable Policy Trees
- Title（参考訳）: Jev-Guard: 編集可能なポリシーツリーに対する高速なルーティングと監査エージェントアクション
- Abstract要約: 本稿では安全分類とポリシールーティングのための統一モデルであるJev-Guardを紹介する。
7,033件の評価ケースでは、Jev-Guardは93.72%の安全性、58msの平均遅延、93.10%の階層的ルーティング精度を達成した。
SFT-LLMの審査員は4.80秒から1.33秒に切り替わるが、いずれのガードもポリシー違反は見られない。
- 参考スコア（独自算出の注目度）: 44.97404411700615
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Agent harnesses require a low-latency guardrail model together with customizable audit policies. However, deploying an auto-regressive guardrail model remains challenging: such models incur high inference latency and are often poorly aligned with customized policies. To address these problems, we present Jev-Guard, a unified model for safety classification and policy routing. We further construct a policy tree over which Jev-Guard performs routing, spanning diverse domains including content moderation, cybersecurity, privacy, and legal compliance. Specifically, Jev-Guard first navigates the policy tree to select the applicable audit policy given the caller's audit context, and then performs safety classification conditioned on the retrieved policies. On 7,033 evaluation cases, Jev-Guard achieves 93.72\% safety accuracy, a mean latency of 58ms, and 93.10\% hierarchical routing accuracy. The full routing-and-classification pipeline averages 240ms. Furthermore, we integrate Jev-Guard into the Hermes harness framework. Across agent trajectories, its separate permission gate cuts mean review time per task from 4.80s for an SFT-LLM judge to 1.33s, with no policy violations are observed for either guard.
- Abstract（参考訳）: エージェントハーネスは、カスタマイズ可能な監査ポリシーとともに、低レイテンシのガードレールモデルを必要とする。
しかしながら、自動回帰ガードレールモデルのデプロイは、高い推論遅延が発生し、しばしばカスタマイズされたポリシーと整合性が低いため、依然として難しい。
これらの問題に対処するために、安全分類とポリシールーティングのための統一モデルであるJev-Guardを提案する。
さらに、Jev-Guardがルーティングを行い、コンテンツモデレーション、サイバーセキュリティ、プライバシ、法的コンプライアンスを含むさまざまなドメインにまたがるポリシーツリーを構築します。
具体的には、Jev-Guard氏がまずポリシーツリーをナビゲートし、呼び出し者の監査状況に応じて適用可能な監査ポリシーを選択し、取得したポリシーに基づいて安全分類を行う。
7033の場合、Jev-Guardは安全性の93.72\%、平均遅延の58ms、階層的ルーティングの93.10\%を達成する。
完全なルーティング/分類パイプラインの平均は240msである。
さらに、Jev-GuardをHermesのハーネスフレームワークに統合します。
SFT-LLMの審査員は4.80秒から1.33秒に切り替わるが、いずれのガードもポリシー違反は見られない。
関連論文リスト
- VEPA: Verified Evolving Formal Policy for Lifelong LLM Agent Guardrails [70.49913007464922]
本稿では,正式なエージェントガードレールの進化を実証するためのフレームワークであるVEPAを紹介する。
VEPAは、タイプされたエージェントイベントに対する実行可能なシンボル規則の正式なポリシーとしてガードレールを表現している。
VEPAは決定論的形式政治の実施範囲を広げつつ、基準線を一貫して上回っている。
論文 参考訳（メタデータ） (2026-10-08T23:49:50Z) - AdaGuard: An Adaptive Guard Model with User-defined Policies [18.459674288426665]
10,939のトレーニング例と1000のテスト例からなるデータセットであるAdaptiveSafetyを紹介します。
説明的推論と最終判断のバランスを保ちながら、違反識別を精査する強化学習アルゴリズムであるSafePOを提案する。
我々の4Bモデルは、AdaptiveSafetyで89.30%、DynaBenchで71.82%のバイナリ精度を実現している。
論文 参考訳（メタデータ） (2026-09-28T03:48:12Z) - EvoSafeHarness: Evolving Model- and Domain-Specific Harnesses for Securing Agents [74.54929751174289]
EvoSafeHarnessは、ターゲットドメイン内の凍結モデルのためのデプロイ可能なハーネスを合成する、安全固有の最適化フレームワークである。
これは平均攻撃成功率を3.3ポイントのユーティリティコストで45.6%から10.0%に下げる。
また、Agent-SafetyBenchでは、すべての犠牲者に対してベストスコアを獲得している。
論文 参考訳（メタデータ） (2026-09-05T05:56:41Z) - StepGuard: Learning Step-Level Guardrails with Scalable Supervision and Safety-Utility Balancing [80.39644823192113]
StepGuardは、完了したエージェントの軌跡を監査し、実行前にツールアクションをチェックするステップレベルのガードモデルである。
StepGuardは、GPT-5.4に匹敵するパフォーマンスで、オープンウェイトガードモデルの中で最高の平均精度を達成した。
AgentDojoとAgentDynのエージェントを保護するために使用される場合、StepGuardは平均攻撃成功率を77.3%削減する。
論文 参考訳（メタデータ） (2026-08-25T16:17:27Z) - SingGuard: A Policy-Adaptive Multimodal LLM Guardrail with Dynamic Reasoning [0.0]
マルチモーダル会話における安全評価のためのポリシー適応型ガードレールモデルファミリーである textbfSingGuard を提案する。
SingGuardはアクティブポリシーをランタイム入力として扱う。
ターゲットコンテンツをアクティブポリシールールに対してルールでチェックし、安全ラベルとトリガルールの両方を予測する。
論文 参考訳（メタデータ） (2026-06-22T05:37:43Z) - LPG: Balancing Efficiency and Policy Reasoning in Latent Policy Guardrails [41.04710068888387]
我々は,動的政策に関する世俗的な潜在政策検討を学習するガードレールフレームワークである潜在政策ガードレール(LPG)を紹介した。
政策ガードレールのベンチマークでは、LPG-4Bの平均安全性は84.5%、F1は77.9%に達した。
論文 参考訳（メタデータ） (2026-05-17T08:35:38Z) - On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment [54.30690671490447]
既存の安全アライメント信号は、主に応答レベルまたは政治外である。
FATEは、検証済みの失敗を専門家のデモンストレーションなしで修復管理に変換する。
FATEは攻撃成功率を33.5%、有害なコンプライアンスを82.6%削減し、外的軌道安全診断を6.5%改善する。
論文 参考訳（メタデータ） (2026-05-12T09:56:28Z) - CourtGuard: A Model-Agnostic Framework for Zero-Shot Policy Adaptation in LLM Safety [8.24714635902347]
CourtGuardは,安全評価をEvidentiary Debateとして再定義する検索強化マルチエージェントフレームワークである。
CourtGuardは、外部ポリシー文書に根ざした敵の議論を組織することで、7つの安全ベンチマークで最先端のパフォーマンスを達成する。
論文 参考訳（メタデータ） (2026-02-26T02:52:11Z) - Towards Policy-Compliant Agents: Learning Efficient Guardrails For Policy Violation Detection [25.53228630260007]
PolicyGuardBenchは、エージェントのトラジェクトリにおけるポリシー違反を検出するための約60kのサンプルのベンチマークである。
PolicyGuard-4Bは軽量のガードレールモデルであり、すべてのタスクに対して強力な検出精度を提供する。
PolicyGuardBench と PolicyGuard-4B は、Webエージェントのトラジェクトリにおけるポリシーコンプライアンスを研究するための、最初の包括的なフレームワークを提供する。
論文 参考訳（メタデータ） (2025-10-03T20:03:19Z) - WildGuard: Open One-Stop Moderation Tools for Safety Risks, Jailbreaks, and Refusals of LLMs [54.10865585773691]
LLM安全性のためのオープンで軽量なモデレーションツールであるWildGuardを紹介します。
WildGuardは、ユーザプロンプトにおける悪意のある意図の特定、モデルレスポンスの安全性リスクの検出、モデル拒絶率の決定という3つの目標を達成する。
論文 参考訳（メタデータ） (2024-06-26T16:58:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。