論文の概要: AdaGuard: Enhancing Safety and Policy Compliance with Reasoning-Enabled LLM-As-A-Judge Guardrails

• arxiv url: http://arxiv.org/abs/2610.08923v1
• Date: Tue, 06 Oct 2026 18:00:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.531427
• Title: AdaGuard: Enhancing Safety and Policy Compliance with Reasoning-Enabled LLM-As-A-Judge Guardrails
• Title（参考訳）: AdaGuard:LLM-As-A-Judgeガードレールによる安全と政策コンプライアンスの強化
• Abstract要約: 現在のガードレールソリューションは、しばしば剛性に悩まされ、固定されたポリシーセットに依存し、透明性や推論の柔軟性が制限される。 本稿では、これらの課題に対処するために設計された適応型LLM-as-a-JudgeフレームワークであるAdaguardを紹介する。 AdaGuardは、頻繁なモデル更新を必要とせずに、実行時にユーザ定義の安全性とコンプライアンスポリシーに一般化する。
• 参考スコア（独自算出の注目度）: 8.8971910985351
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Enterprise generative AI applications require robust safety mechanisms that can accommodate diverse risk postures, evolving policies, and varying latency constraints. Current guardrail solutions often suffer from rigidity, relying on fixed policy sets and offering limited transparency or reasoning flexibility. We present Adaguard, an adaptive LLM-as-a-Judge framework designed to address these challenges through dynamic policy enforcement and adaptive reasoning-budget allocation. Built using supervised fine-tuning (SFT) and reinforcement learning (GRPO), AdaGuard generalizes to user-defined safety and compliance policies at runtime without requiring frequent model updates. A core innovation of our approach is the ability to dynamically infer the complexity of input-policy pairs, allowing the model to switch between high-speed black-box inference and explainable, reasoning-enabled moderation. This flexibility enables developers to balance stringent latency requirements with the need for actionable transparency. This adaptive capability allows AdaGuard to rival other guardrail and frontier models several times its size, while its auto-reasoning mode recovers the accuracy of always-on reasoning at a fraction of the latency
• Abstract（参考訳）: エンタープライズ生成AIアプリケーションは、さまざまなリスク姿勢、ポリシーの進化、さまざまなレイテンシ制約に対応する、堅牢な安全メカニズムを必要とします。 現在のガードレールソリューションは、しばしば剛性に悩まされ、固定されたポリシーセットに依存し、透明性や推論の柔軟性が制限される。 本稿では、動的政策執行と適応的推論予算配分を通じてこれらの課題に対処するために設計された適応型LCM-as-a-JudgeフレームワークであるAdaguardを提案する。 教師付き微調整(SFT)と強化学習(GRPO)を使用して構築されたAdaGuardは、頻繁なモデル更新を必要とせずに、実行時にユーザ定義の安全性とコンプライアンスポリシに一般化する。 我々のアプローチの核となる革新は、入力とポリティクスのペアの複雑さを動的に推論し、モデルが高速なブラックボックス推論と説明可能な推論可能なモデレーションを切り替えることを可能にすることである。 この柔軟性により、開発者は厳格なレイテンシ要件と実行可能な透明性の必要性のバランスを取ることができる。 この適応性により、AdaGuardは他のガードレールやフロンティアモデルと数倍のサイズで競合することが可能になる。

関連論文リスト

• FlexGuard: Continuous Risk Scoring for Strictness-Adaptive LLM Content Moderation [6.3463255900985365]
  リスク重大度を反映した校正連続リスクスコアを出力するLDMベースのモデレータであるFlexGuardを紹介する。 スコアと重大性の整合性を改善するために、リスク調整最適化を通じてFlexGuardをトレーニングします。 FlexBenchと公開ベンチマークの実験では、FlexGuardはモデレーションの精度を向上し、厳密性の変化の下でロバスト性を大幅に改善している。
  論文  参考訳（メタデータ） (2026-02-27T03:14:19Z)
• BarrierSteer: LLM Safety via Learning Barrier Steering [83.12893815611052]
  BarrierSteerは、学習した非線形安全性制約を直接モデルの潜在表現空間に埋め込むことで、安全性を形式化する新しいフレームワークである。 BarrierSteerは、敵の成功率を大幅に低下させ、安全でない世代を減少させ、既存の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2026-02-23T18:19:46Z)
• Safe Reinforcement Learning via Recovery-based Shielding with Gaussian Process Dynamics Models [57.006252510102506]
  強化学習(Reinforcement Learning, RL)は、最適な意思決定と制御のための強力なフレームワークである。 本稿では,未知および非線形連続力学系に対する安全性を低くした安全RLを実現するための新しい回復型遮蔽フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-12T22:03:35Z)
• Self-Guard: Defending Large Reasoning Models via enhanced self-reflection [54.775612141528164]
  Self-Guardは、大規模推論モデルのための軽量な安全防御フレームワークである。 これは認識とコンプライアンスのギャップを埋め、モデルユーティリティを損なうことなく堅牢な安全性能を達成する。 セルフガードは、さまざまな未知のリスクとさまざまなモデルスケールにまたがる強力な一般化を示す。
  論文  参考訳（メタデータ） (2026-01-31T13:06:11Z)
• YuFeng-XGuard: A Reasoning-Centric, Interpretable, and Flexible Guardrail Model for Large Language Models [36.084240131323824]
  我々はYuFeng-XGuardについて紹介する。YuFeng-XGuardは大規模言語モデル(LLM)のための論理中心ガードレールモデルである。 YuFeng-XGuardは不透明な二項判定を生成する代わりに、明確なリスクカテゴリや信頼性スコアを含む構造化されたリスク予測を生成する。 リスク認識を政策執行から切り離す動的政策機構を導入し、モデルの再訓練なしに安全政策を調整できるようにした。
  論文  参考訳（メタデータ） (2026-01-22T02:23:18Z)
• Secure Tug-of-War (SecTOW): Iterative Defense-Attack Training with Reinforcement Learning for Multimodal Model Security [63.41350337821108]
  マルチモーダル大規模言語モデル(MLLM)のセキュリティを高めるために,Secure Tug-of-War(SecTOW)を提案する。 SecTOWは2つのモジュールで構成される:ディフェンダーと補助攻撃者。どちらも強化学習(GRPO)を使用して反復的に訓練される。 SecTOWは、一般的な性能を維持しながら、セキュリティを大幅に改善することを示す。
  論文  参考訳（メタデータ） (2025-07-29T17:39:48Z)
• DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents [52.92354372596197]
  大規模言語モデル(LLM)は、強力な推論と計画能力のため、エージェントシステムの中心となってきています。 この相互作用は、外部ソースからの悪意のある入力がエージェントの振る舞いを誤解させる可能性がある、インジェクション攻撃のリスクも引き起こす。 本稿では,信頼に値するエージェントシステムのための動的ルールベースの分離フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-13T05:01:09Z)
• Safe Deep Reinforcement Learning for Multi-Agent Systems with Continuous Action Spaces [5.553946791700077]
  深層政策ネットワークに安全層を追加することにより,多エージェントの深層決定性政策勾配(MADDPG)フレームワークを強化する。 そこで本研究では,ソフト制約を用いた動作補正ステップにおいて,実現不可能な問題を回避することを提案する。
  論文  参考訳（メタデータ） (2021-08-09T11:33:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。