論文の概要: PL-Guard: Probabilistic Logic Reasoning for LLM Guardrails
- arxiv url: http://arxiv.org/abs/2608.15673v1
- Date: Sun, 16 Aug 2026 10:58:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.381838
- Title: PL-Guard: Probabilistic Logic Reasoning for LLM Guardrails
- Title（参考訳）: PL-Guard: LLMガードレールの確率論的論理推論
- Abstract要約: ポリシープロンプトとLCM-as-a-judgeパイプラインは、セマンティックグラウンドとポリシー推論のタスクを重複させることが多い。
基礎と推論の役割を分離するために,ニューロシンボリックガードレールアーキテクチャであるPL-Guardを提案する。
XSTestベンチマークでは、オフラインのQwenベースの評価器が、手作業によるポリシを備えたPL-Guardは、ベースモデルの22.0%から0.5%まで、安全でないコンプライアンスを減少させる。
- 参考スコア（独自算出の注目度）: 5.448131579126687
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language model guardrails can be viewed as policy-consistency problems: a system must determine which policy-relevant facts hold in a prompt-response pair and what those facts imply under a given policy. Common approaches, including policy prompting and LLM-as-a-judge pipelines, often overlap the tasks of semantic grounding and policy reasoning: the model both interprets the prompt-response pair and reasons about whether a policy has been violated. This can lead to unsafe compliance with harmful prompts, or refusals to assist benign ones. To separate grounding and reasoning roles, we propose PL-Guard, a neurosymbolic guardrail architecture. Using a symbolic policy interface consisting of predicates and ProbLog rules, a local LLM grounds prompt-response pairs into predicate probabilities using renormalized True/False token scores, while ProbLog performs explicit probabilistic rule inference over the symbolic policy. On the XSTest benchmark, an offline Qwen-based evaluator finds that PL-Guard with a hand-curated policy reduces unsafe compliance from 22.0% for the base model to 0.5%, and below the 6.0% rate of an LLM-as-a-judge baseline. This comes at the cost of higher over-refusal than the LLM-as-a-judge baseline, 14.4% versus 5.2%. These results suggest that separating neural grounding from probabilistic symbolic reasoning can expose the safety-helpfulness tradeoff while making the guardrail's intermediate reasoning steps explicit and auditable.
- Abstract（参考訳）: 大きな言語モデルガードレールは、ポリシー整合性の問題と見なすことができる。
ポリシープロンプトやLDM-as-a-judgeパイプラインといった一般的なアプローチは、セマンティックグラウンドとポリシー推論のタスクを重複させることが多い。
これは有害なプロンプトに対する安全でないコンプライアンスにつながる可能性がある。
基礎と推論の役割を分離するために,ニューロシンボリックガードレールアーキテクチャであるPL-Guardを提案する。
述語とProbLogルールからなるシンボリックポリシーインターフェースを使用して、ローカルLLMは、プロンプト応答ペアを正規化されたTrue/Falseトークンスコアを使用して述語確率にグルーピングする一方、ProbLogはシンボリックポリシーに関する明示的な確率的ルール推論を実行する。
XSTestベンチマークにおいて、オフラインのQwenベースの評価器は、PL-Guardが手作業で計算したポリシーにより、安全でないコンプライアンスをベースモデルの22.0%から0.5%に減らし、LCM-as-a-judgeベースラインの6.0%以下に抑えることを発見した。
これはLCM-as-a-judgeベースラインの14.4%に対して5.2%よりも高いオーバーリフレルのコストがかかる。
これらの結果から、確率的シンボリック推論から神経接地を分離することで、ガードレールの中間的推論ステップを明示的かつ監査可能にしながら、安全ヘルパフルネストレードオフを露呈する可能性が示唆された。
関連論文リスト
- LLM-as-a-Tutor: Policy-Aware Prompt Adaptation for Non-Verifiable RL [64.4276583943816]
検証不能な指導のための強化学習は、報酬信号としてプロンプト固有のルーリックを持つ裁判官に依存している。
最近の手法は、トレーニング中にこれらのルーリックを進化するポリシーに適応させるが、トレーニングのプロンプト自体は静的のままである。
この静的なアプローチは、しばしば急激な困難と政策能力の間に重大なミスアライメントをもたらし、裁判官は差別的な報酬信号を取り戻すことができない。
論文 参考訳（メタデータ） (2026-07-05T17:05:13Z) - SafePyramid: A Hierarchical Benchmark for In-context Policy Guardrailing [25.10453609307193]
現実世界のアプリケーションでは、ガードレールはアプリケーション固有の安全ポリシーに従って、安全でないユーザモデルインタラクションを識別することがしばしば期待される。
本研究は,保護レールがコンテキストに規定されたポリシー仕様に基づいて安全違反を予測する,コンテキスト内ポリシーガードレールのパラダイムの下で,この設定について検討する。
SafePyramidは、10のドメインに1000のマルチターン会話と3,000の対応するアプリケーション固有のポリシーからなる安全ベンチマークであり、61,699の異なる自然言語規則を含んでいる。
論文 参考訳（メタデータ） (2026-06-29T07:27:22Z) - LPG: Balancing Efficiency and Policy Reasoning in Latent Policy Guardrails [41.04710068888387]
我々は,動的政策に関する世俗的な潜在政策検討を学習するガードレールフレームワークである潜在政策ガードレール(LPG)を紹介した。
政策ガードレールのベンチマークでは、LPG-4Bの平均安全性は84.5%、F1は77.9%に達した。
論文 参考訳（メタデータ） (2026-05-17T08:35:38Z) - LLM Readiness Harness: Evaluation, Observability, and CI Gates for LLM/RAG Applications [51.56484100374058]
評価をデプロイメント決定ワークフローに変換するLLMおよびRAGアプリケーションのための準備性ハーネスを提案する。
このシステムは、最小限のAPI契約の下で、自動ベンチマーク、OpenTelemetryオブザーバビリティ、CI品質ゲートを組み合わせる。
チケットルーティングとBEIRタスクのハーネスを、完全なAzureマトリックスカバレッジで評価する。
論文 参考訳（メタデータ） (2026-03-28T18:03:32Z) - Rethinking the Trust Region in LLM Reinforcement Learning [72.25890308541334]
PPO(Proximal Policy Optimization)は、大規模言語モデル(LLM)のデファクト標準アルゴリズムとして機能する。
より原則的な制約でクリッピングを代用する多変量確率ポリシー最適化(DPPO)を提案する。
DPPOは既存の方法よりも優れたトレーニングと効率を実現し、RLベースの微調整のためのより堅牢な基盤を提供する。
論文 参考訳（メタデータ） (2026-02-04T18:59:04Z) - Bayesian Evaluation of Large Language Model Behavior [11.847752638476257]
大規模言語モデルに基づくテキスト生成システムがどのように振る舞うかを評価することがますます重要である。
既存の評価手法は、しばしば統計的不確実性定量化を無視する。
本稿では,2値評価指標における不確かさの定量化にベイズ的手法を適用した2つのケーススタディを提案する。
論文 参考訳（メタデータ） (2025-11-04T19:51:46Z) - Policy-Aware Generative AI for Safe, Auditable Data Access Governance [0.0]
本稿では,大規模言語モデル(LLM)を用いて,原データではなく,記述されたポリシーやメタデータに対して自然言語要求を解釈するポリシー対応コントローラを提案する。
Google Gemini2.0 Flashで実装されたこのシステムは、6段階の推論フレームワークを実行する。
論文 参考訳（メタデータ） (2025-10-27T16:10:55Z) - Ice Cream Doesn't Cause Drowning: Benchmarking LLMs Against Statistical Pitfalls in Causal Inference [16.706959860667133]
大規模言語モデル(LLM)が厳密で信頼性の高い統計的因果推論を扱えるかどうかは不明である。
CausalPitfallsベンチマークは、信頼できる因果推論システムの開発を進めるための重要なガイダンスと定量的指標を提供する。
論文 参考訳（メタデータ） (2025-05-19T23:06:00Z) - Few-shot Policy (de)composition in Conversational Question Answering [54.259440408606515]
本稿では,大規模言語モデル(LLM)を用いて数ショット設定でポリシーコンプライアンスを検出するニューラルシンボリックフレームワークを提案する。
提案手法は,回答すべきサブクエストを抽出し,文脈情報から真理値を割り当て,与えられたポリシーから論理文の集合を明示的に生成することで,政策コンプライアンスに関する会話に対して健全な理由を示す。
本手法は,PCDおよび会話機械読解ベンチマークであるShARCに適用し,タスク固有の微調整を伴わずに競合性能を示す。
論文 参考訳（メタデータ） (2025-01-20T08:40:15Z) - OCEAN: Offline Chain-of-thought Evaluation and Alignment in Large Language Models [68.17018458283651]
本研究は,LLMのチェーン・オブ・思想能力のオフライン評価に焦点をあてる。
我々は知識グラフ(例えばWikidata5m)を使って、生成された思考の連鎖に対するフィードバックを提供する。
提案手法に基づいてLCMを最適化する方法を示す。
論文 参考訳（メタデータ） (2024-10-31T07:48:44Z) - Minimax-Optimal Off-Policy Evaluation with Linear Function Approximation [49.502277468627035]
本稿では,関数近似を用いたバッチデータ強化学習の統計的理論について検討する。
記録履歴から新たな対象政策の累積値を推定するオフ・ポリティクス評価問題を考察する。
論文 参考訳（メタデータ） (2020-02-21T19:20:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。