論文の概要: Efficient Safety Guardrails through Latent Dual-Hypothesis Reasoning with On-Demand Trace Reconstruction
- arxiv url: http://arxiv.org/abs/2610.18304v1
- Date: Tue, 13 Oct 2026 12:49:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.613797
- Title: Efficient Safety Guardrails through Latent Dual-Hypothesis Reasoning with On-Demand Trace Reconstruction
- Title（参考訳）: 遅発性デュアル・ハイポテーシスとオン・デマンド・トレース・リコンストラクションによる安全ガードレールの高効率化
- Abstract要約: 推論に基づく大規模言語モデル(LLM)に依存するガードレールアプローチは、安全性の判断を改善するが、明確な推論のため、かなりの推論オーバーヘッドが伴う。
本稿では,構造的潜在推論とオンデマンド推論再構築を共同で学習する,効率的かつ説明可能なガードレールであるLR-Guardを紹介する。
- 参考スコア（独自算出の注目度）: 18.93963600609509
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Guardrail approaches that rely on reasoning-based large language models (LLM) improve safety decisions, but come with substantial inference overhead due to the explicit reasoning. We introduce LR-Guard (Latent Reasoning Guardrail), an efficient and explainable guardrail that jointly learns structured latent reasoning and on-demand reasoning reconstruction. Our method distills a frozen teacher's analysis of safe and unsafe prompt interpretations and their comparison into compact latent representations. Joint training optimizes these representations for both safety prediction and reconstruction of the teacher's explicit reasoning traces, enabling human-readable explanations without requiring intermediate text generation for every decision. Experiments show that LR-Guard outperforms its explicit-reasoning teacher in most in-domain and out-of-domain settings on safety classification and explanation extraction, while achieving a 19.4x inference speedup at batch size one. Further, reconstructed reasoning traces from the latent information exhibit high semantic similarity to the teacher's explicit reasoning.
- Abstract（参考訳）: 推論に基づく大規模言語モデル(LLM)に依存するガードレールアプローチは、安全性の判断を改善するが、明確な推論のため、かなりの推論オーバーヘッドが伴う。
本稿では, LR-Guard (Latent Reasoning Guardrail) について紹介する。
本手法では, 凍結教師による安全かつ安全でない即時解釈の解析と, コンパクトな潜在表現との比較を行う。
共同トレーニングは、教師の明確な推論トレースの安全性予測と再構築の両方のためにこれらの表現を最適化し、すべての決定に対して中間テキスト生成を必要とせずに、人間が読める説明を可能にする。
実験の結果、LR-Guardは、ほとんどのドメイン内およびドメイン外設定において、安全性の分類と説明抽出において、明示的な推論の教師よりも優れており、バッチサイズ1で19.4倍の推論スピードアップを達成した。
さらに、潜伏情報からの再構築された推論トレースは、教師の明示的な推論と高い意味的類似性を示す。
関連論文リスト
- Retrieval Grounding Latent Reasoning for Dense Retrieval [30.66182684102075]
推論集約的な検索は、与えられた命令の下で関連性を決定するのに必要な推論を必要とする。
本稿では,RGLT(Retrieval Grounding Latent Reasoning)を提案する。
推論集約型検索ベンチマークの実験は、RGLTが強いベースラインを一貫して上回っていることを示している。
論文 参考訳（メタデータ） (2026-08-14T09:08:03Z) - A Dual-Hypothesis Reasoning Framework for LLM Guardrails [20.383868120117565]
ARBITERは、安全かつ安全でないプロンプトの解釈の両方を明示的に考慮したLLMガードレールの推論方法である。
ARBITERは、トレースの推論とLoRAに基づくパラメータ効率の微調整に費用対効果の高い自己生成戦略を使用する。
ARBITERは、安全でない決定のための忠実なエビデンス・フレーズの説明を提供し、より透明で解釈可能なガードレール法を可能にする。
論文 参考訳（メタデータ） (2026-07-20T05:42:25Z) - Rethinking Reward Supervision: Rubric-Conditioned Self-Distillation [60.55792673956761]
我々は, ルブリックを構造化, きめ細かいフィードバックとして組み込んだフレームワークであるtextbfRubric-Conditioned Self-Distillationを提案する。
その結果, ルーリック条件の自己蒸留は, ルーリックレベルの基準をトークンレベルのガイダンスに効果的に変換することを示した。
論文 参考訳（メタデータ） (2026-06-17T17:54:04Z) - LaSER: Internalizing Explicit Reasoning into Latent Space for Dense Retrieval [74.72139580745511]
LaSERは、レトリバーの潜在空間に明示的な推論を内部化する、新しい自己蒸留フレームワークである。
提案手法は, 明示的なCoTパイプラインの推論深度と, 標準的な高密度検索器の推論効率をうまく組み合わせる。
論文 参考訳（メタデータ） (2026-03-02T04:11:18Z) - DRAFT: Task Decoupled Latent Reasoning for Agent Safety [59.46137757545185]
DRAFT(Task Decoupled Latent Reasoning for Agent Safety)を提案する。
エクストラクターは、完全な軌跡をコンパクトな連続的な潜伏ドラフトに蒸留し、リゾナーはドラフトと元の軌跡に共同で参加して安全性を予測する。
DRAFTの精度は63.27%(LoRA)から91.18%に向上した。
論文 参考訳（メタデータ） (2026-02-11T07:45:14Z) - Structured Reasoning for Large Language Models [59.215789462977206]
本研究では、推論を明示的、評価可能、トレーニング可能なコンポーネントに分解するフレームワークであるStructured Reasoning(SCR)を提案する。
SCRは推論効率と自己検証を大幅に改善する。
既存の推論パラダイムと比較して、出力トークンの長さを最大50%削減する。
論文 参考訳（メタデータ） (2026-01-12T04:04:01Z) - ExplainableGuard: Interpretable Adversarial Defense for Large Language Models Using Chain-of-Thought Reasoning [11.340599332479705]
大規模言語モデル(LLM)は、出力を微妙に操作できる敵攻撃に対して、ますます脆弱である。
本稿では,DeepSeek-Reasonerのチェーン・オブ・シント(CoT)推論機能を活用した,解釈可能な敵防衛フレームワークであるExplainableGuardを紹介する。
GLUE BenchmarkとIMDB Movie Reviewsデータセットの予備的な結果は、防衛効果が有望であることを示している。
論文 参考訳（メタデータ） (2025-11-15T06:11:07Z) - Large Reasoning Models Learn Better Alignment from Flawed Thinking [56.08883934423522]
大規模推論モデル(LRM)は、最終的な答えを生成する前に構造化チェーン・オブ・シント(CoT)を生成することで「考える」。
本稿では,Regressed Learning (RL) 手法であるRECAPを提案する。
論文 参考訳（メタデータ） (2025-10-01T14:15:43Z) - ARMOR: Aligning Secure and Safe Large Language Models via Meticulous Reasoning [64.32925552574115]
ARMORは、jailbreak戦略を分析し、コアインテントを抽出する、大規模な言語モデルである。
ARMORは最先端の安全性能を達成し、平均有害率は0.002であり、高度な最適化ベースのジェイルブレイクに対する攻撃成功率は0.06である。
論文 参考訳（メタデータ） (2025-07-14T09:05:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。