論文の概要: DT-Guard: Intent-Driven Reasoning-Active Training for Reasoning-Free LLM Safety Guardrail

• arxiv url: http://arxiv.org/abs/2607.06326v1
• Date: Tue, 07 Jul 2026 14:25:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-08 21:24:51.551296
• Title: DT-Guard: Intent-Driven Reasoning-Active Training for Reasoning-Free LLM Safety Guardrail
• Title（参考訳）: DT-Guard:リゾニングフリーLLM安全ガードレールのインテント駆動型リゾニングアクティブトレーニング
• Abstract要約: 本稿では、Reasoning-Active Training, Reasoning-Free Inferenceパラダイムに基づくコンテンツ安全ガードレールモデルDT-Guardを提案する。 鍵となる考え方は、推論時にのみ構造化された安全ラベルを出力しながら、トレーニング中に推論監督を使用することである。
• 参考スコア（独自算出の注目度）: 19.59614205209542
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models deployed in open-world applications require safety guardrails that are both robust to complex risks and efficient enough for low-latency runtime moderation. Existing guardrails face a practical trade-off between lightweight classification-based models, which are efficient but often struggle with concealed intent, ambiguous semantics, and borderline safety decisions, and reasoning-based guards, which improve judgment quality but introduce additional token generation and inference latency. We present DT-Guard, a content safety guardrail model based on a Reasoning-Active Training, Reasoning-Free Inference paradigm. The key idea is to use reasoning supervision during training while emitting only structured safety labels at inference time. DT-Guard formulates safety judgment as a progressive decision process, Intent - Category - Safety, and constructs an intent-driven dataset with intent labels, risk categories, safety labels, and structured reasoning trajectories. To further improve hard-case robustness, we propose Rollout-Guided Progressive Hard-Case Optimization (RG-PHO), which uses multi-rollout consistency to identify stably mastered, persistently failed, and preference-unstable samples, and applies targeted supervised and preference optimization accordingly. At inference time, DT-Guard directly generates structured labels without explicit reasoning traces, preserving deployment efficiency. Experiments on prompt-side and response-side safety benchmarks show that DT-Guard achieves average F1 scores of 0.886 and 0.870, respectively. With only a 4B backbone, it reaches a dual-side average F1 of 0.878, outperforming strong 8B guardrail baselines. These results demonstrate that reasoning supervision can be effectively internalized into low-latency safety discrimination.
• Abstract（参考訳）: オープンソースのアプリケーションにデプロイされる大規模な言語モデルは、複雑なリスクに対して堅牢で、低レイテンシランタイムのモデレーションに十分な効率の安全ガードレールを必要とする。 既存のガードレールは、効率的だが隠蔽された意図、曖昧なセマンティクス、境界線の安全判断に苦しむ軽量な分類ベースモデルと、判断品質を改善しながらトークン生成と推論遅延を追加する推論ベースのガードとの間に、現実的なトレードオフに直面している。 本稿では、Reasoning-Active Training, Reasoning-Free Inferenceパラダイムに基づくコンテンツ安全ガードレールモデルDT-Guardを提案する。 鍵となる考え方は、推論時にのみ構造化された安全ラベルを出力しながら、トレーニング中に推論監督を使用することである。 DT-Guardは、Intent - Category - Safetyというプログレッシブな意思決定プロセスとして安全判断を定式化し、インテントラベル、リスクカテゴリ、セーフティラベル、構造化推論トラジェクトリを備えた意図駆動型データセットを構築する。 ハードケースのロバスト性をさらに向上するため,マルチロールの整合性を利用して安定的にマスタされ,永続的に失敗し,かつ,好ましくないサンプルを識別し,対象とする教師付きおよび選好最適化を適用する,ロールアウトガイドプログレッシブ・ハードケース最適化(RG-PHO)を提案する。 推論時にDT-Guardは、明示的な推論トレースなしで構造化されたラベルを直接生成し、デプロイメント効率を保っている。 プロンプトサイドと応答サイドの安全性ベンチマークの実験では、DT-Guardがそれぞれ0.886と0.870の平均F1スコアを達成した。 4Bのバックボーンしか持たず、平均F1は0.878であり、強い8Bガードレールベースラインを上回っている。 これらの結果から, 推論の監督を低遅延安全性判別に効果的に内在化できることが示唆された。

関連論文リスト

• Paved with True Intents: Intent-Aware Training Improves LLM Safety Classification Across Training Regimes [5.493750878637108]
  我々は1,724個の困難な安全プロンプトを人間に注釈付けしたデータセットであるAIMSを紹介する。 我々はAIMSを用いて、教師付き微調整、嗜好学習、推論蒸留、強化学習における意図認識トレーニングを評価する。
  論文  参考訳（メタデータ） (2026-06-25T16:03:57Z)
• ConsisGuard: Aligning Safety Deliberation with Policy Enforcement in LLM Guardrails [57.25411733152009]
  推論に基づくガードレールは、最終的な決定を下す前に明確な合理性を生成することによって安全性のモデレーションを改善する。 モデルは、その推論において有害な意図を認識することができるが、それでも安全なラベルを予測したり、政策を根拠とした正当化なしに安全でない決定を下す。 推論に基づくガードレールのための一貫性を考慮したフレームワークであるConsisGuardを提案する。
  論文  参考訳（メタデータ） (2026-05-29T09:42:08Z)
• Robust and Efficient Guardrails with Latent Reasoning [23.837448508316513]
  推論ベースのガードレールは、相当なクエリレイテンシとトークンオーバーヘッドを引き起こす。 我々は,多段階の安全推論を連続的な潜伏空間に転送するガードレールモデルであるCOLAGUARDを提案する。 以上の結果から, 潜伏推論は, 展開可能なガードレールに対して, 明示的合理的生成に代わる実用的な代替手段となることが示唆された。
  論文  参考訳（メタデータ） (2026-05-27T20:15:22Z)
• TraceSafe: A Systematic Assessment of LLM Guardrails on Multi-Step Tool-Calling Trajectories [20.868825285848196]
  安全ガードレールは、自然言語の応答には適しているが、その有効性は、多段階のツール使用軌跡の中では明らかにされていない。 このギャップに対処するために、中間軌道安全性を評価するために特別に設計された最初の包括的なベンチマークであるStructureSafe-Benchを紹介します。
  論文  参考訳（メタデータ） (2026-04-08T15:46:14Z)
• BarrierSteer: LLM Safety via Learning Barrier Steering [83.12893815611052]
  BarrierSteerは、学習した非線形安全性制約を直接モデルの潜在表現空間に埋め込むことで、安全性を形式化する新しいフレームワークである。 BarrierSteerは、敵の成功率を大幅に低下させ、安全でない世代を減少させ、既存の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2026-02-23T18:19:46Z)
• DRAFT: Task Decoupled Latent Reasoning for Agent Safety [59.46137757545185]
  DRAFT(Task Decoupled Latent Reasoning for Agent Safety)を提案する。 エクストラクターは、完全な軌跡をコンパクトな連続的な潜伏ドラフトに蒸留し、リゾナーはドラフトと元の軌跡に共同で参加して安全性を予測する。 DRAFTの精度は63.27%(LoRA)から91.18%に向上した。
  論文  参考訳（メタデータ） (2026-02-11T07:45:14Z)
• Steering Externalities: Benign Activation Steering Unintentionally Increases Jailbreak Risk for Large Language Models [62.16655896700062]
  活性化ステアリングは大規模言語モデル(LLM)の有用性を高める技術である 重要かつ過度に調査された安全リスクを無意識に導入することを示します。 実験によると、これらの介入は強制乗算器として機能し、ジェイルブレイクに新たな脆弱性を発生させ、標準ベンチマークで攻撃成功率を80%以上向上させる。
  論文  参考訳（メタデータ） (2026-02-03T12:32:35Z)
• Self-Guard: Defending Large Reasoning Models via enhanced self-reflection [54.775612141528164]
  Self-Guardは、大規模推論モデルのための軽量な安全防御フレームワークである。 これは認識とコンプライアンスのギャップを埋め、モデルユーティリティを損なうことなく堅牢な安全性能を達成する。 セルフガードは、さまざまな未知のリスクとさまざまなモデルスケールにまたがる強力な一般化を示す。
  論文  参考訳（メタデータ） (2026-01-31T13:06:11Z)
• ProGuard: Towards Proactive Multimodal Safeguard [48.89789547707647]
  ProGuardは視覚言語プロアクティブガードであり、アウト・オブ・ディストリビューション(OOD)の安全性リスクを特定し記述する。 まず,2次安全ラベルとリスクカテゴリの両方を付加した87Kサンプルのモダリティバランスデータセットを構築した。 次に、強化学習を通して視覚言語ベースモデルを純粋に訓練し、効率的かつ簡潔な推論を実現する。
  論文  参考訳（メタデータ） (2025-12-29T16:13:23Z)
• ThinkGuard: Deliberative Slow Thinking Leads to Cautious Guardrails [33.96886111900147]
  ThinkGuardは、高容量言語モデルから知識を抽出する、批判的な拡張されたガードレールモデルである。 平均的なF1とAUPRCを達成し、全てのベースラインを上回ります。 ラベルのみの微調整モデルを超え、構造化された批評によって分類精度とニュアンス付き安全推論の両方が向上することを確認した。
  論文  参考訳（メタデータ） (2025-02-19T06:09:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。