論文の概要: Safety Reconstructed: Generative Modeling via Masked Diffusion Builds Strong Safety Guardrails

• arxiv url: http://arxiv.org/abs/2609.33634v1
• Date: Sun, 27 Sep 2026 14:54:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-05 15:11:23.858268
• Title: Safety Reconstructed: Generative Modeling via Masked Diffusion Builds Strong Safety Guardrails
• Title（参考訳）: 安全の再構築:マスケ拡散による強安全ガードレールの創成モデル
• Abstract要約: ガードモデルは、会話のコンテキストから単一の検証トークンを予測することを学び、単一のターゲットに対する監視に集中する。 LLaDA-Guardを提案する。各ラベル仮説の下でのプロンプトや応答をスコアし,その差に基づいて分類する。 このアイデアをマスク付き拡散言語モデル、LLaDA-8B-インストラクタ、LoRAを用いたクラス条件再構築目標を用いてインスタンス化する。
• 参考スコア（独自算出の注目度）: 40.082729607289686
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Guard models are the last line of defense between a language model and a harmful output, yet their training objective is surprisingly narrow. Existing guards learn to predict a single verdict token from a conversational context, concentrating supervision on a single target. The consequences are structural: models latch onto shortcut features, are overconfident, and remain sensitive to where safety evidence appears in the sequence rather than its role in the full context. We propose a different framing. Rather than predicting a label from text, our LLaDA-Guard asks which label better explains the text: scoring the prompt or response under each label hypothesis and classifying based on their difference. This shifts supervision to every token in the moderated region, forcing the model to account for full content rather than its most discriminative fragments. We instantiate this idea with a masked diffusion language model, fine-tuning LLaDA-8B-Instruct with a class-conditional reconstruction objective using LoRA and requiring no architectural changes beyond the base model. LLaDA-Guard leads on average rank against discriminative baselines trained on stronger backbones across seven held-out safety benchmarks, while exhibiting substantially better confidence calibration (ECE 0.0875 vs. 0.1384 for Qwen3Guard), less over-defense on benign prompts with unsafe-looking cues, and less prompt leakage when moderating responses. Its generative nature further enables token-level risk localization as a natural byproduct, yielding a pipeline for rewriting unsafe prompts into safe equivalents without additional training and achieving a 60.7% average conversion-to-safe rate.
• Abstract（参考訳）: ガードモデルは、言語モデルと有害なアウトプットの間の最後の防御線ですが、そのトレーニング目標が驚くほど狭いのです。 既存の警備員は、会話のコンテキストから単一の検証トークンを予測することを学び、単一のターゲットに対する監視に集中する。 モデルはショートカットの特徴に密着し、自信過剰であり、完全な文脈での役割よりも、シーケンス内の安全証拠がどこに現れるかに敏感である。 私たちは別のフレーミングを提案します。 LLaDA-Guard氏は、テキストからラベルを予測するのではなく、どのラベルがテキストをよりよく説明するかを尋ねています。 これにより、中間領域のすべてのトークンに対する監督がシフトし、最も差別的な断片ではなく、完全なコンテンツを考慮せざるを得なくなる。 このアイデアをマスク付き拡散言語モデル、LLaDA-8B-インストラクション、LoRAを用いたクラス条件再構築目標、ベースモデル以外のアーキテクチャ変更を不要とする。 LLaDA-Guardは、7つのホールトアウト安全ベンチマークで強化されたバックボーンで訓練された差別的ベースラインに対して平均的なランクを導いており、信頼性のキャリブレーション(Qwen3GuardのECE 0.0875 vs. 0.1384)が大幅に向上している。 その生成特性により、トークンレベルのリスクローカライゼーションが自然の副産物として可能となり、安全でないプロンプトを追加のトレーニングなしで安全な等価なものに書き換えるパイプラインが得られ、平均60.7%の変換安全性が達成される。

関連論文リスト

• DT-Guard: Intent-Driven Reasoning-Active Training for Reasoning-Free LLM Safety Guardrail [19.59614205209542]
  本稿では、Reasoning-Active Training, Reasoning-Free Inferenceパラダイムに基づくコンテンツ安全ガードレールモデルDT-Guardを提案する。 鍵となる考え方は、推論時にのみ構造化された安全ラベルを出力しながら、トレーニング中に推論監督を使用することである。
  論文  参考訳（メタデータ） (2026-07-07T14:25:05Z)
• HaloGuard 1.0: An Open Weights Constitutional Classifier for Multilingual AI Safety [0.0]
  HaloGuard 1.0は、入力安全性のためのコンスティチューション分類のパラダイムのオープンウェイト実装である。 現在のオープンガードモデルの約10分の1のモデルサイズで、英語と多言語のプロンプトセーフティベンチマークで最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2026-07-02T12:21:16Z)
• Guardian-as-an-Advisor: Advancing Next-Generation Guardian Models for Trustworthy LLMs [70.81495077853673]
  ハードゲートのセーフティチェッカーは、しばしばベンダーのモデル仕様に過度に反抗し、不平を言う。 この研究は、ガーディアン・アズ・ア・アドバイザ(GaaA)というソフトゲーティングパイプラインを導入し、保護者がバイナリリスクラベルを予測し、このアドバイスを元のクエリに再推論する。 全体として、GaaAはモデル仕様に従うようモデルに指示し、過度な拒絶を減らしながら安全性を維持している。
  論文  参考訳（メタデータ） (2026-04-08T23:47:29Z)
• Deliberative Alignment is Deep, but Uncertainty Remains: Inference time safety improvement in reasoning via attribution of unsafe behavior to base model [50.29667251847595]
  モデルサイズが大きく,安全性が向上しているにもかかわらず,教師と生徒の言語モデルの間にはアライメントギャップがあることが示される。 本稿では,不安全な動作を潜在空間のベースLLMに還元するBoNサンプリング手法を提案する。 特に7つの教師モデルと6つの生徒モデルが異なるクラスとサイズで、平均攻撃成功率(ASR)はDANで28.2%、WildJailbreakで31.3%、StrongREJECTベンチマークで35.4%低下した。
  論文  参考訳（メタデータ） (2026-04-01T02:42:41Z)
• THINKSAFE: Self-Generated Safety Alignment for Reasoning Models [60.10077024249373]
  外部の教師がいなくても安心して安心できるフレームワークであるThinkSafeを提案する。 我々の重要な洞察は、コンプライアンスは安全メカニズムを抑制するが、モデルはしばしば害を特定するために潜伏した知識を保持することである。 DeepSeek-R1-DistillとQwen3の実験では、ThinkSafeは推論能力を維持しながら安全性を大幅に向上している。
  論文  参考訳（メタデータ） (2026-01-30T16:31:02Z)
• ProGuard: Towards Proactive Multimodal Safeguard [48.89789547707647]
  ProGuardは視覚言語プロアクティブガードであり、アウト・オブ・ディストリビューション(OOD)の安全性リスクを特定し記述する。 まず,2次安全ラベルとリスクカテゴリの両方を付加した87Kサンプルのモダリティバランスデータセットを構築した。 次に、強化学習を通して視覚言語ベースモデルを純粋に訓練し、効率的かつ簡潔な推論を実現する。
  論文  参考訳（メタデータ） (2025-12-29T16:13:23Z)
• Qwen3Guard Technical Report [127.69960525219051]
  Qwen3Guardは、多言語安全ガードレールモデルである。 生成的Qwen3Guardは、きめ細かい三級判定を可能にする命令追従タスクとして安全分類をキャストする。 Stream Qwen3Guardは、リアルタイム安全監視のためのトークンレベルの分類ヘッドを導入している。
  論文  参考訳（メタデータ） (2025-10-16T04:00:18Z)
• One Trigger Token Is Enough: A Defense Strategy for Balancing Safety and Usability in Large Language Models [20.42976162135529]
  大規模言語モデル(LLM)は、仮想アシスタント、自動コード生成、科学研究など、さまざまな領域で広く使われている。 我々は,与えられた安全対応LLMの安全トリガトークンを識別し,明示的に復号する,シンプルで効果的な防衛アルゴリズムであるtextttD-STT を提案する。
  論文  参考訳（メタデータ） (2025-05-12T01:26:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。