論文の概要: Adaptive Steering and Remasking for Safe Generation in Diffusion Language Models
- arxiv url: http://arxiv.org/abs/2605.13043v1
- Date: Wed, 13 May 2026 05:56:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-14 23:30:27.835584
- Title: Adaptive Steering and Remasking for Safe Generation in Diffusion Language Models
- Title（参考訳）: 拡散言語モデルにおける安全な生成のための適応的ステアリングとリマッシング
- Authors: Yejin Lee, Yo-Sub Han,
- Abstract要約: Diffusion Language Models (DLMs) は自己回帰型言語モデルに代わる有望な選択肢を提供する。
本稿では,段階的介入に基づく推論時防衛フレームワークを提案する。
われわれのアプローチは、ジェイルブレイクの成功率を0.64%まで下げる一方で、オリジナルのモデルの性能に近い世代品質を保っている。
- 参考スコア（独自算出の注目度）: 6.107855416893071
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion Language Models (DLMs) provide a promising alternative to autoregressive language models by generating text through iterative denoising and bidirectional refinement. However, this iterative generation paradigm also introduces unique safety vulnerabilities when harmful tokens generated at intermediate denoising steps propagate through subsequent refinement processes and eventually induce unsafe outputs. While there are a few attempts to remedy this issue, they either fail to generate safe outputs or generate safe yet low-quality outputs. This motivates us to propose an inference-time defense framework based on the step-wise intervention during the denoising process, which then improves the safety without compromising the output quality. The key component of our framework is a contrastive safety direction (SGD), a latent direction that captures the semantic boundary between harmful and safe generations. We leverage SGD to assess the alignment of generated tokens with harmful semantics at each denoising step. When harmful alignment is detected, our method remasks the corresponding tokens and resumes the denoising process with adaptive steering, where the steering strength is modulated according to the estimated degree of harmfulness. As a plug-and-play module, our method circumvents the need for additional fine-tuning and can be directly incorporated into off-the-shelf diffusion models. The experimental results show that our approaches reduce jailbreak success rates to 0.64% while preserving generation quality close to the original model performance. This confirms the effectiveness of step-wise intervention for safe diffusion language model generation. Our code is available at https://github.com/leeyejin1231/DLM_Steering_Remasking.
- Abstract（参考訳）: Diffusion Language Models (DLMs) は、反復的な認知と双方向の洗練を通じてテキストを生成することで、自動回帰言語モデルの有望な代替手段を提供する。
しかし、この反復生成パラダイムは、中間復調工程で発生する有害なトークンがその後の改良プロセスを通じて伝播し、最終的には安全でない出力を誘導する際、ユニークな安全性の脆弱性も導入する。
この問題を解決する試みはいくつかあるが、安全なアウトプットを生成できないか、安全で低品質なアウトプットを生成するかのいずれかである。
これにより,デノナイズプロセスにおける段階的介入に基づく推論時防衛フレームワークの提案が動機となり,出力品質を損なうことなく安全性の向上が図られる。
我々のフレームワークの重要な構成要素は、有害世代と安全世代の間のセマンティックな境界を捕捉する潜在方向であるコントラスト安全方向(SGD)である。
我々はSGDを利用して生成したトークンと有害なセマンティクスのアライメントを評価する。
有害なアライメントが検出されると,本手法は対応するトークンをリマスクし,アダプティブステアリングで復調処理を再開する。
プラグ・アンド・プレイモジュールとして,追加の微調整の必要性を回避し,市販拡散モデルに直接組み込むことができる。
実験結果から,本手法によるジェイルブレイク成功率は0.64%に低下し,生成品質はオリジナルのモデル性能に近く保たれた。
これにより,安全な拡散言語モデル生成のための段階的介入の有効性が確認される。
私たちのコードはhttps://github.com/leeyejin1231/DLM_Steering_Remaskingで利用可能です。
関連論文リスト
- Safety-Guided Flow (SGF): A Unified Framework for Negative Guidance in Safe Generation [2.5489046505746704]
本稿では,画像生成タスクに対する最大平均離散性(MMD)ポテンシャルを用いた統一確率的フレームワークを提案する。
我々は制御バリア関数解析を利用して、負のガイダンスが強くなければならない臨界時間窓の存在を正当化する。
我々は,いくつかの現実的な安全な生成シナリオにおいて,統合されたフレームワークを評価し,否定的なガイダンスがデノナイジングプロセスの初期段階で適用されるべきであることを確認した。
論文 参考訳（メタデータ） (2026-03-02T07:31:29Z) - A Fragile Guardrail: Diffusion LLM's Safety Blessing and Its Failure Mode [51.43498132808724]
Diffusion large language model (D-LLMs) はjailbreak攻撃に対して本質的に堅牢であることを示す。
構成された良質なコンテキスト内に有害な要求が埋め込まれる、単純な、効果的な障害モードをコンテキストネストと呼ぶ。
この単純な戦略は、D-LLMの安全性を回避し、最先端の攻撃成功率を達成するのに十分であることを示す。
論文 参考訳（メタデータ） (2026-01-30T23:08:14Z) - ForgeDAN: An Evolutionary Framework for Jailbreaking Aligned Large Language Models [8.765213350762748]
ジェイルブレイク攻撃は 有害な出力を 引き出すためにアライメント・ガードをバイパスする
セマンティック・コヒーレントで高能率な対人プロンプトを生成するための新しいフレームワークであるForgeDANを提案する。
本評価は,従来のSOTAソリューションよりも優れた自然さとステルスを維持しつつ,高い脱獄率を達成することを示す。
論文 参考訳（メタデータ） (2025-11-17T16:19:21Z) - Toward Safer Diffusion Language Models: Discovery and Mitigation of Priming Vulnerability [5.650647159993238]
拡散言語モデル (DLMs) は反復的 denoising を通じてトークンを並列に生成する。
本稿では, DLM が反復的 denoising プロセスから生じる致命的な脆弱性を明らかにする。
汚染された中間状態から安全な応答を生成するためにモデルを訓練するDLMに適した新しい安全アライメント手法を提案する。
論文 参考訳（メタデータ） (2025-10-01T06:35:23Z) - DiffuGuard: How Intrinsic Safety is Lost and Found in Diffusion Large Language Models [50.21378052667732]
我々は、ステップ内およびステップ間ダイナミクスという2つの異なる次元にわたるジェイルブレイク攻撃に対して、dLLM脆弱性の詳細な分析を行う。
デュアルステージアプローチによる脆弱性に対処する,トレーニング不要な防御フレームワークであるDiffuGuardを提案する。
論文 参考訳（メタデータ） (2025-09-29T05:17:10Z) - Backtracking for Safety [11.141166381133054]
大規模言語モデル(LLM)は、様々なタスクにわたって顕著な能力を示してきたが、その安全性と人間の価値との整合性は依然として不可欠である。
教師付き微調整や強化学習に基づくアプローチのような現在の安全アライメント手法は、敵の攻撃に対する脆弱性を示す可能性がある。
本稿では,これらの制約に対処する新しいバックトラック手法を提案する。
論文 参考訳（メタデータ） (2025-03-11T22:04:22Z) - Smoothed Embeddings for Robust Language Models [11.97873981355746]
大規模言語モデル(LLM)は、アライメントを抑え、有害な出力を誘導するジェイルブレイク攻撃に対して脆弱である。
本稿では,埋め込みベクトルにランダムノイズを付加し,各出力トークンの生成時にアグリゲーションを行うRESTAディフェンスを提案する。
本実験は,本手法がベースラインディフェンスと比較して,実用上のトレードオフよりも優れたロバスト性を実現することを示す。
論文 参考訳（メタデータ） (2025-01-27T20:57:26Z) - DiffusionAttacker: Diffusion-Driven Prompt Manipulation for LLM Jailbreak [51.8218217407928]
大規模言語モデル (LLM) は、慎重に入力を行うと有害なコンテンツを生成する可能性がある。
本稿では,拡散モデルにインスパイアされたジェイルブレイク書き換えのためのエンドツーエンド生成手法であるDiffusionAttackerを紹介する。
論文 参考訳（メタデータ） (2024-12-23T12:44:54Z) - Advancing the Robustness of Large Language Models through Self-Denoised Smoothing [50.54276872204319]
大規模言語モデル(LLM)は大きな成功を収めたが、敵の摂動に対する脆弱性は大きな懸念を引き起こしている。
本稿では,LLMのマルチタスク特性を活用して,まずノイズの入力を識別し,次にこれらの復号化バージョンに基づいて予測を行う。
LLMのロバスト性を高めるために個別のモデルを訓練する必要がある従来のコンピュータビジョンのスムース化技術とは異なり、本手法は効率と柔軟性を著しく向上させる。
論文 参考訳（メタデータ） (2024-04-18T15:47:00Z) - Emulated Disalignment: Safety Alignment for Large Language Models May Backfire! [65.06450319194454]
大きな言語モデル(LLM)は、人間との安全な会話を確保するために安全アライメントを行う。
本稿では,安全アライメントの反転が可能なトレーニングフリーアタック手法を提案する。
本手法をエミュレートした脱アライメント (ED) と呼ぶのは, このコントラスト分布からのサンプリングは, 安全報酬を最小限に抑えるため, 微調整の結果を確実にエミュレートするからである。
論文 参考訳（メタデータ） (2024-02-19T18:16:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。