論文の概要: The Tokens Strike Back: Safety-Aware Denoising with Directional Embedding-based Revision
- arxiv url: http://arxiv.org/abs/2610.17636v1
- Date: Tue, 13 Oct 2026 03:04:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.496029
- Title: The Tokens Strike Back: Safety-Aware Denoising with Directional Embedding-based Revision
- Title（参考訳）: The Tokens Strike Back: Directional Embedding-based Revisionによる安全意識のデノベーション
- Abstract要約: Safety-Aware Denoiser (SAD) は、テキスト拡散モデルのためのトレーニングフリーで安全なガイダンスフレームワークである。
我々は,安全誘導信号を利用して,SADの安全性と品質のトレードオフを改善する$mathitSADDER$を提案する。
提案手法は,既存の手法よりも安全性,生成品質,推論コストのバランスがよいことを示す。
- 参考スコア（独自算出の注目度）: 6.007699776257503
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The Safety-Aware Denoiser (SAD) is a recent, training-free, safety-guidance framework for text diffusion models. During inference, SAD steers text samples toward safe regions of the token probability space. In this paper, we propose $\mathit{SADDER}$ (Safety-Aware Denoising with Directional Embedding-based Revision), which improves the safety and quality trade-offs of SAD by exploiting a safety-guidance signal in the embedding (or activation) space for each token position, then updating the token positions using the SAD update rule multiplied by the guidance signal. This multiplication acts as a gating mechanism: tokens with a high unsafe signal are more likely to be modified during inference following the SAD update rule. However, such an update does not automatically preserve the conditional mean, i.e., the denoiser of a fixed target distribution. We therefore theoretically derive new position-wise target distributions for which the modified denoiser is exact. Furthermore, we derive conditions under which the position-wise target distributions match a global target distribution. We test our $\mathit{SADDER}$ method on popular Masked Diffusion Language Models (MDLMs) and Uniform-State Diffusion Models (USDMs) across unsafe continuation and jailbreak settings, and show that $\mathit{SADDER}$ achieves a better balance between safety, generation quality, and inference cost than existing methods.
- Abstract（参考訳）: Safety-Aware Denoiser (SAD)は、テキスト拡散モデルのための、トレーニング不要で安全なガイダンスフレームワークである。
推論中、SADはトークン確率空間の安全な領域に向けてサンプルをテキスト化する。
本稿では,各トークン位置の埋め込み(または活性化)空間における安全誘導信号を利用して,誘導信号に乗じてトークン位置を更新することにより,SADの安全性と品質のトレードオフを改善した$\mathit{SADDER}$(Safety-Aware Denoising with Directional Embedding-based Revision)を提案する。
この乗算はゲーティング機構として機能する:高い安全でない信号を持つトークンは、SAD更新規則に従って推論中に変更される可能性が高い。
しかし、そのような更新は条件平均、すなわち固定された目標分布のデノイザを自動的に保持するわけではない。
したがって、理論的には、修正されたdenoiserが正確である新しい位置的目標分布を導出する。
さらに,位置的対象分布が大域的対象分布と一致する条件を導出する。
We test our $\mathit{SADDER}$ method on popular Masked Diffusion Language Models (MDLMs) and Uniform-State Diffusion Models (USDMs) across unsafe continuation and jailbreak settings, and showed that $\mathit{SADDER}$ is a better balance between safety, generation quality and inference cost than existing method。
関連論文リスト
- Safeguarding LLMs via Model-Agnostic Latent Safety Signals from Dark Knowledge [58.89692997625976]
既存のデコードステージの防御には2つの制限がある。
彼らは、安全性と過剰な拒絶の間のトレードオフを導入し、安全を強化することで、良質なクエリに対するモデルの利便性を低下させる。
ダークナレッジから有害クエリと良性クエリを対比して抽出した潜時安全信号を利用するLADEを導入する。
論文 参考訳（メタデータ） (2026-10-05T23:59:28Z) - Adaptive Steering and Remasking for Safe Generation in Diffusion Language Models [6.107855416893071]
Diffusion Language Models (DLMs) は自己回帰型言語モデルに代わる有望な選択肢を提供する。
本稿では,段階的介入に基づく推論時防衛フレームワークを提案する。
われわれのアプローチは、ジェイルブレイクの成功率を0.64%まで下げる一方で、オリジナルのモデルの性能に近い世代品質を保っている。
論文 参考訳（メタデータ） (2026-05-13T05:56:45Z) - The Safety-Aware Denoiser for Text Diffusion Models [1.6800992804614623]
本稿では,テキスト拡散モデルにおける安全誘導フレームワークであるSADを提案する。
SADは、最終復調工程におけるテキストサンプルが確実に安全な領域に向けて操られるように反復復調工程を変更する。
危険分類, 記憶, 脱獄に関して, SADを用いて生成したテキストの安全性を評価する。
論文 参考訳（メタデータ） (2026-04-28T00:44:30Z) - Safety Alignment as Continual Learning: Mitigating the Alignment Tax via Orthogonal Gradient Projection [52.551864761088574]
大規模言語モデル(LLM)は、しばしばアライメント税を課す。
この税は、主に連続的な順序で学習スタイルを忘れることから生じると我々は主張する。
我々は, 塑性と安定性のバランスをとるために, OGPSA (Orthogonal Gradient Projection for Safety Alignment) を提案する。
論文 参考訳（メタデータ） (2026-02-08T09:53:46Z) - CORE: Context-Robust Remasking for Diffusion Language Models [51.59514489363897]
我々は、推論時リビジョンのためのトレーニング不要フレームワークであるContext-Robust Remasking (CORE)を提案する。
静的トークンの確率を信頼するのではなく、COREは、ターゲットとなるマスク付きコンテキストの摂動に対する感受性を示すことによって、コンテキスト不安定なトークンを識別する。
LLaDA-8B-Baseでは、COREは推論とコードベンチマークの間で一貫した改善を行い、計算に適合したベースラインを上回り、MBPPを最大9.2%改善した。
論文 参考訳（メタデータ） (2026-02-04T00:12:30Z) - Toward Safer Diffusion Language Models: Discovery and Mitigation of Priming Vulnerability [5.650647159993238]
拡散言語モデル (DLMs) は反復的 denoising を通じてトークンを並列に生成する。
本稿では, DLM が反復的 denoising プロセスから生じる致命的な脆弱性を明らかにする。
汚染された中間状態から安全な応答を生成するためにモデルを訓練するDLMに適した新しい安全アライメント手法を提案する。
論文 参考訳（メタデータ） (2025-10-01T06:35:23Z) - SABER: Uncovering Vulnerabilities in Safety Alignment via Cross-Layer Residual Connection [16.38885847999291]
セーフアライメントトレーニングを備えた大規模言語モデル(LLM)は、堅牢な言語理解能力を備えた強力な機器である。
2つの中間層を$s$と$e$で接続し、残余接続を通じて$s e$と$e$を接続する新しいホワイトボックスジェイルブレイク手法であるSABERを導入する。
提案手法は,HarmBenchテストセット上での最高性能ベースラインよりも51%向上する。
論文 参考訳（メタデータ） (2025-09-19T15:10:19Z) - Training-Free Safe Denoisers for Safe Use of Diffusion Models [48.71988754620378]
強力な拡散モデル(DM)は、安全でない作業用コンテンツ(NSFW)を生成したり、忘れられたい個人の著作権のある資料やデータを生成するためにしばしば誤用される。
我々は,データ分布の否定領域を回避しつつ,高品質なサンプルを生成する実用的なアルゴリズムを開発した。
これらの結果は、DMをより安全に使用するための、トレーニング不要の安全なデノイザーの大きな可能性を示唆している。
論文 参考訳（メタデータ） (2025-02-11T23:14:39Z) - Sample-Efficient Safety Assurances using Conformal Prediction [57.92013073974406]
早期警戒システムは、安全でない状況が差し迫ったときに警告を提供することができる。
安全性を確実に向上させるためには、これらの警告システムは証明可能な偽陰性率を持つべきである。
本稿では,共形予測と呼ばれる統計的推論手法とロボット・環境力学シミュレータを組み合わせたフレームワークを提案する。
論文 参考訳（メタデータ） (2021-09-28T23:00:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。