論文の概要: Enabling Preference-driven Unlearning in Few-step Distilled Text-to-Image Diffusion Models

• arxiv url: http://arxiv.org/abs/2610.10859v1
• Date: Wed, 07 Oct 2026 20:03:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.661939
• Title: Enabling Preference-driven Unlearning in Few-step Distilled Text-to-Image Diffusion Models
• Title（参考訳）: 数ステップのテキスト・画像拡散モデルにおける予測駆動型未学習の実現
• Abstract要約: データ駆動型アンラーニング手法は、微調整モデル重みによるターゲット世代を抑制する。 修正された好み最適化の定式化は、数ステップの生成特性に明示的に適合する。 我々のフレームワークは、FSDモデルにおける未学習の実践的で原則化されたソリューションとして、我々の手法を確立している。
• 参考スコア（独自算出の注目度）: 29.33109943513496
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Text-to-image diffusion models are increasingly distilled into few-step variants and being deployed to enable fast inference. However, their ability to generate harmful or undesired content poses significant safety risks. Data-driven unlearning methods suppress targeted generations by fine-tuning model weights using specialized unlearning objectives. Crucially, these objectives implicitly rely on multi-step denoising dynamics, an assumption that breaks down for few-step distilled (FSD) models, resulting in ineffective forgetting. Furthermore, performing unlearning on the non-distilled base model and subsequently re-distilling it to obtain an unlearned FSD model incurs substantial computational and time overhead, making it impractical in many settings. Hence, we address this limitation with a preference-driven unlearning framework that revisits Direct Preference Optimization (DPO) for diffusion models. We show that standard DPO and its unlearning derivatives, formulated around noise-prediction error, transfer poorly to FSD models due to their altered generation dynamics. To overcome this, we introduce a modified preference optimization formulation explicitly aligned with the few-step generation properties, enabling direct concept removal in FSD models while preserving few-step efficiency and maintaining strong retention of desirable (non-targeted) capabilities. We evaluate our framework primarily on identity and NSFW (nudity) removal tasks and also extend our method to object-level unlearning. Extensive experiments demonstrate consistent and effective forgetting, and strong retention performance, establishing our method as a practical and principled solution for unlearning in FSD models.
• Abstract（参考訳）: テキスト・ツー・イメージの拡散モデルは、徐々に数段階の変種に蒸留され、高速な推論を可能にするためにデプロイされる。 しかし、有害または望ましくないコンテンツを生成する能力は、重大な安全性のリスクをもたらす。 データ駆動型未学習法は、特殊な未学習目標を用いた微調整モデル重みによる対象世代を抑制する。 重要なことに、これらの目的は暗黙的に多段階の分解力学に依存しており、これは数ステップの蒸留(FSD)モデルで分解される仮定であり、効率の悪さをもたらす。 さらに、非蒸留ベースモデルでアンラーニングを行い、その後再蒸留して未学習のFSDモデルを得ると、かなりの計算と時間的オーバーヘッドが発生し、多くの設定で非現実的になる。 そこで我々は,この制限を,拡散モデルに対する直接選好最適化(DPO)を再検討する,嗜好駆動型アンラーニングフレームワークを用いて解決する。 ノイズ予測誤差に基づいて定式化された標準DPOとその非学習導関数は、生成ダイナミクスの変化により、FSDモデルへの変換が不十分であることを示す。 そこで本研究では,FSDモデルにおいて,数ステップの効率を維持しつつ,望ましくない(非目標)能力の強い保持を維持しつつ,直接概念の除去を可能にするため,数ステップ生成特性に明示的に適合する修正された選好最適化式を導入する。 我々は、主にアイデンティティとNSFW(Nudity)除去タスクに基づいてフレームワークを評価し、また、メソッドをオブジェクトレベルのアンラーニングにまで拡張する。 大規模な実験は、一貫した、効果的に忘れられ、強い保留性能を示し、FSDモデルにおける未学習の実践的で原則化された解決策として、我々の方法を確立した。

関連論文リスト

• Dual-Teacher Distillation with Subnetwork Rectification for Black-Box Domain Adaptation [69.7036779439312]
  ブラックボックスドメイン適応は、非常に実用的で非常に困難な設定である。 ブラックボックスソースモデルに埋め込まれた特定の知識を活用するサブネットワーク整合モデル(DDSR)を用いた二重蒸留法を提案する。 我々の手法は、ソースデータやモデルの使用を含む、最先端の手法に対する一貫した改善を実証する。
  論文  参考訳（メタデータ） (2026-03-24T07:54:19Z)
• Deep Leakage with Generative Flow Matching Denoiser [54.05993847488204]
  再建プロセスに先立って生成フローマッチング(FM)を組み込んだ新しい深部リーク攻撃(DL)を導入する。 当社のアプローチは、ピクセルレベル、知覚的、特徴に基づく類似度測定において、最先端の攻撃よりも一貫して優れています。
  論文  参考訳（メタデータ） (2026-01-21T14:51:01Z)
• Boosting Fidelity for Pre-Trained-Diffusion-Based Low-Light Image Enhancement via Condition Refinement [63.54516423266521]
  事前学習拡散ベース(PTDB)法は、しばしばコンテンツ忠実さを犠牲にして知覚的リアリズムを高める。 本稿では,事前学習した拡散モデルにおける条件付けのための新しい最適化手法を提案する。 我々のアプローチはプラグアンドプレイであり、より効率的な制御を提供するために既存の拡散ネットワークにシームレスに統合される。
  論文  参考訳（メタデータ） (2025-10-20T02:40:06Z)
• Variational Diffusion Unlearning: A Variational Inference Framework for Unlearning in Diffusion Models under Data Constraints [9.885531514020437]
  本研究では,事前学習した拡散モデルから望ましくない特徴を含む出力の発生を防止できる機械学習手法を提案する。 本手法は, 可塑性インデューサと安定正則化器の2項からなる損失関数の最小化を目的とした, 変分推論フレームワークに着想を得たものである。 本手法の有効性は,授業未学習と特徴未学習の両方に対する総合的な実験を通じて検証する。
  論文  参考訳（メタデータ） (2025-10-05T06:39:30Z)
• Concept Unlearning by Modeling Key Steps of Diffusion Process [27.387108656476375]
  概念アンラーニングは、テキストから画像への拡散モデルが望ましくない視覚コンテンツを生成するために誤用されるのを防ぐために使われてきた。 我々は,キーステップの概念学習(KSCU)を提案し,ターゲット概念へのキーステップでモデルを選択的に微調整する。 例えば、I2Pデータセットでは、KSCUは、未学習のヌード精度が8.3%向上し、FIDは8.4%向上し、全体的なスコアは0.92で、他のSOTAメソッドをほぼ上回っている。
  論文  参考訳（メタデータ） (2025-07-09T03:55:58Z)
• Restoration Score Distillation: From Corrupted Diffusion Pretraining to One-Step High-Quality Generation [82.39763984380625]
  Score Distillation (DSD) の原理的一般化である textitRestoration Score Distillation (RSD) を提案する。 RSDは、ぼやけた画像、不完全画像、低解像度画像など、広範囲の汚職タイプに対応している。 自然と科学の両方のデータセットの様々な復元作業において、教師モデルを一貫して上回っている。
  論文  参考訳（メタデータ） (2025-05-19T17:21:03Z)
• One-Step Diffusion Model for Image Motion-Deblurring [85.76149042561507]
  本稿では,脱臭過程を1段階に短縮する新しいフレームワークである脱臭拡散モデル(OSDD)を提案する。 拡散モデルにおける忠実度損失に対処するために,構造復元を改善する改良された変分オートエンコーダ(eVAE)を導入する。 提案手法は,実測値と非参照値の両方で高い性能を達成する。
  論文  参考訳（メタデータ） (2025-03-09T09:39:57Z)
• Avoiding mode collapse in diffusion models fine-tuned with reinforcement learning [0.0]
  強化学習(RL)による微調整基礎モデルは、下流の目標に整合する上で有望であることが証明されている。 拡散モデル (DM) の階層的性質を生かし, 各エポックでRL法で動的に訓練する。 HRFで訓練したモデルは、下流タスクにおける多様性の保存性を向上し、微調整の堅牢性を高め、平均報酬を損なうことなく達成できることが示される。
  論文  参考訳（メタデータ） (2024-10-10T19:06:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。