論文の概要: Disentangled Sparse Representations for Concept-Separated Diffusion Unlearning
- arxiv url: http://arxiv.org/abs/2605.12122v1
- Date: Tue, 12 May 2026 13:39:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-13 21:48:56.885823
- Title: Disentangled Sparse Representations for Concept-Separated Diffusion Unlearning
- Title（参考訳）: 概念分離拡散未学習のための分散スパース表現法
- Authors: Hyeonjin Kim, Hangyeol Jung, Heechan Yun, Sungjun Yun, Dong-Jun Han,
- Abstract要約: 提案するSAEParateは,概念を意識したコントラスト的目的によって,潜在表現を概念固有のクラスタに整理する。
また,GeLUをベースとした非線形変換によりエンコーダを強化し,この分離目的下での表現能力を向上させる。
- 参考スコア（独自算出の注目度）: 17.479156121859827
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Unlearning specific concepts in text-to-image diffusion models has become increasingly important for preventing undesirable content generation. Among prior approaches, sparse autoencoder (SAE)-based methods have attracted attention due to their ability to suppress target concepts through lightweight manipulation of latent features, without modifying model parameters. However, SAEs trained with sparse reconstruction objectives do not explicitly enforce concept-wise separation, resulting in shared latent features across concepts. To address this, we propose SAEParate, which organizes latent representations into concept-specific clusters via a concept-aware contrastive objective, enabling more precise concept suppression while reducing unintended interference during unlearning. In addition, we enhance the encoder with a GeLU-based nonlinear transformation to increase its expressive capacity under this separation objective, enabling a more discriminative and disentangled latent space. Experiments on UnlearnCanvas demonstrate state-of-the-art performance, with particularly strong gains in joint style-object unlearning, a challenging setting where existing methods suffer from severe interference between target and non-target concepts.
- Abstract（参考訳）: テキストから画像への拡散モデルにおける特定の概念の学習は、望ましくないコンテンツ生成を防止するためにますます重要になっている。
従来,スパースオートエンコーダ(SAE)を用いた手法は,モデルパラメータを変更することなく,潜在特徴の軽量な操作によって目標概念を抑える能力に注目が集まってきた。
しかし、スパース再構成の目的を訓練したSAEは、概念的分離を明示的に強制していないため、概念をまたいだ潜在的特徴を共有している。
そこで本研究では,非学習時の意図しない干渉を低減しつつ,より正確な概念抑圧を可能にする概念認識型コントラスト目的により,潜在表現を概念固有のクラスタに整理するSAEParateを提案する。
さらに,GeLUをベースとした非線形変換によりエンコーダを強化し,この分離目的の下で表現能力を高めることにより,より差別的で非絡み合いのあるラテント空間を実現する。
UnlearnCanvasの実験では、特にジョイントスタイルオブジェクトのアンラーニングにおいて、最先端のパフォーマンスが特に向上している。
関連論文リスト
- MeGU: Machine-Guided Unlearning with Target Feature Disentanglement [73.49657372882082]
本稿では,概念意識の再調整を通じて学習をガイドする新しいフレームワークを提案する。
MeGUは制御的かつ選択的に忘れることを可能にし、アンダーアンラーニングとオーバーアンラーニングの両方を効果的に緩和する。
論文 参考訳（メタデータ） (2026-02-19T05:20:31Z) - Differential Vector Erasure: Unified Training-Free Concept Erasure for Flow Matching Models [49.10620605347065]
本研究では,フローマッチングモデルに特化して設計されたトレーニング不要な概念消去手法である差分ベクトル消去(DVE)を提案する。
我々の重要な洞察は、意味論的概念は生成フローを管理する速度場の方向構造に暗黙的に符号化されていることである。
推論中、DVEは速度場を微分方向に投影することで概念固有の成分を選択的に除去し、無関係な意味論に影響を与えることなく正確な概念抑圧を可能にする。
論文 参考訳（メタデータ） (2026-02-01T08:05:45Z) - AUVIC: Adversarial Unlearning of Visual Concepts for Multi-modal Large Language Models [63.05306474002547]
を強制する規制フレームワークは、機械学習の必要性を喚起します。
AUVICはMLLMのための新しい視覚概念アンラーニングフレームワークである。
AUVICは,非ターゲット概念の性能劣化を最小限に抑えつつ,最先端の目標忘れ率を実現していることを示す。
論文 参考訳（メタデータ） (2025-11-14T13:35:32Z) - FACE: Faithful Automatic Concept Extraction [4.417419748257645]
FACE(Faithful Automatic Concept extract)は、KL(Kullback-Leibler)の発散正規化項で非負行列因子化(NMF)を強化する新しいフレームワークである。
我々は,KL分散の最小化が予測分布の偏差を制限し,学習された概念空間における忠実な局所線型性を促進することを理論的保証する。
論文 参考訳（メタデータ） (2025-10-13T17:44:45Z) - Fine-Grained Erasure in Text-to-Image Diffusion-based Foundation Models [56.35484513848296]
FADE(Fine grained Attenuation for Diffusion Erasure)は、テキストから画像への生成モデルのための非学習アルゴリズムである。
関連する概念に最小限の影響で目標概念を排除し、最先端の手法よりも保持性能が12%向上した。
論文 参考訳（メタデータ） (2025-03-25T15:49:48Z) - Continual Unlearning for Foundational Text-to-Image Models without Generalization Erosion [56.35484513848296]
本研究は,基本生成モデルから複数の特定の概念を対象とする除去を可能にする新しいパラダイムである連続的アンラーニングを導入する。
本稿では,望ましくない概念の生成を選択的に解き放つような一般化エロージョン(DUGE)アルゴリズムを提案する。
論文 参考訳（メタデータ） (2025-03-17T23:17:16Z) - Unlearning Concepts in Diffusion Model via Concept Domain Correction and Concept Preserving Gradient [20.698305103879232]
我々はtextbfDoCo (textbfDomaintextbfCorrection) という新しい概念領域補正フレームワークを提案する。
本手法は, 対象概念の包括的未学習を保証し, 先進的学習を通して, センシティブな概念とアンカーの概念の出力領域を整合させることにより, 対象概念の包括的未学習を確実にする。
また、矛盾する勾配成分を緩和し、特定の概念を学習しながらモデルの実用性を維持するための概念保存的勾配手術手法も導入する。
論文 参考訳（メタデータ） (2024-05-24T07:47:36Z) - Deep Concept Removal [29.65899467379793]
ディープニューラルネットワークにおける概念除去の問題に対処する。
本稿では,概念データセットに基づいて学習した逆線形分類器に基づく新しい手法を提案する。
また,逆行訓練に伴う課題に対処するために,暗黙の勾配に基づく手法を導入する。
論文 参考訳（メタデータ） (2023-10-09T14:31:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。