論文の概要: Concept Acupuncturist: An Efficient and Precise Concept Erasure Method for Diffusion Models via Sparse Autoencoders

• arxiv url: http://arxiv.org/abs/2610.32059v1
• Date: Fri, 23 Oct 2026 01:54:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 01:38:06.323036
• Title: Concept Acupuncturist: An Efficient and Precise Concept Erasure Method for Diffusion Models via Sparse Autoencoders
• Title（参考訳）: 概念計算:スパースオートエンコーダによる拡散モデルの効率的かつ高精度な概念消去法
• Abstract要約: Concept Acupuncturist (ConceptACP) は、解釈可能性誘導分析と推論不要な微調整を統合した新しいMUフレームワークである。 私たちのコードはhttps://github.com/Eran-Xia/ConceptACP.comで公開されています。
• 参考スコア（独自算出の注目度）: 14.275359110630697
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion-based image generation models produce high-quality images but may generate harmful or policy-violating content, motivating machine unlearning (MU) to selectively remove target concepts while preserving general capabilities. However, existing MU approaches often struggle with the distributed and entangled nature of concept representations, leading to inefficient optimization and imprecise edits when applied through large-scale fine-tuning over full diffusion trajectories. To bridge this gap, we propose Concept Acupuncturist (ConceptACP), a novel MU framework that integrates interpretability-guided analysis with inference-free fine-tuning for efficient and precise concept removal. By establishing mappings between semantic concepts and cross-attention blocks in the U-Net denoiser and localizing the most concept-relevant block for targeted optimization, ConceptACP avoids full diffusion trajectory optimization, thereby improving fine-tuning efficiency. To mitigate concept entanglement, we propose a feature-level correction mechanism based on Sparse Autoencoders (SAEs), where SAE-derived sparse, semantically meaningful feature activations are manipulated to construct targeted correction signals, which are then projected back to the output space of the corresponding block and used as supervision for precise concept removal. Consequently, ConceptACP eliminates the need for external inference-time modules while achieving efficient and fine-grained unlearning. Instantiated on SDXL-Turbo, ConceptACP improves the forgetting success rate by 36.34 percentage points in the standard one-step generation setting on average over the best-performing baseline, while preserving image quality and prompt fidelity, and generalizes effectively across other Stable Diffusion backbones. Our code is available at https://github.com/Eran-Xia/ConceptACP.
• Abstract（参考訳）: 拡散に基づく画像生成モデルは高品質な画像を生成するが、有害またはポリシー違反のコンテンツを生成し、汎用性を保ちながらターゲット概念を選択的に除去するマシン・アンラーニング(MU)を動機付ける。 しかし、既存のMUアプローチは概念表現の分散と絡み合った性質に苦しむことが多く、完全な拡散軌道上の大規模微調整によって非効率な最適化と不正確な編集をもたらす。 このギャップを埋めるために,解釈可能性誘導分析と推論不要な微調整を統合し,効率的かつ正確な概念除去を実現する新しいMUフレームワークであるConcept Acupuncturist(ConceptACP)を提案する。 U-Net Denoiserのセマンティック概念とクロスアテンションブロックのマッピングを確立し、ターゲット最適化のための最も概念関連ブロックをローカライズすることで、ConceptACPは完全な拡散軌道最適化を回避し、微調整効率を向上させる。 本研究では,SAEをベースとしたスパースオートエンコーダ(SAE)に基づく特徴レベルの補正機構を提案する。SAEから派生したスパースな意味的意味のある特徴アクティベーションを操作して,対象の補正信号を構築し,対応するブロックの出力空間に投影し,正確な概念除去の監督を行う。 その結果、ConceptACPは、効率的できめ細かい未学習を達成しつつ、外部の推論時モジュールの必要性を排除した。 SDXL-Turboで実証されたConceptACPは、画像の品質と迅速な忠実さを保ちながら、最高性能のベースライン上での標準ワンステップ生成設定において、忘れる成功率を36.34ポイント改善し、他の安定拡散バックボーンを効果的に一般化する。 私たちのコードはhttps://github.com/Eran-Xia/ConceptACP.comで公開されています。

関連論文リスト

• EraseSAE: Surgical Concept Erasure in Text-to-Video Diffusion Models via Sparse Autoencoders [103.46709005379591]
  概念消去は、事前訓練されたモデルから不要なセマンティクスを取り除くことによって、原則化された救済を提供する。 既存のアプローチは一般に粗い品質で動作し、概念表現の微細で分散した性質と不一致である。 外科的概念の消去を実現するためにスパースオートエンコーダを利用する新しいフレームワークであるEraseSAEを提案する。
  論文  参考訳（メタデータ） (2026-09-03T10:23:37Z)
• Differential Vector Erasure: Unified Training-Free Concept Erasure for Flow Matching Models [49.10620605347065]
  本研究では,フローマッチングモデルに特化して設計されたトレーニング不要な概念消去手法である差分ベクトル消去(DVE)を提案する。 我々の重要な洞察は、意味論的概念は生成フローを管理する速度場の方向構造に暗黙的に符号化されていることである。 推論中、DVEは速度場を微分方向に投影することで概念固有の成分を選択的に除去し、無関係な意味論に影響を与えることなく正確な概念抑圧を可能にする。
  論文  参考訳（メタデータ） (2026-02-01T08:05:45Z)
• CURE: Concept Unlearning via Orthogonal Representation Editing in Diffusion Models [7.68494752148263]
  CUREは、事前訓練された拡散モデルの重み空間で直接動作する、トレーニング不要の概念未学習フレームワークである。 スペクトル消去器は、安全な属性を保持しながら、望ましくない概念に特有の特徴を特定し、分離する。 CUREは、対象とする芸術スタイル、オブジェクト、アイデンティティ、明示的なコンテンツに対して、より効率的で徹底的な除去を実現する。
  論文  参考訳（メタデータ） (2025-05-19T03:53:06Z)
• SPEED: Scalable, Precise, and Efficient Concept Erasure for Diffusion Models [56.83154571623655]
  モデルパラメータを直接編集する効率的な概念消去手法であるSPEEDを導入する。 Speedyは、パラメータ更新がターゲット以外の概念に影響しないモデル編集スペースであるnullスペースを検索する。 たった5秒で100のコンセプトを消去しました。
  論文  参考訳（メタデータ） (2025-03-10T14:40:01Z)
• Concept Replacer: Replacing Sensitive Concepts in Diffusion Models via Precision Localization [48.20360860166279]
  大規模な拡散モデルは高品質な画像を生成するが、しばしば性的に明示的なコンテンツや暴力的なコンテンツのような望ましくないコンテンツを生成する。 本研究では,非対象領域に影響を及ぼすことなく,特定の概念を除去することが可能な拡散モデルにおいて,対象概念を置き換えるための新しい手法を提案する。 本手法では,最小限のラベル付きデータを必要とする数発の学習で学習し,目標概念を正確に識別する専用概念ローカライザを提案する。 特定領域内では,DPCA(Dual Prompts Cross-Attention)モジュールが導入された。
  論文  参考訳（メタデータ） (2024-12-02T08:05:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。