論文の概要: Minimalist Concept Erasure in Generative Models

• arxiv url: http://arxiv.org/abs/2507.13386v1
• Date: Wed, 16 Jul 2025 00:32:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-21 20:43:26.060896
• Title: Minimalist Concept Erasure in Generative Models
• Title（参考訳）: 生成モデルにおけるミニマリスト概念の消去
• Authors: Yang Zhang, Er Jin, Yanfei Dong, Yixuan Wu, Philip Torr, Ashkan Khakzar, Johannes Stegmaier, Kenji Kawaguchi,
• Abstract要約: 我々は,最終生成出力の分布距離に基づいて,新しい最小限の概念消去目標を開発する。 消去の堅牢性を改善するため,我々はモデル微調整の代替としてニューロンマスキングを取り入れた。 現状のフローマッチングモデルに対する実証的な評価は,本手法がモデル全体の性能を劣化させることなく,概念を確実に消去することを示した。
• 参考スコア（独自算出の注目度）: 29.548315937553756
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent advances in generative models have demonstrated remarkable capabilities in producing high-quality images, but their reliance on large-scale unlabeled data has raised significant safety and copyright concerns. Efforts to address these issues by erasing unwanted concepts have shown promise. However, many existing erasure methods involve excessive modifications that compromise the overall utility of the model. In this work, we address these issues by formulating a novel minimalist concept erasure objective based \emph{only} on the distributional distance of final generation outputs. Building on our formulation, we derive a tractable loss for differentiable optimization that leverages backpropagation through all generation steps in an end-to-end manner. We also conduct extensive analysis to show theoretical connections with other models and methods. To improve the robustness of the erasure, we incorporate neuron masking as an alternative to model fine-tuning. Empirical evaluations on state-of-the-art flow-matching models demonstrate that our method robustly erases concepts without degrading overall model performance, paving the way for safer and more responsible generative models.
• Abstract（参考訳）: 生成モデルの最近の進歩は、高品質な画像の生成において顕著な能力を示しているが、大規模なラベルなしデータへの依存は、重大な安全性と著作権の懸念を引き起こしている。 望ましくない概念を根絶してこれらの問題に対処する努力は、有望である。 しかし、多くの既存の消去手法は、モデル全体の実用性を損なう過度な修正を含む。 本研究では, 最終生成出力の分布距離に基づいて, 新たな最小概念消去目標であるemph{only}を定式化することによって, これらの問題に対処する。 定式化に基づいて、すべての生成ステップをエンドツーエンドでバックプロパゲーションする、微分可能な最適化のためのトラクタブルな損失を導出します。 また、他のモデルや手法との理論的関係を示すために、広範な分析を行う。 消去の堅牢性を改善するため,我々はモデル微調整の代替としてニューロンマスキングを取り入れた。 現状のフローマッチングモデルに関する実証的な評価は,本手法がモデル全体の性能を低下させることなく,より安全で責任のある生成モデルを構築することなく,概念を確実に消去することを示した。

関連論文リスト

• TRACE: Trajectory-Constrained Concept Erasure in Diffusion Models [0.0]
  概念消去は、生成モデルにおいて特定の概念情報を削除または抑制することを目的としている。 Trajectory-Constrained Attentional Concept Erasure (TRACE) は拡散モデルから対象概念を消去する新しい手法である。 TRACEは最先端のパフォーマンスを実現し、ANT、EraseAnything、MACEといった最近の手法よりも、除去効率と出力品質の点で優れています。
  論文  参考訳（メタデータ） (2025-05-29T10:15:22Z)
• When Are Concepts Erased From Diffusion Models? [44.89615668122767]
  概念消去とは、モデルが特定の概念を生成するのを選択的に阻止する能力である。 拡散モデルにおける消去機構の2つの概念モデルを提案する。 概念がモデルから真に消去されたかどうかを徹底的に評価するために,独立した評価スイートを導入する。
  論文  参考訳（メタデータ） (2025-05-22T17:59:09Z)
• Efficient Fine-Tuning and Concept Suppression for Pruned Diffusion Models [93.76814568163353]
  本稿では,2段階の拡散モデルに対する新しい最適化フレームワークを提案する。 このフレームワークは、微調整と未学習のプロセスを統一的なフェーズに統合する。 様々なプルーニングや概念未学習の手法と互換性がある。
  論文  参考訳（メタデータ） (2024-12-19T19:13:18Z)
• Boosting Alignment for Post-Unlearning Text-to-Image Generative Models [55.82190434534429]
  大規模な生成モデルは、大量のデータによって推進される印象的な画像生成能力を示している。 これはしばしば必然的に有害なコンテンツや不適切なコンテンツを生み出し、著作権の懸念を引き起こす。 学習しない反復ごとに最適なモデル更新を求めるフレームワークを提案し、両方の目的に対して単調な改善を確実にする。
  論文  参考訳（メタデータ） (2024-12-09T21:36:10Z)
• Reliable and Efficient Concept Erasure of Text-to-Image Diffusion Models [76.39651111467832]
  本稿では,Reliable and Efficient Concept Erasure (RECE)を提案する。 派生した埋め込みによって表現される不適切なコンテンツを緩和するために、RECEはそれらをクロスアテンション層における無害な概念と整合させる。 新たな表現埋め込みの導出と消去を反復的に行い、不適切な概念の徹底的な消去を実現する。
  論文  参考訳（メタデータ） (2024-07-17T08:04:28Z)
• Separable Multi-Concept Erasure from Diffusion Models [52.51972530398691]
  大規模拡散モデルから安全でない概念を排除するために,分離可能なマルチコンセプト消去器(SepME)を提案する。 後者は最適化可能なモデルウェイトを分離し、各ウェイトインクリメントは特定の概念の消去に対応する。 広範囲にわたる実験は, 概念の排除, モデル性能の保存, 各種概念の消去・回復における柔軟性の確保に, アプローチの有効性を示すものである。
  論文  参考訳（メタデータ） (2024-02-03T11:10:57Z)
• All but One: Surgical Concept Erasing with Model Preservation in Text-to-Image Diffusion Models [22.60023885544265]
  大規模なデータセットには、性的に明示的な、著作権のある、または望ましくないコンテンツが含まれており、モデルがそれらを直接生成することができる。 拡散モデルにおける概念消去に取り組むために、ファインチューニングアルゴリズムが開発された。 これらの課題をすべて解決する新しいアプローチを提示します。
  論文  参考訳（メタデータ） (2023-12-20T07:04:33Z)
• Revisiting Implicit Models: Sparsity Trade-offs Capability in Weight-tied Model for Vision Tasks [4.872984658007499]
  ディープ平衡モデル(Deep Equilibrium Models, DEQ)のような暗黙のモデルは、無限層のモデルを訓練する能力によって、コミュニティにおいて大きな注目を集めている。 暗黙のモデルの行を再検討し、それらを元の重み付けモデルに遡る。 驚くべきことに、重み付けモデルの方がDECの変種と比較して、より効率的で、安定であり、視覚タスク上でも効率的である。
  論文  参考訳（メタデータ） (2023-07-16T11:45:35Z)
• Precision-Recall Divergence Optimization for Generative Modeling with GANs and Normalizing Flows [54.050498411883495]
  本研究では,ジェネレーティブ・アドバイサル・ネットワークや正規化フローなどの生成モデルのための新しいトレーニング手法を開発した。 指定された精度-リコールトレードオフを達成することは、textitPR-divergencesと呼ぶ家族からのユニークな$f$-divergenceを最小化することを意味する。 当社のアプローチは,ImageNetなどのデータセットでテストした場合の精度とリコールの両面で,BigGANのような既存の最先端モデルの性能を向上させる。
  論文  参考訳（メタデータ） (2023-05-30T10:07:17Z)
• Improving the Reconstruction of Disentangled Representation Learners via Multi-Stage Modeling [54.94763543386523]
  現在の自己エンコーダに基づく非絡み合い表現学習法は、(集合体)後部をペナルティ化し、潜伏因子の統計的独立を促進することで、非絡み合いを実現する。 本稿では,不整合因子をペナルティに基づく不整合表現学習法を用いて学習する,新しい多段階モデリング手法を提案する。 次に、低品質な再構成を、欠落した関連潜伏変数をモデル化するために訓練された別の深層生成モデルで改善する。
  論文  参考訳（メタデータ） (2020-10-25T18:51:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。