論文の概要: When Are Concepts Erased From Diffusion Models?

• arxiv url: http://arxiv.org/abs/2505.17013v1
• Date: Thu, 22 May 2025 17:59:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-23 17:12:48.559711
• Title: When Are Concepts Erased From Diffusion Models?
• Title（参考訳）: 拡散モデルから概念が消去されるのはいつか?
• Authors: Kevin Lu, Nicky Kriplani, Rohit Gandikota, Minh Pham, David Bau, Chinmay Hegde, Niv Cohen,
• Abstract要約: 概念消去とは、モデルが特定の概念を生成するのを選択的に阻止する能力である。 拡散モデルにおける消去機構の2つの概念モデルを提案する。 概念がモデルから真に消去されたかどうかを徹底的に評価するために,独立した評価スイートを導入する。
• 参考スコア（独自算出の注目度）: 44.89615668122767
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Concept erasure, the ability to selectively prevent a model from generating specific concepts, has attracted growing interest, with various approaches emerging to address the challenge. However, it remains unclear how thoroughly these methods erase the target concept. We begin by proposing two conceptual models for the erasure mechanism in diffusion models: (i) reducing the likelihood of generating the target concept, and (ii) interfering with the model's internal guidance mechanisms. To thoroughly assess whether a concept has been truly erased from the model, we introduce a suite of independent evaluations. Our evaluation framework includes adversarial attacks, novel probing techniques, and analysis of the model's alternative generations in place of the erased concept. Our results shed light on the tension between minimizing side effects and maintaining robustness to adversarial prompts. Broadly, our work underlines the importance of comprehensive evaluation for erasure in diffusion models.
• Abstract（参考訳）: 概念消去は、モデルが特定の概念を生成するのを選択的に阻止する能力であり、この課題に対処する様々なアプローチによって、関心が高まりつつある。 しかし、これらの手法がターゲット概念をどの程度徹底的に消去するかは定かではない。 まず,拡散モデルにおける消去機構の2つの概念モデルを提案する。 一 目標概念を生む可能性の低減及び 二 モデルの内部誘導機構に干渉すること。 概念がモデルから真に消去されたかどうかを徹底的に評価するために,独立した評価スイートを導入する。 評価フレームワークには、敵攻撃、新しい探索手法、消去された概念の代わりにモデルの代替世代の分析が含まれる。 結果から,副作用の最小化と敵のプロンプトに対する堅牢性維持との緊張感に光を当てた。 本研究は,拡散モデルにおける消去の包括的評価の重要性を浮き彫りにしている。

関連論文リスト

• Erased or Dormant? Rethinking Concept Erasure Through Reversibility [8.454050090398713]
  我々は、統一概念編集と消去安定拡散という2つの代表的な概念消去手法を評価する。 消去された概念は、最小限の適応の後、しばしばかなりの視覚的忠実度で再帰することを示す。 本研究は,既存の概念消去アプローチにおける限界を明らかにするものである。
  論文  参考訳（メタデータ） (2025-05-22T03:26:46Z)
• Continual Unlearning for Foundational Text-to-Image Models without Generalization Erosion [56.35484513848296]
  本研究は,基本生成モデルから複数の特定の概念を対象とする除去を可能にする新しいパラダイムである連続的アンラーニングを導入する。 本稿では,望ましくない概念の生成を選択的に解き放つような一般化エロージョン(DUGE)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-03-17T23:17:16Z)
• Six-CD: Benchmarking Concept Removals for Benign Text-to-image Diffusion Models [58.74606272936636]
  テキスト・ツー・イメージ(T2I)拡散モデルは、テキスト・プロンプトと密接に対応した画像を生成する際、例外的な機能を示す。 モデルは、暴力やヌードの画像を生成したり、不適切な文脈で公共の人物の無許可の肖像画を作成するなど、悪意ある目的のために利用することができる。 悪質な概念や望ましくない概念の発生を防ぐために拡散モデルを変更する概念除去法が提案されている。
  論文  参考訳（メタデータ） (2024-06-21T03:58:44Z)
• Unlearning Concepts in Diffusion Model via Concept Domain Correction and Concept Preserving Gradient [20.698305103879232]
  我々はtextbfDoCo (textbfDomaintextbfCorrection) という新しい概念領域補正フレームワークを提案する。 本手法は, 対象概念の包括的未学習を保証し, 先進的学習を通して, センシティブな概念とアンカーの概念の出力領域を整合させることにより, 対象概念の包括的未学習を確実にする。 また、矛盾する勾配成分を緩和し、特定の概念を学習しながらモデルの実用性を維持するための概念保存的勾配手術手法も導入する。
  論文  参考訳（メタデータ） (2024-05-24T07:47:36Z)
• Improving Intervention Efficacy via Concept Realignment in Concept Bottleneck Models [57.86303579812877]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念に基づいて、解釈可能なモデル決定を可能にする画像分類である。 既存のアプローチは、強いパフォーマンスを達成するために、画像ごとに多数の人間の介入を必要とすることが多い。 本稿では,概念関係を利用した学習型概念認識介入モジュールについて紹介する。
  論文  参考訳（メタデータ） (2024-05-02T17:59:01Z)
• Separable Multi-Concept Erasure from Diffusion Models [52.51972530398691]
  大規模拡散モデルから安全でない概念を排除するために,分離可能なマルチコンセプト消去器(SepME)を提案する。 後者は最適化可能なモデルウェイトを分離し、各ウェイトインクリメントは特定の概念の消去に対応する。 広範囲にわたる実験は, 概念の排除, モデル性能の保存, 各種概念の消去・回復における柔軟性の確保に, アプローチの有効性を示すものである。
  論文  参考訳（メタデータ） (2024-02-03T11:10:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。