論文の概要: Prototype-Guided Concept Erasure in Diffusion Models

• arxiv url: http://arxiv.org/abs/2603.08271v1
• Date: Mon, 09 Mar 2026 11:42:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-10 15:13:15.887677
• Title: Prototype-Guided Concept Erasure in Diffusion Models
• Title（参考訳）: 拡散モデルにおけるプロトタイプ誘導概念消去
• Abstract要約: 概念消去は画像生成において広く利用され、テキスト・ツー・イメージのモデルが望ましくないコンテンツを生成するのを防ぐ。 モデル固有の埋め込み幾何を利用して、ある概念を符号化する潜伏埋め込みを同定する。 これらの埋め込みをクラスタ化することで、モデルの内部表現を要約するコンセプトプロトタイプのセットを導出します。
• 参考スコア（独自算出の注目度）: 16.248171349385725
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Concept erasure is extensively utilized in image generation to prevent text-to-image models from generating undesired content. Existing methods can effectively erase narrow concepts that are specific and concrete, such as distinct intellectual properties (e.g. Pikachu) or recognizable characters (e.g. Elon Musk). However, their performance degrades on broad concepts such as ``sexual'' or ``violent'', whose wide scope and multi-faceted nature make them difficult to erase reliably. To overcome this limitation, we exploit the model's intrinsic embedding geometry to identify latent embeddings that encode a given concept. By clustering these embeddings, we derive a set of concept prototypes that summarize the model's internal representations of the concept, and employ them as negative conditioning signals during inference to achieve precise and reliable erasure. Extensive experiments across multiple benchmarks show that our approach achieves substantially more reliable removal of broad concepts while preserving overall image quality, marking a step towards safer and more controllable image generation.
• Abstract（参考訳）: 概念消去は画像生成において広く利用され、テキスト・ツー・イメージのモデルが望ましくないコンテンツを生成するのを防ぐ。 既存の方法は、異なる知的特性(例えばピカチュウ)や認識可能な文字(例えばイーロン・マスク)など、具体的で具体的な狭い概念を効果的に消去することができる。 しかし、その演技は「「性」や「暴力」といった幅広い概念に根ざし、その範囲と多面的な性質が、確実に消し去るのを困難にしている。 この制限を克服するために、モデル固有の埋め込み幾何を利用して、与えられた概念を符号化する潜伏埋め込みを特定する。 これらの埋め込みをクラスタ化することにより、モデルの内部表現を要約した一連のコンセプトプロトタイプを導出し、推論中に負の条件付け信号として使用し、正確で信頼性の高い消去を実現する。 複数のベンチマークを対象とする大規模な実験により,画像の質を保ちながら,より信頼性の高い広義概念の除去を実現し,より安全で制御しやすい画像生成に向けた一歩を踏み出した。

関連論文リスト

• Erasing Thousands of Concepts: Towards Scalable and Practical Concept Erasure for Text-to-Image Diffusion Models [30.409877438368724]
  大規模テキスト・ツー・イメージ(T2I)拡散モデルでは、著作権のあるコンテンツのような望ましくないコンテンツを再生する能力のため、安全性のリスクが生じる。 概念の消去は緩和戦略として現れているが、既存のアプローチはスケーラビリティ、精度、堅牢性のバランスをとるのに苦労している。 我々は、世代品質を維持しながら数千のコンセプトを消去できるスケーラブルなフレームワークであるEasing Thousands of Concepts (ETC)を提示する。
  論文  参考訳（メタデータ） (2026-04-12T10:39:41Z)
• VCE: Safe Autoregressive Image Generation via Visual Contrast Exploitation [57.36681904639463]
  自己回帰的テキスト・画像モデルを保護する方法はまだ未検討のままである。 コンテンツセマンティクスから安全でない概念を正確に分離する新しいフレームワークであるVisual Contrast Exploitation (VCE)を提案する。 提案手法は,安全でない概念を消去し,無関係な概念の整合性を保ちながら,最先端の成果を効果的に確保できることを実証する。
  論文  参考訳（メタデータ） (2025-09-21T09:00:27Z)
• TRACE: Trajectory-Constrained Concept Erasure in Diffusion Models [0.0]
  概念消去は、生成モデルにおいて特定の概念情報を削除または抑制することを目的としている。 Trajectory-Constrained Attentional Concept Erasure (TRACE) は拡散モデルから対象概念を消去する新しい手法である。 TRACEは最先端のパフォーマンスを実現し、ANT、EraseAnything、MACEといった最近の手法よりも、除去効率と出力品質の点で優れています。
  論文  参考訳（メタデータ） (2025-05-29T10:15:22Z)
• CRCE: Coreference-Retention Concept Erasure in Text-to-Image Diffusion Models [19.205261933636645]
  本稿では,新しい概念消去フレームワークCRCEを紹介する。 コアフェルデンシャルと保持概念を意味的に明示的にモデル化することにより、CRCEはより正確な概念除去を可能にする。 実験により、CRCEは様々な消去タスクにおいて既存の手法よりも優れていることが示された。
  論文  参考訳（メタデータ） (2025-03-18T13:09:01Z)
• TRCE: Towards Reliable Malicious Concept Erasure in Text-to-Image Diffusion Models [53.937498564603054]
  近年のテキスト・画像拡散モデルの進歩により、フォトリアリスティックな画像生成が可能になったが、NSFW画像のような悪意のあるコンテンツを生成するリスクもある。 リスクを軽減するため,概念消去手法が研究され,モデルが特定の概念を学習しやすくする。 本稿では,2段階のコンセプト消去戦略を用いて,信頼性の高い消去と知識保存の効果的なトレードオフを実現するTRCEを提案する。
  論文  参考訳（メタデータ） (2025-03-10T14:37:53Z)
• Memories of Forgotten Concepts [16.53173953073833]
  削除された概念画像は正しい潜伏子を用いて生成可能であることを示す。 これを拡張して、消去された概念セットのすべてのイメージに対して、消去された概念を生成する多くのシードを生成することができることを示す。 この結果から,概念情報の完全消去は困難である可能性が示唆された。
  論文  参考訳（メタデータ） (2024-12-01T12:12:24Z)
• Safety Without Semantic Disruptions: Editing-free Safe Image Generation via Context-preserving Dual Latent Reconstruction [88.18235230849554]
  大規模で未処理のデータセットでマルチモーダル生成モデルをトレーニングすることで、ユーザは有害で安全でない、議論の余地のない、文化的に不適切なアウトプットにさらされる可能性がある。 我々は、安全な埋め込みと、より安全な画像を生成するために、潜伏空間の重み付け可能な総和による修正拡散プロセスを活用する。 安全と検閲のトレードオフを特定し、倫理的AIモデルの開発に必要な視点を提示します。
  論文  参考訳（メタデータ） (2024-11-21T09:47:13Z)
• ConceptPrune: Concept Editing in Diffusion Models via Skilled Neuron Pruning [10.201633236997104]
  大規模テキスト・画像拡散モデルでは、印象的な画像生成能力が示されている。 提案するConceptPruneでは,まず,望ましくない概念を生成するための事前学習モデル内の重要な領域を同定する。 芸術的スタイル、ヌード性、オブジェクトの消去、ジェンダーのデバイアスなど、さまざまな概念に対する実験は、ターゲットのコンセプトをごくわずかに刈って効率よく消去できることを実証している。
  論文  参考訳（メタデータ） (2024-05-29T16:19:37Z)
• Separable Multi-Concept Erasure from Diffusion Models [52.51972530398691]
  大規模拡散モデルから安全でない概念を排除するために,分離可能なマルチコンセプト消去器(SepME)を提案する。 後者は最適化可能なモデルウェイトを分離し、各ウェイトインクリメントは特定の概念の消去に対応する。 広範囲にわたる実験は, 概念の排除, モデル性能の保存, 各種概念の消去・回復における柔軟性の確保に, アプローチの有効性を示すものである。
  論文  参考訳（メタデータ） (2024-02-03T11:10:57Z)
• Implicit Concept Removal of Diffusion Models [92.55152501707995]
  テキスト・ツー・イメージ(T2I)拡散モデルはしばしば、透かしや安全でない画像のような望ましくない概念を不注意に生成する。 幾何学駆動制御に基づく新しい概念除去手法であるGeom-Erasingを提案する。
  論文  参考訳（メタデータ） (2023-10-09T17:13:10Z)
• Ablating Concepts in Text-to-Image Diffusion Models [57.9371041022838]
  大規模テキスト・画像拡散モデルでは、強力な構成能力を持つ高忠実度画像を生成することができる。 これらのモデルは典型的には膨大な量のインターネットデータに基づいて訓練されており、しばしば著作権のある資料、ライセンスされた画像、個人写真を含んでいる。 本稿では,事前訓練されたモデルにおいて,目標概念の生成を防止し,効率的に概念を宣言する手法を提案する。
  論文  参考訳（メタデータ） (2023-03-23T17:59:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。