論文の概要: Safe and Reliable Diffusion Models via Subspace Projection

• arxiv url: http://arxiv.org/abs/2503.16835v1
• Date: Fri, 21 Mar 2025 04:09:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-24 14:57:57.090480
• Title: Safe and Reliable Diffusion Models via Subspace Projection
• Title（参考訳）: 部分空間射影による安全・信頼性拡散モデル
• Authors: Huiqiang Chen, Tianqing Zhu, Linlin Wang, Xin Yu, Longxiang Gao, Wanlei Zhou,
• Abstract要約: 本稿では,T2I拡散モデルからターゲット概念を徹底的に除去するための,新規かつ効率的なアプローチであるSAFERを提案する。 この方法はまず、ターゲット概念cに関連付けられた概念固有の部分空間$S_c$を識別する。 次に、プロンプト埋め込みを$S_c$のサブスペースに投影し、生成されたイメージから概念を効果的に消去する。
• 参考スコア（独自算出の注目度）: 27.65307410937119
• License:
• Abstract: Large-scale text-to-image (T2I) diffusion models have revolutionized image generation, enabling the synthesis of highly detailed visuals from textual descriptions. However, these models may inadvertently generate inappropriate content, such as copyrighted works or offensive images. While existing methods attempt to eliminate specific unwanted concepts, they often fail to ensure complete removal, allowing the concept to reappear in subtle forms. For instance, a model may successfully avoid generating images in Van Gogh's style when explicitly prompted with 'Van Gogh', yet still reproduce his signature artwork when given the prompt 'Starry Night'. In this paper, we propose SAFER, a novel and efficient approach for thoroughly removing target concepts from diffusion models. At a high level, SAFER is inspired by the observed low-dimensional structure of the text embedding space. The method first identifies a concept-specific subspace $S_c$ associated with the target concept c. It then projects the prompt embeddings onto the complementary subspace of $S_c$, effectively erasing the concept from the generated images. Since concepts can be abstract and difficult to fully capture using natural language alone, we employ textual inversion to learn an optimized embedding of the target concept from a reference image. This enables more precise subspace estimation and enhances removal performance. Furthermore, we introduce a subspace expansion strategy to ensure comprehensive and robust concept erasure. Extensive experiments demonstrate that SAFER consistently and effectively erases unwanted concepts from diffusion models while preserving generation quality.
• Abstract（参考訳）: 大規模テキスト・ツー・イメージ(T2I)拡散モデルが画像生成に革命をもたらし、テキスト記述から高精細なビジュアルを合成できるようになった。 しかし、これらのモデルは著作権のある作品や攻撃的な画像などの不適切なコンテンツを不適切な形で生成する可能性がある。 既存の手法は、特定の望ましくない概念を排除しようとするが、それらはしばしば完全な除去の保証に失敗し、概念が微妙な形で再出現することを許す。 例えば、モデルが「ヴァン・ゴッホ」を明示的に刺激すると、ファン・ゴッホのスタイルで画像を生成するのをうまく避けることができたが、それでも「スターリー・ナイト」というプロンプトが与えられたとき、彼の署名画を再現している。 本稿では,対象概念を拡散モデルから完全に除去する新しい,効率的なアプローチであるSAFERを提案する。 高いレベルでは、SAFERはテキスト埋め込み空間の観測された低次元構造から着想を得ている。 この方法はまず、ターゲット概念cに関連付けられた概念固有の部分空間$S_c$を識別する。 次に、プロンプトの埋め込みを$S_c$の補空間に投影し、生成されたイメージから概念を効果的に消去する。 概念は抽象的で、自然言語だけでは完全なキャプチャが難しいため、テキスト・インバージョンを用いて参照画像から対象概念の最適埋め込みを学習する。 これにより、より正確な部分空間推定が可能となり、除去性能が向上する。 さらに、包括的でロバストな概念消去を保証するために、サブスペース拡張戦略を導入する。 大規模な実験により、SAFERは生成品質を維持しながら拡散モデルから不要な概念を一貫して効果的に消去することを示した。

関連論文リスト

• OmniPrism: Learning Disentangled Visual Concept for Image Generation [57.21097864811521]
  創造的な視覚概念の生成は、しばしば関連する結果を生み出すために参照イメージ内の特定の概念からインスピレーションを引き出す。 我々は,創造的画像生成のための視覚的概念分離手法であるOmniPrismを提案する。 提案手法は,自然言語で案内される不整合概念表現を学習し,これらの概念を組み込むために拡散モデルを訓練する。
  論文  参考訳（メタデータ） (2024-12-16T18:59:52Z)
• Continuous Concepts Removal in Text-to-image Diffusion Models [27.262721132177845]
  著作権を侵害したり、乱暴な主題を描写するコンテンツを作成するためのテキスト・ツー・イメージモデルの可能性について懸念が高まっている。 本稿では,知識蒸留パラダイムを設計したCCRTという新しい手法を提案する。 一連のテキストプロンプトを使用することで、連続的な概念削除プロセス中のテキストイメージのアライメント動作を制限します。
  論文  参考訳（メタデータ） (2024-11-30T20:40:10Z)
• Safeguard Text-to-Image Diffusion Models with Human Feedback Inversion [51.931083971448885]
  本稿では,Human Feedback Inversion (HFI) というフレームワークを提案する。 実験の結果,画像品質を維持しながら,好ましくないコンテンツ生成を著しく削減し,公的な領域におけるAIの倫理的展開に寄与することが示された。
  論文  参考訳（メタデータ） (2024-07-17T05:21:41Z)
• Get What You Want, Not What You Don't: Image Content Suppression for Text-to-Image Diffusion Models [86.92711729969488]
  テキスト埋め込みの操作方法を分析し、不要なコンテンツを除去する。 第1は、テキスト埋め込み行列を正規化し、望ましくないコンテンツを効果的に抑制する。 第2の方法は、プロンプトの不要なコンテンツ生成をさらに抑制し、所望のコンテンツの生成を促進することである。
  論文  参考訳（メタデータ） (2024-02-08T03:15:06Z)
• Receler: Reliable Concept Erasing of Text-to-Image Diffusion Models via Lightweight Erasers [24.64639078273091]
  テキストから画像への拡散モデルにおける概念消去は、対象概念に関連する画像の生成から事前学習された拡散モデルを無効にすることを目的としている。 軽量エローザ(レセラー)による信頼性概念消去の提案
  論文  参考訳（メタデータ） (2023-11-29T15:19:49Z)
• Implicit Concept Removal of Diffusion Models [92.55152501707995]
  テキスト・ツー・イメージ(T2I)拡散モデルはしばしば、透かしや安全でない画像のような望ましくない概念を不注意に生成する。 幾何学駆動制御に基づく新しい概念除去手法であるGeom-Erasingを提案する。
  論文  参考訳（メタデータ） (2023-10-09T17:13:10Z)
• Circumventing Concept Erasure Methods For Text-to-Image Generative Models [26.804057000265434]
  テキストから画像への生成モデルは、非常に幅広い概念のフォトリアリスティック画像を生成することができる。 これらのモデルには、性的に明示的なコンテンツを特徴とする画像を生成する可能性など、多くの欠点がある。 テキスト・ツー・イメージ・モデルからセンシティブな概念を「取り除く」ための様々な手法が提案されている。
  論文  参考訳（メタデータ） (2023-08-03T02:34:01Z)
• Towards Safe Self-Distillation of Internet-Scale Text-to-Image Diffusion Models [63.20512617502273]
  テキストから画像への拡散モデルにおいて,問題のあるコンテンツ生成を防止するため,SDDと呼ばれる手法を提案する。 本手法は,画像の全体的な品質を劣化させることなく,生成した画像から有害なコンテンツをはるかに多く除去する。
  論文  参考訳（メタデータ） (2023-07-12T07:48:29Z)
• Ablating Concepts in Text-to-Image Diffusion Models [57.9371041022838]
  大規模テキスト・画像拡散モデルでは、強力な構成能力を持つ高忠実度画像を生成することができる。 これらのモデルは典型的には膨大な量のインターネットデータに基づいて訓練されており、しばしば著作権のある資料、ライセンスされた画像、個人写真を含んでいる。 本稿では,事前訓練されたモデルにおいて,目標概念の生成を防止し,効率的に概念を宣言する手法を提案する。
  論文  参考訳（メタデータ） (2023-03-23T17:59:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。