論文の概要: MACE: Mass Concept Erasure in Diffusion Models

• arxiv url: http://arxiv.org/abs/2403.06135v1
• Date: Sun, 10 Mar 2024 08:50:56 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-13 07:26:16.138298
• Title: MACE: Mass Concept Erasure in Diffusion Models
• Title（参考訳）: MACE:拡散モデルにおける質量消去
• Authors: Shilin Lu, Zilan Wang, Leyang Li, Yanzhu Liu, Adams Wai-Kin Kong
• Abstract要約: 我々は、マス・コンセプト・エミッションのタスクのための微調整・フレームワークであるMACEを紹介した。 このタスクは、トリガー時に不要な概念を具現化した画像が生成されるのを防ぐことを目的としている。 我々は,4つのタスクにまたがる先行手法に対して,MISを広範囲に評価する。
• 参考スコア（独自算出の注目度）: 11.12833789743765
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The rapid expansion of large-scale text-to-image diffusion models has raised growing concerns regarding their potential misuse in creating harmful or misleading content. In this paper, we introduce MACE, a finetuning framework for the task of mass concept erasure. This task aims to prevent models from generating images that embody unwanted concepts when prompted. Existing concept erasure methods are typically restricted to handling fewer than five concepts simultaneously and struggle to find a balance between erasing concept synonyms (generality) and maintaining unrelated concepts (specificity). In contrast, MACE differs by successfully scaling the erasure scope up to 100 concepts and by achieving an effective balance between generality and specificity. This is achieved by leveraging closed-form cross-attention refinement along with LoRA finetuning, collectively eliminating the information of undesirable concepts. Furthermore, MACE integrates multiple LoRAs without mutual interference. We conduct extensive evaluations of MACE against prior methods across four different tasks: object erasure, celebrity erasure, explicit content erasure, and artistic style erasure. Our results reveal that MACE surpasses prior methods in all evaluated tasks. Code is available at https://github.com/Shilin-LU/MACE.
• Abstract（参考訳）: 大規模テキスト・画像拡散モデルの急速な拡大は、有害なコンテンツや誤解を招くコンテンツの作成における誤用の可能性に対する懸念が高まっている。 本稿では,マス概念消去作業のための微調整フレームワークであるMACEを紹介する。 このタスクは、モデルが望ましくない概念を具現化する画像を生成するのを防ぐことを目的としている。 既存の概念消去法は通常、5つ未満の概念を同時に扱うことに制限され、概念同義語(一般性)の消去と無関係な概念(特異性)のバランスを見つけるのに苦労する。 対照的に、MACEは消去範囲を100のコンセプトに拡大し、一般性と特異性の間に効果的なバランスをとることで、異なる。 これは、LoRAファインタニングとともに閉形式のクロスアテンション改善を活用し、望ましくない概念の情報をまとめて排除することで達成される。 さらに、MACEは相互干渉なしで複数のLoRAを統合する。 対象の消去,セレブの消去,明示的な内容の消去,芸術的スタイルの消去という4つの課題にまたがる先行手法に対するMISの広範な評価を行う。 その結果,MACEは従来の手法を超越していることがわかった。 コードはhttps://github.com/Shilin-LU/MACEで入手できる。

関連論文リスト

• How to Continually Adapt Text-to-Image Diffusion Models for Flexible Customization? [91.49559116493414]
  本稿では,CIDM(Concept-Incremental Text-to-image Diffusion Model)を提案する。 破滅的な忘れと概念の無視を解決し、新しいカスタマイズタスクを概念的な方法で学習する。 実験により、CIDMが既存のカスタム拡散モデルを上回ることが確認された。
  論文  参考訳（メタデータ） (2024-10-23T06:47:29Z)
• RealEra: Semantic-level Concept Erasure via Neighbor-Concept Mining [25.769144703607214]
  概念消去は、モデルが保護され不適切な概念に関する知識を取り除くために提案されている。 この「概念残余」問題に対処するためにRealEraを提案する。 また,RealEraは,有効性,特異性,汎用性において,従来の消去方法よりも優れていたことを示す。
  論文  参考訳（メタデータ） (2024-10-11T17:55:30Z)
• STEREO: Towards Adversarially Robust Concept Erasing from Text-to-Image Generation Models [18.64776777593743]
  2つの異なる段階を含む STEREO という手法を提案する。 第1段階は、CEMから消去された概念を再生できる強力な、多様な敵のプロンプトを徹底的に探索する。 第2段では,1回目で目標概念を確実に消去するアンカー概念に基づく構成目的を導入する。
  論文  参考訳（メタデータ） (2024-08-29T17:29:26Z)
• Reliable and Efficient Concept Erasure of Text-to-Image Diffusion Models [76.39651111467832]
  本稿では,Reliable and Efficient Concept Erasure (RECE)を提案する。 派生した埋め込みによって表現される不適切なコンテンツを緩和するために、RECEはそれらをクロスアテンション層における無害な概念と整合させる。 新たな表現埋め込みの導出と消去を反復的に行い、不適切な概念の徹底的な消去を実現する。
  論文  参考訳（メタデータ） (2024-07-17T08:04:28Z)
• Separable Multi-Concept Erasure from Diffusion Models [52.51972530398691]
  大規模拡散モデルから安全でない概念を排除するために,分離可能なマルチコンセプト消去器(SepME)を提案する。 後者は最適化可能なモデルウェイトを分離し、各ウェイトインクリメントは特定の概念の消去に対応する。 広範囲にわたる実験は, 概念の排除, モデル性能の保存, 各種概念の消去・回復における柔軟性の確保に, アプローチの有効性を示すものである。
  論文  参考訳（メタデータ） (2024-02-03T11:10:57Z)
• Receler: Reliable Concept Erasing of Text-to-Image Diffusion Models via Lightweight Erasers [24.64639078273091]
  テキストから画像への拡散モデルにおける概念消去は、対象概念に関連する画像の生成から事前学習された拡散モデルを無効にすることを目的としている。 軽量エローザ(レセラー)による信頼性概念消去の提案
  論文  参考訳（メタデータ） (2023-11-29T15:19:49Z)
• Implicit Concept Removal of Diffusion Models [92.55152501707995]
  テキスト・ツー・イメージ(T2I)拡散モデルはしばしば、透かしや安全でない画像のような望ましくない概念を不注意に生成する。 幾何学駆動制御に基づく新しい概念除去手法であるGeom-Erasingを提案する。
  論文  参考訳（メタデータ） (2023-10-09T17:13:10Z)
• Towards Safe Self-Distillation of Internet-Scale Text-to-Image Diffusion Models [63.20512617502273]
  テキストから画像への拡散モデルにおいて,問題のあるコンテンツ生成を防止するため,SDDと呼ばれる手法を提案する。 本手法は,画像の全体的な品質を劣化させることなく,生成した画像から有害なコンテンツをはるかに多く除去する。
  論文  参考訳（メタデータ） (2023-07-12T07:48:29Z)
• LEACE: Perfect linear concept erasure in closed form [103.61624393221447]
  概念消去は、特定の特徴を表現から削除することを目的としている。 LEAst-squares Concept Erasure (LEACE) は、線形分類器が可能な限り少ない表現で概念を検出することを確実に防止する閉形式手法である。 LEACEを"concept scrubbing"と呼ばれる新しい手法で大規模言語モデルに適用し、ネットワーク内の各層からターゲット概念情報を消去する。
  論文  参考訳（メタデータ） (2023-06-06T16:07:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。