論文の概要: Empty SPACE: Cross-Attention Sparsity for Concept Erasure in Diffusion Models

• arxiv url: http://arxiv.org/abs/2605.10198v1
• Date: Mon, 11 May 2026 08:46:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:50.663566
• Title: Empty SPACE: Cross-Attention Sparsity for Concept Erasure in Diffusion Models
• Title（参考訳）: Empty SPACE:拡散モデルにおける概念消去のためのクロスアテンション空間
• Authors: Nicola Novello, Andrea M. Tonello,
• Abstract要約: クローズドフォームの概念消去法は、バックプロパゲーションベースの手法の高速な代替手段を提供する。 SParseクロスアテンションに基づく概念消去(SPACE)を提案する。
• 参考スコア（独自算出の注目度）: 9.052494309545569
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Erasing specific concepts from text-to-image diffusion models is essential for avoiding the generation of copyrighted and explicit content. Closed-form concept erasure methods offer a fast alternative to backpropagation-based techniques, but they become less effective when scaling from smaller models such as Stable Diffusion 1.5 to larger models like Stable Diffusion XL. To maintain erasure effectiveness in these larger-scale architectures, we propose SParse cross-Attention-based Concept Erasure (SPACE). SPACE iteratively modifies the cross-attention parameters of a model with a closed-form update that jointly induces sparsity and erases target concepts. By concentrating the concept mapping to a lower-dimensional subspace, SPACE achieves superior erasure efficacy compared to dense baselines. Extensive experimental results show improvements in erasure effectiveness and robustness against adversarial prompts. Furthermore, SPACE achieves 80\%-90\% cross-attention sparsity, reducing the storage requirements for saving the modified parameters by 70\%, demonstrating its memory efficiency.
• Abstract（参考訳）: テキストから画像への拡散モデルから特定の概念を消去することは、著作権付きおよび明示的なコンテンツの生成を避けるために不可欠である。 クローズドフォームの概念消去法はバックプロパゲーションベースの手法に代わる高速な代替手段を提供するが、安定拡散1.5のような小さなモデルから安定拡散XLのような大きなモデルへのスケーリングでは効果が低下する。 本研究では,これらの大規模アーキテクチャにおける消去効率を維持するために,SPACE (SParse cross-Attention-based Concept Erasure) を提案する。 SPACEは、モデルのクロスアテンションパラメータをクローズドフォーム更新によって反復的に修正し、スパーシリティを誘導し、ターゲット概念を消去する。 低次元部分空間への概念マッピングを集中させることで、SPACEは高密度ベースラインよりも優れた消去効率を実現する。 大規模な実験結果から, 消毒効果が向上し, 敵のプロンプトに対する堅牢性が向上した。 さらに、SPACEは80-%-90-%のクロスアテンション間隔を実現し、修正されたパラメータを70-%節約するストレージ要件を削減し、メモリ効率を実証する。

関連論文リスト

• Differential Vector Erasure: Unified Training-Free Concept Erasure for Flow Matching Models [49.10620605347065]
  本研究では,フローマッチングモデルに特化して設計されたトレーニング不要な概念消去手法である差分ベクトル消去(DVE)を提案する。 我々の重要な洞察は、意味論的概念は生成フローを管理する速度場の方向構造に暗黙的に符号化されていることである。 推論中、DVEは速度場を微分方向に投影することで概念固有の成分を選択的に除去し、無関係な意味論に影響を与えることなく正確な概念抑圧を可能にする。
  論文  参考訳（メタデータ） (2026-02-01T08:05:45Z)
• SPEED: Scalable, Precise, and Efficient Concept Erasure for Diffusion Models [56.83154571623655]
  モデルパラメータを直接編集する効率的な概念消去手法であるSPEEDを導入する。 Speedyは、パラメータ更新がターゲット以外の概念に影響しないモデル編集スペースであるnullスペースを検索する。 たった5秒で100のコンセプトを消去しました。
  論文  参考訳（メタデータ） (2025-03-10T14:40:01Z)
• Precise, Fast, and Low-cost Concept Erasure in Value Space: Orthogonal Complement Matters [38.355389084255386]
  本稿では,Adaptive Value Decomposer (AdaVD) という,高精度で高速かつ低コストな概念消去手法を提案する。 AdaVDはシングルとマルチのコンセプト消去に優れており、保存前の2倍から10倍の改善が見られた。
  論文  参考訳（メタデータ） (2024-12-09T01:56:25Z)
• Reliable and Efficient Concept Erasure of Text-to-Image Diffusion Models [76.39651111467832]
  本稿では,Reliable and Efficient Concept Erasure (RECE)を提案する。 派生した埋め込みによって表現される不適切なコンテンツを緩和するために、RECEはそれらをクロスアテンション層における無害な概念と整合させる。 新たな表現埋め込みの導出と消去を反復的に行い、不適切な概念の徹底的な消去を実現する。
  論文  参考訳（メタデータ） (2024-07-17T08:04:28Z)
• Erasing Undesirable Influence in Diffusion Models [51.225365010401006]
  拡散モデルは高品質な画像を生成するのに非常に効果的であるが、NSFW(職場では安全ではない)コンテンツの意図しない生成のようなリスクを引き起こす。 本研究では,データに関連付けられた不要な情報を取り除き,保存データに対する拡散モデルの実用性を維持するために設計されたアルゴリズムであるEraseDiffを紹介する。
  論文  参考訳（メタデータ） (2024-01-11T09:30:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。