論文の概要: Erasing Concepts, Steering Generations: A Comprehensive Survey of Concept Suppression

• arxiv url: http://arxiv.org/abs/2505.19398v2
• Date: Thu, 29 May 2025 14:48:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-30 13:10:25.728141
• Title: Erasing Concepts, Steering Generations: A Comprehensive Survey of Concept Suppression
• Title（参考訳）: 概念の消去, ステアリング・ジェネレーション:概念抑圧に関する総合的な調査
• Authors: Yiwei Xie, Ping Liu, Zheng Zhang,
• Abstract要約: 機密性、著作権、有害な画像の無制御再生は、重大な倫理的、法的、安全上の課題を引き起こす。 概念消去パラダイムは有望な方向として現れており、生成モデルから特定の意味概念を選択的に除去することができる。 この調査は、研究者がより安全で倫理的に整合した生成モデルへと導くことを目的としている。
• 参考スコア（独自算出の注目度）: 10.950528923845955
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Text-to-Image (T2I) models have demonstrated impressive capabilities in generating high-quality and diverse visual content from natural language prompts. However, uncontrolled reproduction of sensitive, copyrighted, or harmful imagery poses serious ethical, legal, and safety challenges. To address these concerns, the concept erasure paradigm has emerged as a promising direction, enabling the selective removal of specific semantic concepts from generative models while preserving their overall utility. This survey provides a comprehensive overview and in-depth synthesis of concept erasure techniques in T2I diffusion models. We systematically categorize existing approaches along three key dimensions: intervention level, which identifies specific model components targeted for concept removal; optimization structure, referring to the algorithmic strategies employed to achieve suppression; and semantic scope, concerning the complexity and nature of the concepts addressed. This multi-dimensional taxonomy enables clear, structured comparisons across diverse methodologies, highlighting fundamental trade-offs between erasure specificity, generalization, and computational complexity. We further discuss current evaluation benchmarks, standardized metrics, and practical datasets, emphasizing gaps that limit comprehensive assessment, particularly regarding robustness and practical effectiveness. Finally, we outline major challenges and promising future directions, including disentanglement of concept representations, adaptive and incremental erasure strategies, adversarial robustness, and new generative architectures. This survey aims to guide researchers toward safer, more ethically aligned generative models, providing foundational knowledge and actionable recommendations to advance responsible development in generative AI.
• Abstract（参考訳）: テキスト・ツー・イメージ(T2I)モデルでは、自然言語のプロンプトから高品質で多様な視覚コンテンツを生成できることが示されている。 しかし、機密性、著作権、有害な画像の無制御再生は、重大な倫理的、法的、安全上の課題を引き起こす。 これらの懸念に対処するため、概念消去パラダイムは有望な方向として出現し、生成モデルから特定の意味概念を選択的に除去し、全体的な有用性を保っている。 本調査は,T2I拡散モデルにおける概念消去技術の包括的概要と詳細な合成を提供する。 我々は,概念の除去を目的とした特定のモデルコンポーネントを識別する介入レベル,抑圧を実現するためのアルゴリズム戦略を参照する最適化構造,対処する概念の複雑さと性質に関するセマンティックスコープの3つの重要な側面に沿って,既存のアプローチを体系的に分類する。 この多次元分類学は、様々な方法論をまたいだ明確で構造化された比較を可能にし、消去特異性、一般化、計算複雑性の基本的なトレードオフを強調している。 さらに、現在の評価ベンチマーク、標準化されたメトリクス、実用的なデータセットについて議論し、特にロバスト性や実用性に関して、包括的な評価を制限するギャップを強調します。 最後に、概念表現の切り離し、適応的・漸進的消去戦略、敵対的堅牢性、新しい生成的アーキテクチャなど、主要な課題と将来的な方向性を概説する。 この調査は、研究者がより安全で倫理的に整合した生成モデルへと導くことを目的としており、生成AIにおける責任ある開発を進めるための基礎知識と行動可能なレコメンデーションを提供する。

関連論文リスト

• When Are Concepts Erased From Diffusion Models? [44.89615668122767]
  概念消去とは、モデルが特定の概念を生成するのを選択的に阻止する能力である。 拡散モデルにおける消去機構の2つの概念モデルを提案する。 概念がモデルから真に消去されたかどうかを徹底的に評価するために,独立した評価スイートを導入する。
  論文  参考訳（メタデータ） (2025-05-22T17:59:09Z)
• Erased or Dormant? Rethinking Concept Erasure Through Reversibility [8.454050090398713]
  我々は、統一概念編集と消去安定拡散という2つの代表的な概念消去手法を評価する。 消去された概念は、最小限の適応の後、しばしばかなりの視覚的忠実度で再帰することを示す。 本研究は,既存の概念消去アプローチにおける限界を明らかにするものである。
  論文  参考訳（メタデータ） (2025-05-22T03:26:46Z)
• A Comprehensive Survey on Concept Erasure in Text-to-Image Diffusion Models [14.325284311928492]
  テキスト・ツー・イメージ(T2I)モデルは、自然言語のプロンプトから高品質で多様な視覚コンテンツを生成できる。 著作権のあるスタイル、繊細なイメージ、有害なコンテンツを再現する能力は、重大な倫理的および法的懸念を引き起こす。 概念消去は、望ましくないコンテンツの生成を防ぐためにT2Iモデルを変更することで、外部フィルタリングの積極的な代替手段を提供する。
  論文  参考訳（メタデータ） (2025-02-17T20:51:20Z)
• Coding for Intelligence from the Perspective of Category [66.14012258680992]
  符号化の対象はデータの圧縮と再構成、インテリジェンスである。 最近の傾向は、これらの2つの分野の潜在的均一性を示している。 本稿では,カテゴリ理論の観点から,インテリジェンスのためのコーディングの新たな問題を提案する。
  論文  参考訳（メタデータ） (2024-07-01T07:05:44Z)
• Separable Multi-Concept Erasure from Diffusion Models [52.51972530398691]
  大規模拡散モデルから安全でない概念を排除するために,分離可能なマルチコンセプト消去器(SepME)を提案する。 後者は最適化可能なモデルウェイトを分離し、各ウェイトインクリメントは特定の概念の消去に対応する。 広範囲にわたる実験は, 概念の排除, モデル性能の保存, 各種概念の消去・回復における柔軟性の確保に, アプローチの有効性を示すものである。
  論文  参考訳（メタデータ） (2024-02-03T11:10:57Z)
• Implicit Concept Removal of Diffusion Models [92.55152501707995]
  テキスト・ツー・イメージ(T2I)拡散モデルはしばしば、透かしや安全でない画像のような望ましくない概念を不注意に生成する。 幾何学駆動制御に基づく新しい概念除去手法であるGeom-Erasingを提案する。
  論文  参考訳（メタデータ） (2023-10-09T17:13:10Z)
• Coarse-to-Fine Concept Bottleneck Models [9.910980079138206]
  この研究は、アンテホック解釈可能性、特に概念ボトルネックモデル(CBM)をターゲットにしている。 我々のゴールは、人間の理解可能な概念を2段階の粒度で、高度に解釈可能な意思決定プロセスを認めるフレームワークを設計することである。 この枠組みでは、概念情報は全体像と一般的な非構造概念の類似性にのみ依存せず、画像シーンのパッチ固有の領域に存在するより粒度の細かい概念情報を発見・活用するために概念階層の概念を導入している。
  論文  参考訳（メタデータ） (2023-10-03T14:57:31Z)
• A Minimalist Dataset for Systematic Generalization of Perception, Syntax, and Semantics [131.93113552146195]
  我々は,機械が一般化可能な概念を学習する能力を調べるため,新しいデータセットであるHINT(Hand written arithmetic with INTegers)を提案する。 HINTでは、イメージなどの生信号から概念がどのように認識されるかを学ぶことが機械のタスクである。 我々は、RNN、Transformer、GPT-3など、様々なシーケンス・ツー・シーケンスモデルで広範囲に実験を行った。
  論文  参考訳（メタデータ） (2021-03-02T01:32:54Z)
• A general framework for defining and optimizing robustness [74.67016173858497]
  分類器の様々な種類の堅牢性を定義するための厳密でフレキシブルなフレームワークを提案する。 我々の概念は、分類器の堅牢性は正確性とは無関係な性質と考えるべきであるという仮定に基づいている。 我々は,任意の分類モデルに適用可能な,非常に一般的なロバスト性フレームワークを開発する。
  論文  参考訳（メタデータ） (2020-06-19T13:24:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。