論文の概要: TEA: Text Encoder Alignment for Robust Concept Erasure in Text-to-Image Models
- arxiv url: http://arxiv.org/abs/2608.15341v1
- Date: Sat, 15 Aug 2026 17:46:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.272646
- Title: TEA: Text Encoder Alignment for Robust Concept Erasure in Text-to-Image Models
- Title（参考訳）: TEA:テキスト・画像モデルにおけるロバスト概念消去のためのテキストエンコーダアライメント
- Abstract要約: テキスト・ツー・イメージ拡散モデルは、敵対的あるいは言い換えられたプロンプトを通じて有害なコンテンツを生成するために誤用することができる。
既存の概念消去手法は、しばしば敵のプロンプトに対して限られた堅牢性に悩まされる。
生成したバックボーンを完全に凍結しつつ,テキストエンコーダのみを微調整する軽量テキストアライメントフレームワークを提案する。
- 参考スコア（独自算出の注目度）: 15.202937007632777
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Text-to-image diffusion models can be misused to generate harmful content through adversarial or paraphrased prompts that bypass built-in safety mechanisms. Existing concept erasure methods often suffer from limited robustness against adversarial prompts, degradation of benign generation quality, or reliance on inference-time interventions that introduce persistent computational overhead. To address these limitations, we formulate concept erasure as a domain alignment problem in the text representation space. We propose a lightweight Text Encoder Alignment framework (TEA) that fine-tunes only the text encoder while keeping the generative backbone fully frozen. Given concept--anchor prompt pairs, our method trains a discriminator to distinguish token-level representations of concept-containing prompts from those of safe anchor prompts, while updating the text encoder to make these representations indistinguishable. TEA introduces zero inference-time overhead and requires only a small number of fine-tuning steps, making it highly efficient to deploy at scale. Despite this efficiency, TEA achieves state-of-the-art erasure robustness against black-box and white-box adversarial attacks on Stable Diffusion v1.4, while preserving generation quality on benign prompts. Furthermore, TEA is model-agnostic and achieves the lowest attack success rate on Stable Diffusion v3.5, extending concept erasure to a Rectified Flow Transformer architecture with T5 conditioning where prior methods remain largely unexplored. Code is available at \href{https://github.com/alirezafarashah/TEA.git}{https://github.com/alirezafarashah/TEA.git}
- Abstract（参考訳）: テキスト・ツー・イメージの拡散モデルは、組み込まれた安全機構をバイパスする逆あるいはパラフレーズのプロンプトを通じて有害なコンテンツを生成するために誤用することができる。
既存の概念消去手法は、敵のプロンプトに対する制限された堅牢性、良質な生成品質の低下、あるいは永続的な計算オーバーヘッドをもたらす推論時間介入への依存に悩まされることが多い。
これらの制約に対処するため、テキスト表現空間におけるドメインアライメント問題として概念消去を定式化する。
本稿では,テキストエンコーダのみを微調整し,生成したバックボーンを完全に凍結する軽量なテキストエンコーダアライメントフレームワーク(TEA)を提案する。
提案手法では,安全なアンカープロンプトとトークンレベルのプロンプトを区別し,テキストエンコーダを更新してそれらの表現を識別不能にする。
TEAは、ゼロ推論時のオーバーヘッドを導入し、少数の微調整ステップしか必要とせず、大規模なデプロイを極めて効率的にする。
この効率にもかかわらず、TAAは安定した拡散v1.4に対するブラックボックスやホワイトボックスの敵攻撃に対して最先端の消去堅牢性を達成し、良質なプロンプトの生成品質を保っている。
さらに、TAAはモデルに依存しないため、安定拡散v3.5の攻撃成功率が最も低く、概念消去をT5条件付きRectified Flow Transformerアーキテクチャに拡張する。
コードは \href{https://github.com/alirezafarashah/TEA.git}{https://github.com/alirezafarashah/TEA.git} で公開されている。
関連論文リスト
- Interpreting Object-Dependent Concept Brittleness in Text-to-Image Diffusion Models [105.53190946111586]
我々はこの現象をオブジェクト依存概念の脆さと呼ぶ。
これらの障害を監査し、最小限に修正する、解釈可能性指向のフレームワークを提案する。
複数の拡散バックボーンにまたがるスタイルと属性の故障事例について,提案手法の評価を行った。
論文 参考訳（メタデータ） (2026-09-09T09:07:40Z) - EraseSAE: Surgical Concept Erasure in Text-to-Video Diffusion Models via Sparse Autoencoders [103.46709005379591]
概念消去は、事前訓練されたモデルから不要なセマンティクスを取り除くことによって、原則化された救済を提供する。
既存のアプローチは一般に粗い品質で動作し、概念表現の微細で分散した性質と不一致である。
外科的概念の消去を実現するためにスパースオートエンコーダを利用する新しいフレームワークであるEraseSAEを提案する。
論文 参考訳（メタデータ） (2026-09-03T10:23:37Z) - The Illusion of High Utility in Safety Alignment of Text-to-Image Diffusion Models [49.67749928542536]
テキスト・ツー・イメージ(T2I)拡散モデルの安全性の確保は,有害な世代を抑えることを目的としている。
近年の手法は高いユーティリティで高い安全性を提供するように思われるが、この結論は主に粗いグローバルユーティリティメトリクスに依存している。
構造的評価で実用性を測定すると、この錯覚は壊れる:OnA(質問回答を用いたテキストから画像への忠実度評価)
本研究では,組込み拡散とプロンプト間関係構造を明示的に保存する安全アライメント目標であるStructureAware Geometric Regularization (SAGE)を提案する。
論文 参考訳（メタデータ） (2026-07-01T04:00:27Z) - PRISM: Prior Rectification and Uncertainty-Aware Structure Modeling for Diffusion-Based Text Image Super-Resolution [51.96078493242164]
PRISMは単一ステップ拡散ベースのText-SRフレームワークである。
PRISMはミリ秒レベルの推論で最先端の性能を達成する。
論文 参考訳（メタデータ） (2026-05-13T05:31:06Z) - Disciplined Diffusion: Text-to-Image Diffusion Model against NSFW Generation [9.862349752373577]
テキスト・ツー・イメージ(T2I)拡散モデルでは、テキスト・プロンプトから高品質な画像を作成することができる。
有害な入力が与えられた場合、攻撃的または乱雑なイメージを生成できるため、安全上の懸念が生じる。
そこで我々は,Not Safe For Work (NSFW) 生成に対抗して,新しいロバストなテキストと画像の拡散である Disciplined Diffusion (DDiffusion) を提案する。
論文 参考訳（メタデータ） (2026-05-01T21:33:06Z) - TINA: Text-Free Inversion Attack for Unlearned Text-to-Image Diffusion Models [92.56562999211809]
テキスト中心のパラダイムは、消去とテキスト・ツー・イメージマッピングの厳密さを同一視し、望ましくない概念に関する基礎となる視覚的知識が今も続いていることを無視する。
我々は、この視覚のみのプローブをNull-text条件下で動作させることで、新しいテキストフリーのインバージョンアタックであるTinaを紹介する。
我々の実験では、Tinaは最先端の未学習モデルから消去された概念を再生することを示した。
論文 参考訳（メタデータ） (2026-03-18T15:25:03Z) - SafeRedir: Prompt Embedding Redirection for Robust Unlearning in Image Generation Models [67.84174763413178]
我々はSafeRedirを紹介した。SafeRedirは、迅速な埋め込みリダイレクトによる堅牢なアンラーニングのための軽量な推論時フレームワークである。
SafeRedirは,効果的な非学習能力,意味的・知覚的保存能力,堅牢な画像品質,対人攻撃に対する耐性の向上を実現している。
論文 参考訳（メタデータ） (2026-01-13T15:01:38Z) - Deferred Commitment Decoding for Diffusion Language Models with Confidence-Aware Sliding Windows [33.361153168706444]
トレーニング不要なデコード戦略として,Dederred Commitment Decoding (DCD)を提案する。
DCDは、マスクされたトークンの上に信頼性を意識したスライディングウィンドウを保持しており、十分な文脈証拠が得られるまで、高い不確実性トークンを延期しながら、早期に低不確実性トークンを解決している。
実験の結果、DCDは固定ブロックベースの拡散法に比べて平均時間で1.39%向上し、最も顕著な改善は9.0%に達した。
論文 参考訳（メタデータ） (2026-01-05T12:57:33Z) - NSFW-Classifier Guided Prompt Sanitization for Safe Text-to-Image Generation [47.03824997129498]
大きな言語モデルの"jailbreak"攻撃は、微妙な迅速な修正を通じて制限をバイパスする。
PromptSanは、モデルアーキテクチャを変更することなく有害なプロンプトを解毒するための新しいアプローチである。
PromptSanは、複数のメトリクスにわたる有害なコンテンツ生成を減らすことで、最先端のパフォーマンスを実現している。
論文 参考訳（メタデータ） (2025-06-23T06:17:30Z) - Concept Steerers: Leveraging K-Sparse Autoencoders for Test-Time Controllable Generations [5.2956273221301835]
テキスト・ツー・イメージ生成モデルは、敵対的な攻撃をしがちであり、不安全で非倫理的なコンテンツを不注意に生成する。
我々は,k-スパースオートエンコーダ(k-SAE)を活用して,効率的な,解釈可能な概念操作を実現する新しいフレームワークを提案する。
提案手法は, 安全でない概念除去において$mathbf20.01%$の改善を実現し, スタイル操作に有効であり, 現在の最先端技術よりも$mathbfsim5$x高速である。
論文 参考訳（メタデータ） (2025-01-31T11:52:47Z) - Mitigating Sexual Content Generation via Embedding Distortion in Text-conditioned Diffusion Models [2.2917707112773593]
Distorting Embedding Space (DES) はテキストエンコーダベースの防御機構である。
DESは、アンセーフプロンプトを用いてテキストエンコーダから抽出されたアンセーフな埋め込みを、慎重に計算された安全な埋め込み領域に変換する。
DESはまた、敵の攻撃に対する堅牢性を高めるために、ヌードの埋め込みを中立的な埋め込みと整合させることで、ヌードの埋め込みを中和する。
論文 参考訳（メタデータ） (2025-01-31T04:14:05Z) - Reliable and Efficient Concept Erasure of Text-to-Image Diffusion Models [76.39651111467832]
本稿では,Reliable and Efficient Concept Erasure (RECE)を提案する。
派生した埋め込みによって表現される不適切なコンテンツを緩和するために、RECEはそれらをクロスアテンション層における無害な概念と整合させる。
新たな表現埋め込みの導出と消去を反復的に行い、不適切な概念の徹底的な消去を実現する。
論文 参考訳（メタデータ） (2024-07-17T08:04:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。