論文の概要: Test-Time Scaling for Safe Text-Guided Image Generation via Intermediate Clean Estimates
- arxiv url: http://arxiv.org/abs/2608.03284v1
- Date: Tue, 04 Aug 2026 08:00:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-05 15:30:23.091172
- Title: Test-Time Scaling for Safe Text-Guided Image Generation via Intermediate Clean Estimates
- Title（参考訳）: 中間クリーン推定による安全なテキストガイド画像生成のためのテスト時間スケーリング
- Abstract要約: 本稿では, 生成過程で推定される中間クリーン画像を活用し, スパースマージン目標を用いて, 禁止概念を検出することを提案する。
違反が検出されると, テキストコンディショニング空間における構造的低ランク残差を, 切り離されたバックプロパゲーションによって最適化することで, 即座に介入する。
安定拡散v1.4およびv3.5のヌード除去,IP保護,スタイル消去による実験は,抑制,忠実度,保存性に優れた性能を示した。
- 参考スコア（独自算出の注目度）: 4.955707866879803
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Ensuring safety and policy compliance in text-to-image diffusion models remains a critical challenge, as benign or adversarial prompts can often elicit prohibited content, e.g. nudity and protected intellectual property. While training-based unlearning methods are effective, they are computationally expensive and prone to catastrophic interference with general capabilities. Conversely, existing test-time defenses are primarily prompt-centric, relying on modifying textual descriptions only, and overlook the visual signals for detection. In this paper, we propose to leverage the intermediate clean image estimated during the generation process and employ a sparse margin objective to detect prohibited concepts. When a violation is detected, we immediately intervene by optimizing a structured low-rank residual in the text-conditioning space via truncated backpropagation. This design allows weight-preserving detection, keeps non-violating inference latency nearly unchanged as the maximum budget increases, and offers flexibility in safety performance via test-time scaling. Extensive experiments on Stable Diffusion v1.4 and v3.5 across nudity removal, IP protection, and style erasure demonstrate superior performance across suppression, fidelity and preservation compared to prior weight-preserving baselines, providing a scalable and flexible solution for safe generative deployment.
- Abstract（参考訳）: テキストから画像への拡散モデルにおける安全性とポリシーの遵守を保証することは、良心的または敵対的なプロンプトが禁止されたコンテンツ、例えばヌードや保護された知的財産をしばしば引き出すため、依然として重要な課題である。
トレーニングベースのアンラーニング手法は有効であるが、計算コストが高く、一般的な能力に対する破滅的な干渉が生じる傾向にある。
逆に、既存のテスト時の防御は主に即時中心であり、テキスト記述の変更のみに依存し、検出のための視覚信号を見落としている。
本稿では, 生成過程で推定される中間クリーン画像を活用し, スパースマージン目標を用いて, 禁止概念を検出することを提案する。
違反が検出されると, テキストコンディショニング空間における構造的低ランク残差を, 切り離されたバックプロパゲーションによって最適化することで, 即座に介入する。
この設計は、重量保存検出を可能にし、最大予算が増加するにつれて、非暴力的な推論遅延をほぼ一定に保ち、テスト時間スケーリングによる安全性の柔軟性を提供する。
安定拡散v1.4およびv3.5のヌード除去、IP保護、スタイル消去による広範囲な実験は、以前の重量保存ベースラインと比較して、抑制、忠実性、保存性に優れた性能を示し、安全な生成デプロイメントのためのスケーラブルで柔軟なソリューションを提供する。
関連論文リスト
- Introspective Attention Modulation for Safe Text-to-Image Generation [37.67434449197168]
State-of-the-the-art flow based text-to-image (T2I)モデルは、優れた生成能力を示すが、安全でないコンテンツを生成するには弱い。
本稿では,推論時イントロスペクションによるモデル注意力の制御により,安全性を実現するユニークなアプローチを提案する。
論文 参考訳（メタデータ） (2026-07-16T12:53:45Z) - Hybrid Robustness Verification for Spatio-Temporal Neural Networks [19.026662893450425]
既存の検証方法は、過度に保守的な近似や不正な計算コストに依存している。
実際には、対向摂動は、低次元、意味論的に意味のある部分空間に制約された、構造化された空間的および時間的相関を示す。
動作認識(UCF-101)、自律運転(Udacity)、医用画像(MedMNIST)の用途を対象として、3次元CNNによる映像入力のロバスト性検証を行う。
論文 参考訳（メタデータ） (2026-06-08T17:06:51Z) - Bypassing Copyright Protection in Diffusion-based Customization via Two-Stage Latent Feature Optimization [51.33055188976282]
敵対的攻撃は 個人化された画像生成において 悪意のあるコンテンツの偽造を防ぐ 防衛戦略として浮上した
本稿では,2段階遅延特徴最適化 (TS-LFO) を導入する。
広範な実験により、TS-LFOは、最先端のSOTA著作権防衛を一貫して回避し、DiffPure、GrIDPure、IMPRESSなどのSOTA著作権攻撃より優れていることが示されている。
論文 参考訳（メタデータ） (2026-06-06T07:59:08Z) - SafeRedir: Prompt Embedding Redirection for Robust Unlearning in Image Generation Models [67.84174763413178]
我々はSafeRedirを紹介した。SafeRedirは、迅速な埋め込みリダイレクトによる堅牢なアンラーニングのための軽量な推論時フレームワークである。
SafeRedirは,効果的な非学習能力,意味的・知覚的保存能力,堅牢な画像品質,対人攻撃に対する耐性の向上を実現している。
論文 参考訳（メタデータ） (2026-01-13T15:01:38Z) - Semantic Surgery: Zero-Shot Concept Erasure in Diffusion Models [27.672305802461377]
拡散プロセスの前にテキスト埋め込みを直接操作する,概念消去のための新しいトレーニングフリーゼロショットフレームワークを提案する。
我々は、局所性と画質を保ちながら、優れた完全性と堅牢性を達成する。
この堅牢性により、我々のフレームワークは脅威検出システムとして機能し、より安全なテキスト・画像生成のための実用的なソリューションを提供する。
論文 参考訳（メタデータ） (2025-10-26T22:04:17Z) - SafeCtrl: Region-Based Safety Control for Text-to-Image Diffusion via Detect-Then-Suppress [48.20360860166279]
SafeCtrlは軽量で非侵襲的なプラグインで、まず安全でないコンテンツを正確にローカライズします。
強硬なA-to-B置換を行う代わりに、SafeCtrlは有害なセマンティクスを抑える。
論文 参考訳（メタデータ） (2025-08-16T04:28:52Z) - PromptSafe: Gated Prompt Tuning for Safe Text-to-Image Generation [30.2092299298228]
テキスト・ツー・イメージ(T2I)モデルは、暴力的または明示的なイメージなど、安全でない作業用コンテンツ(NSFW)の生成に脆弱である。
本稿では,軽量でテキストのみを教師付きソフト埋め込みと,推論時間付きゲート制御ネットワークを組み合わせたゲートプロンプトチューニングフレームワークであるPromptSafeを提案する。
PromptSafeはSOTAの安全でない生成率(2.36%)を達成し,高い良性を維持していることを示す。
論文 参考訳（メタデータ） (2025-08-02T09:09:40Z) - TRCE: Towards Reliable Malicious Concept Erasure in Text-to-Image Diffusion Models [53.937498564603054]
近年のテキスト・画像拡散モデルの進歩により、フォトリアリスティックな画像生成が可能になったが、NSFW画像のような悪意のあるコンテンツを生成するリスクもある。
リスクを軽減するため,概念消去手法が研究され,モデルが特定の概念を学習しやすくする。
本稿では,2段階のコンセプト消去戦略を用いて,信頼性の高い消去と知識保存の効果的なトレードオフを実現するTRCEを提案する。
論文 参考訳（メタデータ） (2025-03-10T14:37:53Z) - Safety Alignment Backfires: Preventing the Re-emergence of Suppressed Concepts in Fine-tuned Text-to-Image Diffusion Models [57.16056181201623]
微調整されたテキストと画像の拡散モデルは、必然的に安全対策を解除し、有害な概念を再現する。
本報告では,Funice-Tuning LoRAコンポーネントとは別に,安全性の低い適応モジュールをトレーニングする,Modular LoRAと呼ばれる新しいソリューションを提案する。
本手法は,新しいタスクにおけるモデルの性能を損なうことなく,有害なコンテンツの再学習を効果的に防止する。
論文 参考訳（メタデータ） (2024-11-30T04:37:38Z) - Reliable and Efficient Concept Erasure of Text-to-Image Diffusion Models [76.39651111467832]
本稿では,Reliable and Efficient Concept Erasure (RECE)を提案する。
派生した埋め込みによって表現される不適切なコンテンツを緩和するために、RECEはそれらをクロスアテンション層における無害な概念と整合させる。
新たな表現埋め込みの導出と消去を反復的に行い、不適切な概念の徹底的な消去を実現する。
論文 参考訳（メタデータ） (2024-07-17T08:04:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。