論文の概要: GuardPaint:SpeculativeSafetyDecodingforText-to-ImageGeneration
- arxiv url: http://arxiv.org/abs/2608.21869v1
- Date: Sat, 22 Aug 2026 09:28:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 13:29:43.497383
- Title: GuardPaint:SpeculativeSafetyDecodingforText-to-ImageGeneration
- Title（参考訳）: GuardPaint:SpeculativeSafetyDecodingforText-to- ImageGeneration
- Abstract要約: GuardPaintは安全なT2I生成のためのフレームワークで、ベースモデルを変更することなく拡散軌道内で介入する。
軽量監査機は、中間画像を監視し、安全でない領域をローカライズし、必要なときにのみ外科的塗装修復をトリガーする。
- 参考スコア（独自算出の注目度）: 16.763537092663366
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Text-to-image (T2I) diffusion models offer powerful visual generation, but their controllability creates a critical safety challenge: adversarial prompts can steer the denoising trajectory toward policy-violating content such as explicit nudity or graphic violence. Existing safeguards mostly act before generation through prompt filtering or after generation through image classification, leaving the diffusion process itself unguarded and often yielding only refusal rather than safe visual repair. We introduce GuardPaint, a speculative decoding framework for safe T2I generation that intervenes inside the diffusion trajectory without modifying the base model. A lightweight auditor monitors intermediate images, localizes unsafe regions, and triggers surgical inpainting repair only where needed. Candidate repairs are generated by a policy-aligned inpainter and selected through a guarded tournament that accepts edits only when they improve policy compliance while preserving prompt fidelity and perceptual quality. Across five jailbreak families SneakPrompt, MMA, PGJ, DACA, and RABell and UNet/flow-matching models including SD~1.5, SDXL, SD~3.5, and FLUX.1-dev. GuardPaint reduces attack success and harmful generations with minimal degradation to image quality, prompt fidelity, and benign behavior. Content warning: This paper contains examples involving nudity and violence that some readers may find disturbing, distressing, or offensive.
- Abstract（参考訳）: テキスト・ツー・イメージ(T2I)拡散モデルは強力な視覚生成を提供するが、その制御性は重要な安全上の課題を生み出す。
既存のセーフガードは、画像分類による即時フィルタリングや後世代化を通じて生成前に行動し、拡散過程自体を無防備にし、しばしば視覚的な修復よりも拒絶のみを生じる。
ベースモデルを変更することなく拡散軌道内を介在する安全なT2I生成のための投機的デコーディングフレームワークであるGuardPaintを紹介する。
軽量監査機は、中間画像を監視し、安全でない領域をローカライズし、必要なときにのみ外科的塗装修復をトリガーする。
候補修復は、ポリシーに整合したインペーターによって生成され、即時忠実さと知覚品質を維持しつつ、ポリシーコンプライアンスを改善した場合にのみ編集を受け付けるガード付きトーナメントによって選択される。
SneakPrompt、MMA、PGJ、DACA、RABellを含む5つのジェイルブレイクファミリーと、SD~1.5、SDXL、SD~3.5、FLUX.1-devを含むUNet/フローマッチングモデル。
GuardPaintは、画像品質の低下を最小限に抑えて、攻撃の成功と有害な世代を減らす。
コンテンツ警告:本論文は、一部の読者が乱暴、苦痛、または攻撃的と感じるヌードと暴力に関する事例を含む。
関連論文リスト
- DiSCO: Defending text-to-image generation through distribution-guided contrastive prompt optimization [65.89030524420933]
DiSCOはゼロショットで厳密にブラックボックスのディフェンスで、プラグイン・アンド・プレイモジュールとしてプロンプトレベルで完全に動作する。
我々は,DiSCOが無防備モデルと防御モデルの両方の安全性を継続的に向上することを示した。
ブラックボックスでアーキテクチャに依存しないモジュールとして、DiSCOはどんなテキスト・ツー・イメージ・システムにも容易に適用できる。
論文 参考訳（メタデータ） (2026-08-17T19:13:55Z) - MIRAGE: Protecting against Malicious Image Editing via False Moderation [73.0838743416626]
画像免疫に関する以前の研究は、許可されていない操作から保護するために、イメージに知覚できない摂動を追加する。
我々は,この問題をシステムレベルで把握し,すべての主要な商用画像編集システムに共通する未探索の攻撃面を特定する。
本稿では、これらのモデレーションをポリシー違反としてフラグ付けさせ、編集プロンプトによらず自動的な拒絶を引き起こすことにより、イメージを免疫することを提案する。
論文 参考訳（メタデータ） (2026-06-24T16:23:10Z) - Purify Once, Edit Freely: Breaking Image Protections under Model Mismatch [21.826849937304477]
拡散モデルは高忠実な画像編集を可能にするが、不正なスタイルの模倣や有害なコンテンツ生成に誤用することもできる。
これらのリスクを軽減するため、プロアクティブな画像保護手法は、下流の編集や微調整を妨害するために共有する前に、画像に小さな、しばしば知覚できない敵の摂動を埋め込む。
我々は,モデルミスマッチ下での保護生存性を評価するために,統合されたリリース後浄化フレームワークを導入する。
論文 参考訳（メタデータ） (2026-03-13T14:36:46Z) - SafeRedir: Prompt Embedding Redirection for Robust Unlearning in Image Generation Models [67.84174763413178]
我々はSafeRedirを紹介した。SafeRedirは、迅速な埋め込みリダイレクトによる堅牢なアンラーニングのための軽量な推論時フレームワークである。
SafeRedirは,効果的な非学習能力,意味的・知覚的保存能力,堅牢な画像品質,対人攻撃に対する耐性の向上を実現している。
論文 参考訳（メタデータ） (2026-01-13T15:01:38Z) - SP-Guard: Selective Prompt-adaptive Guidance for Safe Text-to-Image Generation [21.845417608250035]
拡散ベースのT2Iモデルは、優れた画像生成品質を達成した。
また、有害なコンテンツを容易に作成できる。
また,SP-Guard法は,これらの制約に対処し,迅速な有害性を推定し,選択的誘導マスクを適用した。
論文 参考訳（メタデータ） (2025-11-14T07:04:06Z) - Multimodal Prompt Decoupling Attack on the Safety Filters in Text-to-Image Models [73.43013217318965]
マルチモーダル・プロンプト・デカップリング・アタック(MPDA)
MPDAは画像モダリティを使用して、元の安全でないプロンプトの有害なセマンティックコンポーネントを分離する。
ビジュアル言語モデルは、生成したNSFW画像と元の安全でないプロンプトとのセマンティック一貫性を確保するために画像キャプションを生成する。
論文 参考訳（メタデータ） (2025-09-21T11:22:32Z) - PromptGuard: Soft Prompt-Guided Unsafe Content Moderation for Text-to-Image Models [38.45239843869313]
テキスト・ツー・イメージ(T2I)モデルは、テキスト記述から高品質な画像を生成する際、顕著な性能を示した。
T2Iモデルは、特にNSFW(Not-safe-for-work)コンテンツを生成する誤用に対して脆弱である。
本稿では,大規模言語モデルにおけるシステムプロンプト機構からインスピレーションを得る新しいコンテンツモデレーション手法であるPromptGuardを紹介する。
論文 参考訳（メタデータ） (2025-01-07T05:39:21Z) - Safety Without Semantic Disruptions: Editing-free Safe Image Generation via Context-preserving Dual Latent Reconstruction [88.18235230849554]
大規模で未処理のデータセットでマルチモーダル生成モデルをトレーニングすることで、ユーザは有害で安全でない、議論の余地のない、文化的に不適切なアウトプットにさらされる可能性がある。
我々は、安全な埋め込みと、より安全な画像を生成するために、潜伏空間の重み付け可能な総和による修正拡散プロセスを活用する。
安全と検閲のトレードオフを特定し、倫理的AIモデルの開発に必要な視点を提示します。
論文 参考訳（メタデータ） (2024-11-21T09:47:13Z) - Safe Text-to-Image Generation: Simply Sanitize the Prompt Embedding [16.188657772178747]
本研究では,不適切な概念を迅速に埋め込むことで,テキスト・ツー・イメージモデルの安全性を高めるEmbeded Sanitizer (ES)を提案する。
ESは、その潜在的な有害性を示すプロンプトにおいて各トークンにスコアを割り当てる最初の解釈可能な安全な生成フレームワークである。
論文 参考訳（メタデータ） (2024-11-15T16:29:02Z) - SAFREE: Training-Free and Adaptive Guard for Safe Text-to-Image And Video Generation [65.30207993362595]
安全な生成のための学習/編集に基づく手法は、モデルから有害な概念を取り除くが、いくつかの課題に直面している。
安全なT2IとT2VのためのトレーニングフリーアプローチであるSAFREEを提案する。
テキスト埋め込み空間における有毒な概念の集合に対応する部分空間を検出し、この部分空間から直ちに埋め込みを行う。
論文 参考訳（メタデータ） (2024-10-16T17:32:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。