論文の概要: Mirage: Targeted Jailbreaks Against Post-Generation Safety Checkers in Multimodal Diffusion Models

• arxiv url: http://arxiv.org/abs/2610.30348v1
• Date: Wed, 21 Oct 2026 19:08:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.112357
• Title: Mirage: Targeted Jailbreaks Against Post-Generation Safety Checkers in Multimodal Diffusion Models
• Title（参考訳）: ミラージュ:マルチモーダル拡散モデルにおけるジェネレーション後の安全チェックに対する標的ジェイルブレイク
• Abstract要約: 当社が提案しているマルチモーダルジェイルブレイク攻撃、Mirageによって、ポストジェネレーションセーフティチェッカーはいまだにバイパス可能であることを示す。 敵対目標が与えられた場合、ミラージュは良性入力画像に適用される知覚不能な摂動の中にターゲットを隠蔽する。 Mirageはマルチモーダルエンコーダの共有表現空間を利用して、摂動画像をクロスモーダル対向ターゲットと共同で調整する。
• 参考スコア（独自算出の注目度）: 21.142633499587905
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Post-generation safety checkers are widely employed in diffusion-model pipelines to prevent unsafe generated content from reaching users. In this paper, we show that these safety checkers can still be bypassed by our proposed multimodal jailbreak attack, Mirage. Given an adversarial target, which can be either a reference NSFW image or a malicious text description, Mirage conceals the target within an imperceptible perturbation applied to a benign input image. Mirage exploits the shared representation space of multimodal encoders to jointly align the perturbed image with the cross-modal adversarial target while repelling its representation from commonly filtered NSFW concepts. Such semantic separation can transfer across representation spaces, enabling Mirage to evade heterogeneous safety checkers without accessing their internal details. We further employ lightweight black-box query refinement to improve evasion near the unknown safety boundary. We implemented Mirage on Stable Diffusion 1.5, Stable Diffusion XL, and Kandinsky 2.2, and evaluated it on two cross-modal NSFW datasets, covering both text-to-image and image-to-image generation scenarios. The experimental results demonstrate that Mirage achieves strong targeted jailbreak performance across diverse post-generation safety checkers with limited black-box queries while preserving high semantic alignment with the adversarial targets.
• Abstract（参考訳）: ポストジェネレーションセーフティチェッカーは、安全でないコンテンツがユーザに届かないよう拡散モデルパイプラインで広く利用されている。 本稿では,これらの安全チェックは,我々が提案したマルチモーダルジェイルブレイク攻撃であるMirageによって回避可能であることを示す。 基準NSFW画像または悪意のあるテキスト記述のいずれかである敵ターゲットが与えられた場合、ミラージュは、良性入力画像に適用される知覚不能な摂動の中にターゲットを隠蔽する。 Mirage はマルチモーダルエンコーダの共有表現空間を利用して、一般的にフィルタされた NSFW の概念から表現を退避させながら、摂動画像とクロスモーダル対向ターゲットを協調的に調整する。 このようなセマンティックな分離は表現空間をまたいで転送することができ、ミラージュは内部の詳細にアクセスすることなく異種安全チェックを回避できる。 我々はまた、未知の安全境界付近の回避を改善するために、軽量なブラックボックスクエリ改善を採用している。 安定拡散1.5, 安定拡散XL, およびカンディンスキー2.2にミラージュを実装し, テキスト・ツー・イメージ生成シナリオと画像・画像生成シナリオの両方をカバーする2つのクロスモーダルNAFWデータセットで評価した。 実験結果から,Mirageは,ブラックボックスクエリに制限のある多様な世代後安全チェッカーに対して,高いセマンティックアライメントを維持しつつ,強い目標ジェイルブレイク性能を実現することが示された。

関連論文リスト

• Disciplined Diffusion: Text-to-Image Diffusion Model against NSFW Generation [9.862349752373577]
  テキスト・ツー・イメージ(T2I)拡散モデルでは、テキスト・プロンプトから高品質な画像を作成することができる。 有害な入力が与えられた場合、攻撃的または乱雑なイメージを生成できるため、安全上の懸念が生じる。 そこで我々は,Not Safe For Work (NSFW) 生成に対抗して,新しいロバストなテキストと画像の拡散である Disciplined Diffusion (DDiffusion) を提案する。
  論文  参考訳（メタデータ） (2026-05-01T21:33:06Z)
• SafeGuider: Robust and Practical Content Safety Control for Text-to-Image Models [74.11062256255387]
  テキスト・ツー・イメージのモデルは、安全対策を回避し、有害なコンテンツを生成できる敵のプロンプトに対して非常に脆弱である。 SafeGuiderは, 生成品質を損なうことなく, 堅牢な安全制御を実現するための2段階のフレームワークである。 SafeGuiderは攻撃成功率の最小化において例外的な効果を示し、様々な攻撃シナリオで最大速度は5.48%である。
  論文  参考訳（メタデータ） (2025-10-05T10:24:48Z)
• Towards Safe Synthetic Image Generation On the Web: A Multimodal Robust NSFW Defense and Million Scale Dataset [20.758637391023345]
  安全かつNSFWなテキストとイメージを区別するためにマルチモーダルディフェンスが開発された。 我々のモデルは精度とリコールの観点から既存のSOTA NSFW検出手法に対して良好に機能する。
  論文  参考訳（メタデータ） (2025-04-16T02:10:42Z)
• Mitigating Sexual Content Generation via Embedding Distortion in Text-conditioned Diffusion Models [2.2917707112773593]
  Distorting Embedding Space (DES) はテキストエンコーダベースの防御機構である。 DESは、アンセーフプロンプトを用いてテキストエンコーダから抽出されたアンセーフな埋め込みを、慎重に計算された安全な埋め込み領域に変換する。 DESはまた、敵の攻撃に対する堅牢性を高めるために、ヌードの埋め込みを中立的な埋め込みと整合させることで、ヌードの埋め込みを中和する。
  論文  参考訳（メタデータ） (2025-01-31T04:14:05Z)
• Safe + Safe = Unsafe? Exploring How Safe Images Can Be Exploited to Jailbreak Large Vision-Language Models [80.77246856082742]
  Safety Snowball Agent (SSA) は、エージェントの自律的およびツール使用能力をジェイルブレイクLVLMに活用する新しいエージェントベースのフレームワークである。 我々の実験では、ほぼすべての画像を用いてLVLMを誘導し、安全でないコンテンツを生成し、最新のLVLMに対して高いジェイルブレイク率を達成できることを示した。
  論文  参考訳（メタデータ） (2024-11-18T11:58:07Z)
• Jailbreaking Prompt Attack: A Controllable Adversarial Attack against Diffusion Models [10.70975463369742]
  JPA(Jailbreaking Prompt Attack)について紹介する。 JPAは、アントロニムのグループを使用してテキスト埋め込みスペース内のターゲットの悪意ある概念を検索する。 プレフィックスプロンプトは離散語彙空間で最適化され、テキスト埋め込み空間において悪意ある概念を意味的に整合させる。
  論文  参考訳（メタデータ） (2024-04-02T09:49:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。