論文の概要: Dynamic Defense Profiling Enables Cognitive Jailbreak of Text-to-Image Models

• arxiv url: http://arxiv.org/abs/2607.17779v1
• Date: Mon, 20 Jul 2026 10:09:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-21 18:48:37.586912
• Title: Dynamic Defense Profiling Enables Cognitive Jailbreak of Text-to-Image Models
• Title（参考訳）: 動的防御プロファイリングによりテキスト・画像モデルの認知的ジェイルブレイクを可能にする
• Abstract要約: テキスト・ツー・イメージ生成モデルは敵の誤用に対して脆弱である。 既存のジェイルブレイク攻撃のほとんどは、迅速なエンジニアリングやブラックボックス最適化に依存している。 我々は,信念状態推論問題として,敵対的素早い生成を再構成する認知的ジェイルブレイクフレームワークであるMINDを提案する。
• 参考スコア（独自算出の注目度）: 9.029672953412787
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Text-to-Image (T2I) generative models have achieved remarkable progress in synthesizing high-quality visual content, yet they remain vulnerable to adversarial misuse, particularly in generating Not-Safe-For-Work (NSFW) images. Most existing jailbreak attacks primarily rely on heuristic prompt engineering or black-box optimization, treating model feedback as a binary signal (success or failure). This coarse-grained paradigm overlooks the rich information embedded in diverse failure modes, such as textual refusal, visual blocking, and semantic sanitization, resulting in inefficient exploration and severe semantic collapse. In this paper, we propose MIND, a cognitive jailbreak framework that reframes adversarial prompt generation as a belief-state inference problem over latent defense mechanisms. Instead of blindly searching for bypass prompts, MIND actively models the target system's latent defense mechanisms by interpreting multi-modal feedback as high-density signals. Specifically, the framework integrates three core components: (1) a Multi-modal Judge for fine-grained feedback decomposition, (2) a Defense Profiler for iterative belief updating, and (3) a Meta-Memory module for retrieving historically effective attack strategies. These components are unified within a reasoning-driven evolutionary optimization process, enabling adaptive and semantically consistent jailbreak generation. Extensive experiments on the I2P benchmark demonstrate the effectiveness of MIND. Under six representative pre-processing and post-processing defense settings applied to the Stable Diffusion v1.5 model, MIND achieves an Attack Success Rate (ASR) of 95.62%, significantly outperforming existing methods. Additionally, the effectiveness of the proposed framework is validated across four widely used commercial T2I systems, achieving the highest ASR of 91.58% on Wan-2.5.
• Abstract（参考訳）: テキスト・ツー・イメージ(T2I)生成モデルは高品質な視覚コンテンツを合成する上で顕著な進歩を遂げているが、特にNot-Safe-For-Work(NSFW)画像の生成において、敵の誤用に弱いままである。 既存のジェイルブレイク攻撃のほとんどは、主にヒューリスティックなプロンプトエンジニアリングやブラックボックス最適化に依存しており、モデルフィードバックをバイナリ信号(成功または失敗)として扱う。 この粗い粒度のパラダイムは、テキストの拒絶、視覚的ブロッキング、セマンティック・サニタイズといった様々な障害モードに埋め込まれた豊富な情報を見落とし、非効率な探索と深刻なセマンティック・崩壊をもたらす。 本稿では,潜伏防御機構に対する信念状態推論問題として,敵の迅速な生成を再構成する認知的ジェイルブレイクフレームワークであるMINDを提案する。 バイパスプロンプトを盲目的に探す代わりに、MINDはマルチモーダルフィードバックを高密度信号として解釈することで、ターゲットシステムの潜在防御機構を積極的にモデル化する。 具体的には,(1)微粒なフィードバック分解のためのマルチモーダルジャッジ,(2)反復的信念更新のためのディフェンスプロファイラ,(3)歴史的に有効な攻撃戦略を取得するメタメモリモジュールの3つのコアコンポーネントを統合する。 これらのコンポーネントは推論駆動の進化的最適化プロセスに統合され、適応的でセマンティックに一貫性のあるジェイルブレイク生成を可能にする。 I2Pベンチマークの大規模な実験は、MINDの有効性を実証している。 安定拡散v1.5モデルに適用された6つの代表的な前処理および後処理防御設定の下で、MINDは95.62%のアタック成功率(ASR)を達成し、既存の手法よりも大幅に優れている。 さらに、提案手法の有効性を4つの商用T2Iシステムで検証し、Wan-2.5上で91.58%のASRを達成した。

関連論文リスト

• Dual Adversarial Fine-tuning for Enhancing Robustness of Large Vision Language Model [73.59026525350808]
  2つのモードからの視覚的および意味的な監視信号を協調的に最適化する二重対向微調整フレームワークを提案する。 本手法は, ゼロショット分類, 画像キャプション, 視覚的質問応答タスクにおいて, 対向ロバスト性評価における最先端手法よりも優れている。
  論文  参考訳（メタデータ） (2026-07-21T10:49:29Z)
• Agentic Adversarial Rewriting Exposes Architectural Vulnerabilities in Black-Box NLP Pipelines [34.37967130277969]
  本稿では,意味摂動空間で動作する2エージェント回避フレームワークを提案する。 現代大言語モデル(LLM)ベースのシステムでは、普及率は19.95から40.34%である。 パターンインフォームド・ディフェンスは回避率を65.18%まで下げる。
  論文  参考訳（メタデータ） (2026-04-26T00:58:36Z)
• Structured Semantic Cloaking for Jailbreak Attacks on Large Language Models [28.741175254258422]
  本研究では,新しい多次元ジェイルブレイク攻撃フレームワークであるStructured Semantic Cloaking (S2C)を提案する。 S2Cはマルチステップ推論を必要とするようなセマンティックキューを戦略的に分散し、再結合する。 我々は、HarmBench と JBB-Behaviors を用いて、複数のオープンソースおよびプロプライエタリ LLM 上でS2Cを評価した。
  論文  参考訳（メタデータ） (2026-03-17T07:20:48Z)
• RunawayEvil: Jailbreaking the Image-to-Video Generative Models [59.21761412103083]
  イメージ・トゥ・ビデオ(I2V)生成は、画像とテキスト入力から動的視覚コンテンツを合成し、創造的なコントロールを提供する。 本稿では,動的進化機能を備えたI2VモデルのマルチモーダルジェイルブレイクフレームワークであるRunawayEvilを提案する。 RunawayEvil は Open-Sora 2.0 や CogVideoX などの商用 I2V モデルに対して,最先端の攻撃成功率を実現している。
  論文  参考訳（メタデータ） (2025-12-07T06:14:52Z)
• Metaphor-based Jailbreaking Attacks on Text-to-Image Models [41.420325236578755]
  textbfMJA は textbfmetaphor ベースの textbfjailbreaking textbf attack method で、Taboo ゲームにインスパイアされた。 様々な防御機構を事前に知ることなく効果的に攻撃する。
  論文  参考訳（メタデータ） (2025-12-06T12:38:00Z)
• DiffuGuard: How Intrinsic Safety is Lost and Found in Diffusion Large Language Models [50.21378052667732]
  我々は、ステップ内およびステップ間ダイナミクスという2つの異なる次元にわたるジェイルブレイク攻撃に対して、dLLM脆弱性の詳細な分析を行う。 デュアルステージアプローチによる脆弱性に対処する,トレーニング不要な防御フレームワークであるDiffuGuardを提案する。
  論文  参考訳（メタデータ） (2025-09-29T05:17:10Z)
• ARMOR: Aligning Secure and Safe Large Language Models via Meticulous Reasoning [64.32925552574115]
  ARMORは、jailbreak戦略を分析し、コアインテントを抽出する、大規模な言語モデルである。 ARMORは最先端の安全性能を達成し、平均有害率は0.002であり、高度な最適化ベースのジェイルブレイクに対する攻撃成功率は0.06である。
  論文  参考訳（メタデータ） (2025-07-14T09:05:54Z)
• T2V-OptJail: Discrete Prompt Optimization for Text-to-Video Jailbreak Attacks [67.91652526657599]
  我々は、T2Vジェイルブレイク攻撃を離散最適化問題として定式化し、T2V-OptJailと呼ばれる共同目的ベース最適化フレームワークを提案する。 いくつかのT2Vモデルに対して大規模な実験を行い、オープンソースモデルと実際の商用クローズドソースモデルの両方をカバーする。 提案手法は,攻撃成功率の観点から既存手法よりも11.4%,10.0%向上する。
  論文  参考訳（メタデータ） (2025-05-10T16:04:52Z)
• T2VShield: Model-Agnostic Jailbreak Defense for Text-to-Video Models [88.63040835652902]
  テキストからビデオモデルへの攻撃はジェイルブレイク攻撃に弱いため、特別な方法で安全メカニズムをバイパスし、有害または安全でないコンテンツの生成につながる。 我々は、ジェイルブレイクの脅威からテキストからビデオモデルを守るために設計された包括的でモデルに依存しない防衛フレームワークであるT2VShieldを提案する。 本手法は,既存の防御の限界を特定するために,入力,モデル,出力の段階を体系的に解析する。
  論文  参考訳（メタデータ） (2025-04-22T01:18:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。