論文の概要: The Price of Consistency: Exploiting Visual Anchors for Multimodal Jailbreaking in Video Generation

• arxiv url: http://arxiv.org/abs/2609.07216v1
• Date: Mon, 07 Sep 2026 08:34:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-12 01:11:22.705073
• Title: The Price of Consistency: Exploiting Visual Anchors for Multimodal Jailbreaking in Video Generation
• Title（参考訳）: 一貫性の価格:映像生成におけるマルチモーダルジェイルブレークのための視覚アンカーの爆発
• Abstract要約: このメカニズムにより、生成したコンテンツが元の有害な意図から遠ざかることを防ぐことができる。 本稿では、この脆弱性を利用したビデオ生成のためのトレーニング不要なマルチモーダルジェイルブレイクフレームワークである、Visual Anchors (DIVA)によるDecoupling Intentを提案する。 今後の研究を容易にするため,マルチ条件ビデオ生成のための最初の安全ベンチマークであるTI2SafetyBenchを寄贈する。
• 参考スコア（独自算出の注目度）: 83.99528259002504
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The rapid evolution of video generation has shifted the paradigm from pure text-driven to multi-conditional controllable generation, with reference images now widely adopted as conditional inputs to achieve superior spatiotemporal consistency. While these reference images serve as powerful visual anchors that significantly enhance controllability, their impact on safety remains largely unexplored. In this work, we reveal the visual anchoring effect: by enforcing consistency, the mechanism prevents the generated content from drifting away from the original harmful intent, thereby eliminating the model's natural safety escape route from harmful to benign content. Consequently, visual anchors inherently increase the safety risk---this is the price of consistency. Building on this insight, we propose Decoupling Intent via Visual Anchors (DIVA), a training-free multimodal jailbreak framework for video generation that exploits this vulnerability. DIVA decouples harmful intent into a static visual anchor image and a dynamic motion text prompt, and employs dual-criteria selection to balance attack stealthiness with semantic preservation. Extensive experiments across various leading commercial platforms and mainstream open-source video generation models demonstrate that DIVA achieves a substantially higher Attack Success Rate than existing text-only methods. To facilitate future research, we additionally contribute TI2VSafetyBench, the first safety benchmark for multi-conditional video generation.
• Abstract（参考訳）: ビデオ生成の急速な進化により、このパラダイムは純粋テキスト駆動から多条件制御可能生成へと移行し、参照画像は時空間整合性に優れた条件入力として広く採用されている。 これらの参照画像は、制御性を大幅に向上させる強力な視覚アンカーとして機能するが、その安全性への影響はほとんど調査されていない。 本研究は, 視覚的アンカー効果を明らかにする。一貫性を強制することにより, 生成したコンテンツが元の有害な意図から逸脱するのを防止し, モデルが持つ自然の安全避難経路を有害な内容から悪質な内容へと除去する。 その結果、視覚的アンカーは本質的に安全性のリスクを増大させ、これは一貫性の価格である。 この知見に基づいて、この脆弱性を利用するビデオ生成のためのトレーニング不要なマルチモーダルジェイルブレイクフレームワークである、Visual Anchors (DIVA)を介してDecoupling Intentを提案する。 DIVAは、有害な意図を静的な視覚的アンカーイメージとダイナミックなモーションテキストプロンプトに分離し、攻撃のステルスネスとセマンティックな保存のバランスをとるために二重基準の選択を使用する。 様々な主要な商用プラットフォームと主流のオープンソースビデオ生成モデルにわたる大規模な実験は、DIVAが既存のテキストのみの手法よりもはるかに高い攻撃成功率を達成することを示した。 今後の研究を容易にするため,マルチ条件ビデオ生成の安全性ベンチマークであるTI2VSafetyBenchも提案する。

関連論文リスト

• Dual Adversarial Fine-tuning for Enhancing Robustness of Large Vision Language Model [73.59026525350808]
  2つのモードからの視覚的および意味的な監視信号を協調的に最適化する二重対向微調整フレームワークを提案する。 本手法は, ゼロショット分類, 画像キャプション, 視覚的質問応答タスクにおいて, 対向ロバスト性評価における最先端手法よりも優れている。
  論文  参考訳（メタデータ） (2026-07-21T10:49:29Z)
• VPA-Guard: Defending and Benchmarking Image-to-Video Generation Against Visual Prompt Attacks [27.060981309996492]
  本稿では,視覚中心のプロンプト攻撃下での映像生成の安全性を評価するための最初の体系的ベンチマークを示す。 本稿では,VPA-Guardを提案する。
  論文  参考訳（メタデータ） (2026-06-24T09:00:08Z)
• Unified Safe In-context Image Generation in Multimodal Diffusion Transformers via Restricting Unsafe Information Flows [20.386952794426833]
  Unified Visual Safety Regulator (UVR)は、トレーニング不要の安全生成フレームワークで、生成した画像の安全でないセマンティクスを規制する。 UVRは、統一された注意調整と有害な情報の流れの明示的な制限を通じて、安全でない生成を緩和する。 UVRは画像合成および編集作業において91%と77%の消去率を達成することにより、最先端の安全性能を達成する。
  論文  参考訳（メタデータ） (2026-06-05T03:43:04Z)
• SafeRedir: Prompt Embedding Redirection for Robust Unlearning in Image Generation Models [67.84174763413178]
  我々はSafeRedirを紹介した。SafeRedirは、迅速な埋め込みリダイレクトによる堅牢なアンラーニングのための軽量な推論時フレームワークである。 SafeRedirは,効果的な非学習能力,意味的・知覚的保存能力,堅牢な画像品質,対人攻撃に対する耐性の向上を実現している。
  論文  参考訳（メタデータ） (2026-01-13T15:01:38Z)
• ConceptGuard: Proactive Safety in Text-and-Image-to-Video Generation through Multimodal Risk Detection [27.47621607462884]
  ConceptGuardは、マルチモーダルビデオ生成において、安全でないセマンティクスを積極的に検出し緩和するフレームワークである。 コントラスト検出モジュールは、融合画像テキスト入力を構造化概念空間に投影することにより、潜伏する安全リスクを特定する。 意味的抑制機構は、プロンプトのマルチモーダル条件を介在することにより、生成過程を安全でない概念から遠ざける。
  論文  参考訳（メタデータ） (2025-11-24T05:27:05Z)
• CGCE: Classifier-Guided Concept Erasure in Generative Models [53.7410000675294]
  概念消去は、事前訓練されたモデルから望ましくない概念を取り除くために開発された。 既存の方法は、削除されたコンテンツを再生できる敵攻撃に弱いままである。 多様な生成モデルに対して堅牢な概念消去を提供する効率的なプラグアンドプレイフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-11-08T05:38:18Z)
• SafeGuider: Robust and Practical Content Safety Control for Text-to-Image Models [74.11062256255387]
  テキスト・ツー・イメージのモデルは、安全対策を回避し、有害なコンテンツを生成できる敵のプロンプトに対して非常に脆弱である。 SafeGuiderは, 生成品質を損なうことなく, 堅牢な安全制御を実現するための2段階のフレームワークである。 SafeGuiderは攻撃成功率の最小化において例外的な効果を示し、様々な攻撃シナリオで最大速度は5.48%である。
  論文  参考訳（メタデータ） (2025-10-05T10:24:48Z)
• T2VShield: Model-Agnostic Jailbreak Defense for Text-to-Video Models [88.63040835652902]
  テキストからビデオモデルへの攻撃はジェイルブレイク攻撃に弱いため、特別な方法で安全メカニズムをバイパスし、有害または安全でないコンテンツの生成につながる。 我々は、ジェイルブレイクの脅威からテキストからビデオモデルを守るために設計された包括的でモデルに依存しない防衛フレームワークであるT2VShieldを提案する。 本手法は,既存の防御の限界を特定するために,入力,モデル,出力の段階を体系的に解析する。
  論文  参考訳（メタデータ） (2025-04-22T01:18:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。