論文の概要: Between Safe Boundaries: Exploiting Temporal Consistency for Jailbreaking Text-To-Video Generation Models

• arxiv url: http://arxiv.org/abs/2607.17279v1
• Date: Sun, 19 Jul 2026 14:52:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-21 18:48:37.417221
• Title: Between Safe Boundaries: Exploiting Temporal Consistency for Jailbreaking Text-To-Video Generation Models
• Title（参考訳）: 安全な境界線:テキスト・ビデオ生成モデルのジェイルブレークのための時間的一貫性の爆発
• Abstract要約: 既存のジェイルブレイク法は、主にテキスト・ツー・イメージ攻撃に適応しており、T2Vシステムに適用すると顕著な欠点を被る。 我々は,T2Vモデルのための構造化,クエリ効率の高いジェイルブレイクフレームワークであるBSBを提案する。 我々は、Veo 3.1、Sora 2、Seedance、Kling v1など、主要な商用T2Vモデルに関する包括的な実験を行う。
• 参考スコア（独自算出の注目度）: 41.174198293625885
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recently, text-to-video (T2V) models have been widely deployed, sparking growing concerns over their robustness against jailbreak attacks. Existing jailbreak methods, mostly adapted from text-to-image attacks, suffer notable drawbacks when applied to T2V systems. They fail to fully leverage temporal consistency, an inherent characteristic of video generation. Besides, these methods demand heavy video query optimization, which is infeasible in practical black-box scenarios. Their adversarial prompt search is also driven by heuristic local signals, lacking principled structured exploration strategies. To tackle these limitations, we propose BSB, a structured, query-efficient jailbreak framework for T2V models. BSB harnesses temporal consistency by encoding harmful intent as the transition between two individually harmless boundary states. Under this paradigm, the attack targets boundary-state pairs whose interpolation tends to produce unsafe intermediate frames during video generation. Directly evaluating all candidate pairs within the video space incurs prohibitive computation cost. Instead, BSB conducts Monte Carlo Tree Search (MCTS) in a cheaper textual proxy space and regularly calibrates search outcomes with sparse video-level evaluations. We conduct comprehensive experiments on mainstream commercial T2V models including Veo 3.1, Sora 2, Seedance and Kling v1. Results show BSB surpasses all existing jailbreak baselines, delivering an average 18.6% relative gain in attack success rate over the strongest competitor across evaluated models. Our findings identify temporal consistency as an understudied yet vital attack surface for T2V models and verify that structured search facilitates effective vulnerability discovery under constrained query budgets.
• Abstract（参考訳）: 近年、テキスト・ツー・ビデオ(T2V)モデルが広くデプロイされ、ジェイルブレイク攻撃に対する堅牢性に対する懸念が高まっている。 既存のジェイルブレイク法は、主にテキスト・ツー・イメージ攻撃に適応しており、T2Vシステムに適用すると顕著な欠点を被る。 ビデオ生成の本質的な特徴である時間的一貫性を完全に活用することができない。 さらに、これらの手法は、実用的なブラックボックスのシナリオでは実現不可能な、重いビデオクエリーの最適化を必要とする。 彼らの対角的な迅速な探索はヒューリスティックな局所的な信号によっても駆動され、原則化された探索戦略が欠如している。 これらの制約に対処するため、T2Vモデルのための構造化されたクエリ効率の高いjailbreakフレームワークであるBSBを提案する。 BSBは、有害な意図を2つの個人的無害境界状態間の遷移として符号化することで時間的一貫性を利用する。 このパラダイムの下では、この攻撃は、ビデオ生成中に安全でない中間フレームを生成する傾向がある境界状態ペアをターゲットにしている。 ビデオ空間内の全ての候補ペアを直接評価すると、計算コストは禁じられる。 代わりにBSBは、より安価なテキストプロキシ空間でMonte Carlo Tree Search (MCTS)を実行し、少ないビデオレベルの評価で定期的に検索結果を校正する。 我々は、Veo 3.1、Sora 2、Seedance、Kling v1など、主要な商用T2Vモデルに関する包括的な実験を行う。 結果は、BSBが既存のジェイルブレイクベースラインを抜いて、評価されたモデルで最強の競争相手よりも平均18.6%の攻撃成功率を達成していることを示している。 本研究は,T2Vモデルに対する時間的整合性について検討し,構造的探索がクエリ予算の制約の下で有効な脆弱性発見を促進することを検証した。

関連論文リスト

• SafeCA: Safe Cross-Attention Localization and Regulation for Text-to-Video Jailbreak Defense [77.70598852234149]
  テキスト・トゥ・ビデオ(T2V)生成モデルは、現実世界のデプロイにおいてジェイルブレイク攻撃に対して脆弱である。 安全なクロスアテンション・ローカライゼーションと正規化のための機能レベル防衛機構であるSafeCAを提案する。 実験の結果、SafeCAは主流のT2Vモデルでジェイルブレイクの成功率を約20%削減することが示された。
  論文  参考訳（メタデータ） (2026-08-11T14:01:24Z)
• Dynamic Defense Profiling Enables Cognitive Jailbreak of Text-to-Image Models [9.029672953412787]
  テキスト・ツー・イメージ生成モデルは敵の誤用に対して脆弱である。 既存のジェイルブレイク攻撃のほとんどは、迅速なエンジニアリングやブラックボックス最適化に依存している。 我々は,信念状態推論問題として,敵対的素早い生成を再構成する認知的ジェイルブレイクフレームワークであるMINDを提案する。
  論文  参考訳（メタデータ） (2026-07-20T10:09:30Z)
• TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
  分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。 我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。 我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
  論文  参考訳（メタデータ） (2026-04-30T13:44:01Z)
• Two Frames Matter: A Temporal Attack for Text-to-Video Model Jailbreaking [3.1471354211996956]
  最近のテキスト・トゥ・ビデオ(T2V)モデルは、軽量な自然言語プロンプトから複雑なビデオを合成することができる。 以前のジェイルブレイク攻撃は、通常、安全でないプロンプトをコンテントフィルタを避けるパラフレーズに書き換える。 本稿では,断片化プロンプト下でのT2V系の時間軌道埋込み脆弱性を同定する。
  論文  参考訳（メタデータ） (2026-03-07T04:21:54Z)
• Jailbreaking on Text-to-Video Models via Scene Splitting Strategy [25.29113278603722]
  SceneSplitは、有害な物語を複数のシーンに断片化し、それぞれが個々に良心する新しいブラックボックスジェイルブレイク手法である。 以上の結果から,Luma Ray2は77.2%,Haluoは84.1%,Veo2は78.2%であり,既存のベースラインを大きく上回っていることがわかった。
  論文  参考訳（メタデータ） (2025-09-26T12:54:23Z)
• T2V-OptJail: Discrete Prompt Optimization for Text-to-Video Jailbreak Attacks [67.91652526657599]
  我々は、T2Vジェイルブレイク攻撃を離散最適化問題として定式化し、T2V-OptJailと呼ばれる共同目的ベース最適化フレームワークを提案する。 いくつかのT2Vモデルに対して大規模な実験を行い、オープンソースモデルと実際の商用クローズドソースモデルの両方をカバーする。 提案手法は,攻撃成功率の観点から既存手法よりも11.4%,10.0%向上する。
  論文  参考訳（メタデータ） (2025-05-10T16:04:52Z)
• T2VShield: Model-Agnostic Jailbreak Defense for Text-to-Video Models [88.63040835652902]
  テキストからビデオモデルへの攻撃はジェイルブレイク攻撃に弱いため、特別な方法で安全メカニズムをバイパスし、有害または安全でないコンテンツの生成につながる。 我々は、ジェイルブレイクの脅威からテキストからビデオモデルを守るために設計された包括的でモデルに依存しない防衛フレームワークであるT2VShieldを提案する。 本手法は,既存の防御の限界を特定するために,入力,モデル,出力の段階を体系的に解析する。
  論文  参考訳（メタデータ） (2025-04-22T01:18:42Z)
• AutoJailbreak: Exploring Jailbreak Attacks and Defenses through a Dependency Lens [83.08119913279488]
  本稿では,ジェイルブレイク攻撃と防衛技術における依存関係の体系的解析について述べる。 包括的な、自動化された、論理的な3つのフレームワークを提案します。 このアンサンブル・ジェイルブレイク・アタックと防衛の枠組みは,既存の研究を著しく上回る結果となった。
  論文  参考訳（メタデータ） (2024-06-06T07:24:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。