論文の概要: SceneJail: Exploiting Video Scenario Context to Jailbreak Multimodal LLMs

• arxiv url: http://arxiv.org/abs/2609.38899v1
• Date: Wed, 30 Sep 2026 03:47:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.148561
• Title: SceneJail: Exploiting Video Scenario Context to Jailbreak Multimodal LLMs
• Title（参考訳）: SceneJail:マルチモーダルLLMをジェイルブレイクするビデオシナリオ
• Abstract要約: 我々は、同じ有害なクエリが、異なるビデオシナリオに配置された場合、異なる安全応答を引き出すことができることを示した。 SceneJailは2つの協調コンポーネントを備えた適応型ブラックボックスジェイルブレイクフレームワークである。 完全なクエリを永続的に提示するSceneJail-Fは、平均攻撃成功率(ASR)を91.5%まで達成している。
• 参考スコア（独自算出の注目度）: 21.944459747448974
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Video Multimodal Large Language Models (Video-MLLMs) support reasoning over video inputs, yet remain vulnerable to jailbreak attacks that elicit policy-violating responses. Existing video jailbreaks primarily manipulate how harmful queries are visually presented, thereby treating video merely as a carrier. Consequently, the surrounding video scenario remains unexplored as a contextual attack surface. In this paper, we show that the same harmful query can elicit different safety responses when placed in different video scenarios. To systematically exploit this vulnerability, we propose SceneJail, an adaptive black-box jailbreak framework with two coordinated components. Adaptive Scenario Construction dynamically searches for a surrounding scenario that is contextually compatible with the harmful query. Scenario-aware Prompt Search uses black-box response feedback to search for textual guidance tailored to the selected scenario. Extensive evaluations on the HADES and SafeBench datasets across eight Video-MLLMs, including two proprietary models, GPT-4.1 and Gemini3.5-Flash, demonstrate the effectiveness of SceneJail. SceneJail-F, which presents the complete query persistently, achieves average attack success rates (ASR) up to 91.5%, outperforming the strongest baselines by 29.1 percentage points. Furthermore, SceneJail-S, which distributes the query across successive frames, remains highly robust against current defenses, retaining a 72.3% ASR even under strict image filtering.
• Abstract（参考訳）: Video Multimodal Large Language Models (Video-MLLMs) は、ビデオ入力の推論をサポートするが、ポリシー違反の応答を誘発するジェイルブレイク攻撃には弱いままである。 既存のビデオジェイルブレイクは、主に視覚的に有害なクエリがどのように提示されるかを制御するため、ビデオは単にキャリアとして扱われる。 その結果、周囲のビデオシナリオは、コンテキストアタックサーフェスとして探索されていない。 本稿では、同じ有害なクエリが、異なるビデオシナリオに配置された場合、異なる安全応答を引き出すことができることを示す。 この脆弱性を体系的に活用するために,2つの協調コンポーネントを備えた適応型ブラックボックスジェイルブレイクフレームワークであるSceneJailを提案する。 Adaptive Scenario Constructionは、有害なクエリとコンテキスト的に互換性のある周囲のシナリオを動的に検索する。 シナリオ対応のPrompt Searchでは、ブラックボックスの応答フィードバックを使用して、選択したシナリオに合わせてテキストガイダンスを検索する。 HADESとSafeBenchの8つのビデオMLLM(GPT-4.1とGemini3.5-Flash)に対する大規模な評価は、SceneJailの有効性を示している。 完全なクエリを永続的に提示するSceneJail-Fは、平均攻撃成功率(ASR)が91.5%に達し、29.1ポイントで最強のベースラインを上回っている。 さらに、連続するフレームにクエリを分散するSceneJail-Sは、現在の防御に対して非常に堅牢であり、厳密な画像フィルタリングでも72.3%のASRを維持している。

関連論文リスト

• TempJail: Temporal Jailbreak Attack against Large Vision-Language Models via Subtitle Scheduling [9.72785042747188]
  大規模な視覚言語モデルにおける時間的脆弱性を利用するブラックボックスビデオベースのjailbreakフレームワークを提案する。 我々は、現実世界のビデオでよく見られる字幕を、自然な攻撃媒体として使っている。 4つの代表的なLVLMと2つのデータセットの実験では、TempJailが最も攻撃成功率が高いことが示されている。
  論文  参考訳（メタデータ） (2026-08-20T07:37:10Z)
• Jailbreaking Multimodal Large Language Models using Multi-Clip Video [2.1309627532459037]
  我々は,ビデオ入力の多様性がMLLMの脆弱性に与える影響を評価するために,2,920本の動画のデータセットであるMulti-Clip Video (MCV) SafetyBenchを紹介する。 8つの代表的ビデオMLLMの実験では、クリップ数によって攻撃の成功が一貫して増加することが示されている。 その結果,映像のモダリティは(1)画像のモダリティよりも脆弱であり,(2)静的ビデオよりもダイナミックビデオに脆弱であり,(3)動画がより多様なコンテキストを含む場合,より脆弱であることが示唆された。
  論文  参考訳（メタデータ） (2026-06-01T11:43:53Z)
• Jailbreaking on Text-to-Video Models via Scene Splitting Strategy [25.29113278603722]
  SceneSplitは、有害な物語を複数のシーンに断片化し、それぞれが個々に良心する新しいブラックボックスジェイルブレイク手法である。 以上の結果から,Luma Ray2は77.2%,Haluoは84.1%,Veo2は78.2%であり,既存のベースラインを大きく上回っていることがわかった。
  論文  参考訳（メタデータ） (2025-09-26T12:54:23Z)
• JPS: Jailbreak Multimodal Large Language Models with Collaborative Visual Perturbation and Textual Steering [73.962469626788]
  マルチモーダルな大規模言語モデル(MLLM)に対するジェイルブレイク攻撃は重要な研究課題である。 JPS, UnderlineJailbreak MLLMs with collaborative visual underlinePerturbation and textual underlineSteering。
  論文  参考訳（メタデータ） (2025-08-07T07:14:01Z)
• Video-SafetyBench: A Benchmark for Safety Evaluation of Video LVLMs [45.265397990158846]
  Video-SafetyBenchは、ビデオテキスト攻撃下でのLVLMの安全性を評価するために設計された最初のベンチマークである。 ビデオテキストのペアは2,264で、48のきめ細かいアンセーフなカテゴリにまたがっている。 安全性評価のためのセマンティックなビデオを生成するために,ビデオ意味論を主題画像とモーションテキストに分解する制御可能なパイプラインを設計する。
  論文  参考訳（メタデータ） (2025-05-17T05:06:38Z)
• Jailbreak Vision Language Models via Bi-Modal Adversarial Prompt [60.54666043358946]
  本稿では,テキストと視覚のプロンプトを協調的に最適化することにより,ジェイルブレイクを実行するバイモーダル・アドバイサル・プロンプト・アタック(BAP)を提案する。 特に,大規模言語モデルを用いてジェイルブレイクの失敗を分析し,テキストのプロンプトを洗練させるために連鎖推論を採用する。
  論文  参考訳（メタデータ） (2024-06-06T13:00:42Z)
• White-box Multimodal Jailbreaks Against Large Vision-Language Models [61.97578116584653]
  本稿では,テキストと画像のモダリティを併用して,大規模視覚言語モデルにおけるより広範な脆弱性のスペクトルを利用する,より包括的戦略を提案する。 本手法は,テキスト入力がない場合に,逆画像プレフィックスをランダムノイズから最適化し,有害な応答を多様に生成することから始める。 様々な有害な指示に対する肯定的な反応を誘発する確率を最大化するために、対向テキスト接頭辞を、対向画像接頭辞と統合し、共最適化する。
  論文  参考訳（メタデータ） (2024-05-28T07:13:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。