論文の概要: Overloading Large Vision-Language Models for Jailbreaking

• arxiv url: http://arxiv.org/abs/2607.02961v1
• Date: Fri, 03 Jul 2026 05:09:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:29.474848
• Title: Overloading Large Vision-Language Models for Jailbreaking
• Title（参考訳）: 脱獄のための大規模ビジョンランゲージモデルの過負荷
• Abstract要約: LVLM(Large Vision-Language Models)は、パーソナルアシスタント、文書分析システム、エンボディエージェントなど、現実のアプリケーションにますます導入されている。 既存のLVLMジェイルブレイクは、例えば短いテキストやアウト・オブ・ディストリビューション・イメージのような単純な設計に依存している。 広範テキストと多次元画像アタックを併用した新しい情報オーバーロード手法を提案する。
• 参考スコア（独自算出の注目度）: 23.08392831819918
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Vision-Language Models (LVLMs) exhibit remarkable vision-language capabilities and are increasingly deployed in real-world applications such as personal assistants, document analysis systems, and embodied agents. However, their dual-modal attack surfaces make them vulnerable to jailbreak attacks. Existing LVLM jailbreaks rely on simple designs, e.g., short text and out-of-distribution images. Nevertheless, recent advancements in both large language model backbones and multimodal mechanisms undermine these attacks, particularly their transferability among model architectures. To overcome this limitation, we propose a novel information overloading method that is equipped with both extensive text and multi-dimensional image attacks. These components are arranged in recursion-based image-typography layouts to exponentially increase multimodal information complexity. This overloading approach amplifies the cross-modal processing required, which undermines the safety alignment in LVLMs. Extensive experiments on both open-sourced and commercial LVLMs establish our method as a new state-of-the-art LVLM jailbreak attack. On open-source models, our method achieves an average ASR of 88.6%; on commercial LVLMs, it reaches an average ASR of 84.0%, exceeding the best baseline by 48.7%. Moreover, our prompts optimized on open-source surrogate models transfer effectively across model families. Beyond empirical results, we probe the safety-critical information flows within victim LVLMs. Our observations reveal that complex image-typography compositions induce intensified cross-modal processing and reduce the model's certainty in generating refusal responses. Together, these findings highlight information overloading as a practical and emerging safety risk for real-world LVLM deployments, underscoring the need for stronger defenses against complex multimodal jailbreak inputs.
• Abstract（参考訳）: LVLM(Large Vision-Language Models)は、目覚しい視覚言語能力を示し、パーソナルアシスタント、文書分析システム、エンボディエージェントといった現実世界のアプリケーションにますます導入されている。 しかし、そのデュアルモーダル攻撃面は、ジェイルブレイク攻撃に対して脆弱である。 既存のLVLMジェイルブレイクは、簡単な設計、例えば短いテキストや配布外画像に依存している。 しかしながら、最近の大規模言語モデルバックボーンとマルチモーダル機構の進歩はこれらの攻撃、特にモデルアーキテクチャ間の転送可能性を妨げる。 この制限を克服するために,広範テキストと多次元画像アタックを備えた新しい情報オーバーロード手法を提案する。 これらのコンポーネントは、マルチモーダル情報複雑性を指数関数的に増大させるために、再帰ベースの画像タイポグラフィーレイアウトに配置される。 このオーバーロードアプローチは、必要なクロスモーダル処理を増幅し、LVLMの安全性を損なう。 オープンソースのLVLMと商用LVLMの両方に対する大規模な実験は、新しい最先端のLVLMジェイルブレイク攻撃として、我々の方法を確立している。 オープンソースモデルでは平均88.6%,商用LVLMでは平均84.0%に達し,ベースラインの48.7%を超えている。 さらに、オープンソースサロゲートモデルに最適化されたプロンプトは、モデルファミリ間で効果的に転送される。 実験結果以外にも,被害者のLVLM内の安全クリティカルな情報の流れを探索する。 画像タイポグラフィーの複雑な構成は、強化されたクロスモーダル処理を誘導し、拒絶応答を生成する際のモデルの確実性を低下させる。 これらの知見は、情報過負荷を現実のLVLM展開の実用的かつ新たな安全リスクとして強調し、複雑なマルチモーダルジェイルブレイク入力に対するより強力な防御の必要性を強調している。

関連論文リスト

• Breaking the weakest link to evade vision language models [0.254890465057467]
  視覚言語モデル(VLM)は、マルチモーダルAIシステムの重要なコンポーネントとして登場した。 本研究では,視覚入力に適応する対向的摂動に対するVLMの脆弱性について検討する。 人間の知覚できない小さな摂動は、モデルによって生成された文章の解釈を著しく変えることができることを示す。
  論文  参考訳（メタデータ） (2026-08-19T14:06:31Z)
• Odysseus: Jailbreaking Commercial Multimodal LLM-integrated Systems via Dual Steganography [77.44136793431893]
  本稿では,悪質なクエリを隠蔽して良質な画像に埋め込むために,二重ステガノグラフィーを導入した新しいjailbreakパラダイムを提案する。 我々のOdysseusはいくつかの先駆的で現実的なMLLM統合システムを脱獄し、最大99%の攻撃成功率を達成した。
  論文  参考訳（メタデータ） (2025-12-23T08:53:36Z)
• Align is not Enough: Multimodal Universal Jailbreak Attack against Multimodal Large Language Models [83.80177564873094]
  マルチモーダル・ユニバーサル・ジェイルブレイク・アタック・フレームワークを提案する。 LLaVA,Yi-VL,MiniGPT4,MiniGPT-v2,InstructBLIPなどのMLLMの望ましくないコンテキスト生成を評価する。 本研究は,MLLMにおける堅牢な安全対策の必要性を浮き彫りにするものである。
  論文  参考訳（メタデータ） (2025-06-02T04:33:56Z)
• Implicit Jailbreak Attacks via Cross-Modal Information Concealment on Vision-Language Models [20.99874786089634]
  以前のジェイルブレイク攻撃は、しばしば悪意のある命令をテキストから視覚など、整合性の低いモダリティに注入する。 IJAと呼ばれる新しい暗黙のジェイルブレイクフレームワークを提案し、少なくとも重要なビットステガノグラフィーによって悪意ある命令を画像に密かに埋め込む。 GPT-4o や Gemini-1.5 Pro などの商用モデルでは,攻撃成功率は90% 以上で,平均 3 クエリのみを用いて達成している。
  論文  参考訳（メタデータ） (2025-05-22T09:34:47Z)
• Unlearning Sensitive Information in Multimodal LLMs: Benchmark and Attack-Defense Evaluation [88.78166077081912]
  我々は、MLLMから特定のマルチモーダル知識を削除する方法を評価するために、マルチモーダル・アンラーニング・ベンチマークUnLOK-VQAとアタック・アンド・ディフェンス・フレームワークを導入する。 その結果,マルチモーダル攻撃はテキストや画像のみの攻撃よりも優れており,最も効果的な防御は内部モデル状態から解答情報を除去することを示した。
  論文  参考訳（メタデータ） (2025-05-01T01:54:00Z)
• MIRAGE: Multimodal Immersive Reasoning and Guided Exploration for Red-Team Jailbreak Attacks [85.3303135160762]
  MIRAGEは、物語駆動型コンテキストとロール没入を利用して、マルチモーダル大規模言語モデルにおける安全性メカニズムを回避する新しいフレームワークである。 最先端のパフォーマンスを達成し、最高のベースラインよりも攻撃成功率を最大17.5%向上させる。 役割の浸漬と構造的セマンティック再構築は、モデル固有のバイアスを活性化し、モデルが倫理的保護に自発的に違反することを実証する。
  論文  参考訳（メタデータ） (2025-03-24T20:38:42Z)
• Exploring Visual Vulnerabilities via Multi-Loss Adversarial Search for Jailbreaking Vision-Language Models [92.79804303337522]
  VLM(Vision-Language Models)は、安全アライメントの問題に対して脆弱である。 本稿では、シナリオ認識画像生成を利用したセマンティックアライメントのための新しいジェイルブレイクフレームワークであるMLAIを紹介する。 大規模な実験はMLAIの重大な影響を示し、MiniGPT-4で77.75%、LLaVA-2で82.80%の攻撃成功率を達成した。
  論文  参考訳（メタデータ） (2024-11-27T02:40:29Z)
• Cross-modality Information Check for Detecting Jailbreaking in Multimodal Large Language Models [17.663550432103534]
  マルチモーダル大言語モデル(MLLM)は、多モーダル情報を包括的に理解するためにLLMの能力を拡張する。 これらのモデルは、悪意のあるユーザーがターゲットモデルの安全アライメントを壊し、誤解を招く、有害な回答を発生させることができるジェイルブレイク攻撃の影響を受けやすい。 本稿では,悪質な摂動画像入力を識別するプラグイン・アンド・プレイのジェイルブレイク検出装置であるCIDERを提案する。
  論文  参考訳（メタデータ） (2024-07-31T15:02:46Z)
• A Survey of Attacks on Large Vision-Language Models: Resources, Advances, and Future Trends [78.3201480023907]
  LVLM(Large Vision-Language Models)は、多モーダルな理解と推論タスクにまたがる顕著な能力を示す。 LVLMの脆弱性は比較的過小評価されており、日々の使用において潜在的なセキュリティリスクを生じさせる。 本稿では,既存のLVLM攻撃の様々な形態について概説する。
  論文  参考訳（メタデータ） (2024-07-10T06:57:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。