論文の概要: DMN: A Compositional Framework for Jailbreaking Multimodal LLMs with Multi-Image Inputs

• arxiv url: http://arxiv.org/abs/2605.18915v1
• Date: Mon, 18 May 2026 03:23:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-20 15:03:08.876421
• Title: DMN: A Compositional Framework for Jailbreaking Multimodal LLMs with Multi-Image Inputs
• Title（参考訳）: DMN:マルチイメージ入力によるマルチモーダルLCMのジェイルブレークのための構成フレームワーク
• Authors: Wenzhuo Xu, Zhipeng Wei, Zonghao Ying, Deyue Zhang, Dongdong Yang, Xiangzheng Zhang, Quanchen Zou,
• Abstract要約: MLLM(Multimodal Large Language Models)は、MLLMから有害な応答を誘発するジェイルブレイク攻撃に対して脆弱である。 我々は,textbfDistributed 命令, textbfMultimodal エビデンス, textbfNumber チェインタスクを活用し,jailbreak 性能を完全に向上させる構成的jailbreak フレームワーク textbfDMN を提案する。
• 参考スコア（独自算出の注目度）: 8.65062043216101
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multimodal Large Language Models (MLLMs) are vulnerable to jailbreak attacks, which can elicit harmful responses from MLLMs. Many MLLMs support multi-image inputs, inadvertently introducing new vulnerabilities due to less efforts on multi-image safety alignment. Previous MLLM jailbreak methods only uses a single image, which restricts the attack space: they cannot distribute harmful requests across multiple images, carry abundant information, or exploit additional visual reasoning tasks to distract MLLMs. To address these limitations, in this paper, we propose a compositional jailbreak framework, \textbf{DMN}, which leverages \textbf{D}istributed instruction, \textbf{M}ultimodal evidence and a \textbf{N}umber chain task to fully enhance the jailbreak performance. Extensive experiments show that DMN is highly effective for MLLM jailbreaking, e.g. achieving attack success rates of over 90\% on GPT-4o, Gemini-2.5-pro and Claude Sonnet 4, surpassing other baselines by a large margin. This compositional, multi-image jailbreak strategy reveals fundamental weaknesses in their safety mechanisms.
• Abstract（参考訳）: MLLM(Multimodal Large Language Models)は、MLLMから有害な応答を誘発するジェイルブレイク攻撃に対して脆弱である。 多くのMLLMはマルチイメージ入力をサポートしており、マルチイメージ安全アライメントへの取り組みが少なかったため、必然的に新たな脆弱性を導入している。 従来のMLLMjailbreakメソッドは単一のイメージのみを使用しており、攻撃空間を制限する。複数のイメージに有害な要求を分散したり、豊富な情報を伝達したり、MLLMを邪魔するために視覚的推論タスクを利用することはできない。 このような制約に対処するため,本稿では, {textbf{D}istributed instruction, \textbf{M}ultimodal evidence, \textbf{N}umber chain taskを活用して,jailbreak性能を完全に向上する構成的jailbreakフレームワーク, \textbf{DMN}を提案する。 GPT-4o, Gemini-2.5-pro, Claude Sonnet 4の攻撃成功率は90%以上である。 この構成的でマルチイメージのジェイルブレイク戦略は、その安全性メカニズムの根本的な弱点を明らかにする。

関連論文リスト

• MIDAS: Multi-Image Dispersion and Semantic Reconstruction for Jailbreaking MLLMs [22.919956583415324]
  マルチイメージ分散と意味再構成(MIDAS) 本稿では,有害なセマンティクスをリスク対応サブユニットに分解するマルチモーダルジェイルブレイクフレームワークを提案する。 MIDASはより長く、より構造化されたマルチイメージ連鎖推論を強制する。
  論文  参考訳（メタデータ） (2026-02-28T09:29:36Z)
• DefenSee: Dissecting Threat from Sight and Text - A Multi-View Defensive Pipeline for Multi-modal Jailbreaks [16.201446798861728]
  堅牢で軽量なマルチモーダルブラックボックス防御技術であるDefenSeeを提案する。 一般的なマルチモーダルなjailbreakと良質なデータセットの実験は、DefenSeeが一貫してMLLMの堅牢性を高めていることを示している。 これは、MM-SafetyBenchベンチマークを使用して、MiniGPT4上でのジェイルブレイク攻撃のASRを1.70%以下に削減する。
  論文  参考訳（メタデータ） (2025-12-01T01:57:49Z)
• SafePTR: Token-Level Jailbreak Defense in Multimodal LLMs via Prune-then-Restore Mechanism [123.54980913741828]
  MLLM(Multimodal Large Language Models)は、視覚的推論をサポートするためにLLMを拡張する。 MLLMは、マルチモーダルなジェイルブレイク攻撃や安全なデプロイメントを妨げる可能性がある。 セーフ・プルー・テン・レストア(Safe Prune-then-Restore, SafePTR)は、有害なトークンを脆弱な層で選択的にプルーすると同時に、その後の層で良質な機能を復元する、トレーニング不要の防御フレームワークである。
  論文  参考訳（メタデータ） (2025-07-02T09:22:03Z)
• IDEATOR: Jailbreaking and Benchmarking Large Vision-Language Models Using Themselves [70.43466586161345]
  IDEATORは、ブラックボックスジェイルブレイク攻撃のための悪意のある画像テキストペアを自律的に生成する新しいジェイルブレイク手法である。 最近リリースされたVLM11のベンチマーク結果から,安全性の整合性に大きなギャップがあることが判明した。 例えば、我々はASRをGPT-4oで46.31%、Claude-3.5-Sonnetで19.65%と設定した。
  論文  参考訳（メタデータ） (2024-10-29T07:15:56Z)
• Images are Achilles' Heel of Alignment: Exploiting Visual Vulnerabilities for Jailbreaking Multimodal Large Language Models [107.88745040504887]
  マルチモーダル大言語モデル(MLLM)の無害アライメント問題について検討する。 そこで本研究では,テキスト入力における悪意のある意図の有害性を隠蔽し,増幅する,HADESという新しいジェイルブレイク手法を提案する。 実験の結果、HADESは既存のMLLMを効果的にジェイルブレイクし、LLaVA-1.5では90.26%、Gemini Pro Visionでは71.60%の攻撃成功率を達成した。
  論文  参考訳（メタデータ） (2024-03-14T18:24:55Z)
• Jailbreaking Attack against Multimodal Large Language Model [69.52466793164618]
  本稿では,マルチモーダル大規模言語モデル(MLLM)に対するジェイルブレイク攻撃に焦点を当てた。 imgJP (emphimage Jailbreaking Prompt) の探索手法を提案する。 提案手法は, 生成したimgJPをジェイルブレイクモデルに転送できるため, 強いモデル伝達性を示す。
  論文  参考訳（メタデータ） (2024-02-04T01:29:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。