論文の概要: Jailbreak Connectivity: Towards Diverse, Transferable, and Universal Multimodal Large Language Model Jailbreak
- arxiv url: http://arxiv.org/abs/2610.38091v1
- Date: Wed, 28 Oct 2026 00:13:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-31 05:25:12.348943
- Title: Jailbreak Connectivity: Towards Diverse, Transferable, and Universal Multimodal Large Language Model Jailbreak
- Title（参考訳）: ジェイルブレイク接続性: ディバース,トランスファー,ユニバーサルマルチモーダル大言語モデルジェイルブレイクを目指して
- Abstract要約: MLLM(Multimodal large language model)は、安全保護を回避した視覚的ジェイルブレイク攻撃に対して脆弱である。
本稿では,画像空間の低損失領域を介して,効果的な逆入力を接続できるという観測に基づくフレームワークであるJailbreak Connectivity (JC)を提案する。
- 参考スコア（独自算出の注目度）: 7.957897307839731
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multimodal large language models (MLLMs) are vulnerable to visual jailbreak attacks that bypass safety safeguards. Existing methods typically optimize isolated adversarial examples, limiting attack diversity, transferability, and generalization. We propose Jailbreak Connectivity (JC), a framework based on the observation that effective adversarial inputs can be connected through low-loss regions in image space. JC optimizes continuous adversarial paths: path sampling yields diverse jailbreak images, lightweight surrogate classifiers guide cross-model transfer, and a distribution-level objective enables universal attacks across harmful queries. On MM-SafetyBench, JC achieves average attack success rates of 84.01%, 85.77%, and 97.95% on Qwen3-VL-8B-Instruct, InternVL3.5-8B, and Gemma-3-12B-IT, respectively, exceeding the strongest baselines by up to 68.36 percentage points. In black-box evaluations, JC improves attack success rates over FigStep by 24.69 and 27.34 percentage points on GPT-5.6 and Gemini 3.1 Pro, respectively. These findings reveal structured vulnerabilities in MLLM safety alignment and inform more comprehensive security evaluation.
- Abstract（参考訳）: MLLM(Multimodal large language model)は、安全保護を回避した視覚的ジェイルブレイク攻撃に対して脆弱である。
既存の方法は、通常、孤立した敵の例を最適化し、攻撃の多様性、伝達可能性、一般化を制限する。
本稿では,画像空間の低損失領域を介して,効果的な逆入力を接続できるという観測に基づくフレームワークであるJailbreak Connectivity (JC)を提案する。
パスサンプリングは多様なjailbreakイメージを出力し、軽量なサロゲート分類器はクロスモデル転送をガイドし、分散レベルの目的は有害なクエリをまたいで普遍的な攻撃を可能にする。
MM-SafetyBenchでは、Qwen3-VL-8B-Instruct、InternVL3.5-8B、Gemma-3-12B-ITの平均攻撃成功率は84.01%、85.77%、97.95%で、それぞれ68.36ポイントを超える。
ブラックボックスの評価では、JCはFigStepの攻撃成功率を24.69ポイント、GPT-5.6とGemini 3.1 Proで27.34ポイント改善している。
これらの結果から,MLLMの安全性アライメントにおける構造的脆弱性が明らかとなり,より包括的なセキュリティ評価が得られた。
関連論文リスト
- One Attack to Fool Them All: Highly Transferable Black-Box Adversarial Attacks on Frontier MLLMs [68.32863223021475]
敵対的攻撃は長い間、機械学習システムに根本的な脅威をもたらしてきた。
我々は高度に転送可能なブラックボックス攻撃フレームワークであるO-Attackを提案する。
O-AttackはGPT-5.4(29.1%から77.2%)、Claude-4.6(42.8%から81.6%)、Gemini-3.1(38.2%から80.9%)で攻撃成功率を上げる
論文 参考訳（メタデータ） (2026-09-27T18:33:38Z) - AlcaTRAz - Anchored Tree-Rule Defense Against Jailbreaks [0.08699280339422538]
大規模言語モデル(LLM)は、慎重に構築されたプロンプトを通じて安全アライメントをバイパスするジェイルブレイク攻撃に対して脆弱である。
本稿では,AlcaTRAzを提案する。AlcaTRAzは,入力テキストのみで動作するルールツリーに基づく,プロンプトレベルの防御手法である。
提案手法は,33のオープンウェイトモデル,22のジェイルブレイク攻撃タイプ,および短い単ターンベニグナーのベンチマークで評価した。
論文 参考訳（メタデータ） (2026-09-03T11:30:08Z) - TRACE: Trajectory Aware Reasoning for Multi-Turn Adversarial Conversation Evaluation [19.39203198049072]
軌道認識型構造化推論を用いたマルチターンディフェンスであるTraceを導入する。
操作キューを軌跡から識別し、ユーザ意図の良識と敵意の両方の解釈を評価し、ジェイルブレイクスコアを割り当て、アクションにコミットする。
平均攻撃成功率(ASR)は14.5%、最強のベースラインは31.4%、未防御のターゲットは74.9%である。
論文 参考訳（メタデータ） (2026-08-16T07:32:02Z) - Babel: Jailbreaking Safety Attention via Obfuscation Distribution Optimized Sampling [21.801812957325662]
大規模言語モデル(LLM)は、ジェイルブレイク攻撃に弱いままである。
我々は,効率的なブラックボックス攻撃フレームワークであるBabelを提案する。
Babelは最先端の攻撃成功率とクエリ効率の向上を実現している。
論文 参考訳（メタデータ） (2026-05-18T07:27:59Z) - The Art of the Jailbreak: Formulating Jailbreak Attacks for LLM Security Beyond Binary Scoring [1.0262304700896199]
我々は, JailBreakV-28Kから125個の有害シードプロンプトに912個の合成戦略を適用し,114,000個の敵プロンプトを構築した。
私たちは、推論時に有害なシードから、流動的なjailbreakプロンプトを合成するモデルを作ります。
安全フィルタ回避率は0.29-0.51 MalであるAutoDANとAmpleGCGは24-39対40-140である。
論文 参考訳（メタデータ） (2026-05-09T23:51:18Z) - Latent Fusion Jailbreak: Blending Harmful and Harmless Representations to Elicit Unsafe LLM Outputs [16.25742791802536]
本稿では、有害なクエリペアから隠れた状態を補間し、禁止された応答を誘発する表現ベースの攻撃であるLatent Fusion Jailbreak(LFJ)を紹介する。
AdvBenchやMaliciousInstructといったベンチマークによるVicunaやLLaMA-2などのモデルの評価では、平均攻撃成功率(ASR)は94.01%となり、既存の手法よりも優れていた。
論文 参考訳（メタデータ） (2025-08-08T17:29:16Z) - Immune: Improving Safety Against Jailbreaks in Multi-modal LLMs via Inference-Time Alignment [97.38766396447369]
訓練時安全アライメントにもかかわらず、Multimodal Large Language Models (MLLM) はジェイルブレイク攻撃に対して脆弱である。
我々は,ジェイルブレイク攻撃に対する防御のために,制御復号化による安全な報酬モデルを活用する推論時防御フレームワークImmuneを提案する。
論文 参考訳（メタデータ） (2024-11-27T19:00:10Z) - Exploring Visual Vulnerabilities via Multi-Loss Adversarial Search for Jailbreaking Vision-Language Models [92.79804303337522]
VLM(Vision-Language Models)は、安全アライメントの問題に対して脆弱である。
本稿では、シナリオ認識画像生成を利用したセマンティックアライメントのための新しいジェイルブレイクフレームワークであるMLAIを紹介する。
大規模な実験はMLAIの重大な影響を示し、MiniGPT-4で77.75%、LLaVA-2で82.80%の攻撃成功率を達成した。
論文 参考訳（メタデータ） (2024-11-27T02:40:29Z) - IDEATOR: Jailbreaking and Benchmarking Large Vision-Language Models Using Themselves [70.43466586161345]
IDEATORは、ブラックボックスジェイルブレイク攻撃のための悪意のある画像テキストペアを自律的に生成する新しいジェイルブレイク手法である。
最近リリースされたVLM11のベンチマーク結果から,安全性の整合性に大きなギャップがあることが判明した。
例えば、我々はASRをGPT-4oで46.31%、Claude-3.5-Sonnetで19.65%と設定した。
論文 参考訳（メタデータ） (2024-10-29T07:15:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。