論文の概要: CrossGuard: Safeguarding MLLMs against Joint-Modal Implicit Malicious Attacks

• arxiv url: http://arxiv.org/abs/2510.17687v1
• Date: Mon, 20 Oct 2025 16:02:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-25 00:56:39.513868
• Title: CrossGuard: Safeguarding MLLMs against Joint-Modal Implicit Malicious Attacks
• Title（参考訳）: CrossGuard:MLLMの不正攻撃に対する保護策
• Authors: Xu Zhang, Hao Li, Zhichao Lu,
• Abstract要約: MLLM(Multimodal Large Language Models)は、強い推論と認識能力を達成するが、ジェイルブレイク攻撃に対してますます脆弱になる。 近年の研究では、良心的テキストと画像入力が安全でない意図を共同で表現する暗黙的な攻撃が明らかにされている。 提案するImpForgeは、14のドメインにまたがる多様な暗黙的なサンプルを生成する自動赤チームパイプラインである。 我々はCrossGuardを開発した。CrossGuardは、明示的および暗黙的な脅威に対して堅牢で包括的な防御を提供する意図認識型安全ガードである。
• 参考スコア（独自算出の注目度）: 18.971945867485523
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multimodal Large Language Models (MLLMs) achieve strong reasoning and perception capabilities but are increasingly vulnerable to jailbreak attacks. While existing work focuses on explicit attacks, where malicious content resides in a single modality, recent studies reveal implicit attacks, in which benign text and image inputs jointly express unsafe intent. Such joint-modal threats are difficult to detect and remain underexplored, largely due to the scarcity of high-quality implicit data. We propose ImpForge, an automated red-teaming pipeline that leverages reinforcement learning with tailored reward modules to generate diverse implicit samples across 14 domains. Building on this dataset, we further develop CrossGuard, an intent-aware safeguard providing robust and comprehensive defense against both explicit and implicit threats. Extensive experiments across safe and unsafe benchmarks, implicit and explicit attacks, and multiple out-of-domain settings demonstrate that CrossGuard significantly outperforms existing defenses, including advanced MLLMs and guardrails, achieving stronger security while maintaining high utility. This offers a balanced and practical solution for enhancing MLLM robustness against real-world multimodal threats.
• Abstract（参考訳）: MLLM(Multimodal Large Language Models)は、強い推論と認識能力を達成するが、ジェイルブレイク攻撃に対してますます脆弱になる。 既存の研究は、悪意のあるコンテンツが単一のモダリティに存在する明示的な攻撃に焦点を当てているが、最近の研究では、テキストや画像の入力が安全でない意図を共同で表現する暗黙的な攻撃が明らかにされている。 このような共同モーダルな脅威は、高品質な暗黙のデータが不足しているため、検出が困難で未発見のままである。 InmpForgeは、14ドメインにまたがる多様な暗黙的なサンプルを生成するために、修正された報酬モジュールによる強化学習を活用する自動赤チームパイプラインである。 このデータセット上に構築されたCrossGuardは、明示的な脅威と暗黙的な脅威の両方に対して堅牢で包括的な防御を提供するインテント対応のセーフガードです。 安全性と安全性の低いベンチマーク、暗黙的および明示的な攻撃、複数のドメイン外設定による大規模な実験は、CrossGuardが高度なMLLMやガードレールを含む既存の防御を著しく上回り、高いユーティリティを維持しながらより強力なセキュリティを実現していることを示している。 これは、実世界のマルチモーダル脅威に対するMLLM堅牢性を高めるための、バランスのとれた実用的なソリューションを提供する。

関連論文リスト

• Secure Tug-of-War (SecTOW): Iterative Defense-Attack Training with Reinforcement Learning for Multimodal Model Security [63.41350337821108]
  マルチモーダル大規模言語モデル(MLLM)のセキュリティを高めるために,Secure Tug-of-War(SecTOW)を提案する。 SecTOWは2つのモジュールで構成される:ディフェンダーと補助攻撃者。どちらも強化学習(GRPO)を使用して反復的に訓練される。 SecTOWは、一般的な性能を維持しながら、セキュリティを大幅に改善することを示す。
  論文  参考訳（メタデータ） (2025-07-29T17:39:48Z)
• Cross-Modal Obfuscation for Jailbreak Attacks on Large Vision-Language Models [11.867355323884217]
  本稿では,悪質なプロンプトを視覚的およびテキスト的フラグメントに分解する新しいブラックボックス・ジェイルブレイク攻撃フレームワークを提案する。 我々のアプローチは、調整可能な推論の複雑さをサポートし、以前の攻撃よりもはるかに少ないクエリを必要とし、ステルスと効率の両方を可能にします。
  論文  参考訳（メタデータ） (2025-06-20T05:30:25Z)
• Align is not Enough: Multimodal Universal Jailbreak Attack against Multimodal Large Language Models [83.80177564873094]
  マルチモーダル・ユニバーサル・ジェイルブレイク・アタック・フレームワークを提案する。 LLaVA,Yi-VL,MiniGPT4,MiniGPT-v2,InstructBLIPなどのMLLMの望ましくないコンテキスト生成を評価する。 本研究は,MLLMにおける堅牢な安全対策の必要性を浮き彫りにするものである。
  論文  参考訳（メタデータ） (2025-06-02T04:33:56Z)
• MIRAGE: Multimodal Immersive Reasoning and Guided Exploration for Red-Team Jailbreak Attacks [85.3303135160762]
  MIRAGEは、物語駆動型コンテキストとロール没入を利用して、マルチモーダル大規模言語モデルにおける安全性メカニズムを回避する新しいフレームワークである。 最先端のパフォーマンスを達成し、最高のベースラインよりも攻撃成功率を最大17.5%向上させる。 役割の浸漬と構造的セマンティック再構築は、モデル固有のバイアスを活性化し、モデルが倫理的保護に自発的に違反することを実証する。
  論文  参考訳（メタデータ） (2025-03-24T20:38:42Z)
• Towards Robust Multimodal Large Language Models Against Jailbreak Attacks [24.491648943977605]
  本稿では,敵対的雑音を発生させる攻撃ステップとモデル更新ステップとを交互に行うSafeMLLMを紹介する。 攻撃ステップでは、SafeMLLMは新たに提案されたコントラスト埋め込み攻撃(CoE-Attack)を通じて敵の摂動を発生させる。 我々は,SafeMLLMを6つのMLLMと6つのジェイルブレイク法で比較した。
  論文  参考訳（メタデータ） (2025-02-02T03:45:49Z)
• Cross-modality Information Check for Detecting Jailbreaking in Multimodal Large Language Models [17.663550432103534]
  マルチモーダル大言語モデル(MLLM)は、多モーダル情報を包括的に理解するためにLLMの能力を拡張する。 これらのモデルは、悪意のあるユーザーがターゲットモデルの安全アライメントを壊し、誤解を招く、有害な回答を発生させることができるジェイルブレイク攻撃の影響を受けやすい。 本稿では,悪質な摂動画像入力を識別するプラグイン・アンド・プレイのジェイルブレイク検出装置であるCIDERを提案する。
  論文  参考訳（メタデータ） (2024-07-31T15:02:46Z)
• Learning diverse attacks on large language models for robust red-teaming and safety tuning [126.32539952157083]
  レッドチーム、あるいは有害な応答を誘発するプロンプトの特定は、大きな言語モデルの安全なデプロイを保証するための重要なステップである。 新規性と多様性を優先する明確な規則化であっても、既存のアプローチはモード崩壊または効果的な攻撃を発生させることができないことを示す。 我々は,GFlowNetの微調整と二次平滑化フェーズを用いて,多種多様な効果的な攻撃プロンプトを生成するために攻撃モデルを訓練することを提案する。
  論文  参考訳（メタデータ） (2024-05-28T19:16:17Z)
• Defending Large Language Models against Jailbreak Attacks via Semantic Smoothing [107.97160023681184]
  適応型大規模言語モデル(LLM)は、ジェイルブレイク攻撃に対して脆弱である。 提案するSEMANTICSMOOTHは,与えられた入力プロンプトのセマンティック変換されたコピーの予測を集約するスムージングベースのディフェンスである。
  論文  参考訳（メタデータ） (2024-02-25T20:36:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。