論文の概要: Under the Skin: Backdoor Infection in Multimodal Large Language Models

• arxiv url: http://arxiv.org/abs/2610.24058v1
• Date: Fri, 16 Oct 2026 17:45:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-26 11:17:31.379802
• Title: Under the Skin: Backdoor Infection in Multimodal Large Language Models
• Title（参考訳）: 皮膚下:マルチモーダル大言語モデルにおけるバックドア感染症
• Abstract要約: MLLMを対象としたクロスモーダル・アタック・フレームワークであるバックドア感染症について紹介する。 モデルの共有潜在空間を爆発させると、感染したモダリティのトリガーが悪意のある振る舞いを確実に活性化する。 提案手法では, 直接最適化ベースラインよりも効率的で, 効果的で, 検出しにくいクロスモーダルトリガを同定する。
• 参考スコア（独自算出の注目度）: 27.44705797376758
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multimodal Large Language Models (MLLMs) have achieved impressive performance in generating text conditioned on inputs from different modalities. In this work, we introduce backdoor infection, a cross-modal attack framework targeting MLLMs. Starting from a model already injected with a backdoor in one modality, our attack constructs a corresponding trigger in another modality, called the infected modality. Exploiting the model's shared latent space, the trigger in the infected modality reliably activates the malicious behavior, without modifying or poisoning the infected modality during training. We further develop a lightweight, constraint-aware optimization method for efficient and practical trigger generation. Extensive experiments across several state-of-the-art MLLMs, including LLaVA, InternVL, Qwen-VL, and Gemma, demonstrate that our approach identifies cross-modal triggers that are more efficient, effective, and less detectable than direct optimization baselines, highlighting a critical new threat vector in multimodal systems.
• Abstract（参考訳）: MLLM(Multimodal Large Language Models)は、異なるモーダルから入力に条件付けされたテキストを生成することで、優れたパフォーマンスを実現している。 本研究では,MLLMを対象としたクロスモーダル・アタック・フレームワークであるバックドア感染症について紹介する。 我々の攻撃は、1つのモードで既にバックドアで注入されたモデルから始まり、感染したモードと呼ばれる別のモードで対応するトリガーを構築する。 モデルが共有している潜伏空間を爆発させると、感染したモード性の引き金はトレーニング中に感染したモードの修正や毒性を伴わずに、悪意のある振る舞いを確実に活性化する。 さらに,より効率的かつ実用的なトリガ生成のための軽量で制約対応の最適化手法を開発した。 LLaVA, InternVL, Qwen-VL, Gemma などの最先端MLLMの大規模実験により, 本手法は, 直接最適化ベースラインよりも効率的で効率的で検出し難いクロスモーダルトリガを同定し, マルチモーダルシステムにおける重要な新たな脅威ベクトルを浮き彫りにした。

関連論文リスト

• Cross-Modal Backdoors in Multimodal Large Language Models [21.893043087583667]
  単一の妥協されたコネクタは、モダリティを越えて再利用可能なラテントスペースバックドアパスを確立することができる。 この攻撃は、99.9%の攻撃成功率(ASR)を同モード設定で達成する。
  論文  参考訳（メタデータ） (2026-05-08T09:29:50Z)
• VLMShield: Efficient and Robust Defense of Vision-Language Models against Malicious Prompts [63.54526809319117]
  VLM(Vision-Language Models)は、視覚統合時のアライメントの弱さにより、悪意のあるプロンプト攻撃による重大な安全性上の脆弱性に直面している。 我々は,CLIPが長いテキストを処理し,マルチモーダル情報を統一表現に融合することを可能にするマルチモーダル集約特徴抽出フレームワークを提案する。 我々は,マルチモーダル攻撃をプラグ・アンド・プレイ・ソリューションとして効率的に識別する軽量安全検知器 VLMShield を開発した。
  論文  参考訳（メタデータ） (2026-04-07T22:18:27Z)
• Multi-Paradigm Collaborative Adversarial Attack Against Multi-Modal Large Language Models [67.45032003041399]
  本稿では,MLLMに対する敵例の転送可能性を高めるために,MPCAttack(Multi-Paradigm Collaborative Attack)フレームワークを提案する。 MPCOは異なるパラダイム表現の重要性を適応的にバランスさせ、グローバルな最適化を導く。 我々のソリューションは、オープンソースおよびクローズドソースMLLMに対する標的および未ターゲットの攻撃において、常に最先端の手法よりも優れています。
  論文  参考訳（メタデータ） (2026-03-05T06:01:26Z)
• Multi-Trigger Poisoning Amplifies Backdoor Vulnerabilities in LLMs [25.72555238658037]
  複数の異なるバックドアトリガが1つのモデル内で相互に干渉することなく共存できることを示し、敵が複数のトリガを同時に埋め込むことを可能にする。 我々の発見は、大規模言語モデルにおいて、より広く、より永続的な脆弱性サーフェスを明らかにします。 本稿では,階層単位の重み差解析に基づいて,特定のモデル成分を選択的に再学習するポストホック回収法を提案する。
  論文  参考訳（メタデータ） (2025-07-15T09:04:30Z)
• MIRAGE: Multimodal Immersive Reasoning and Guided Exploration for Red-Team Jailbreak Attacks [85.3303135160762]
  MIRAGEは、物語駆動型コンテキストとロール没入を利用して、マルチモーダル大規模言語モデルにおける安全性メカニズムを回避する新しいフレームワークである。 最先端のパフォーマンスを達成し、最高のベースラインよりも攻撃成功率を最大17.5%向上させる。 役割の浸漬と構造的セマンティック再構築は、モデル固有のバイアスを活性化し、モデルが倫理的保護に自発的に違反することを実証する。
  論文  参考訳（メタデータ） (2025-03-24T20:38:42Z)
• RigorLLM: Resilient Guardrails for Large Language Models against Undesired Content [62.685566387625975]
  現在の緩和戦略は効果はあるものの、敵の攻撃下では弾力性がない。 本稿では,大規模言語モデルのための弾力性ガードレール(RigorLLM)について紹介する。
  論文  参考訳（メタデータ） (2024-03-19T07:25:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。