論文の概要: Text-Anchored Semantic Perturbations for Transferable Jailbreak Attacks on Multimodal Large Language Models

• arxiv url: http://arxiv.org/abs/2608.22312v1
• Date: Sun, 23 Aug 2026 09:19:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-25 13:29:43.717015
• Title: Text-Anchored Semantic Perturbations for Transferable Jailbreak Attacks on Multimodal Large Language Models
• Title（参考訳）: マルチモーダル大言語モデルを用いたトランスファー可能なジェイルブレイク攻撃に対するテキストアンコレート・セマンティック摂動
• Abstract要約: MLLM(Multimodal Large Language Models)は、視覚と言語間の相互作用において顕著な進歩を遂げているが、その安全性はいまだにジェイルブレイク攻撃に対して脆弱である。 本研究では,テキストアンコール型セマンティック摂動攻撃(TA-SPA)を提案し,テキストアンコール型セマンティック空間における伝達可能な摂動を最適化するブラックボックスジェイルブレイクフレームワークを提案する。 実験では、攻撃効果が強く、商用MLLMに移管され、代表防御下での競争性能が向上した。
• 参考スコア（独自算出の注目度）: 21.455853650424185
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multimodal Large Language Models (MLLMs) have achieved remarkable progress in vision-language interaction, yet their safety alignment remains vulnerable to jailbreak attacks. A key challenge is that safety behavior learned in the textual space does not reliably transfer to fused cross-modal representations, leaving multimodal inputs exploitable through latent semantic cues. We propose Text-Anchored Semantic Perturbation Attack (TA-SPA), a black-box jailbreak framework that optimizes transferable perturbations in a text-anchored semantic space. TA-SPA integrates Text-Anchored Semantic Factorization (TASF), which encourages the separation of cross-modal semantic factors from modality-specific residuals, with Semantic-Preserving Augmentation (SPA), which diversifies harmful target anchors while preserving semantic consistency. Experiments show strong attack effectiveness and transfer to commercial MLLMs, with competitive performance under representative defenses. Additional controls and probing support the intended factorization without implying perfect disentanglement, motivating representation-level safety alignment beyond input-level filtering.
• Abstract（参考訳）: MLLM(Multimodal Large Language Models)は、視覚と言語間の相互作用において顕著な進歩を遂げているが、その安全性はいまだにジェイルブレイク攻撃に対して脆弱である。 重要な課題は、テキスト空間で学んだ安全行動が、融合したクロスモーダル表現に確実に移行せず、潜伏したセマンティックキューを通じてマルチモーダル入力を活用できることである。 本研究では,テキストアンコール型セマンティック摂動攻撃(TA-SPA)を提案し,テキストアンコール型セマンティック空間における伝達可能な摂動を最適化するブラックボックスジェイルブレイクフレームワークを提案する。 TA-SPA は Text-Anchored Semantic Factorization (TASF) を統合しており、これは、意味的一貫性を維持しながら有害な標的アンカーを多様化する Semantic-Preserving Augmentation (SPA) と、モダリティ固有の残留物から相互の意味的因子の分離を促進する。 実験では、攻撃効果が強く、商用MLLMに移管され、代表防御下での競争性能が向上した。 追加の制御と探索は、完全な絡み合いを示唆することなく、意図した分解をサポートし、入力レベルのフィルタリングを超えて表現レベルの安全アライメントを動機付ける。

関連論文リスト

• Benign Inputs, Harmful Outputs: Cross-Modal Jailbreaking via Distributed Semantic Recomposition [10.177453923096754]
  MLLM(Multimodal Large Language Models)は近年,コンテンツ合成と自律推論において顕著な能力を示した。 従来の安全ガードレールは、主に単文入力インターセプション用に設計されている。 本稿では,分散セマンティック・リコンポジション(DSR)を提案する。
  論文  参考訳（メタデータ） (2026-06-01T07:49:12Z)
• LLM-Agnostic Semantic Representation Attack [18.00668872674083]
  本稿では,敵対的目的をテキストのターゲットから悪意のあるセマンティック表現へと根本的に再認識する新しい LLM-Agnostic パラダイムを提案する。 我々は,このフレームワークをSemantic Representation Heuristic Search (SRHS)アルゴリズムを用いて運用し,対向的プロンプトの解釈可能性と構造的コヒーレンスを維持する。 当社のフレームワークは,26のオープンソース LLM に対して,99.71% の平均攻撃成功率を実現している。
  論文  参考訳（メタデータ） (2026-05-09T11:43:47Z)
• More Than Sum of Its Parts: Deciphering Intent Shifts in Multimodal Hate Speech Detection [49.07221734365168]
  ソーシャルメディア上でのヘイトスピーチは、サイバースペースの確保には不可欠だが、自動検出システムに大きく依存している。 我々は、モダリティが相互作用する意味的意図変化を特徴付け、良心的憎悪から暗黙的憎悪を構築するか、意味的逆転を通じて毒性を中和する。 本稿では,これらの複雑な手がかりを効果的に解読するために,裁判所エージェントによる非対称推論(Asymmetric Reasoning)フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-22T15:46:23Z)
• Multi-Paradigm Collaborative Adversarial Attack Against Multi-Modal Large Language Models [67.45032003041399]
  本稿では,MLLMに対する敵例の転送可能性を高めるために,MPCAttack(Multi-Paradigm Collaborative Attack)フレームワークを提案する。 MPCOは異なるパラダイム表現の重要性を適応的にバランスさせ、グローバルな最適化を導く。 我々のソリューションは、オープンソースおよびクローズドソースMLLMに対する標的および未ターゲットの攻撃において、常に最先端の手法よりも優れています。
  論文  参考訳（メタデータ） (2026-03-05T06:01:26Z)
• Towards Highly Transferable Vision-Language Attack via Semantic-Augmented Dynamic Contrastive Interaction [67.45032003041399]
  本研究では,先進的かつ意味論的に誘導された摂動を通じて対向的伝達性を高めるセマンティック・ダイナミック・コントラシブ・アタック(SADCA)を提案する。 SADCAは、対立、正、負のサンプルを含む対照的な学習メカニズムを確立し、得られた摂動の意味的不整合を強化する。 複数のデータセットとモデルの実験により、SADCAは対向移動性を大幅に改善し、最先端の手法を一貫して超えることを示した。
  論文  参考訳（メタデータ） (2026-03-05T05:46:16Z)
• ForgeDAN: An Evolutionary Framework for Jailbreaking Aligned Large Language Models [8.765213350762748]
  ジェイルブレイク攻撃は 有害な出力を 引き出すためにアライメント・ガードをバイパスする セマンティック・コヒーレントで高能率な対人プロンプトを生成するための新しいフレームワークであるForgeDANを提案する。 本評価は,従来のSOTAソリューションよりも優れた自然さとステルスを維持しつつ,高い脱獄率を達成することを示す。
  論文  参考訳（メタデータ） (2025-11-17T16:19:21Z)
• Cross-Modal Obfuscation for Jailbreak Attacks on Large Vision-Language Models [11.867355323884217]
  本稿では,悪質なプロンプトを視覚的およびテキスト的フラグメントに分解する新しいブラックボックス・ジェイルブレイク攻撃フレームワークを提案する。 我々のアプローチは、調整可能な推論の複雑さをサポートし、以前の攻撃よりもはるかに少ないクエリを必要とし、ステルスと効率の両方を可能にします。
  論文  参考訳（メタデータ） (2025-06-20T05:30:25Z)
• Align is not Enough: Multimodal Universal Jailbreak Attack against Multimodal Large Language Models [83.80177564873094]
  マルチモーダル・ユニバーサル・ジェイルブレイク・アタック・フレームワークを提案する。 LLaVA,Yi-VL,MiniGPT4,MiniGPT-v2,InstructBLIPなどのMLLMの望ましくないコンテキスト生成を評価する。 本研究は,MLLMにおける堅牢な安全対策の必要性を浮き彫りにするものである。
  論文  参考訳（メタデータ） (2025-06-02T04:33:56Z)
• MIRAGE: Multimodal Immersive Reasoning and Guided Exploration for Red-Team Jailbreak Attacks [85.3303135160762]
  MIRAGEは、物語駆動型コンテキストとロール没入を利用して、マルチモーダル大規模言語モデルにおける安全性メカニズムを回避する新しいフレームワークである。 最先端のパフォーマンスを達成し、最高のベースラインよりも攻撃成功率を最大17.5%向上させる。 役割の浸漬と構造的セマンティック再構築は、モデル固有のバイアスを活性化し、モデルが倫理的保護に自発的に違反することを実証する。
  論文  参考訳（メタデータ） (2025-03-24T20:38:42Z)
• Multi-Turn Context Jailbreak Attack on Large Language Models From First Principles [2.5167155755957316]
  コンテキスト・フュージョン・アタック (Context Fusion Attack, CFA) は、コンテキスト・フュージョン・ブラックボックス・ジェイルブレイク・アタックの手法である。 また,他の多ターン攻撃戦略と比較して,CFAの成功率,ばらつき,有害性を示す。
  論文  参考訳（メタデータ） (2024-08-08T09:18:47Z)
• Defending Large Language Models against Jailbreak Attacks via Semantic Smoothing [107.97160023681184]
  適応型大規模言語モデル(LLM)は、ジェイルブレイク攻撃に対して脆弱である。 提案するSEMANTICSMOOTHは,与えられた入力プロンプトのセマンティック変換されたコピーの予測を集約するスムージングベースのディフェンスである。
  論文  参考訳（メタデータ） (2024-02-25T20:36:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。