Fugu-MT 論文翻訳(概要): Fully Unleashing the Multimodal Attacker: Meta-Adaptive Jailbreaking of Vision-Language Models

論文の概要: Fully Unleashing the Multimodal Attacker: Meta-Adaptive Jailbreaking of Vision-Language Models

arxiv url: http://arxiv.org/abs/2608.27531v2
Date: Thu, 03 Sep 2026 10:56:47 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-04 16:10:20.232947
Title: Fully Unleashing the Multimodal Attacker: Meta-Adaptive Jailbreaking of Vision-Language Models
Title（参考訳）: マルチモーダルアタッカーの完全解放:ビジョンランゲージモデルのメタ適応的ジェイルブレイク
Abstract要約: 本稿では,攻撃の繰り返しを統括する攻撃戦略プロンプト(ASP)と攻撃の有効性を決定する攻撃モデル重み付けの2つの軸に沿って攻撃者自身を最適化するメタ適応型マルチモーダル・ジェイルブレーキング(MAMJ)を提案する。 MM-SafetyBenchでは、GPT-4o、Gemini-3-Pro-adaptive、Seed 2.0に対して81.0%、78.9%、82.3%のASRを達成した。
参考スコア（独自算出の注目度）: 25.860894697929737
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: The safety of large vision-language models is increasingly stress-tested by multimodal jailbreaks, yet existing attacks remain largely static at the meta level: template-based attacks freeze the image-text layout, while iterative attacks adapt only the image-text content with fixed attack strategies and frozen attacker parameters. We propose Meta-Adaptive Multimodal Jailbreaking (MAMJ), which instead optimizes the attacker itself along two axes: an attack strategy prompt (ASP) governing attack iteration and attacker model weights determining attack effectiveness. Across groups of multimodal attack trajectories, an LLM-based critique first refines the ASP, after which group-aggregated attack success rate (ASR) rewards update those weights. On MM-SafetyBench, MAMJ achieves 81.0%, 78.9%, and 82.3% ASR against GPT-4o, Gemini-3-Pro-Preview, and Seed 2.0, respectively, outperforming the strongest sample-level baseline by up to 24.1 percentage points. The learned attacker, comprising the optimized ASP and attacker weights, also transfers without retraining to unseen victims and remains effective under representative defenses. These results reveal a systemic vulnerability of frontier VLMs to meta-adaptive jailbreaks and motivate defenses against meta-level adversaries. Code is available at https://github.com/Alibaba-VELLDEPTH/MetaJailbreak-VLM.
Abstract（参考訳）: テンプレートベースのアタックはイメージテキストレイアウトを凍結し、反復的なアタックはイメージテキストコンテンツのみに固定されたアタック戦略とフリーズされたアタックパラメータを適用する。本稿では,攻撃を2つの軸に沿って最適化するメタ適応型マルチモーダル・ジェイルブレーキング(MAMJ)を提案する。攻撃戦略プロンプト(ASP)は攻撃反復を制御し,攻撃モデルの重み付けは攻撃の有効性を決定する。マルチモーダル・アタック・トラジェクトリーの全体にわたって、LSMベースの批判はまずASPを洗練させ、その後グループ集約アタック・成功率(ASR)がそれらの重みを更新する。 MM-SafetyBenchでは、GPT-4o、Gemini-3-Pro-Preview、Seed 2.0に対して81.0%、78.9%、82.3%のASRを達成し、サンプルレベルベースラインを最大24.1ポイント上回っている。学習した攻撃者は、最適化されたASPと攻撃者の重みで構成されるが、未確認の犠牲者に再訓練することなく転送し、代表的防御の下で有効である。これらの結果は,メタ適応型ジェイルブレイクに対するフロンティアVLMのシステム的脆弱性を明らかにし,メタレベルの敵に対する防御を動機付けている。コードはhttps://github.com/Alibaba-VELLDEPTH/MetaJailbreak-VLMで公開されている。

関連論文リスト

A Self-Evolving Multi-Agent Framework Defense against LLM Jailbreak Attacks [53.12252890906191]
大規模言語モデル(LLM)は、ジェイルブレイク攻撃に弱いままである。本稿では,永続的相互作用ルールメモリを中心に構築された自己進化型テストタイムディフェンスを提案する。
論文参考訳（メタデータ） (2026-08-26T16:52:06Z)
Adaptive Adversaries: A Multi-Turn, Multi-LLM Benchmark for LLM Agent Security [2.3029886838540032]
LLMベースのエージェントは外部コンテンツを処理し、インジェクションとマルチターン操作のプロンプトに公開する。メモリレスLLMディフェンダーに対するマルチラウンド攻撃を強調するための21-scenarioベンチマークを提案する。
論文参考訳（メタデータ） (2026-07-20T15:30:38Z)
Automated jailbreak attack targeting multiple defense strategies [11.710908982928594]
大規模言語モデル(LLM)は、幅広いタスクにまたがる顕著な機能を示している。しかし、敵の攻撃による攻撃を受けやすいため、その安全性は依然として重要な懸念事項である。防衛指向の観点から設計した対戦型テストフレームワークUNIATTACKを提案する。
論文参考訳（メタデータ） (2026-06-15T14:09:37Z)
SEMA: Simple yet Effective Learning for Multi-Turn Jailbreak Attacks [53.97948802255959]
本稿では,既存の戦略や外部データに頼ることなく,マルチターン攻撃者を訓練するフレームワークを提案する。準備された自己調整は、非拒否的で、よく構造化された、多ターンの逆のプロンプトを微調整することで、使用可能なロールアウトを可能にする。私たちは、意図の整合性、コンプライアンスリスク、詳細レベルを組み合わせたインテントドリフト対応の報酬を通じて、多ターンジェイルブレイクにおける有害な意図を保ちます。
論文参考訳（メタデータ） (2026-02-06T16:44:57Z)
Metaphor-based Jailbreaking Attacks on Text-to-Image Models [41.420325236578755]
textbfMJA は textbfmetaphor ベースの textbfjailbreaking textbf attack method で、Taboo ゲームにインスパイアされた。様々な防御機構を事前に知ることなく効果的に攻撃する。
論文参考訳（メタデータ） (2025-12-06T12:38:00Z)
Multi-Faceted Attack: Exposing Cross-Model Vulnerabilities in Defense-Equipped Vision-Language Models [54.61181161508336]
MFA(Multi-Faceted Attack)は、防衛装備型ビジョンランゲージモデル(VLM)の一般的な安全性上の脆弱性を明らかにするフレームワークである。 MFAの中核となるコンポーネントはアテンション・トランスファー・アタック(ATA)であり、競合する目的を持ったメタタスク内に有害な命令を隠す。 MFAは58.5%の成功率を獲得し、既存の手法を一貫して上回っている。
論文参考訳（メタデータ） (2025-11-20T07:12:54Z)
MTAttack: Multi-Target Backdoor Attacks against Large Vision-Language Models [52.37749859972453]
我々は,LVLMにおける複数のトリガターゲットマッピングを正確に行うための,最初のマルチターゲットバックドアアタックフレームワークであるMTAttackを提案する。人気のあるベンチマークの実験では、マルチターゲット攻撃に対するMTAttackの成功率が高いことが示されている。我々の攻撃は、データセット間での強力な一般化性と、バックドア防衛戦略に対する堅牢性を示す。
論文参考訳（メタデータ） (2025-11-13T09:00:21Z)
MetaCipher: A Time-Persistent and Universal Multi-Agent Framework for Cipher-Based Jailbreak Attacks for LLMs [14.530593083777502]
低コストでマルチエージェントのジェイルブレイクフレームワークであるMetaCipherを提案する。わずか10クエリで、MetaCipherは最近の悪意のあるプロンプトベンチマークで最先端の攻撃成功率を達成する。
論文参考訳（メタデータ） (2025-06-27T18:15:56Z)
Lifelong Safety Alignment for Language Models [33.90238075760236]
本稿では,脱獄防御のための生涯安全アライメントフレームワークを提案する。メタアタッカーは、新しいジェイルブレイク戦略を積極的に発見するために訓練され、ディフェンダーは彼らに対抗するために訓練される。我々のフレームワークはMeta-Attackerの成功率を7%に削減し、LLMのより安全で信頼性の高いデプロイを可能にします。
論文参考訳（メタデータ） (2025-05-26T17:40:40Z)
ELBA-Bench: An Efficient Learning Backdoor Attacks Benchmark for Large Language Models [55.93380086403591]
生成可能な大規模言語モデルは、バックドアアタックに対して脆弱である。 $textitELBA-Bench$は、パラメータを効率的に微調整することで攻撃者がバックドアを注入できるようにする。 $textitELBA-Bench$は1300以上の実験を提供する。
論文参考訳（メタデータ） (2025-02-22T12:55:28Z)
Siren: A Learning-Based Multi-Turn Attack Framework for Simulating Real-World Human Jailbreak Behaviors [12.550678408719756]
本研究では,実世界の人間のジェイルブレイク行動のシミュレーションを目的とした,学習に基づくマルチターン攻撃フレームワークを提案する。実験の結果、サイレンはLLaMA-3-8Bを攻撃者として90%の攻撃成功率(ASR)を達成した。我々は、サイレンが先進的な多ターンジェイルブレイク攻撃に対するより強力な防御の開発を促すことを願っている。
論文参考訳（メタデータ） (2025-01-24T05:31:27Z)
White-box Multimodal Jailbreaks Against Large Vision-Language Models [61.97578116584653]
本稿では,テキストと画像のモダリティを併用して,大規模視覚言語モデルにおけるより広範な脆弱性のスペクトルを利用する,より包括的戦略を提案する。本手法は,テキスト入力がない場合に,逆画像プレフィックスをランダムノイズから最適化し,有害な応答を多様に生成することから始める。様々な有害な指示に対する肯定的な反応を誘発する確率を最大化するために、対向テキスト接頭辞を、対向画像接頭辞と統合し、共最適化する。
論文参考訳（メタデータ） (2024-05-28T07:13:30Z)
Robust Prompt Optimization for Defending Language Models Against Jailbreaking Attacks [17.22989422489567]
大規模言語モデル(LLM)は敵の攻撃や脱獄に対して脆弱である。本稿では,LLMをジェイルブレイク攻撃から守るための最適化に基づく目標と,堅牢なシステムレベルの防御を実現するアルゴリズムを提案する。 GPT-4の攻撃成功率(ASR)は6%,Llama-2の攻撃成功率(ASR)は0%に低下した。
論文参考訳（メタデータ） (2024-01-30T18:56:08Z)
SmoothLLM: Defending Large Language Models Against Jailbreaking Attacks [99.23352758320945]
SmoothLLMは,大規模言語モデル(LLM)に対するジェイルブレーキング攻撃を軽減するために設計された,最初のアルゴリズムである。敵が生成したプロンプトが文字レベルの変化に対して脆弱であることから、我々の防衛はまず、与えられた入力プロンプトの複数のコピーをランダムに摂動し、対応する予測を集約し、敵の入力を検出する。
論文参考訳（メタデータ） (2023-10-05T17:01:53Z)
Composite Adversarial Attacks [57.293211764569996]
敵対攻撃は、機械学習(ML)モデルを欺くための技術です。本論文では,攻撃アルゴリズムの最適組み合わせを自動的に探索するための複合攻撃法(Composite Adrial Attack,CAA)を提案する。 CAAは11の防衛でトップ10の攻撃を破り、時間の経過は少ない。
論文参考訳（メタデータ） (2020-12-10T03:21:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。