Fugu-MT 論文翻訳(概要): Fully Unleashing the Multimodal Attacker: Meta-Adaptive Jailbreaking of Vision-Language Models

論文の概要: Fully Unleashing the Multimodal Attacker: Meta-Adaptive Jailbreaking of Vision-Language Models

arxiv url: http://arxiv.org/abs/2608.27531v1
Date: Thu, 27 Aug 2026 15:23:22 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-31 17:16:04.100909
Title: Fully Unleashing the Multimodal Attacker: Meta-Adaptive Jailbreaking of Vision-Language Models
Title（参考訳）: マルチモーダルアタッカーの完全解放:ビジョンランゲージモデルのメタ適応的ジェイルブレイク
Abstract要約: メタ適応型マルチモーダルジェイルブレイク(MAMJ)を提案する。 MAMJは攻撃者自身を2つの軸に沿って最適化する。攻撃戦略プロンプト(ASP)$の攻撃イテレーションと攻撃者の重み付け$の攻撃効果である。 MM-SafetyBenchでは、GAT-4o、Gemini-3-Pro-Preview、Seed 2.0に対して81.0%$、78.9%$、82.3%$ASRを達成した。
参考スコア（独自算出の注目度）: 25.860894697929737
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: The safety of large vision-language models is increasingly stress-tested by multimodal jailbreaks, yet existing attacks remain largely static at the meta level: template-based attacks freeze the image--text layout, while iterative attacks adapt only the image--text content with fixed attack strategies and frozen attacker parameters. We propose Meta-Adaptive Multimodal Jailbreaking (MAMJ), which instead optimizes the attacker itself along two axes: an attack strategy prompt (ASP) $θ$ governing attack iteration and attacker weights $φ$ determining attack effectiveness. Across groups of multimodal attack trajectories, an LLM-based critique first refines $θ$, after which group-aggregated attack-success-rate (ASR) rewards update $φ$. On MM-SafetyBench, MAMJ achieves $81.0\%$, $78.9\%$, and $82.3\%$ ASR against GPT-4o, Gemini-3-Pro-Preview, and Seed 2.0, respectively, outperforming the strongest sample-level baseline by up to $24.1$ percentage points. The learned attacker $(θ^\star,φ^\star)$ also transfers without retraining to unseen victims and remains effective under representative defenses. These results reveal a systemic vulnerability of frontier VLMs to meta-adaptive jailbreaks and motivate defenses against meta-level adversaries. Code is available at https://github.com/Alibaba-VELLDEPTH/MetaJailbreak-VLM.
Abstract（参考訳）: テンプレートベースのアタックはイメージ-テキストレイアウトを凍結する一方、反復的なアタックは、固定されたアタック戦略とフリーズされたアタックパラメータを持つイメージ-テキストコンテンツのみに適応する。攻撃戦略プロンプト(ASP)$θ$の攻撃繰り返しを制御し、攻撃者は攻撃の有効性を決定するために$φ$の攻撃重み付けを行う。マルチモーダル・アタック・トラジェクトリの群全体で、LCMベースの批判はまず$θ$を洗練し、その後グループ集約アタック・サクセス・レート(ASR)は$φ$を更新する。 MM-SafetyBenchでは、GPT-4o、Gemini-3-Pro-Preview、Seed 2.0に対して、MAMJは81.0\%$、78.9\%$、82.3\%$ASRをそれぞれ達成し、サンプリングレベルベースラインを最大で24.1ドルポイント上回っている。学習した攻撃者$(θ^\star,φ^\star)$もまた、見知らぬ犠牲者に再訓練することなく転送し、代表的防御の下で有効である。これらの結果は,メタ適応型ジェイルブレイクに対するフロンティアVLMのシステム的脆弱性を明らかにし,メタレベルの敵に対する防御を動機付けている。コードはhttps://github.com/Alibaba-VELLDEPTH/MetaJailbreak-VLMで公開されている。

関連論文リスト

A Self-Evolving Multi-Agent Framework Defense against LLM Jailbreak Attacks [53.12252890906191]
大規模言語モデル(LLM)は、ジェイルブレイク攻撃に弱いままである。本稿では,永続的相互作用ルールメモリを中心に構築された自己進化型テストタイムディフェンスを提案する。
論文参考訳（メタデータ） (2026-08-26T16:52:06Z)
Adaptive Adversaries: A Multi-Turn, Multi-LLM Benchmark for LLM Agent Security [2.3029886838540032]
LLMベースのエージェントは外部コンテンツを処理し、インジェクションとマルチターン操作のプロンプトに公開する。メモリレスLLMディフェンダーに対するマルチラウンド攻撃を強調するための21-scenarioベンチマークを提案する。
論文参考訳（メタデータ） (2026-07-20T15:30:38Z)
Automated jailbreak attack targeting multiple defense strategies [11.710908982928594]
大規模言語モデル(LLM)は、幅広いタスクにまたがる顕著な機能を示している。しかし、敵の攻撃による攻撃を受けやすいため、その安全性は依然として重要な懸念事項である。防衛指向の観点から設計した対戦型テストフレームワークUNIATTACKを提案する。
論文参考訳（メタデータ） (2026-06-15T14:09:37Z)
SEMA: Simple yet Effective Learning for Multi-Turn Jailbreak Attacks [53.97948802255959]
本稿では,既存の戦略や外部データに頼ることなく,マルチターン攻撃者を訓練するフレームワークを提案する。準備された自己調整は、非拒否的で、よく構造化された、多ターンの逆のプロンプトを微調整することで、使用可能なロールアウトを可能にする。私たちは、意図の整合性、コンプライアンスリスク、詳細レベルを組み合わせたインテントドリフト対応の報酬を通じて、多ターンジェイルブレイクにおける有害な意図を保ちます。
論文参考訳（メタデータ） (2026-02-06T16:44:57Z)
Metaphor-based Jailbreaking Attacks on Text-to-Image Models [41.420325236578755]
textbfMJA は textbfmetaphor ベースの textbfjailbreaking textbf attack method で、Taboo ゲームにインスパイアされた。様々な防御機構を事前に知ることなく効果的に攻撃する。
論文参考訳（メタデータ） (2025-12-06T12:38:00Z)
Multi-Faceted Attack: Exposing Cross-Model Vulnerabilities in Defense-Equipped Vision-Language Models [54.61181161508336]
MFA(Multi-Faceted Attack)は、防衛装備型ビジョンランゲージモデル(VLM)の一般的な安全性上の脆弱性を明らかにするフレームワークである。 MFAの中核となるコンポーネントはアテンション・トランスファー・アタック(ATA)であり、競合する目的を持ったメタタスク内に有害な命令を隠す。 MFAは58.5%の成功率を獲得し、既存の手法を一貫して上回っている。
論文参考訳（メタデータ） (2025-11-20T07:12:54Z)
MTAttack: Multi-Target Backdoor Attacks against Large Vision-Language Models [52.37749859972453]
我々は,LVLMにおける複数のトリガターゲットマッピングを正確に行うための,最初のマルチターゲットバックドアアタックフレームワークであるMTAttackを提案する。人気のあるベンチマークの実験では、マルチターゲット攻撃に対するMTAttackの成功率が高いことが示されている。我々の攻撃は、データセット間での強力な一般化性と、バックドア防衛戦略に対する堅牢性を示す。
論文参考訳（メタデータ） (2025-11-13T09:00:21Z)
MetaCipher: A Time-Persistent and Universal Multi-Agent Framework for Cipher-Based Jailbreak Attacks for LLMs [14.530593083777502]
低コストでマルチエージェントのジェイルブレイクフレームワークであるMetaCipherを提案する。わずか10クエリで、MetaCipherは最近の悪意のあるプロンプトベンチマークで最先端の攻撃成功率を達成する。
論文参考訳（メタデータ） (2025-06-27T18:15:56Z)
Lifelong Safety Alignment for Language Models [33.90238075760236]
本稿では,脱獄防御のための生涯安全アライメントフレームワークを提案する。メタアタッカーは、新しいジェイルブレイク戦略を積極的に発見するために訓練され、ディフェンダーは彼らに対抗するために訓練される。我々のフレームワークはMeta-Attackerの成功率を7%に削減し、LLMのより安全で信頼性の高いデプロイを可能にします。
論文参考訳（メタデータ） (2025-05-26T17:40:40Z)
ELBA-Bench: An Efficient Learning Backdoor Attacks Benchmark for Large Language Models [55.93380086403591]
生成可能な大規模言語モデルは、バックドアアタックに対して脆弱である。 $textitELBA-Bench$は、パラメータを効率的に微調整することで攻撃者がバックドアを注入できるようにする。 $textitELBA-Bench$は1300以上の実験を提供する。
論文参考訳（メタデータ） (2025-02-22T12:55:28Z)
Siren: A Learning-Based Multi-Turn Attack Framework for Simulating Real-World Human Jailbreak Behaviors [12.550678408719756]
本研究では,実世界の人間のジェイルブレイク行動のシミュレーションを目的とした,学習に基づくマルチターン攻撃フレームワークを提案する。実験の結果、サイレンはLLaMA-3-8Bを攻撃者として90%の攻撃成功率(ASR)を達成した。我々は、サイレンが先進的な多ターンジェイルブレイク攻撃に対するより強力な防御の開発を促すことを願っている。
論文参考訳（メタデータ） (2025-01-24T05:31:27Z)
White-box Multimodal Jailbreaks Against Large Vision-Language Models [61.97578116584653]
本稿では,テキストと画像のモダリティを併用して,大規模視覚言語モデルにおけるより広範な脆弱性のスペクトルを利用する,より包括的戦略を提案する。本手法は,テキスト入力がない場合に,逆画像プレフィックスをランダムノイズから最適化し,有害な応答を多様に生成することから始める。様々な有害な指示に対する肯定的な反応を誘発する確率を最大化するために、対向テキスト接頭辞を、対向画像接頭辞と統合し、共最適化する。
論文参考訳（メタデータ） (2024-05-28T07:13:30Z)
Robust Prompt Optimization for Defending Language Models Against Jailbreaking Attacks [17.22989422489567]
大規模言語モデル(LLM)は敵の攻撃や脱獄に対して脆弱である。本稿では,LLMをジェイルブレイク攻撃から守るための最適化に基づく目標と,堅牢なシステムレベルの防御を実現するアルゴリズムを提案する。 GPT-4の攻撃成功率(ASR)は6%,Llama-2の攻撃成功率(ASR)は0%に低下した。
論文参考訳（メタデータ） (2024-01-30T18:56:08Z)
SmoothLLM: Defending Large Language Models Against Jailbreaking Attacks [99.23352758320945]
SmoothLLMは,大規模言語モデル(LLM)に対するジェイルブレーキング攻撃を軽減するために設計された,最初のアルゴリズムである。敵が生成したプロンプトが文字レベルの変化に対して脆弱であることから、我々の防衛はまず、与えられた入力プロンプトの複数のコピーをランダムに摂動し、対応する予測を集約し、敵の入力を検出する。
論文参考訳（メタデータ） (2023-10-05T17:01:53Z)
Composite Adversarial Attacks [57.293211764569996]
敵対攻撃は、機械学習(ML)モデルを欺くための技術です。本論文では,攻撃アルゴリズムの最適組み合わせを自動的に探索するための複合攻撃法(Composite Adrial Attack,CAA)を提案する。 CAAは11の防衛でトップ10の攻撃を破り、時間の経過は少ない。
論文参考訳（メタデータ） (2020-12-10T03:21:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。