Fugu-MT 論文翻訳(概要): Adversarial Style Optimization: Enhancing VLM Jailbreaks by GRPO-based Stylistic Triggers Optimization

論文の概要: Adversarial Style Optimization: Enhancing VLM Jailbreaks by GRPO-based Stylistic Triggers Optimization

arxiv url: http://arxiv.org/abs/2607.21619v1
Date: Mon, 01 Jun 2026 09:47:17 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-02 22:55:38.94706
Title: Adversarial Style Optimization: Enhancing VLM Jailbreaks by GRPO-based Stylistic Triggers Optimization
Title（参考訳）: 敵対的スタイル最適化:GRPOに基づくスティリスティックトリガー最適化によるVLMジェイルブレークの強化
Abstract要約: 既存のコンテンツベースのジェイルブレイクは、しばしば一貫性がなく、急速に進化するMLLMに対して不満足なパフォーマンスを示す。本稿では,既存の視覚ジェイルブレイクを増幅するプラグイン・アンド・プレイ拡張モジュールであるAdversarial Style Optimization (ASO)を提案する。 ASOは画像編集モデルを微調整し、与えられた逆画像に最適化されたスタイリスティックな修正を重畳する。
参考スコア（独自算出の注目度）: 17.664041946878676
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Multimodal Large Language Models (MLLMs) have achieved impressive performance, but their safety alignment remains vulnerable to jailbreak attacks. Existing content-based jailbreaks are often inconsistent and show unsatisfying performance against the rapidly evolving MLLMs, failing to exploit non-content-based vulnerabilities. Unlike previous research, we empirically find that MLLMs exhibit a Stylistic Inconsistency between their comprehension ability and safety ability: MLLMs can robustly understand content regardless of visual style, yet their defense mechanisms can be easily bypassed by specific stylistic triggers. Based on this finding, we propose Adversarial Style Optimization (ASO), a plug-and-play enhancement module to amplify existing visual jailbreaks. ASO fine-tunes an image-editing model to superimpose an optimized stylistic modification onto a given adversarial image, using a Group Relative Policy Optimization (GRPO) agent guided by a Structurally-Tiered Reward Function that combines a logit-based signal for detecting explicit refusals with a high-fidelity semantic evaluation from a powerful judge model. Extensive experiments show that ASO significantly enhances the ASR of SOTA attacks, demonstrating that stylistic biases are a scalable vector for red-teaming MLLMs. Our code is available at https://github.com/bingjunluo/ASO.
Abstract（参考訳）: MLLM(Multimodal Large Language Models)は目覚ましい性能を達成したが、その安全性はいまだにジェイルブレイク攻撃に対して脆弱である。既存のコンテンツベースのジェイルブレイクは、しばしば一貫性がなく、急速に進化するMLLMに対して不満足なパフォーマンスを示し、非コンテンツベースの脆弱性を悪用することができない。 MLLMは視覚的スタイルによらず、コンテンツをしっかりと理解することができるが、その防御機構は特定の形式的トリガーによって容易に回避できる。そこで本研究では,既存の視覚ジェイルブレイクを増幅するプラグイン・アンド・プレイ拡張モジュールであるAdversarial Style Optimization (ASO)を提案する。 ASOは画像編集モデルを微調整し、強力な判定モデルから明示的な拒絶を検知するためのロジットベースの信号と高忠実な意味評価を結合した構造的階層化リワード関数によって導かれるグループ相対ポリシー最適化(GRPO)エージェントを用いて、与えられた逆画像に最適化されたスタイリスティックな修正を重畳する。大規模な実験により、ASOはSOTA攻撃のASRを大幅に向上し、スタイリスティックバイアスがMLLMをリピートするためのスケーラブルなベクトルであることを実証した。私たちのコードはhttps://github.com/bingjunluo/ASO.orgで公開されています。

関連論文リスト

MIDAS: Multi-Image Dispersion and Semantic Reconstruction for Jailbreaking MLLMs [22.919956583415324]
マルチイメージ分散と意味再構成(MIDAS) 本稿では,有害なセマンティクスをリスク対応サブユニットに分解するマルチモーダルジェイルブレイクフレームワークを提案する。 MIDASはより長く、より構造化されたマルチイメージ連鎖推論を強制する。
論文参考訳（メタデータ） (2026-02-28T09:29:36Z)
Odysseus: Jailbreaking Commercial Multimodal LLM-integrated Systems via Dual Steganography [77.44136793431893]
本稿では,悪質なクエリを隠蔽して良質な画像に埋め込むために,二重ステガノグラフィーを導入した新しいjailbreakパラダイムを提案する。我々のOdysseusはいくつかの先駆的で現実的なMLLM統合システムを脱獄し、最大99%の攻撃成功率を達成した。
論文参考訳（メタデータ） (2025-12-23T08:53:36Z)
Multimodal Safety Is Asymmetric: Cross-Modal Exploits Unlock Black-Box MLLMs Jailbreaks [33.836587055255954]
MLLM(Multimodal large language model)は、様々な現実世界のアプリケーションにまたがって大きな有用性を示している。しかしMLLMは、敵の入力が安全上の制約を崩壊させ、非倫理的な反応を引き起こす可能性があるジェイルブレイクに弱いままです。強化学習に基づくブラックボックスジェイルブレイク手法であるPolyJailbreakを開発した。
論文参考訳（メタデータ） (2025-10-20T08:03:39Z)
FORCE: Transferable Visual Jailbreaking Attacks via Feature Over-Reliance CorrEction [82.6826848085638]
視覚的ジェイルブレイク攻撃は、洗練されたテキスト攻撃よりも簡単にオープンソースのMLLMを操作することができる。これらの攻撃は、非常に限られたクロスモデル転送可能性を示し、クローズドソースMLLMの脆弱性を確実に特定することができない。本稿では,FORCE(Feature Over-Reliance CorrEction)手法を提案する。
論文参考訳（メタデータ） (2025-09-25T11:36:56Z)
JPS: Jailbreak Multimodal Large Language Models with Collaborative Visual Perturbation and Textual Steering [73.962469626788]
マルチモーダルな大規模言語モデル(MLLM)に対するジェイルブレイク攻撃は重要な研究課題である。 JPS, UnderlineJailbreak MLLMs with collaborative visual underlinePerturbation and textual underlineSteering。
論文参考訳（メタデータ） (2025-08-07T07:14:01Z)
VERA: Variational Inference Framework for Jailbreaking Large Language Models [29.57412296290215]
最先端のLDMへのAPIのみアクセスは、効果的なブラックボックスジェイルブレイクメソッドの必要性を強調している。 VERA: variational infErence fRamework for jAilbreakingを紹介する。
論文参考訳（メタデータ） (2025-06-27T22:22:00Z)
Implicit Jailbreak Attacks via Cross-Modal Information Concealment on Vision-Language Models [20.99874786089634]
以前のジェイルブレイク攻撃は、しばしば悪意のある命令をテキストから視覚など、整合性の低いモダリティに注入する。 IJAと呼ばれる新しい暗黙のジェイルブレイクフレームワークを提案し、少なくとも重要なビットステガノグラフィーによって悪意ある命令を画像に密かに埋め込む。 GPT-4o や Gemini-1.5 Pro などの商用モデルでは,攻撃成功率は90% 以上で,平均 3 クエリのみを用いて達成している。
論文参考訳（メタデータ） (2025-05-22T09:34:47Z)
White-box Multimodal Jailbreaks Against Large Vision-Language Models [61.97578116584653]
本稿では,テキストと画像のモダリティを併用して,大規模視覚言語モデルにおけるより広範な脆弱性のスペクトルを利用する,より包括的戦略を提案する。本手法は,テキスト入力がない場合に,逆画像プレフィックスをランダムノイズから最適化し,有害な応答を多様に生成することから始める。様々な有害な指示に対する肯定的な反応を誘発する確率を最大化するために、対向テキスト接頭辞を、対向画像接頭辞と統合し、共最適化する。
論文参考訳（メタデータ） (2024-05-28T07:13:30Z)
AdaShield: Safeguarding Multimodal Large Language Models from Structure-based Attack via Adaptive Shield Prompting [54.931241667414184]
textbfAdaptive textbfShield Promptingを提案する。これは、MLLMを構造ベースのジェイルブレイク攻撃から守るための防御プロンプトで入力をプリペイドする。我々の手法は、構造に基づくジェイルブレイク攻撃に対するMLLMの堅牢性を一貫して改善することができる。
論文参考訳（メタデータ） (2024-03-14T15:57:13Z)
Jailbreaking Attack against Multimodal Large Language Model [69.52466793164618]
本稿では,マルチモーダル大規模言語モデル(MLLM)に対するジェイルブレイク攻撃に焦点を当てた。 imgJP (emphimage Jailbreaking Prompt) の探索手法を提案する。提案手法は, 生成したimgJPをジェイルブレイクモデルに転送できるため, 強いモデル伝達性を示す。
論文参考訳（メタデータ） (2024-02-04T01:29:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。