論文の概要: One Attack to Fool Them All: Highly Transferable Black-Box Adversarial Attacks on Frontier MLLMs

• arxiv url: http://arxiv.org/abs/2609.33833v1
• Date: Sun, 27 Sep 2026 18:33:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-04 16:24:45.83949
• Title: One Attack to Fool Them All: Highly Transferable Black-Box Adversarial Attacks on Frontier MLLMs
• Title（参考訳）: 最前線MLLMへの高転送可能なブラックボックス敵攻撃
• Abstract要約: 敵対的攻撃は長い間、機械学習システムに根本的な脅威をもたらしてきた。 我々は高度に転送可能なブラックボックス攻撃フレームワークであるO-Attackを提案する。 O-AttackはGPT-5.4(29.1%から77.2%)、Claude-4.6(42.8%から81.6%)、Gemini-3.1(38.2%から80.9%)で攻撃成功率を上げる
• 参考スコア（独自算出の注目度）: 68.32863223021475
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Adversarial attacks have long posed a fundamental threat to machine learning systems. As multimodal large language models (MLLMs) rapidly evolve and become widely deployed, assessing their vulnerability to such attacks is essential for their safe use. In this work, we investigate whether a single adversarial image can consistently mislead diverse frontier MLLMs in black-box settings. We propose O-Attack, a highly transferable black-box attack framework. This framework builds on our insight that surrogate models contain a broad, high-level, cross-modally aligned semantic space. This space extends beyond final-layer outputs and provides multiple semantically consistent representations that remain underexploited by existing attacks. Within this space, O-Attack anchors aligned representations, progressively broadens semantic conditions, and optimizes perturbations through semantic consensus to promote consistent target alignment. By fully exploiting this space with the same surrogate models as M-Attack, O-Attack raises attack success rates on GPT-5.4 (29.1% to 77.2%), Claude-4.6 (42.8% to 81.6%), and Gemini-3.1 (38.2% to 80.9%). Extensive experiments across 24 MLLMs show that O-Attack outperforms six state-of-the-art methods in black-box transferability, with consistent effectiveness across prompts and improved efficiency and imperceptibility. This work exposes the practical safety risks posed by black-box adversarial attacks against frontier MLLMs, underscoring the need for more rigorous robustness evaluation and more effective defenses.
• Abstract（参考訳）: 敵対的攻撃は長い間、機械学習システムに根本的な脅威をもたらしてきた。 マルチモーダルな大規模言語モデル(MLLM)は急速に進化し、広く普及するにつれて、そのような攻撃に対する脆弱性を評価することは、安全のために不可欠である。 本研究は,ブラックボックス設定において,単一対角画像が多様なフロンティアMLLMを常に誤解させることができるかどうかを考察する。 我々は高度に転送可能なブラックボックス攻撃フレームワークであるO-Attackを提案する。 このフレームワークは、サロゲートモデルが広範でハイレベル、クロスモーダルなセマンティクス空間を含んでいるという私たちの洞察に基づいています。 この空間は最終層出力を超えて拡張され、既存のアタックによって過小評価されていない複数のセマンティックな一貫性のある表現を提供する。 この空間内では、O-Attackはアライメント表現をアンカーし、セマンティック条件を徐々に拡張し、セマンティックコンセンサスを通じて摂動を最適化し、一貫したターゲットアライメントを促進する。 M-Attackと同じサロゲートモデルでこの空間を完全に活用することで、O-AttackはGPT-5.4(29.1%から77.2%)、Claude-4.6(42.8%から81.6%)、Gemini-3.1(38.2%から80.9%)で攻撃成功率を上げる。 24個のMLLMにわたる大規模な実験により、O-Attackは6つの最先端の手法をブラックボックス転送性で上回り、プロンプト間で一貫した有効性を示し、効率と非受容性を改善した。 この研究は、より厳格な堅牢性評価とより効果的な防御の必要性を浮き彫りにして、フロンティアMLLMに対するブラックボックスの敵攻撃によって引き起こされる実用的な安全リスクを明らかにする。

関連論文リスト

• PA-Attack: Guiding Gray-Box Attacks on LVLM Vision Encoders with Prototypes and Attention [63.63231191403825]
  LVLM(Large Vision-Language Models)は、現代のマルチモーダルアプリケーションの基礎となっているが、敵攻撃に対する感受性は依然として重要な問題である。 本稿では, PA-Attack (Prototype-Anchored Attentive Attack) を導入し, 属性制限問題に対処し, バニラ攻撃のタスク一般化を限定する。 実験の結果、PA-Attackは平均75.1%のスコア低減率(SRR)を達成し、LVLMの強力な攻撃効率、効率、タスク一般化を示すことがわかった。
  論文  参考訳（メタデータ） (2026-02-23T01:20:43Z)
• Tipping the Dominos: Topology-Aware Multi-Hop Attacks on LLM-Based Multi-Agent Systems [14.555944084540435]
  LLMベースのマルチエージェントシステム(MAS)は、デジタルランドスケープを創発的コーディネーションと問題解決能力で再構築した。 我々は,MASを対象としたトポロジ対応マルチホップ攻撃方式であるTOMAを提案する。
  論文  参考訳（メタデータ） (2025-12-03T05:10:39Z)
• Multi-Faceted Attack: Exposing Cross-Model Vulnerabilities in Defense-Equipped Vision-Language Models [54.61181161508336]
  MFA(Multi-Faceted Attack)は、防衛装備型ビジョンランゲージモデル(VLM)の一般的な安全性上の脆弱性を明らかにするフレームワークである。 MFAの中核となるコンポーネントはアテンション・トランスファー・アタック(ATA)であり、競合する目的を持ったメタタスク内に有害な命令を隠す。 MFAは58.5%の成功率を獲得し、既存の手法を一貫して上回っている。
  論文  参考訳（メタデータ） (2025-11-20T07:12:54Z)
• Transferable Direct Prompt Injection via Activation-Guided MCMC Sampling [30.157082498075315]
  直接プロンプトインジェクション(DPI)攻撃は、実行の障壁が低く、潜在的なダメージが大きいため、大規模言語モデル(LLM)に重大なセキュリティ上の脅威をもたらす。 既存のホワイトボックス/グレイボックス方式の非現実性とブラックボックス方式の転送容易性に対処するために,アクティベーション誘導型プロンプトインジェクション攻撃フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-09T11:42:06Z)
• Reasoning-Augmented Conversation for Multi-Turn Jailbreak Attacks on Large Language Models [53.580928907886324]
  Reasoning-Augmented Conversationは、新しいマルチターンジェイルブレイクフレームワークである。 有害なクエリを良心的な推論タスクに再構成する。 RACEは,複雑な会話シナリオにおいて,最先端攻撃の有効性を実現する。
  論文  参考訳（メタデータ） (2025-02-16T09:27:44Z)
• Effective Black-Box Multi-Faceted Attacks Breach Vision Large Language Model Guardrails [32.627286570942445]
  MultiFaceted Attackは、視覚大言語モデルにおける多層防御をバイパスするために設計されたアタックフレームワークである。 VLLMのマルチモーダルな性質を利用して、画像を通して有害なシステムプロンプトを注入する。 攻撃率は61.56%で、最先端の手法を少なくとも42.18%上回っている。
  論文  参考訳（メタデータ） (2025-02-09T04:21:27Z)
• Towards Robust Multimodal Large Language Models Against Jailbreak Attacks [24.491648943977605]
  本稿では,敵対的雑音を発生させる攻撃ステップとモデル更新ステップとを交互に行うSafeMLLMを紹介する。 攻撃ステップでは、SafeMLLMは新たに提案されたコントラスト埋め込み攻撃(CoE-Attack)を通じて敵の摂動を発生させる。 我々は,SafeMLLMを6つのMLLMと6つのジェイルブレイク法で比較した。
  論文  参考訳（メタデータ） (2025-02-02T03:45:49Z)
• Exploring Visual Vulnerabilities via Multi-Loss Adversarial Search for Jailbreaking Vision-Language Models [92.79804303337522]
  VLM(Vision-Language Models)は、安全アライメントの問題に対して脆弱である。 本稿では、シナリオ認識画像生成を利用したセマンティックアライメントのための新しいジェイルブレイクフレームワークであるMLAIを紹介する。 大規模な実験はMLAIの重大な影響を示し、MiniGPT-4で77.75%、LLaVA-2で82.80%の攻撃成功率を達成した。
  論文  参考訳（メタデータ） (2024-11-27T02:40:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。