論文の概要: Scenes as an Attack Surface: Uncovering Scene-Grounded Safety Failures in MLLMs

• arxiv url: http://arxiv.org/abs/2610.14094v1
• Date: Thu, 08 Oct 2026 18:15:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 23:24:32.485686
• Title: Scenes as an Attack Surface: Uncovering Scene-Grounded Safety Failures in MLLMs
• Title（参考訳）: 攻撃面としてのシーン:MLLMの現場安全の失敗を発見
• Abstract要約: 既存のジェイルブレイク攻撃は、マルチモーダル大言語モデル(MLLM)において深刻な安全性の弱点を露呈している 本稿では,タスク関連シーンセマンティクスだけでMLLMを拒絶からコンプライアンスに移行することができるという,異なる脆弱性を明らかにする。 本研究では,SGA(Scene-Grounded Attacks)を提案する。
• 参考スコア（独自算出の注目度）: 13.478682673830223
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Existing jailbreak attacks have exposed serious safety weaknesses in multimodal large language models (MLLMs). Most prior attacks rely on specially constructed visual inputs to carry or support harmful intent. In this paper, we uncover a different vulnerability: task-relevant scene semantics alone can shift an MLLM from refusal to compliance, even when the visual input introduces no additional attack instructions and the original task intent remains unchanged. We formalize this failure as a scene-grounded visual safety vulnerability and introduce SceneSafetyBench to investigate it across eight risk categories and nine white- and black-box MLLMs. Our analysis reveals that this failure is associated with how task-relevant visual evidence influences downstream safety representations, suggesting that visual grounding alone cannot fully explain the observed safety shift. Building on this finding, we propose Scene-Grounded Attacks (SGA), which preserve the original task while constructing validated scene-grounded queries and combining their independent responses. Across nine target MLLMs, SGA achieves an average attack success rate (ASR) of 86.17%, outperforming the strongest baseline by 8.55 percentage points and achieving the highest ASR on eight models. Our results identify scene semantics as an overlooked attack surface in MLLMs and highlight a growing tension between stronger visual grounding and robust multimodal safety alignment.
• Abstract（参考訳）: 既存のジェイルブレイク攻撃は、マルチモーダル大言語モデル(MLLM)において深刻な安全性の弱点を露呈している。 以前の攻撃のほとんどは、有害な意図を運搬または支援するために特別に構築された視覚的入力に依存していた。 タスク関連シーンセマンティクスだけでは、視覚入力が追加の攻撃命令を導入せず、元のタスク意図が変更されていない場合でも、MLLMを拒絶からコンプライアンスに移行することができる。 我々は、この失敗を現場の視覚的安全性の脆弱性として形式化し、SceneSafetyBenchを導入し、8つのリスクカテゴリと9つのホワイトボックスとブラックボックスMLLMを調査した。 解析の結果、この失敗は、タスク関連視覚的証拠が下流の安全表現にどのように影響するかに関連していることが明らかとなり、視覚的接地だけでは観察された安全変化を完全に説明できないことが示唆された。 そこで本研究では,SGA(Scene-Grounded Attacks)を提案する。 9つのMLLMで、SGAは86.17%の平均攻撃成功率を達成し、最強のベースラインを8.55ポイント上回り、8つのモデルで最高のASRを達成している。 本研究は,シーンセマンティクスをMLLMの見過ごされた攻撃面として認識し,より強力な視覚的接地と頑健なマルチモーダル安全アライメントの緊張感の増大を浮き彫りにした。

関連論文リスト

• One Attack to Fool Them All: Highly Transferable Black-Box Adversarial Attacks on Frontier MLLMs [68.32863223021475]
  敵対的攻撃は長い間、機械学習システムに根本的な脅威をもたらしてきた。 我々は高度に転送可能なブラックボックス攻撃フレームワークであるO-Attackを提案する。 O-AttackはGPT-5.4(29.1%から77.2%)、Claude-4.6(42.8%から81.6%)、Gemini-3.1(38.2%から80.9%)で攻撃成功率を上げる
  論文  参考訳（メタデータ） (2026-09-27T18:33:38Z)
• VRSA: Jailbreaking Multimodal Large Language Models through Visual Reasoning Sequential Attack [40.68344330540352]
  MLLM(Multimodal Large Language Models)は、その強力なクロスモーダル理解と生成能力により、様々な分野で広く使われている。 以前のジェイルブレイク攻撃は、テキストモダルで安全性のリスクを推論しようとする試みだったが、視覚モダルでは同様の脅威がほとんど見過ごされている。 本稿では、MLLMを徐々に外部化し、完全に有害な意図を集約する視覚推論シークエンシャルアタック(VRSA)を提案する。
  論文  参考訳（メタデータ） (2025-12-05T16:29:52Z)
• SafeDialBench: A Fine-Grained Safety Benchmark for Large Language Models in Multi-Turn Dialogues with Diverse Jailbreak Attacks [90.41592442792181]
  大規模言語モデル(LLM)の安全性を評価するための詳細なベンチマーク SafeDialBench を提案する。 具体的には,6つの安全次元を考慮した2階層型階層型安全分類法を設計し,22の対話シナリオの下で中国語と英語の双方で4000以上のマルチターン対話を生成する。 特に,LLMの革新的なアセスメントフレームワークを構築し,安全でない情報を検出し,処理し,ジェイルブレイク攻撃時の一貫性を維持する。
  論文  参考訳（メタデータ） (2025-02-16T12:08:08Z)
• Reasoning-Augmented Conversation for Multi-Turn Jailbreak Attacks on Large Language Models [53.580928907886324]
  Reasoning-Augmented Conversationは、新しいマルチターンジェイルブレイクフレームワークである。 有害なクエリを良心的な推論タスクに再構成する。 RACEは,複雑な会話シナリオにおいて,最先端攻撃の有効性を実現する。
  論文  参考訳（メタデータ） (2025-02-16T09:27:44Z)
• Exploring Visual Vulnerabilities via Multi-Loss Adversarial Search for Jailbreaking Vision-Language Models [92.79804303337522]
  VLM(Vision-Language Models)は、安全アライメントの問題に対して脆弱である。 本稿では、シナリオ認識画像生成を利用したセマンティックアライメントのための新しいジェイルブレイクフレームワークであるMLAIを紹介する。 大規模な実験はMLAIの重大な影響を示し、MiniGPT-4で77.75%、LLaVA-2で82.80%の攻撃成功率を達成した。
  論文  参考訳（メタデータ） (2024-11-27T02:40:29Z)
• MLLM-Protector: Ensuring MLLM's Safety without Hurting Performance [36.03512474289962]
  本稿では,視覚入力による悪意ある攻撃に対してMLLMを防御する新たな課題について検討する。 画像は、安全アライメントの間に考慮されていない「外国語として機能する」ため、MLLMは有害な反応を生じやすい。 MLLM-Protectorは,1)軽量害検知器による有害応答の同定,2)除毒器による有害応答の無害化という2つのサブタスクを解決するためのプラグアンドプレイ戦略である。
  論文  参考訳（メタデータ） (2024-01-05T17:05:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。