論文の概要: Do VLMs Share Safety Neurons Across Modalities?
- arxiv url: http://arxiv.org/abs/2608.30750v1
- Date: Mon, 31 Aug 2026 13:17:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:31.412223
- Title: Do VLMs Share Safety Neurons Across Modalities?
- Title（参考訳）: VLMはモダリティ全体にわたって安全ニューロンを共有しているか?
- Abstract要約: 視覚言語モデル(VLM)は、バックボーンのLLMがテキストで同じコンテンツを拒否する場合でも、画像を通して配信される有害な要求に従うことができる。
本稿では,自己修復を考慮した反復アブレーションを用いた2段階検出パイプラインを提案する。
視覚的およびテキスト的安全信号の分離を行うViSafe-DetectとViSafe-Evalの2つのモダリティアイソレーションベンチマークを導入する。
- 参考スコア（独自算出の注目度）: 13.44337685375747
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Vision-language models (VLMs) can comply with harmful requests delivered through images, even when their LLM backbones would refuse the same content in text. While prior work characterizes these jailbreaks empirically or at the representation level, how visual inputs perturb safety pathways at the neuron level remains uncharted. We close this gap with a causal, neuron-level analysis of safety mechanisms in 10 VLMs. We propose a two-stage detection pipeline with iterative ablation that accounts for self-repair, and introduce two modality-isolated benchmarks, ViSafe-Detect and ViSafe-Eval, which decouple visual and textual safety signals. Our analysis reveals: (i) Text safety in VLMs is localizable: $\sim$88 neurons ($<$0.01%) whose targeted ablation substantially reduces refusal. (ii) Text safety neurons constitute the dominant refusal pathway: ablating them is the only intervention that consistently and substantially reduces refusal across all models. (iii) Visual safety is high-dimensional and diffuse at the single-neuron level: text safety concentrates in $\sim$5 subspace directions while visual safety requires $\geq$50. This gap holds across architectures, explaining why current alignment has not closed the visual safety gap. Project page is at: https://jiaxuan-li.github.io/vlm-safety-neuron/ Warning: this paper may include examples of harmful content.
- Abstract（参考訳）: 視覚言語モデル(VLM)は、LLMバックボーンがテキストで同じコンテンツを拒否する場合でも、画像を通して配信される有害な要求に従うことができる。
以前の研究は、これらのジェイルブレイクを経験的にまたは表現レベルで特徴づける一方で、ニューロンレベルでの摂動安全経路の視覚的入力は、どのようにして未知のままである。
10VLMにおける安全性機構の因果的,ニューロンレベルでの解析により,このギャップを埋める。
本稿では,自己修復を考慮した反復アブレーションを用いた2段階検出パイプラインを提案し,視覚的およびテキスト的安全信号の分離を行う2つのモダリティ分離ベンチマークであるViSafe-DetectとViSafe-Evalを提案する。
私たちの分析によると、
(i)VLMのテキスト安全性はローカライズ可能である:$\sim$88(0.01%)で、ターゲットアブレーションが拒絶を著しく減少させる。
(II)テキストセーフティニューロンは、主要な拒絶経路を構成しており、これらを非難することは、すべてのモデルにおける拒絶を一貫して、実質的に減少させる唯一の介入である。
テキスト安全性は$\sim$5サブスペース方向に集中し、ビジュアル安全性は$\geq$50を必要とする。
このギャップはアーキテクチャを横断し、現在のアライメントが視覚的安全性のギャップを埋めていない理由を説明する。
プロジェクトページは以下の通りである。 https://jiaxuan-li.github.io/vlm-safety-neuron/警告。
関連論文リスト
- No Single Neuron of Failure: Distributed Safety Alignment Against White-Box Attacks [61.07406641465909]
複数の計算ニューロンにまたがる安全性を符号化した分散安全アライメントを提案する。
DSAは、汎用言語とマルチモーダルユーティリティを保ちながら、ホワイトボックスニューロンレベルの安全攻撃に対して大幅に改善されていることを示す。
論文 参考訳（メタデータ） (2026-08-02T17:49:07Z) - One Anchor for All: Unified Multilingual and Multimodal Safety Alignment for LVLMs [63.29484454957031]
モーダリティと言語共有型安全ニューロン(MLS-Neurons)によって駆動されるニューロンレベルのクロス次元安全アライメントフレームワークを提案する。
提案手法は,多言語およびマルチモーダルの安全性ベンチマークにおいて,最先端のアプローチを著しく上回っている。
論文 参考訳（メタデータ） (2026-07-30T09:30:03Z) - AEGIS: A Mechanism-Guided Defense against Visual Synonym Jailbreaks in Text-to-Image Models [22.925421768193956]
AEGISは、同一の脆弱な頭部のみに類似性を認識した反発を適用する推論時防御である。
良性の忠実さを保ち、硬い負の概念の抑制を回避し、各背骨の臨界頭部を再同定した後、SD 2.1とFLUX.1に転移する。
論文 参考訳（メタデータ） (2026-07-07T10:27:54Z) - Precise Shield: Explaining and Aligning VLLM Safety via Neuron-Level Guidance [64.18179414483966]
実世界のデプロイメントでは、VLLM(Vision-Language Large Models)は、多言語およびマルチモーダル複合攻撃による重要な課題に直面している。
危険入力と良入力のアクティベーションパターンを対比することにより、まず安全ニューロンを識別する2段階のフレームワークであるPrecise Shieldを提案する。
この戦略は多言語および多モーダルの一般化を維持しながら安全性を大幅に向上させる。
論文 参考訳（メタデータ） (2026-04-10T02:42:52Z) - Visual Self-Fulfilling Alignment: Shaping Safety-Oriented Personas via Threat-Related Images [15.316817046650208]
マルチモーダルな大言語モデル(MLLM)は、視覚的な入力が有害な出力を可能にする、安全性のミスアライメントに直面している。
創発的不整合に基づく自己充満機構に着想を得て,視覚自己充満アライメント(VSFA)を提案する。
VSFAファイントゥネス視覚言語モデル(VLM)は、脅威関連画像を中心に構築された中立的なVQAタスクにおいて、安全ラベルを含まない。
論文 参考訳（メタデータ） (2026-03-09T15:20:53Z) - HoliSafe: Holistic Safety Benchmarking and Modeling for Vision-Language Model [58.12612140992874]
我々は、安全で安全でない5つの画像テキストの組み合わせにまたがる、全体的な安全データセットとベンチマークである textbfHoliSafeを紹介した。
また,入力画像の有害性を評価するために,視覚ガードモジュール(VGM)を用いて,VLMの安全性を高めるための新しいモジュラーフレームワークを提案する。
実験により、HoliSafeでトレーニングされたVGMを使用したSafe-VLMは、複数のVLMベンチマークで最先端の安全性能を実現していることがわかった。
論文 参考訳（メタデータ） (2025-06-05T07:26:34Z) - Safe + Safe = Unsafe? Exploring How Safe Images Can Be Exploited to Jailbreak Large Vision-Language Models [80.77246856082742]
Safety Snowball Agent (SSA) は、エージェントの自律的およびツール使用能力をジェイルブレイクLVLMに活用する新しいエージェントベースのフレームワークである。
我々の実験では、ほぼすべての画像を用いてLVLMを誘導し、安全でないコンテンツを生成し、最新のLVLMに対して高いジェイルブレイク率を達成できることを示した。
論文 参考訳（メタデータ） (2024-11-18T11:58:07Z) - Towards Understanding Safety Alignment: A Mechanistic Perspective from Safety Neurons [57.07507194465299]
大規模言語モデル(LLM)は様々な能力に優れるが、有害なコンテンツや誤報を発生させるなどの安全性リスクが生じる。
安全行動の責任を負うLLM内の安全ニューロンの同定と解析に焦点をあてる。
モデル安全性に対する因果的影響を評価するために,これらのニューロンの特定と動的アクティベーションパッチを対比した推論時アクティベーションを提案する。
論文 参考訳（メタデータ） (2024-06-20T09:35:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。