論文の概要: Precise Shield: Explaining and Aligning VLLM Safety via Neuron-Level Guidance

• arxiv url: http://arxiv.org/abs/2604.08881v1
• Date: Fri, 10 Apr 2026 02:42:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-13 17:57:53.644436
• Title: Precise Shield: Explaining and Aligning VLLM Safety via Neuron-Level Guidance
• Title（参考訳）: 精密シールド:ニューロンレベル誘導によるVLLMの安全性の説明と調整
• Authors: Enyi Shi, Fei Shen, Shuyi Miao, Linxia Zhu, Pengyang Shao, Jinhui Tang, Tat-Seng Chua,
• Abstract要約: 実世界のデプロイメントでは、VLLM(Vision-Language Large Models)は、多言語およびマルチモーダル複合攻撃による重要な課題に直面している。 危険入力と良入力のアクティベーションパターンを対比することにより、まず安全ニューロンを識別する2段階のフレームワークであるPrecise Shieldを提案する。 この戦略は多言語および多モーダルの一般化を維持しながら安全性を大幅に向上させる。
• 参考スコア（独自算出の注目度）: 64.18179414483966
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In real-world deployments, Vision-Language Large Models (VLLMs) face critical challenges from multilingual and multimodal composite attacks: harmful images paired with low-resource language texts can easily bypass defenses designed for high-resource language scenarios, exposing structural blind spots in current cross-lingual and cross-modal safety methods. This raises a mechanistic question: where is safety capability instantiated within the model, and how is it distributed across languages and modalities? Prior studies on pure-text LLMs have identified cross-lingual shared safety neurons, suggesting that safety may be governed by a small subset of critical neurons. Leveraging this insight, we propose Precise Shield, a two-stage framework that first identifies safety neurons by contrasting activation patterns between harmful and benign inputs, and then constrains parameter updates strictly within this subspace via gradient masking with affecting fewer than 0.03% of parameters. This strategy substantially improves safety while preserving multilingual and multimodal generalization. Further analysis reveals a moderate overlap of safety neurons across languages and modalities, enabling zero-shot cross-lingual and cross-modal transfer of safety capabilities, and offering a new direction for neuron-level, transfer-based safety enhancement.
• Abstract（参考訳）: 実世界のデプロイメントでは、VLLM(Vision-Language Large Models)は、マルチリンガルおよびマルチモーダル複合攻撃(multilingual and multimodal Composite attack)による重要な課題に直面している。 モデル内で安全能力はどこにインスタンス化されているのか、言語やモダリティにまたがってどのように分散されているのか? 純粋テキストLLMの以前の研究では、言語間共有安全ニューロンが同定されており、安全性は臨界ニューロンの小さなサブセットによって管理されている可能性があることが示唆されている。 この知見を生かしたPrecise Shieldは、まず有害入力と良性入力のアクティベーションパターンを対比することにより、安全ニューロンを識別する2段階のフレームワークである。 この戦略は多言語および多モーダルの一般化を維持しながら安全性を大幅に向上させる。 さらなる分析により、言語とモダリティ間の安全性ニューロンの適度な重複が明らかとなり、ゼロショットの言語間およびモダリティ間の安全機能の移行が可能となり、ニューロンレベル、トランスファーベースの安全性向上のための新しい方向性が提供される。

関連論文リスト

• Multilingual Safety Alignment Via Sparse Weight Editing [11.684928396991742]
  スパースウェイト編集に基づくトレーニングフリーアライメントフレームワークを提案する。 我々は、LRLの有害な表現をHRLの堅牢な安全部分空間に最適にマッピングする閉形式解を導出する。 本手法は, LRLにおける攻撃成功率(ASR)を大幅に低減し, 一般的な推論能力への影響を無視する。
  論文  参考訳（メタデータ） (2026-02-26T02:46:13Z)
• Who Transfers Safety? Identifying and Targeting Cross-Lingual Shared Safety Neurons [49.772147495578736]
  言語間共有安全ニューロン(SS-Neurons)は、言語間の安全行動を制御する。 本稿では,言語資源分布とモデルアーキテクチャに基づいて,SS-Neuronsをターゲットにしたニューロン指向のトレーニング戦略を提案する。
  論文  参考訳（メタデータ） (2026-02-01T15:28:02Z)
• Fine-Grained Safety Neurons with Training-Free Continual Projection to Reduce LLM Fine Tuning Risks [22.059668583508365]
  本研究では,FGSN (Fen-Grained Safety Neurons) をトレーニング不要連続投射法で提案し,微調整安全性リスクの低減を図る。 FGSNは本質的に、安全層と神経細胞の間のマルチスケールの相互作用を統合し、スペーサーとより精密な安全ニューロンを局在させる。
  論文  参考訳（メタデータ） (2025-08-08T03:20:25Z)
• Automating Steering for Safe Multimodal Large Language Models [58.36932318051907]
  基礎モデルの微調整を必要とせず,モジュール型かつ適応型推論時間介入技術であるAutoSteerを導入する。 AutoSteerは,(1)モデル内部層間の最も安全性に関連のある識別を自動的に行う新しい安全意識スコア(SAS),(2)中間表現から有害な出力の可能性を推定するために訓練された適応安全プローバ,(3)安全性のリスクが検出された場合に生成を選択的に介入する軽量な拒絶ヘッドの3つのコアコンポーネントを組み込んだ。
  論文  参考訳（メタデータ） (2025-07-17T16:04:55Z)
• Align is not Enough: Multimodal Universal Jailbreak Attack against Multimodal Large Language Models [83.80177564873094]
  マルチモーダル・ユニバーサル・ジェイルブレイク・アタック・フレームワークを提案する。 LLaVA,Yi-VL,MiniGPT4,MiniGPT-v2,InstructBLIPなどのMLLMの望ましくないコンテキスト生成を評価する。 本研究は,MLLMにおける堅牢な安全対策の必要性を浮き彫りにするものである。
  論文  参考訳（メタデータ） (2025-06-02T04:33:56Z)
• MrGuard: A Multilingual Reasoning Guardrail for Universal LLM Safety [56.77103365251923]
  大規模言語モデル(LLM)は、ジェイルブレイクのような敵の攻撃を受けやすい。 この脆弱性は、多言語セーフティアライメントされたデータが制限される多言語設定で悪化する。 素早い分類のための多言語ガードレールを提案する。
  論文  参考訳（メタデータ） (2025-04-21T17:15:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。