論文の概要: Precise Shield: Explaining and Aligning VLLM Safety via Neuron-Level Guidance
- arxiv url: http://arxiv.org/abs/2604.08881v1
- Date: Fri, 10 Apr 2026 02:42:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-13 17:57:53.644436
- Title: Precise Shield: Explaining and Aligning VLLM Safety via Neuron-Level Guidance
- Title（参考訳）: 精密シールド:ニューロンレベル誘導によるVLLMの安全性の説明と調整
- Abstract要約: 実世界のデプロイメントでは、VLLM(Vision-Language Large Models)は、多言語およびマルチモーダル複合攻撃による重要な課題に直面している。
危険入力と良入力のアクティベーションパターンを対比することにより、まず安全ニューロンを識別する2段階のフレームワークであるPrecise Shieldを提案する。
この戦略は多言語および多モーダルの一般化を維持しながら安全性を大幅に向上させる。
- 参考スコア（独自算出の注目度）: 64.18179414483966
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In real-world deployments, Vision-Language Large Models (VLLMs) face critical challenges from multilingual and multimodal composite attacks: harmful images paired with low-resource language texts can easily bypass defenses designed for high-resource language scenarios, exposing structural blind spots in current cross-lingual and cross-modal safety methods. This raises a mechanistic question: where is safety capability instantiated within the model, and how is it distributed across languages and modalities? Prior studies on pure-text LLMs have identified cross-lingual shared safety neurons, suggesting that safety may be governed by a small subset of critical neurons. Leveraging this insight, we propose Precise Shield, a two-stage framework that first identifies safety neurons by contrasting activation patterns between harmful and benign inputs, and then constrains parameter updates strictly within this subspace via gradient masking with affecting fewer than 0.03% of parameters. This strategy substantially improves safety while preserving multilingual and multimodal generalization. Further analysis reveals a moderate overlap of safety neurons across languages and modalities, enabling zero-shot cross-lingual and cross-modal transfer of safety capabilities, and offering a new direction for neuron-level, transfer-based safety enhancement.
- Abstract（参考訳）: 実世界のデプロイメントでは、VLLM(Vision-Language Large Models)は、マルチリンガルおよびマルチモーダル複合攻撃(multilingual and multimodal Composite attack)による重要な課題に直面している。
モデル内で安全能力はどこにインスタンス化されているのか、言語やモダリティにまたがってどのように分散されているのか?
純粋テキストLLMの以前の研究では、言語間共有安全ニューロンが同定されており、安全性は臨界ニューロンの小さなサブセットによって管理されている可能性があることが示唆されている。
この知見を生かしたPrecise Shieldは、まず有害入力と良性入力のアクティベーションパターンを対比することにより、安全ニューロンを識別する2段階のフレームワークである。
この戦略は多言語および多モーダルの一般化を維持しながら安全性を大幅に向上させる。
さらなる分析により、言語とモダリティ間の安全性ニューロンの適度な重複が明らかとなり、ゼロショットの言語間およびモダリティ間の安全機能の移行が可能となり、ニューロンレベル、トランスファーベースの安全性向上のための新しい方向性が提供される。
関連論文リスト
- Who Bridges Safety? Identifying and Targeting Cross-Lingual Shared Safety Pathways [44.23839982612062]
安全信号伝搬中に形成される多層機能経路を同定し,標的とする。
言語間共有安全経路に基づく経路目標アライメント手法を提案する。
実験結果から,NHR言語の安全性が著しく向上することが示唆された。
論文 参考訳（メタデータ） (2026-08-10T03:48:47Z) - No Single Neuron of Failure: Distributed Safety Alignment Against White-Box Attacks [61.07406641465909]
複数の計算ニューロンにまたがる安全性を符号化した分散安全アライメントを提案する。
DSAは、汎用言語とマルチモーダルユーティリティを保ちながら、ホワイトボックスニューロンレベルの安全攻撃に対して大幅に改善されていることを示す。
論文 参考訳（メタデータ） (2026-08-02T17:49:07Z) - SafeNexus: Discovering and Steering Modality-Universal Safety Neurons in MLLMs [69.51621286001262]
我々は、専用のニューロンレベルの介入戦略を採用する、モーダル間安全アライメントフレームワークであるSafeNexusを紹介する。
我々は、モダリティ結合型安全ニューロン(BS-Neurons)を同定し、各モダリティ内の安全行動の調節におけるそれらの役割を検証した。
我々は,アクティベーションレベル安全増幅器と安全ニューロン校正器の2つの安全アライメント戦略を提案する。
論文 参考訳（メタデータ） (2026-07-31T02:45:56Z) - One Anchor for All: Unified Multilingual and Multimodal Safety Alignment for LVLMs [63.29484454957031]
モーダリティと言語共有型安全ニューロン(MLS-Neurons)によって駆動されるニューロンレベルのクロス次元安全アライメントフレームワークを提案する。
提案手法は,多言語およびマルチモーダルの安全性ベンチマークにおいて,最先端のアプローチを著しく上回っている。
論文 参考訳（メタデータ） (2026-07-30T09:30:03Z) - Multilingual Safety Alignment via Self-Distillation [17.94152626632751]
大規模言語モデル (LLM) は、重度の多言語的安全性のミスアライメントを示す。
マルチリンガル自己蒸留(Multilingual Self-Distillation:MSD)という,言語横断型セーフガード転送フレームワークを提案する。
私たちのフレームワークは柔軟で、さまざまな自己蒸留戦略に統合できます。
論文 参考訳（メタデータ） (2026-05-03T14:22:49Z) - LASA: Language-Agnostic Semantic Alignment at the Semantic Bottleneck for LLM Safety [88.98698230989186]
大規模言語モデル(LLM)は、しばしば高リソース言語で強力な安全性性能を示すが、低リソース言語では深刻な脆弱性を示す。
このギャップは、言語に依存しない意味理解能力と、高リソース言語に偏った言語に支配的な安全アライメントのミスマッチによるものと考えられる。
セマンティック・アライメント(LASA)を提案し,セマンティック・ボトルネックに直接安全アライメントを固定する。
論文 参考訳（メタデータ） (2026-04-13T15:59:50Z) - Multilingual Safety Alignment Via Sparse Weight Editing [11.684928396991742]
スパースウェイト編集に基づくトレーニングフリーアライメントフレームワークを提案する。
我々は、LRLの有害な表現をHRLの堅牢な安全部分空間に最適にマッピングする閉形式解を導出する。
本手法は, LRLにおける攻撃成功率(ASR)を大幅に低減し, 一般的な推論能力への影響を無視する。
論文 参考訳（メタデータ） (2026-02-26T02:46:13Z) - Who Transfers Safety? Identifying and Targeting Cross-Lingual Shared Safety Neurons [49.772147495578736]
言語間共有安全ニューロン(SS-Neurons)は、言語間の安全行動を制御する。
本稿では,言語資源分布とモデルアーキテクチャに基づいて,SS-Neuronsをターゲットにしたニューロン指向のトレーニング戦略を提案する。
論文 参考訳（メタデータ） (2026-02-01T15:28:02Z) - Fine-Grained Safety Neurons with Training-Free Continual Projection to Reduce LLM Fine Tuning Risks [22.059668583508365]
本研究では,FGSN (Fen-Grained Safety Neurons) をトレーニング不要連続投射法で提案し,微調整安全性リスクの低減を図る。
FGSNは本質的に、安全層と神経細胞の間のマルチスケールの相互作用を統合し、スペーサーとより精密な安全ニューロンを局在させる。
論文 参考訳（メタデータ） (2025-08-08T03:20:25Z) - Automating Steering for Safe Multimodal Large Language Models [58.36932318051907]
基礎モデルの微調整を必要とせず,モジュール型かつ適応型推論時間介入技術であるAutoSteerを導入する。
AutoSteerは,(1)モデル内部層間の最も安全性に関連のある識別を自動的に行う新しい安全意識スコア(SAS),(2)中間表現から有害な出力の可能性を推定するために訓練された適応安全プローバ,(3)安全性のリスクが検出された場合に生成を選択的に介入する軽量な拒絶ヘッドの3つのコアコンポーネントを組み込んだ。
論文 参考訳（メタデータ） (2025-07-17T16:04:55Z) - Align is not Enough: Multimodal Universal Jailbreak Attack against Multimodal Large Language Models [83.80177564873094]
マルチモーダル・ユニバーサル・ジェイルブレイク・アタック・フレームワークを提案する。
LLaVA,Yi-VL,MiniGPT4,MiniGPT-v2,InstructBLIPなどのMLLMの望ましくないコンテキスト生成を評価する。
本研究は,MLLMにおける堅牢な安全対策の必要性を浮き彫りにするものである。
論文 参考訳（メタデータ） (2025-06-02T04:33:56Z) - MrGuard: A Multilingual Reasoning Guardrail for Universal LLM Safety [56.77103365251923]
大規模言語モデル(LLM)は、ジェイルブレイクのような敵の攻撃を受けやすい。
この脆弱性は、多言語セーフティアライメントされたデータが制限される多言語設定で悪化する。
素早い分類のための多言語ガードレールを提案する。
論文 参考訳（メタデータ） (2025-04-21T17:15:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。