論文の概要: NeuronGuard: Robust LLM Safety Alignment via Ablation-Aware Safety Signal Redistribution
- arxiv url: http://arxiv.org/abs/2608.23959v1
- Date: Tue, 25 Aug 2026 01:36:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-26 14:09:34.728134
- Title: NeuronGuard: Robust LLM Safety Alignment via Ablation-Aware Safety Signal Redistribution
- Title（参考訳）: NeuronGuard:Ablation-Aware Safety Signal ReistributionによるロバストLLM安全アライメント
- Abstract要約: 大規模言語モデル(LLM)における安全性の整合性は、拡大する攻撃に対して脆弱である。
ジェイルブレイクはプロンプトによって安全メカニズムをバイパスし、ニューロンレベルの攻撃は、デプロイ後直接、安全クリティカルなニューロンを発生させる。
我々は、より広い範囲のニューロンに安全信号を再分配することにより、両方の攻撃クラスに対してLDMを同時に強化する、微調整段階の防御であるNeuronGuardを紹介する。
- 参考スコア（独自算出の注目度）: 9.458292549037155
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Safety alignment in large language models (LLMs) remains brittle against a growing spectrum of attacks. Jailbreak attacks bypass safety mechanisms through crafted prompts, while neuron-level attacks directly prune safety-critical neurons post-deployment. Both exploit a common weakness: safety-relevant information concentrates in a sparse neuron subset. We present NeuronGuard, a fine-tuning-stage defense that simultaneously hardens LLMs against both attack classes by redistributing safety signals across a broader set of neurons. NeuronGuard dynamically identifies safety-critical neurons via periodically refreshed per-layer linear classifiers, forces refusal behavior under deliberate neuron ablation, and applies KL-divergence regularization for distributional consistency. A randomized gradient projection strategy preserves downstream task utility by resolving conflicts between the defense and task objectives. We provide a formal guarantee that NeuronGuard strictly reduces the attack success rate (ASR) upper bound, and experiments across three LLMs, six state-of-the-art attack strategies, and multimodal settings confirm near-zero ASR while maintaining task accuracy, including against white-box adaptive adversaries.
- Abstract（参考訳）: 大規模言語モデル(LLM)における安全性の整合性は、拡大する攻撃に対して脆弱である。
ジェイルブレイク攻撃はプロンプトによって安全機構をバイパスし、ニューロンレベル攻撃は、展開後直接安全クリティカルニューロンを誘発する。
どちらも共通の弱点を生かし、安全関連情報はスパースニューロンサブセットに集中する。
我々は、より広い範囲のニューロンに安全信号を再分配することにより、両方の攻撃クラスに対してLDMを同時に強化する、微調整段階の防御であるNeuronGuardを紹介する。
NeuronGuardは、周期的にリフレッシュされた層ごとの線形分類器を介して安全クリティカルニューロンを動的に同定し、意図的なニューロンのアブレーションの下での拒絶動作を強制し、分布整合性にKL分割正規化を適用する。
ランダム化された勾配予測戦略は、防御目標とタスク目標の衝突を解決することにより、下流タスクユーティリティを保存する。
我々は,NeuronGuardがアタック成功率(ASR)の上限を厳格に減らし,3つのLSM,6つの最先端攻撃戦略,マルチモーダル設定でタスク精度を維持しながら,ホワイトボックス適応敵を含むほぼゼロに近いASRを確認することを正式に保証する。
関連論文リスト
- Tripwire: Triggering Aligned Refusal via Statistically Certified Safety Neurons [8.627671856044527]
我々は、ニューロンごとの仮説テストを通じて、安全性特異的ニューロンを識別する、トレーニング不要の防御法を提示する。
実験の結果,MT-Benchでは実用性低下率は0.5%から5.3%に留まり,平均攻撃成功率は少なくとも2.0%に低下した。
論文 参考訳（メタデータ） (2026-08-14T15:33:11Z) - No Single Neuron of Failure: Distributed Safety Alignment Against White-Box Attacks [61.07406641465909]
複数の計算ニューロンにまたがる安全性を符号化した分散安全アライメントを提案する。
DSAは、汎用言語とマルチモーダルユーティリティを保ちながら、ホワイトボックスニューロンレベルの安全攻撃に対して大幅に改善されていることを示す。
論文 参考訳（メタデータ） (2026-08-02T17:49:07Z) - SafeNexus: Discovering and Steering Modality-Universal Safety Neurons in MLLMs [69.51621286001262]
我々は、専用のニューロンレベルの介入戦略を採用する、モーダル間安全アライメントフレームワークであるSafeNexusを紹介する。
我々は、モダリティ結合型安全ニューロン(BS-Neurons)を同定し、各モダリティ内の安全行動の調節におけるそれらの役割を検証した。
我々は,アクティベーションレベル安全増幅器と安全ニューロン校正器の2つの安全アライメント戦略を提案する。
論文 参考訳（メタデータ） (2026-07-31T02:45:56Z) - Precise Shield: Explaining and Aligning VLLM Safety via Neuron-Level Guidance [64.18179414483966]
実世界のデプロイメントでは、VLLM(Vision-Language Large Models)は、多言語およびマルチモーダル複合攻撃による重要な課題に直面している。
危険入力と良入力のアクティベーションパターンを対比することにより、まず安全ニューロンを識別する2段階のフレームワークであるPrecise Shieldを提案する。
この戦略は多言語および多モーダルの一般化を維持しながら安全性を大幅に向上させる。
論文 参考訳（メタデータ） (2026-04-10T02:42:52Z) - SafeNeuron: Neuron-Level Safety Alignment for Large Language Models [71.50117566279185]
ネットワーク全体の安全表現を再分配することによって堅牢性を向上させる,ニューロンレベルの安全アライメントフレームワークであるSafeNeuronを提案する。
実験では、SafeNeuronは、ニューロンのプルーニング攻撃に対する堅牢性を大幅に改善し、レッドチームジェネレータとして再利用されるオープンソースモデルのリスクを低減し、一般的な機能を維持する。
論文 参考訳（メタデータ） (2026-02-12T16:40:05Z) - Attributing and Exploiting Safety Vectors through Global Optimization in Large Language Models [50.91504059485288]
本報告では,全頭部のグローバルな最適化により,安全クリティカルな注意点を同時に識別するフレームワークを提案する。
我々は,アクティベーション・リマッチによって同定された安全ベクトルを利用する,新しい推論時ホワイトボックス・ジェイルブレイク法を開発した。
論文 参考訳（メタデータ） (2026-01-22T09:32:43Z) - Fine-Grained Safety Neurons with Training-Free Continual Projection to Reduce LLM Fine Tuning Risks [22.059668583508365]
本研究では,FGSN (Fen-Grained Safety Neurons) をトレーニング不要連続投射法で提案し,微調整安全性リスクの低減を図る。
FGSNは本質的に、安全層と神経細胞の間のマルチスケールの相互作用を統合し、スペーサーとより精密な安全ニューロンを局在させる。
論文 参考訳（メタデータ） (2025-08-08T03:20:25Z) - NeuRel-Attack: Neuron Relearning for Safety Disalignment in Large Language Models [14.630626774362606]
大型言語モデル(LLM)の安全性アライメントは、有害な内容を抑えるためにニューロンの活性化を調節する微調整機構によって達成される。
本稿では,安全性の制約を負うニューロンを同定し,修正することにより,不整合を誘導する新しいアプローチを提案する。
論文 参考訳（メタデータ） (2025-04-29T05:49:35Z) - Towards Understanding Safety Alignment: A Mechanistic Perspective from Safety Neurons [57.07507194465299]
大規模言語モデル(LLM)は様々な能力に優れるが、有害なコンテンツや誤報を発生させるなどの安全性リスクが生じる。
安全行動の責任を負うLLM内の安全ニューロンの同定と解析に焦点をあてる。
モデル安全性に対する因果的影響を評価するために,これらのニューロンの特定と動的アクティベーションパッチを対比した推論時アクティベーションを提案する。
論文 参考訳（メタデータ） (2024-06-20T09:35:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。