論文の概要: No Single Neuron of Failure: Distributed Safety Alignment Against White-Box Attacks

• arxiv url: http://arxiv.org/abs/2608.01414v1
• Date: Sun, 02 Aug 2026 17:49:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-04 15:07:25.196939
• Title: No Single Neuron of Failure: Distributed Safety Alignment Against White-Box Attacks
• Title（参考訳）: 単一障害ニューロン:ホワイトボックス攻撃に対する分散型安全アライメント
• Abstract要約: 複数の計算ニューロンにまたがる安全性を符号化した分散安全アライメントを提案する。 DSAは、汎用言語とマルチモーダルユーティリティを保ちながら、ホワイトボックスニューロンレベルの安全攻撃に対して大幅に改善されていることを示す。
• 参考スコア（独自算出の注目度）: 61.07406641465909
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: With the rapid release of open-weight large foundation models, safety threats are shifting from black-box jailbreaks to neuron-level white-box attacks that directly identify and manipulate safety-related neurons. Existing alignment methods often investigate the safety behavior on a small number of neurons, creating fragile single point of failure with limited redundancy. To address this issue, we propose distributed safety alignment (DSA), which redundantly encodes safety capabilities across multiple computational neurons, ensuring that the model maintains its safety baseline even when critical safety neurons are disrupted. Specifically, we localize the intervention to the inputs of the down-projection layers in language-side feed-forward networks and treat each feature coordinate as the activation of an individual neuron. DSA then combines neuron activations with loss gradients to compute a direction-aware first-order Taylor score that globally identifies the neurons that contribute most to the current refusal behavior of the model. Finally, targeted disruption via deterministic masking and stochastic dropout is coupled, forcing the model to abandon narrow safety neurons and redundantly encode safety behavior across multiple compensatory neurons. Extensive experiments show that DSA substantially improves robustness against white-box neuron-level safety attacks while preserving the model's general language and multimodal utility.
• Abstract（参考訳）: オープンウェイトな大型ファンデーションモデルの迅速なリリースにより、安全上の脅威はブラックボックスのジェイルブレイクから、安全に関連するニューロンを直接識別し、操作するニューロンレベルのホワイトボックス攻撃へとシフトしている。 既存のアライメント法は、少数のニューロンの安全性を調査し、冗長性に制限された脆弱な単一障害点を生成する。 この問題に対処するために,複数の計算ニューロンにまたがる安全性機能を冗長に符号化する分散安全アライメント(DSA)を提案する。 具体的には、言語側フィードフォワードネットワークにおけるダウンプロジェクション層の入力に対する介入を局所化し、各特徴座標を個々のニューロンの活性化として扱う。 次に、DSAはニューロンの活性化と損失勾配を組み合わせ、方向対応のテイラー1次スコアを計算し、現在の拒絶行動に最も寄与するニューロンを世界規模で同定する。 最後に、決定論的マスクと確率的ドロップアウトによる標的破壊が結合され、モデルが狭い安全ニューロンを放棄し、複数の補償ニューロンにまたがる安全性の振る舞いを冗長に符号化する。 大規模な実験により、DSAはモデルの汎用言語とマルチモーダルユーティリティを保ちながら、ホワイトボックスニューロンレベルの安全攻撃に対するロバスト性を大幅に改善することが示された。

関連論文リスト

• NeuronGuard: Robust LLM Safety Alignment via Ablation-Aware Safety Signal Redistribution [9.458292549037155]
  大規模言語モデル(LLM)における安全性の整合性は、拡大する攻撃に対して脆弱である。 ジェイルブレイクはプロンプトによって安全メカニズムをバイパスし、ニューロンレベルの攻撃は、デプロイ後直接、安全クリティカルなニューロンを発生させる。 我々は、より広い範囲のニューロンに安全信号を再分配することにより、両方の攻撃クラスに対してLDMを同時に強化する、微調整段階の防御であるNeuronGuardを紹介する。
  論文  参考訳（メタデータ） (2026-08-25T01:36:54Z)
• Tripwire: Triggering Aligned Refusal via Statistically Certified Safety Neurons [8.627671856044527]
  我々は、ニューロンごとの仮説テストを通じて、安全性特異的ニューロンを識別する、トレーニング不要の防御法を提示する。 実験の結果,MT-Benchでは実用性低下率は0.5%から5.3%に留まり,平均攻撃成功率は少なくとも2.0%に低下した。
  論文  参考訳（メタデータ） (2026-08-14T15:33:11Z)
• SafeNexus: Discovering and Steering Modality-Universal Safety Neurons in MLLMs [69.51621286001262]
  我々は、専用のニューロンレベルの介入戦略を採用する、モーダル間安全アライメントフレームワークであるSafeNexusを紹介する。 我々は、モダリティ結合型安全ニューロン(BS-Neurons)を同定し、各モダリティ内の安全行動の調節におけるそれらの役割を検証した。 我々は,アクティベーションレベル安全増幅器と安全ニューロン校正器の2つの安全アライメント戦略を提案する。
  論文  参考訳（メタデータ） (2026-07-31T02:45:56Z)
• Precise Shield: Explaining and Aligning VLLM Safety via Neuron-Level Guidance [64.18179414483966]
  実世界のデプロイメントでは、VLLM(Vision-Language Large Models)は、多言語およびマルチモーダル複合攻撃による重要な課題に直面している。 危険入力と良入力のアクティベーションパターンを対比することにより、まず安全ニューロンを識別する2段階のフレームワークであるPrecise Shieldを提案する。 この戦略は多言語および多モーダルの一般化を維持しながら安全性を大幅に向上させる。
  論文  参考訳（メタデータ） (2026-04-10T02:42:52Z)
• SafeNeuron: Neuron-Level Safety Alignment for Large Language Models [71.50117566279185]
  ネットワーク全体の安全表現を再分配することによって堅牢性を向上させる,ニューロンレベルの安全アライメントフレームワークであるSafeNeuronを提案する。 実験では、SafeNeuronは、ニューロンのプルーニング攻撃に対する堅牢性を大幅に改善し、レッドチームジェネレータとして再利用されるオープンソースモデルのリスクを低減し、一般的な機能を維持する。
  論文  参考訳（メタデータ） (2026-02-12T16:40:05Z)
• Fine-Grained Safety Neurons with Training-Free Continual Projection to Reduce LLM Fine Tuning Risks [22.059668583508365]
  本研究では,FGSN (Fen-Grained Safety Neurons) をトレーニング不要連続投射法で提案し,微調整安全性リスクの低減を図る。 FGSNは本質的に、安全層と神経細胞の間のマルチスケールの相互作用を統合し、スペーサーとより精密な安全ニューロンを局在させる。
  論文  参考訳（メタデータ） (2025-08-08T03:20:25Z)
• NeuRel-Attack: Neuron Relearning for Safety Disalignment in Large Language Models [14.630626774362606]
  大型言語モデル(LLM)の安全性アライメントは、有害な内容を抑えるためにニューロンの活性化を調節する微調整機構によって達成される。 本稿では,安全性の制約を負うニューロンを同定し,修正することにより,不整合を誘導する新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2025-04-29T05:49:35Z)
• Towards Understanding Safety Alignment: A Mechanistic Perspective from Safety Neurons [57.07507194465299]
  大規模言語モデル(LLM)は様々な能力に優れるが、有害なコンテンツや誤報を発生させるなどの安全性リスクが生じる。 安全行動の責任を負うLLM内の安全ニューロンの同定と解析に焦点をあてる。 モデル安全性に対する因果的影響を評価するために,これらのニューロンの特定と動的アクティベーションパッチを対比した推論時アクティベーションを提案する。
  論文  参考訳（メタデータ） (2024-06-20T09:35:22Z)
• Improving Adversarial Transferability via Neuron Attribution-Based Attacks [35.02147088207232]
  本稿では,より正確なニューロン重要度推定を行う機能レベルアタック(NAA)を提案する。 我々は、オーバーヘッドを大幅に減らすために、ニューロンの属性の近似スキームを導出する。 実験により、最先端のベンチマークに対する我々のアプローチの優位性が確認された。
  論文  参考訳（メタデータ） (2022-03-31T13:47:30Z)
• Few-shot Backdoor Defense Using Shapley Estimation [123.56934991060788]
  我々は、深層ニューラルネットワークに対するバックドア攻撃を軽減するために、Shapley Pruningと呼ばれる新しいアプローチを開発した。 ShapPruningは、感染した数少ないニューロン(全ニューロンの1%以下)を特定し、モデルの構造と正確性を保護する。 様々な攻撃やタスクに対して,本手法の有効性とロバスト性を示す実験を行った。
  論文  参考訳（メタデータ） (2021-12-30T02:27:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。