論文の概要: NeuronFuzz: Safety Neuron Guided Fuzzing for LLM Safety Evaluation
- arxiv url: http://arxiv.org/abs/2608.26222v1
- Date: Wed, 26 Aug 2026 12:44:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-28 16:30:58.127292
- Title: NeuronFuzz: Safety Neuron Guided Fuzzing for LLM Safety Evaluation
- Title（参考訳）: NeuronFuzz: LLM安全性評価のための安全ニューロンガイドファズリング
- Abstract要約: 大規模言語モデル(LLM)がジェイルブレイク攻撃に対して堅牢であるかどうかを評価するためには、安全性評価が重要である。
本稿では、内部安全ニューロンを連続的な実行フィードバックとして活用するホワイトボックスファジリングフレームワークであるNeuronFuzzを提案する。
76-100%のジェイルブレイク発見率を達成し、ベースラインを最大48ポイント上回っている。
- 参考スコア（独自算出の注目度）: 8.994542764059767
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Safety evaluation is critical for assessing whether aligned Large Language Models (LLMs) remain robust against jailbreak attacks. Existing automated testing methods, however, largely rely on response-level feedback: each candidate prompt typically requires generating a target-model response to evaluate its attack effectiveness. This process is expensive and, more importantly, provides only sparse guidance on strongly aligned models, where most candidates are rejected with the same failure outcome. This paper presents NeuronFuzz, a white-box fuzzing framework that exploits internal safety neurons as continuous execution feedback for LLM safety evaluation. A SafetyOracle converts safety-neuron activations into a continuous safety alarm score that serves as feedback for fuzzing and can be obtained during prefill, eliminating response generation from the fuzzing loop. To construct the SafetyOracle, NeuronFuzz uses template-invariant harmful and benign inputs and stability-aware selection to identify a compact set of safety neurons whose activations capture harmful-intent recognition. Moreover, since the safety alarm score is differentiable, NeuronFuzz uses its gradients to identify safety-sensitive template positions and a masked language model to generate fluent, context-compatible mutations while preserving original harmful payload and avoiding additional optimization variables. We evaluate NeuronFuzz across 21 text and multimodal models. Across five white-box source models, it achieves a 76-100% jailbreak discovery rate, outperforming baselines by up to 48 percentage points. Its optimized templates further transfer zero-shot to open-weight and six proprietary target models, achieving average ASR and top-5 ensemble ASR (EASR) of 69.6%/92.6% and 44.1%/60.0%, respectively.
- Abstract（参考訳）: 大規模言語モデル(LLM)がジェイルブレイク攻撃に対して堅牢であるかどうかを評価するためには、安全性評価が重要である。
しかし、既存の自動テスト手法は、主に応答レベルのフィードバックに依存しており、各候補プロンプトは攻撃の有効性を評価するためにターゲットモデル応答を生成する必要がある。
このプロセスは高価で、さらに重要なのは、ほとんどの候補が同じ失敗結果で拒否されるような、強い整合性のあるモデルに関するスパースガイダンスのみを提供することです。
本稿では,LLM安全性評価のための連続的な実行フィードバックとして内部安全ニューロンを利用する,ホワイトボックスファジリングフレームワークであるNeuronFuzzを提案する。
SafetyOracleは、安全ニューロンのアクティベーションをファジングのフィードバックとして機能し、プレフィル時に得る連続安全警報スコアに変換し、ファジングループからの応答生成を除去する。
SafetyOracleを構築するためにNeuronFuzzは、テンプレート不変の有害かつ良質な入力と安定性に配慮した選択を使用して、アクティベーションが有害なインテリジェント認識をキャプチャするコンパクトな安全ニューロン群を識別する。
さらに、安全アラームスコアが微分可能であるため、NeuronFuzzはその勾配を利用して、安全に敏感なテンプレート位置とマスク付き言語モデルを特定し、元の有害ペイロードを保存し、追加の最適化変数を避けるとともに、流動的でコンテキスト互換の変異を生成する。
我々は21のテキストおよびマルチモーダルモデル間でNeuronFuzzを評価した。
5つのホワイトボックスソースモデル全体で、76-100%のジェイルブレイク発見率を達成し、ベースラインを最大48ポイント上回っている。
最適化されたテンプレートは、ゼロショットをオープンウェイトと6つのプロプライエタリなターゲットモデルに転送し、それぞれ69.6%/92.6%、44.1%/60.0%の平均的なASRとトップ5アンサンブルASR(EASR)を達成した。
関連論文リスト
- From Detection to Refusal: Safer LLMs via Circuit-Guided Weight Scaling [23.223636694641502]
大規模言語モデル(LLM)は、敵対的プロンプトの下で安全でないコンテンツを生成するのに脆弱である。
機械的解釈可能性の観点から安全性を研究し、多段*安全回路を特徴付ける*
我々は、上流のハーモフル検出ヘッドの抑制が下流の拒絶動作を妨害し、安全ニューロンがこの相互作用を媒介することを示した。
論文 参考訳（メタデータ） (2026-08-30T08:01:42Z) - Tripwire: Triggering Aligned Refusal via Statistically Certified Safety Neurons [8.627671856044527]
我々は、ニューロンごとの仮説テストを通じて、安全性特異的ニューロンを識別する、トレーニング不要の防御法を提示する。
実験の結果,MT-Benchでは実用性低下率は0.5%から5.3%に留まり,平均攻撃成功率は少なくとも2.0%に低下した。
論文 参考訳（メタデータ） (2026-08-14T15:33:11Z) - No Single Neuron of Failure: Distributed Safety Alignment Against White-Box Attacks [61.07406641465909]
複数の計算ニューロンにまたがる安全性を符号化した分散安全アライメントを提案する。
DSAは、汎用言語とマルチモーダルユーティリティを保ちながら、ホワイトボックスニューロンレベルの安全攻撃に対して大幅に改善されていることを示す。
論文 参考訳（メタデータ） (2026-08-02T17:49:07Z) - SafeNeuron: Neuron-Level Safety Alignment for Large Language Models [71.50117566279185]
ネットワーク全体の安全表現を再分配することによって堅牢性を向上させる,ニューロンレベルの安全アライメントフレームワークであるSafeNeuronを提案する。
実験では、SafeNeuronは、ニューロンのプルーニング攻撃に対する堅牢性を大幅に改善し、レッドチームジェネレータとして再利用されるオープンソースモデルのリスクを低減し、一般的な機能を維持する。
論文 参考訳（メタデータ） (2026-02-12T16:40:05Z) - ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack [52.17935054046577]
本稿では、間接的インジェクション攻撃に対する安全性アライメントを改善するためのモデルレベルのソリューションであるReasAlignを提案する。
ReasAlignには、ユーザクエリの分析、競合する命令の検出、ユーザの意図したタスクの継続性を維持するための構造化された推論ステップが組み込まれている。
論文 参考訳（メタデータ） (2026-01-15T08:23:38Z) - DiffuGuard: How Intrinsic Safety is Lost and Found in Diffusion Large Language Models [50.21378052667732]
我々は、ステップ内およびステップ間ダイナミクスという2つの異なる次元にわたるジェイルブレイク攻撃に対して、dLLM脆弱性の詳細な分析を行う。
デュアルステージアプローチによる脆弱性に対処する,トレーニング不要な防御フレームワークであるDiffuGuardを提案する。
論文 参考訳（メタデータ） (2025-09-29T05:17:10Z) - NeuroStrike: Neuron-Level Attacks on Aligned LLMs [22.958975706403105]
安全性の整合性は、大規模言語モデルの倫理的展開に不可欠である。
現在のアライメント技術は試行錯誤に依存しており、モデル全体の一般化性が欠如しており、スケーラビリティと信頼性に制約されている。
本稿では,新規で汎用的な攻撃フレームワークであるNeuroStrikeについて述べる。
論文 参考訳（メタデータ） (2025-09-15T12:38:39Z) - NLSR: Neuron-Level Safety Realignment of Large Language Models Against Harmful Fine-Tuning [37.024666077902225]
ユーザによってアップロードされた悪意のあるデータのごく一部は、微調整プロセスを微妙に操作できるため、アライメントが壊れたモデルになる。
既存の微調整攻撃に対抗する方法は、典型的にはかなりの計算資源を必要とする。
textbfNeuron-textbfLevel textbfSafety textbfRealignmentを提案する。
論文 参考訳（メタデータ） (2024-12-17T02:59:04Z) - BEEAR: Embedding-based Adversarial Removal of Safety Backdoors in Instruction-tuned Language Models [57.5404308854535]
大型言語モデル(LLM)における安全バックドア攻撃は、正常な相互作用中の検出を回避しながら、安全でない振る舞いをステルス的に引き起こすことができる。
モデル埋め込み空間において,バックドアトリガーが比較的均一なドリフトを引き起こすという知見を活かした緩和手法であるBEEARを提案する。
両レベル最適化手法は、不要な振る舞いを誘発する普遍的な埋め込み摂動を特定し、モデルパラメータを調整し、これらの摂動に対する安全な振舞いを強化する。
論文 参考訳（メタデータ） (2024-06-24T19:29:47Z) - Towards Understanding Safety Alignment: A Mechanistic Perspective from Safety Neurons [57.07507194465299]
大規模言語モデル(LLM)は様々な能力に優れるが、有害なコンテンツや誤報を発生させるなどの安全性リスクが生じる。
安全行動の責任を負うLLM内の安全ニューロンの同定と解析に焦点をあてる。
モデル安全性に対する因果的影響を評価するために,これらのニューロンの特定と動的アクティベーションパッチを対比した推論時アクティベーションを提案する。
論文 参考訳（メタデータ） (2024-06-20T09:35:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。