論文の概要: J-Anchor: Defending Against Prefill Attacks via J-Space Selective Refusal Restoration

• arxiv url: http://arxiv.org/abs/2611.01342v1
• Date: Sat, 31 Oct 2026 23:19:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-12 23:57:58.564062
• Title: J-Anchor: Defending Against Prefill Attacks via J-Space Selective Refusal Restoration
• Title（参考訳）: J-Anchor: J-Space Selective Refusal Restorationによるプレフィル攻撃に対する防御
• Abstract要約: プリフィルジェイルブレイクは、安全に整合した言語モデルに、通常のデコードで同じ要求を拒否する場合でも、安全でないアシスタントプレフィックスを継続させる可能性がある。 本研究では,この攻撃制御軌道に沿ってモデルの内部有害性と拒絶信号がどのように進化するかを考察する。 本稿では,J-Anchorについて紹介する。J-Anchorは,モデルの攻撃前の有害性と拒否信号を要求固有のアンカーとして利用する,訓練不要な推論時防御システムである。
• 参考スコア（独自算出の注目度）: 30.72922333560712
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Prefill jailbreaks can cause safety-aligned language models to continue an unsafe assistant prefix even when they would refuse the same request under normal decoding. We study how the model's internal harmfulness and refusal signals evolve along this attacker-controlled trajectory. Using the Jacobian lens, we track vocabulary-grounded harmfulness and refusal signals from the assistant header through prefilling and subsequent generation. We identify a characteristic phenomenon, which we call refusal-state erosion: both the refusal signal and the harmfulness signal weaken as the prefill progresses, but the refusal signal progressively declines to the benign baseline by the end of the prefill, while the harmfulness signal remains above its benign baseline and detectable during subsequent generation. Motivated by this observation, we introduce J-Anchor, a training-free inference-time defense that uses the model's pre-attack harmfulness and refusal signals as a request-specific anchor and selectively restores weakened refusal in J-space during prefilling and decoding. J-Anchor substantially reduces attack success under both fixed and deep prefill attacks across different model families. J-Anchor largely preserves benign behavior and reasoning ability, and ablations highlight the importance of targeted restoration in the J-space refusal subspace. Our results suggest that preserving latent refusal dynamics offers a promising route to robust defense against prefill jailbreaks.
• Abstract（参考訳）: プリフィルジェイルブレイクは、安全に整合した言語モデルに、通常のデコードで同じ要求を拒否する場合でも、安全でないアシスタントプレフィックスを継続させる可能性がある。 本研究では,この攻撃制御軌道に沿ってモデルの内部有害性と拒絶信号がどのように進化するかを考察する。 ジャコビアンレンズを用いて,プレフィルとその後の生成を通じて,副ヘッダーからの語彙的有害性や拒絶信号を追跡する。 拒絶信号と有害信号の両方が前処理の進行に伴って弱まるが, 拒絶信号は前処理の終了までに徐々に良性ベースラインに低下する一方, 有害信号は良性ベースラインの上方に留まり, その後の世代で検出可能である。 本研究は,J-Anchorについて述べる。J-Anchorは,モデルの攻撃前の有害性と拒絶信号を要求固有のアンカーとして利用し,プリフィルおよびデコード中のJ空間の弱い拒絶を選択的に復元する,訓練不要な推論時防御システムである。 J-Anchorは、異なるモデルファミリーにわたる固定およびディーププレフィル攻撃の攻撃成功を著しく低減する。 J-Anchorは、良性な振る舞いと推論能力を大きく保ち、J空間の拒絶部分空間において標的となる復元の重要性を強調している。 以上の結果から, 潜伏型リファレント・リファレント・ダイナミクスの保存は, 予備補充型ジェイルブレイクに対する堅牢な防御手段として有望なものであることが示唆された。

関連論文リスト

• SafeCA: Safe Cross-Attention Localization and Regulation for Text-to-Video Jailbreak Defense [77.70598852234149]
  テキスト・トゥ・ビデオ(T2V)生成モデルは、現実世界のデプロイにおいてジェイルブレイク攻撃に対して脆弱である。 安全なクロスアテンション・ローカライゼーションと正規化のための機能レベル防衛機構であるSafeCAを提案する。 実験の結果、SafeCAは主流のT2Vモデルでジェイルブレイクの成功率を約20%削減することが示された。
  論文  参考訳（メタデータ） (2026-08-11T14:01:24Z)
• Adversarial Prompts for Acceptance Collapse in Speculative Decoding [31.325779617189585]
  我々はADSDを導入する。ADSDは、ターゲットが受け入れがたいトークンに対して、ドラフト確率質量をプッシュすることで検証器の受け入れを崩壊させる最初のプロンプトサフィックスアタックである。 GSM8Kデータセットでは、タスク品質を維持しながら平均サンプル時間を62.3%増加させています。
  論文  参考訳（メタデータ） (2026-07-23T20:42:41Z)
• Tracing the Dynamics of Refusal: Exploiting Latent Refusal Trajectories for Robust Jailbreak Detection [11.888994103714259]
  Refusal Trajectoryは、敵攻撃が終端信号を抑制する場合でも、永続的なアップストリームシグネチャである。 我々は,これらの潜伏パターンを捕捉する推論時間検出器SALO(Sparse Activation Tracing Operator)を提案する。 SALOは強制復号攻撃に対する防御機能を効果的に回復し、終端状態に依存する手法が不十分な場合、検出率を0%から90%に改善する。
  論文  参考訳（メタデータ） (2026-05-02T14:56:37Z)
• Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
  安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。 敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。 最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
  論文  参考訳（メタデータ） (2026-04-14T06:48:33Z)
• One Word at a Time: Incremental Completion Decomposition Breaks LLM Safety [43.878014611820824]
  大きな言語モデル(LLM)は有害な要求を拒否するように訓練されているが、Jailbreak攻撃に弱いままである。 Incrmental Completion Decomposition (ICD) を導入する。 ICDは、全応答を誘発する前に、悪意のある要求に関連する一語連続のシーケンスを付与することを示す。
  論文  参考訳（メタデータ） (2026-04-01T04:06:01Z)
• From Shallow to Deep: Pinning Semantic Intent via Causal GRPO [40.89749712474356]
  インテントピンニングを実現するためのフレームワークである Two-Stage Causal-GRPO を提案する。 TSC-GRPOは, 汎用性を保ちつつ, ジェイルブレイク攻撃に対する防御において, ベースラインを著しく上回っていることを示す。
  論文  参考訳（メタデータ） (2026-03-03T07:02:20Z)
• ASGuard: Activation-Scaling Guard to Mitigate Targeted Jailbreaking Attack [22.48980625853356]
  大規模言語モデル(LLM)は、単純な言語的変化によって回避できる脆い拒絶行動を示す。 本研究では、この特定の脆弱性を外科的に軽減する、洞察に富んだ機械的インフォームドフレームワークであるアクティベーション・スケーリングガード(ASGuard)を紹介する。
  論文  参考訳（メタデータ） (2025-09-30T06:33:52Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• Defending Large Language Models against Jailbreak Attacks via Semantic Smoothing [107.97160023681184]
  適応型大規模言語モデル(LLM)は、ジェイルブレイク攻撃に対して脆弱である。 提案するSEMANTICSMOOTHは,与えられた入力プロンプトのセマンティック変換されたコピーの予測を集約するスムージングベースのディフェンスである。
  論文  参考訳（メタデータ） (2024-02-25T20:36:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。