論文の概要: Active Adaptation, Not Static Defense: Temporal Dynamics of Preventative Steering in Adversarial Fine-Tuning

• arxiv url: http://arxiv.org/abs/2609.10142v1
• Date: Wed, 09 Sep 2026 13:19:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:09.034019
• Title: Active Adaptation, Not Static Defense: Temporal Dynamics of Preventative Steering in Adversarial Fine-Tuning
• Title（参考訳）: アクティブ・アダプテーション(アクティブ・アダプテーション) : 静的防御ではなく, 対側ファインチューニングにおける予防ステアリングの時間的ダイナミクス
• Abstract要約: 予防的ステアリングは静的防御よりも能動的適応に依存していることを示す。 そこで本研究では, 静強度アライメントが崩壊し始めると, 適度な注入強度から始まるプログレッシブ・インテンシティ・スケジューリング(PIS)を提案する。
• 参考スコア（独自算出の注目度）: 30.12004165764115
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Large language models remain fragile against malicious fine-tuning, motivating training-time defenses against harmful persona drift. Preventative Steering injects undesirable-trait persona vectors during fine-tuning and removes them at evaluation time, yet the mechanism behind its lasting protection remains unclear. Analyzing its temporal optimization dynamics, we find that the defense emerges from an early compensatory adaptation phase followed by a steady-state phase where the corrective signal decays; in parameter space, attention output projections emerge as the dominant residual-write route for defensive updates. Through Intervention Delta Preservation (IDP) and IDP Continuation experiments, we further show that preserving or reinjecting the weight offset fails to maintain protection, indicating that preventative steering relies on active adaptation rather than a static defense. Motivated by this finding, we propose Progressive Intensity Scheduling (PIS), which starts with a moderate injection strength and increases it after static-strength alignment begins to decay. Across the evaluated Qwen2.5 and Gemma-3 models, PIS improves safety robustness over static-strength steering while reducing harmful trait expression.
• Abstract（参考訳）: 大規模な言語モデルは、悪意のある微調整に対して脆弱なままであり、有害なペルソナ漂流に対する訓練時間の防御を動機付けている。 予防ステアリングは微調整中に好ましくないペルソナベクターを注入し、評価時に除去するが、その持続的保護のメカニズムは未だ不明である。 時間的最適化のダイナミクスを解析したところ、防御は早期補償適応相から出現し、その後に補正信号が減衰する定常相が続くことが判明した。 Invention Delta Preservation (IDP) と IDP Continuation (IDP) 実験により, 重量オフセットの保存および再注入が保護の維持に失敗し, 予防ステアリングが静的防御よりも能動的適応に依存していることを示す。 そこで本研究では, 静強度アライメントが崩壊し始めると, 適度な注入強度から始まるプログレッシブ・インテンシティ・スケジューリング(PIS)を提案する。 評価されたQwen2.5モデルとGemma-3モデル全体で、PSSは、有害な特性表現を低減しつつ、静的強度ステアリングよりも安全性を向上する。

関連論文リスト

• Does Fine-Tuning Undo Activation Steering? Behavioural Recovery Without Weight-Edit Reversal [0.8501439562218583]
  アクティベーションステアリングは、言語モデルの重みに直接組み込むことができる。 本研究は,5つの命令調整モデルにおけるリフレクション抑制とブレビティ誘導のための組込みステアリングの安定性について検討する。
  論文  参考訳（メタデータ） (2026-08-25T17:59:57Z)
• Distribution-Specific Curvature Control with Finite-Sample Guarantees for Open-Weight Safety [22.283880969803846]
  短い微調整で、オープンウェイトモデルの安全ガードを解除することができる。 経験的に、固定構造、有限予算の1次脅威モデルにおいて、HarmAlignは直接微調整と3つのデータまたは客観的アダプティブ攻撃をブロックする。
  論文  参考訳（メタデータ） (2026-07-24T22:00:31Z)
• Activation Steering Induces Emergent Misalignment: A More Comprehensive Evaluation [74.17379276939599]
  近年のQwen-3.5シリーズにおいても,アクティベーションステアリングが広範囲のアライメントを引き起こすことが示されている。 ステアリングサイズ, ステアリングサブスペースの低ランク構造, ステアリングベクター構築時のエポック数など, キーステアリング固有の因子を解析することにより, AS誘起EMの特性を特徴づける。
  論文  参考訳（メタデータ） (2026-06-07T15:34:59Z)
• Mitigating Error Amplification in Fast Adversarial Training [58.74042726356826]
  FAT(Fast Adversarial Training)は、ネットワークに摂動不変表現の学習を促すことによって、モデルロバスト性の向上に有効であることが証明されている。 FATは、しばしば破滅的なオーバーフィッティング(CO)に悩まされ、モデルがトレーニングアタックに過度に適合し、目に見えないものへの一般化に失敗する。 本稿では、摂動予算と監視信号の両方を動的に調整する分散対応動的ガイダンス(DDG)戦略を提案する。
  論文  参考訳（メタデータ） (2026-04-27T11:23:18Z)
• Preventing Safety Drift in Large Language Models via Coupled Weight and Activation Constraints [19.721346201616782]
  Coupled Weight and Activation Constraints (CWAC) は、ウェイト更新に事前計算された安全部分空間を同時に適用する新しいアプローチである。 CWACは、微調整精度に最小限の影響を伴って、最低の有害スコアを一貫して達成する。
  論文  参考訳（メタデータ） (2026-04-14T07:17:55Z)
• Delayed Backdoor Attacks: Exploring the Temporal Dimension as a New Attack Surface in Pre-Trained Models [42.9538411462588]
  textittextbfDelayed Backdoor Attacks (DBA)を導入した。 我々は、UnderlineDecay(DND)に基づくUnderlineDelayed Backdoor Attacksと呼ばれる概念実証プロトタイプを実装した。 DNDには、しきい値に達するまでアクティベーションを延期する、軽量でステートフルなロジックモジュールが組み込まれている。
  論文  参考訳（メタデータ） (2026-03-12T13:57:11Z)
• Exploring Semantic-constrained Adversarial Example with Instruction Uncertainty Reduction [51.50282796099369]
  本稿では,多次元命令の不確実性低減フレームワークを開発し,意味論的に制約された逆の例を生成する。 言語誘導サンプリングプロセスの予測により、設計したResAdv-DDIMサンプルにより最適化プロセスが安定化される。 セマンティック制約付き3次元逆数例の参照フリー生成を初めて実現した。
  論文  参考訳（メタデータ） (2025-10-27T04:02:52Z)
• Preliminary Investigation into Uncertainty-Aware Attack Stage Classification [81.28215542218724]
  この研究は、不確実性の下での攻撃段階推論の問題に対処する。 Evidential Deep Learning (EDL) に基づく分類手法を提案し、ディリクレ分布のパラメータを可能な段階に出力することで予測の不確実性をモデル化する。 シミュレーション環境における予備実験により,提案モデルが精度良く攻撃の段階を推定できることが実証された。
  論文  参考訳（メタデータ） (2025-08-01T06:58:00Z)
• Curriculum-Guided Antifragile Reinforcement Learning for Secure UAV Deconfliction under Observation-Space Attacks [6.367978467906828]
  強化学習政策は、観測空間における敵の攻撃に対して脆弱である。 本稿では,段階的対向摂動のカリキュラムに適応するために設計された反フレジブルなRLフレームワークを提案する。 その結果, 反フランジ政策は標準およびロバストなRLベースラインよりも一貫して優れていた。
  論文  参考訳（メタデータ） (2025-06-26T10:10:41Z)
• Ada3Diff: Defending against 3D Adversarial Point Clouds via Adaptive Diffusion [70.60038549155485]
  ディープ3Dポイントクラウドモデルは敵攻撃に敏感であり、自律運転のような安全クリティカルなアプリケーションに脅威をもたらす。 本稿では,適応強度推定器と拡散モデルを用いて,プリスタンデータ分布を再構築できる新しい歪み認識型防衛フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-11-29T14:32:43Z)
• Guided Adversarial Attack for Evaluating and Enhancing Adversarial Defenses [59.58128343334556]
  我々は、より適切な勾配方向を見つけ、攻撃効果を高め、より効率的な対人訓練をもたらす標準損失に緩和項を導入する。 本稿では, クリーン画像の関数マッピングを用いて, 敵生成を誘導するGAMA ( Guided Adversarial Margin Attack) を提案する。 また,一段防衛における最先端性能を実現するためのGAT ( Guided Adversarial Training) を提案する。
  論文  参考訳（メタデータ） (2020-11-30T16:39:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。