論文の概要: Safer Content or Firmer Refusals? A Hybrid Perturbation Defense for Alignment under Harmful Fine-tuning

• arxiv url: http://arxiv.org/abs/2609.36862v1
• Date: Tue, 29 Sep 2026 07:04:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.255509
• Title: Safer Content or Firmer Refusals? A Hybrid Perturbation Defense for Alignment under Harmful Fine-tuning
• Title（参考訳）: サファー・コンテント・ファーマー・リフレクション : 有害な微調整下でのアライメントに対するハイブリッド摂動防御
• Abstract要約: ファインチューニング・アズ・ア・サービスにより、ユーザーは安全に配慮した言語モデルを自身のデータに適用できるが、有害なファインチューニング攻撃面も生成する。 最近の2つのアライメントステージディフェンスは、モデルの異なるレベルでこの問題に対処している。 本稿では,埋め込み摂動と重みレベルの勾配減衰を組み合わせた単一アライメント法であるVacineBoosterを提案する。
• 参考スコア（独自算出の注目度）: 4.880658740430187
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Fine-tuning-as-a-service lets users adapt a safety-aligned language model to their own data, but it also creates a harmful fine-tuning attack surface: a small amount of harmful data mixed into an otherwise benign fine-tuning set can degrade the model's alignment. Two recent alignment-stage defenses address this problem at different levels of the model. Vaccine improves the robustness of hidden embeddings to the representation shifts induced by harmful fine-tuning, whereas Booster simulates harmful weight updates and attenuates their effect during alignment. We investigate whether these mechanisms are complementary and propose VaccineBooster, a single alignment procedure that combines embedding perturbation and weight-level gradient attenuation within each training step. On Llama-2-7B aligned with BeaverTails and then attacked through poisoned fine-tuning, VaccineBooster achieves the lowest OpenAI moderation score among the compared defenses, 0.315, while a Booster-Only variant retains the highest post-attack refusal rate, 50%. Together with ablations over the embedding-perturbation and gradient-attenuation strengths, these results indicate a trade-off: embedding perturbation primarily reduces flagged harmful content, whereas gradient attenuation primarily preserves explicit refusal behavior. Because our evaluation uses ten prompts and a single unseeded run per configuration, we report this trade-off as an observed pattern rather than a statistically resolved effect. These results provide practical guidance for prioritizing content safety or refusal retention when aligned models are exposed to untrusted fine-tuning.
• Abstract（参考訳）: ファインチューニング・アズ・ア・サービス(Funice-tuning-as-a-service)は、ユーザーが安全に整合した言語モデルを自身のデータに適応させるだけでなく、有害なファインチューニング攻撃面を生成する。 最近の2つのアライメントステージディフェンスは、モデルの異なるレベルでこの問題に対処している。 ワクチンは、有害な微調整によって引き起こされる表現シフトへの埋め込みの堅牢性を改善する一方、Boosterは有害な重量の更新をシミュレートし、アライメント中にその効果を減衰させる。 これらのメカニズムが相補的かどうかを考察し,各トレーニングステップにおける埋め込み摂動と重みレベルの勾配減衰を組み合わせた単一のアライメント手順であるVaccineBoosterを提案する。 Llama-2-7Bはビーバータイルと並んで毒の微調整で攻撃を受け、VaccineBoosterは比較した防御力のうち最も低いOpenAIモデレーションスコア0.315を達成し、Booster-Onlyの派生型は最も高い攻撃後拒絶率50%を維持した。 これらの結果は, 埋込み摂動と勾配減衰の強度に関する緩和と合わせて, 埋込み摂動は主として有意な有害な内容を減少させるのに対して, 勾配減衰は主として明確な拒絶行動を保存するというトレードオフを示す。 評価では,10回のプロンプトと1回のアンシード実行を用いており,このトレードオフを統計的に解決された効果ではなく,観測パターンとして報告する。 これらの結果は、信頼できない微調整にアライメントされたモデルが露出した場合に、コンテンツ安全性の優先順位付けや保持の拒否を行うための実践的なガイダンスを提供する。

関連論文リスト

• Adaptive Defense against Harmful Fine-Tuning for Large Language Models via Bayesian Data Scheduler [67.24175911858312]
  有害な微調整は、大規模な言語モデルのための微調整・アズ・ア・サービスに重大な安全性のリスクをもたらす。 Bayesian Data Scheduler (BDS) は、アタックシミュレーションを必要としない適応型チューニングステージ防衛戦略である。 BDSは、微調整データセットとアライメントデータセットに基づいて、各データポイントの安全属性の後方分布を学習する。
  論文  参考訳（メタデータ） (2025-10-31T04:49:37Z)
• Why LLM Safety Guardrails Collapse After Fine-tuning: A Similarity Analysis Between Alignment and Fine-tuning Datasets [64.96967819446553]
  本稿では,上流アライメントデータセットと下流微調整タスクの表現類似性のレンズによる安全ガードレールの劣化について検討する。 これらのデータセット間の高い類似性は、安全ガードレールを著しく弱め、モデルがジェイルブレイクの影響を受けやすくする。 これら2種類のデータセット間の類似性が低いと、より堅牢なモデルが得られ、有害度スコアが最大10.33%減少する。
  論文  参考訳（メタデータ） (2025-06-05T17:59:55Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• Panacea: Mitigating Harmful Fine-tuning for Large Language Models via Post-fine-tuning Perturbation [58.7395356511539]
  有害な微調整攻撃は、微調整サービスに重大なセキュリティリスクをもたらす。 主流防衛は、後の有害な微調整攻撃がより効果的でないように、モデルを予防接種することを目的としている。 微調整後のモデルに適用可能な適応的摂動を最適化するパナセアを提案する。
  論文  参考訳（メタデータ） (2025-01-30T02:47:09Z)
• CopyrightShield: Enhancing Diffusion Model Security against Copyright Infringement Attacks [61.06621533874629]
  拡散モデルは、攻撃者が戦略的に修正された非侵害画像をトレーニングセットに注入する著作権侵害攻撃に弱い。 まず、上記の攻撃に対して防御するための防御フレームワーク、PhiliptyShieldを提案する。 実験により,PhiliptyShieldは2つの攻撃シナリオで有毒なサンプル検出性能を著しく向上することが示された。
  論文  参考訳（メタデータ） (2024-12-02T14:19:44Z)
• Vaccine: Perturbation-aware Alignment for Large Language Models against Harmful Fine-tuning Attack [7.653580388741887]
  ユーザがアップロードした有害なデータのいくつかは、微調整を簡単に騙してアライメントが壊れたモデルを生成することができる。 本稿では,ユーザが微調整を行う際のセキュリティリスクを軽減するために,摂動を考慮したアライメント手法であるVaccineを提案する。
  論文  参考訳（メタデータ） (2024-02-02T02:56:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。