Fugu-MT 論文翻訳(概要): When Safety Fails Collectively: Robust Alignment Against Harmful Fine-Tuning via Joint Weight Perturbations

論文の概要: When Safety Fails Collectively: Robust Alignment Against Harmful Fine-Tuning via Joint Weight Perturbations

arxiv url: http://arxiv.org/abs/2610.25683v1
Date: Mon, 19 Oct 2026 02:32:48 GMT
ステータス: 情報取得中
システム内更新日: 2026-10-20 22:21:16.911867
Title: When Safety Fails Collectively: Robust Alignment Against Harmful Fine-Tuning via Joint Weight Perturbations
Title（参考訳）: 安全が集団的に損なわれた場合:関節重心動揺による有害な微調整に対するロバストアライメント
Abstract要約: 有害な微調整は、大きな言語モデルの安全性を損なう可能性がある。複合重量摂動は、以前の防御よりも有害な微調整に対する強い抵抗を提供する。
参考スコア（独自算出の注目度）: 15.636492668606428
License:
Abstract: Harmful fine-tuning can rapidly erode the safety alignment of large language models, creating substantial risks when aligned models are adapted to downstream tasks. Existing alignment-stage defenses use harmful examples and simulated harmful perturbations during safety alignment to prepare models for later harmful fine-tuning, yet the collective effects of harmful weight perturbations remain underexplored. We identify a collective failure pattern: disjoint parts of a harmful perturbation have limited effects in isolation, but their joint application increases the model's harmfulness beyond the sum of their individual effects. Guided by this observation, we propose Joint Weight Perturbations (JWP), an alignment-stage defense that masks different parts of a harmful perturbation estimated from the current model and trains the model to respond safely in the resulting states. This exposes the model to different combinations of harmful perturbations and reduces its sensitivity to their accumulation during subsequent harmful fine-tuning. Experiments across downstream tasks and model families show that JWP offers stronger resistance to harmful fine-tuning than prior defenses while largely preserving task performance.
Abstract（参考訳）: 有害な微調整は、大規模な言語モデルの安全性を急速に損なう可能性がある。既存のアライメントステージ防衛では、有害な例を用いて安全アライメント中に有害な摂動をシミュレートし、後続の有害な微調整のためのモデルを作成するが、有害な重量摂動の集団的影響は未解明のままである。有害な摂動の解離部分の分離効果は限定的であるが、それらの結合適用は、個々の効果の和を超えてモデルの有害性を増大させる。本研究は,現在のモデルから推定される有害な摂動の異なる部分をマスキングし,その結果の状態に安全に反応するようにモデルを訓練するアライメントステージディフェンスであるジョイントウェイト摂動(JWP)を提案する。これにより、有害な摂動の異なる組み合わせにモデルを公開し、その後の有害な微調整中の蓄積に対する感度を低下させる。下流のタスクとモデルファミリーでの実験では、JWPは以前の防御よりも有害な微調整に対する耐性が強く、タスク性能は大部分が保存されている。

関連論文リスト

RefusalGuard: Geometry-Preserving Fine-Tuning for Safety in LLMs [5.100622189286672]
下流タスクのための微調整型セーフティアライメント言語モデルは、拒否動作を著しく低下させる可能性がある。本稿では,モデル適応時の安全関連構造を保存する表現レベルの微調整フレームワークREFUSALGUARDを紹介する。
論文参考訳（メタデータ） (2026-05-03T14:48:18Z)
Preventing Safety Drift in Large Language Models via Coupled Weight and Activation Constraints [19.721346201616782]
Coupled Weight and Activation Constraints (CWAC) は、ウェイト更新に事前計算された安全部分空間を同時に適用する新しいアプローチである。 CWACは、微調整精度に最小限の影響を伴って、最低の有害スコアを一貫して達成する。
論文参考訳（メタデータ） (2026-04-14T07:17:55Z)
Antibody: Strengthening Defense Against Harmful Fine-Tuning for Large Language Models via Attenuating Harmful Gradient Influence [33.73351876121039]
ファインチューニング・アズ・ア・サービス(Funture-tuning-as-a-service)は、サービスプロバイダがユーザからの送信されたデータセットでモデルを微調整する場合、Large Language Modelsの安全性を脅かす。本研究では, 微調整中に発生する有害な試料の寄与を定期的に調整することにより, 有害な微調整攻撃の影響を効果的に軽減できることを示す。
論文参考訳（メタデータ） (2026-02-28T06:46:21Z)
AdvChain: Adversarial Chain-of-Thought Tuning for Robust Safety Alignment of Large Reasoning Models [62.70575022567081]
本稿では,逆CoTチューニングによる動的自己補正をモデルに教えるアライメントパラダイムであるAdvChainを提案する。私たちの仕事は、より堅牢で信頼性の高い推論モデルを構築するための新しい方向性を確立します。
論文参考訳（メタデータ） (2025-09-29T04:27:23Z)
Shape it Up! Restoring LLM Safety during Finetuning [65.75757313781104]
大型言語モデル(LLM)の微調整は、ユーザ固有のカスタマイズを可能にするが、重大な安全性リスクをもたらす。動的安全整形(DSS)は,不安全コンテンツを抑えつつ,応答の安全な部分からの学習を強化するための,きめ細かい安全信号を用いたフレームワークである。 STARスコアによって導かれるSTAR-DSSは、微調整リスクを堅牢に軽減し、多様な脅威、データセット、モデルファミリーにまたがる大幅な安全性の向上を提供する。
論文参考訳（メタデータ） (2025-05-22T18:05:16Z)
Self-Destructive Language Model [13.808746955144771]
有害な微調整攻撃は、大規模言語モデル(LLM)のセキュリティに大きな脅威をもたらす本報告では,LEMを自己破壊モデルに変換するアライメント・エンハンス・ディフェンスであるSEAMについて紹介する。
論文参考訳（メタデータ） (2025-05-18T01:08:18Z)
Panacea: Mitigating Harmful Fine-tuning for Large Language Models via Post-fine-tuning Perturbation [58.7395356511539]
有害な微調整攻撃は、微調整サービスに重大なセキュリティリスクをもたらす。主流防衛は、後の有害な微調整攻撃がより効果的でないように、モデルを予防接種することを目的としている。微調整後のモデルに適用可能な適応的摂動を最適化するパナセアを提案する。
論文参考訳（メタデータ） (2025-01-30T02:47:09Z)
Booster: Tackling Harmful Fine-tuning for Large Language Models via Attenuating Harmful Perturbation [7.945893812374361]
有害な微調整攻撃は、大規模言語モデルの微調整・アズ・ア・サービスに対して深刻な安全上の懸念をもたらす。本稿では,モデル重量に対する有害な摂動がアライメント破壊の原因となる可能性が示唆された。有害な摂動の負の影響を軽減するために,Boosterと呼ばれるアライメントステージソリューションを提案する。
論文参考訳（メタデータ） (2024-09-03T03:59:22Z)
Extreme Miscalibration and the Illusion of Adversarial Robustness [66.29268991629085]
敵の訓練は、しばしばモデルの堅牢性を高めるために使用される。我々は、この観測されたロバストネスの利得はロバストネスの錯覚(IOR)であることを示した。我々は,NLPコミュニティに対して,試験時間温度のスケーリングを堅牢性評価に組み込むよう促す。
論文参考訳（メタデータ） (2024-02-27T13:49:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。