論文の概要: CLEAR: Continuous Latent Adapter Routing for Utility-Preserving LLM Safety Alignment
- arxiv url: http://arxiv.org/abs/2608.21278v1
- Date: Fri, 21 Aug 2026 16:36:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-24 14:49:32.639426
- Title: CLEAR: Continuous Latent Adapter Routing for Utility-Preserving LLM Safety Alignment
- Title（参考訳）: CLEAR:LLM安全アライメントのための連続遅延アダプタルーティング
- Abstract要約: CLEARは、軽量な隠れ状態ゲートを使用して安全低ランクアダプタの活性化強度を制御する条件付き安全適応フレームワークである。
CLEARは、凍ったバックボーンの不要な変更を回避し、良質なプロンプトのパフォーマンスを低下させることを目標としている。
- 参考スコア（独自算出の注目度）: 35.47641350287502
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Improving the safety of large language models (LLMs) often comes at the expense of utility, as globally applied safety tuning may affect model responses to both harmful and benign inputs. We propose \textbf{C}ontinuous \textbf{L}at\textbf{E}nt \textbf{A}dapter \textbf{R}outing (CLEAR), a conditional safety adaptation framework that uses a lightweight hidden-state gate to continuously control the activation strength of a safety low-rank adapter. CLEAR aims to reduce harmful completions while avoiding unnecessary changes to the frozen backbone that could degrade performance on benign prompts. Experiments on widely used safety and utility benchmarks show that CLEAR improves robustness on HarmBench while reducing the utility degradation observed with globally applied safety tuning such as SFT or standard low-rank adaptation (LoRA). On Llama-3-8B-Instruct, CLEAR reduces HarmBench ASR from 32.3\% to 0.5\%, while retaining most of the base model's utility and achieving up to 7.1 percentage points higher GSM8K accuracy than globally applied SFT or LoRA. These results suggest that CLEAR is a promising mechanism for improving the safety--utility trade-off in LLM alignment.
- Abstract（参考訳）: 大規模言語モデル(LLM)の安全性の向上は、大域的に適用された安全性チューニングが、有害な入力と良質な入力の両方に対するモデル応答に影響を与えるため、しばしばユーティリティーのコストがかかる。
本稿では、軽量な隠れ状態ゲートを用いて安全低ランクアダプタのアクティベーション強度を連続的に制御する条件付き安全適応フレームワークである \textbf{C}ontinuous \textbf{L}at\textbf{E}nt \textbf{A}dapter \textbf{R}outing (CLEAR) を提案する。
CLEARは、凍ったバックボーンの不要な変更を回避し、良質なプロンプトのパフォーマンスを低下させることを目標としている。
広く使われている安全性とユーティリティベンチマークの実験により、CLEARはHarmBenchの堅牢性を向上し、SFTや標準低ランク適応(LoRA)などのグローバルな安全チューニングで観測された実用上の劣化を低減した。
Llama-3-8B-インストラクトでは、CLEARはHarmBench ASRを32.3\%から0.5\%に削減し、ベースモデルのユーティリティの大部分を保持し、グローバルに適用されたSFTやLoRAよりも最大7.1パーセント高いGSM8K精度を実現した。
これらの結果から,CLEARはLCMアライメントにおける安全性・ユーティリティトレードオフを改善するための有望なメカニズムであることが示唆された。
関連論文リスト
- Configurable Reward Model for Balanced Safety Alignment [48.459540031156955]
既存の命令調整型大規模言語モデル(LLM)は、新しい安全設定への一般化に失敗することが多い。
本稿では,安全コンプライアンスと報酬モデリングを共同で最適化したCSRM(Safety Reward Model)を紹介する。
その結果、RMはきめ細かい安全設定や会話のニュアンスに敏感になり、これまで見つからなかった安全設定への一般化を大幅に改善した。
論文 参考訳（メタデータ） (2026-05-28T19:05:53Z) - On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment [54.30690671490447]
既存の安全アライメント信号は、主に応答レベルまたは政治外である。
FATEは、検証済みの失敗を専門家のデモンストレーションなしで修復管理に変換する。
FATEは攻撃成功率を33.5%、有害なコンプライアンスを82.6%削減し、外的軌道安全診断を6.5%改善する。
論文 参考訳（メタデータ） (2026-05-12T09:56:28Z) - Preventing Safety Drift in Large Language Models via Coupled Weight and Activation Constraints [19.721346201616782]
Coupled Weight and Activation Constraints (CWAC) は、ウェイト更新に事前計算された安全部分空間を同時に適用する新しいアプローチである。
CWACは、微調整精度に最小限の影響を伴って、最低の有害スコアを一貫して達成する。
論文 参考訳（メタデータ） (2026-04-14T07:17:55Z) - Interpretable Safety Alignment via SAE-Constructed Low-Rank Subspace Adaptation [13.509767769174422]
大規模な言語モデルをトレーニングし、有害な要求を拒否するためには、安全性の調整が不可欠である。
Low-Rank Adaptation (LoRA) は、安全ベンチマークにおける完全な微調整と強化学習を一貫して過小評価している。
このギャップに対処するため、SAILS (Safety Alignment via Interpretable Low-rank Subspace)を提案する。
論文 参考訳（メタデータ） (2025-12-29T07:39:49Z) - UpSafe$^\circ$C: Upcycling for Controllable Safety in Large Language Models [67.91151588917396]
大規模言語モデル(LLM)は、幅広いタスクで顕著な進歩を遂げているが、有害なコンテンツ生成やジェイルブレイク攻撃といった安全リスクに弱いままである。
安全に配慮したリサイクルによるLCMの安全性向上のための統合フレームワークであるUpSafe$circ$Cを提案する。
この結果から, 静的アライメントから動的, モジュール, 推論対応制御への移行という, LLMの安全性の新たな方向性が明らかになった。
論文 参考訳（メタデータ） (2025-10-02T16:43:33Z) - S3LoRA: Safe Spectral Sharpness-Guided Pruning in Adaptation of Agent Planner [1.6114012813668932]
LoRAのようなパラメータ効率のよい微調整技術を用いて、LLM(Large Language Models)を適用することで、LLMベースのエージェントで強力な機能を実現している。
既存の安全に配慮した適応手法では、ベースと命令で調整されたモデルチェックポイントの両方にアクセスする必要がある。
本稿では,軽量でデータフリーでモデルに依存しないフレームワークであるS3LoRAを提案する。
論文 参考訳（メタデータ） (2025-08-20T21:08:29Z) - Rethinking Safety in LLM Fine-tuning: An Optimization Perspective [56.31306558218838]
我々は、本質的にトレードオフではなく、最適化の貧弱な選択が、しばしば安全上の問題を引き起こすことを示し、敵のプロンプトに対する有害な応答として測定する。
安全性能を保ったパラメータ空間における簡易指数移動平均(EMA)運動量法を提案する。
複数のデータセットにまたがるLlamaファミリーに関する実験は、安全性の問題が特別な介入なしに回避できることを実証している。
論文 参考訳（メタデータ） (2025-08-17T23:46:36Z) - Safe Pruning LoRA: Robust Distance-Guided Pruning for Safety Alignment in Adaptation of LLMs [4.580092836731863]
Low-Rank Adaptation (LoRA) を用いた細調整大型言語モデル(LLM)は、計算コストを削減しつつ適応性を向上する。
既存の安全アライメント手法は、複雑なパラメータシフトを捉えるのに苦労し、最適化された安全性とユーティリティのトレードオフにつながる。
安全性を弱めるLoRA層を選択的に除去する新しいプルーニングベースアプローチであるSafe Pruning LoRA(SPLoRA)を提案する。
論文 参考訳（メタデータ） (2025-06-21T14:59:54Z) - Towards Comprehensive Post Safety Alignment of Large Language Models via Safety Patching [74.62818936088065]
textscSafePatchingは包括的なPSAのための新しいフレームワークである。
textscSafePatchingはベースラインメソッドよりも包括的なPSAを実現する。
textscSafePatchingは、連続的なPSAシナリオにおいて、その優位性を示している。
論文 参考訳（メタデータ） (2024-05-22T16:51:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。