論文の概要: Safety Measurements for Fine-tuned LLMs Should be Grounded in Capability

• arxiv url: http://arxiv.org/abs/2606.03648v1
• Date: Tue, 02 Jun 2026 13:39:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-03 22:00:05.03644
• Title: Safety Measurements for Fine-tuned LLMs Should be Grounded in Capability
• Title（参考訳）: 微調整LDMの耐震性評価
• Authors: Krishnapriya Vishnubhotla, Hillary Dawkins, Isar Nejadgholi, Svetlana Kiritchenko,
• Abstract要約: モデル行動に及ぼす微調整の影響の多次元的評価を行う。 その結果,(1) 微調整モデルでは, 安全性向上に反応して不整合世代を生成可能であること,(2) 自動的安全判断は不整合出力には信頼できないこと,(3) 微調整の効果に関する結論は, 安全性評価と安全基準の選択によって変化しうる,という重要な課題が浮き彫りとなった。
• 参考スコア（独自算出の注目度）: 18.557410428487636
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Adapting foundation large language models to a user's task or preferred style through fine-tuning can result in compromising the model's safety. Previous works examined the effects of fine-tuning on model safety in limited and seemingly random experimental settings. We argue that anchoring fine-tuning to a specific capability goal is essential for avoiding arbitrary empirical choices, allowing us to draw meaningful conclusions about safety impacts, and to compare mitigation methods on a consistent basis. We conduct a multi-dimensional evaluation of the effects of fine-tuning on model behavior by focusing on capability as well as safety. Our results surface important issues that (1) fine-tuned models can produce incoherent generations in response to safety prompts, (2) automated safety judgments are unreliable for such incoherent outputs, and (3) the conclusions about the effects of fine-tuning can change depending on the choice of safety benchmark as well as the safety evaluator.
• Abstract（参考訳）: 基礎となる大きな言語モデルをユーザのタスクや好みのスタイルに微調整することで、モデルの安全性を損なう可能性がある。 従来の研究は、限定的かつランダムな実験環境でのモデル安全性に対する微調整の効果を検討した。 特定の能力目標に微調整を施すことは、任意の経験的選択を回避し、安全性への影響について有意義な結論を導き、一貫した方法で緩和方法を比較するのに不可欠である、と我々は主張する。 モデル行動に及ぼす微調整の影響の多次元的評価を行う。 その結果,(1) 微調整モデルでは, 安全性向上に反応して不整合世代を生成可能であること,(2) 自動的安全判断は不整合出力には信頼できないこと,(3) 微調整の効果に関する結論は, 安全性評価と安全基準の選択によって変化しうる,という重要な課題が浮き彫りとなった。

関連論文リスト

• Rethinking Safety in LLM Fine-tuning: An Optimization Perspective [56.31306558218838]
  我々は、本質的にトレードオフではなく、最適化の貧弱な選択が、しばしば安全上の問題を引き起こすことを示し、敵のプロンプトに対する有害な応答として測定する。 安全性能を保ったパラメータ空間における簡易指数移動平均(EMA)運動量法を提案する。 複数のデータセットにまたがるLlamaファミリーに関する実験は、安全性の問題が特別な介入なしに回避できることを実証している。
  論文  参考訳（メタデータ） (2025-08-17T23:46:36Z)
• Shape it Up! Restoring LLM Safety during Finetuning [65.75757313781104]
  大型言語モデル(LLM)の微調整は、ユーザ固有のカスタマイズを可能にするが、重大な安全性リスクをもたらす。 動的安全整形(DSS)は,不安全コンテンツを抑えつつ,応答の安全な部分からの学習を強化するための,きめ細かい安全信号を用いたフレームワークである。 STARスコアによって導かれるSTAR-DSSは、微調整リスクを堅牢に軽減し、多様な脅威、データセット、モデルファミリーにまたがる大幅な安全性の向上を提供する。
  論文  参考訳（メタデータ） (2025-05-22T18:05:16Z)
• LookAhead Tuning: Safer Language Models via Partial Answer Previews [62.529794567687354]
  ファインチューニングにより、大きな言語モデルは特定のドメインに適応できるが、しばしば以前に確立された安全アライメントを損なう。 LookAhead Tuningは、微調整時の安全性を維持する軽量で効果的なデータ駆動型アプローチである。
  論文  参考訳（メタデータ） (2025-03-24T18:11:42Z)
• What Makes and Breaks Safety Fine-tuning? A Mechanistic Study [64.9691741899956]
  安全性の微調整は、大規模な言語モデル(LLM)を、安全なデプロイメントのための人間の好みに合わせるのに役立つ。 安全でない入力の健全な側面をキャプチャする合成データ生成フレームワークを設計する。 これを用いて,3つのよく知られた安全微調整手法について検討する。
  論文  参考訳（メタデータ） (2024-07-14T16:12:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。