論文の概要: Harmful SFT Leaves a Continuous Trace in LLM Checkpoint Updates

• arxiv url: http://arxiv.org/abs/2610.07518v1
• Date: Mon, 05 Oct 2026 23:28:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.715376
• Title: Harmful SFT Leaves a Continuous Trace in LLM Checkpoint Updates
• Title（参考訳）: Harmful SFTがLCMチェックポイント更新に連続トレースを残す
• Abstract要約: 本研究は,チェックポイント更新において,教師付き微調整時に最適化された目標動作が直接可読性を示すかどうかを検討する。 純粋な有害適合性によって定義される基準幾何を用いて、チェックポイントレベルの座標s_Hがスピアマン相関 0.986-0.992 で有害対象組成を制御していることがわかった。 本稿では,凍った有害かつ害のない参照プロトタイプに対して,未知のチェックポイント更新をローカライズする重み限定監査手法TRACEを紹介する。
• 参考スコア（独自算出の注目度）: 6.847139788431465
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Safety auditing of post-trained large language models typically relies on model behavior, requiring model execution and depending on the coverage of available evaluations. This work asks a different question: Do the target behaviors optimized during supervised fine-tuning (SFT) leave readable evidence directly in checkpoint updates? We find that harmful-compliance SFT induces a continuous, objective-dependent ordering in checkpoint-update space. Using a reference geometry defined by pure harmful-compliance, safety-targeted, and benign-utility SFT, we find that a checkpoint-level coordinate s_H tracks controlled harmful-objective composition with Spearman correlations of 0.986-0.992 across four 7-8B backbones, with the same ordering persisting at larger model scales. Matched compliance-versus-refusal controls show that this checkpoint trace reflects the SFT objective rather than harmful-input exposure, while additional controls rule out simple explanations based on harmful-example count or generic training intensity. Building on this structure, we introduce TRACE, a weights-only auditing method that localizes an unknown checkpoint update relative to frozen harmful and non-harmful reference prototypes and converts this geometry into a continuous harmful-objective score. TRACE requires neither model queries nor access to the unknown SFT data, and can be evaluated directly from checkpoint updates. Across distribution shifts, unseen data, different SFT configurations, partial checkpoint access, and LoRA/full-parameter fine-tuning, the trace remains stable and is positively associated with independently measured attack success rates. TRACE remains informative even at low harmful-objective proportions, providing a complementary auditing signal when behavioral evaluation is unavailable or incomplete. Code is available at https://anonymous.4open.science/r/Code4TRACE-54D3.
• Abstract（参考訳）: 訓練後の大規模言語モデルの安全性監査は、モデルの実行を必要とし、利用可能な評価のカバレッジに依存する。 教師付き微調整(SFT)で最適化されたターゲットの動作は、チェックポイント更新に読みやすい証拠を直接残しますか? 有害コンプライアンスSFTは,チェックポイント更新空間において,連続的かつ客観的な順序付けを誘導する。 純粋な有害適合性, 安全目標, 良効性SFTで定義される基準幾何を用いて, チェックポイントレベルの座標s_Hトラックが, 4つの7-8Bバックボーンに対してスピアマン相関の0.986-0.992の有害対象組成を制御し, モデルスケールで同じ順序を保った。 一致したコンプライアンス逆拒絶制御は、このチェックポイントトレースが有害なインプット露光よりもSFTの目的を反映していることを示している。 この構造に基づいて、凍った有害かつ害のない参照プロトタイプに対して未知のチェックポイント更新をローカライズする重みのみ監査手法TRACEを導入し、この幾何学を連続的な有害な対象スコアに変換する。 TRACEはモデルクエリも未知のSFTデータへのアクセスも必要とせず、チェックポイント更新から直接評価することができる。 分布シフト、見えないデータ、異なるSFT構成、部分的なチェックポイントアクセス、LoRA/フルパラメータの微調整など、トレースは安定しており、独立に測定された攻撃成功率と正に関連している。 TRACEは、有害な対象比率が低い場合でも情報的であり、行動評価が不可能または不完全である場合に相補的な監査信号を提供する。 コードはhttps://anonymous.4open.science/r/Code4TRACE-54D3で公開されている。

関連論文リスト

• Encoded but Not Actionable: Auditing the Decode-Generate-Steer Gap in Frozen LLMs for Geometric Constraints [0.0]
  我々は、スケッチレベルの制約状態から局所的なペアワイズ関係を分離するための制御テストベッドとしてパラメトリックCAD制約を用いる。 本研究は, 線形着脱性, 強制選択生成, アクティベーションレベルの影響, 行動ステアビリティの4つの特性について検討した。 その結果, テスト環境では, 着脱性, 生成性, アクティベーションレベルの影響, ステアビリティが分散可能であることがわかった。
  論文  参考訳（メタデータ） (2026-08-18T14:40:28Z)
• Conformal Changepoint Localization and Root Cause Analysis with Corrupted Observations [55.76952683833966]
  本稿では,データ破損時の信頼性設定サイズを低減するために,重み付きCONCH(W-CONCH)と重み付きCROC(W-CROC)を提案する。 画像ベースおよび実世界の変化点と根本原因ベンチマークの実験は、不確実性ベースの重み付けが信頼性セットのサイズを大幅に減少させることを示している。
  論文  参考訳（メタデータ） (2026-07-29T05:16:59Z)
• CIAware-Bench: Benchmarking Control Intervention Awareness Across Frontier LLMs [100.38986535324284]
  我々は、フロンティアモデル全体でのtextbfcontrol textbfintervention (CI) の認識を測定するベンチマークである textbfCIAware-Bench を紹介する。 CIAware-Benchは、モデルが自身の軌跡を制御介入によって修正されたものと区別できるかどうかをテストする。
  論文  参考訳（メタデータ） (2026-06-09T16:24:16Z)
• What to Test Next: Interpretable Coverage Gap Discovery in Driving VLMs [52.50210189669399]
  視覚言語モデル(VLM)を駆動するには,操作設計領域(ODD)が定義する様々な条件のシーンを正確に理解する必要がある SliceScorerは、欠落したスライス推薦のための決定論的スコアリングルールである。 SliceNavは, 従来のスライス発見法よりも, 高リスクカバレッジギャップを効果的に表面化することを示す。
  論文  参考訳（メタデータ） (2026-06-01T03:18:01Z)
• Detecting Object Tracking Failure via Sequential Hypothesis Testing [80.7891291021747]
  ビデオにおけるリアルタイムのオンラインオブジェクト追跡は、コンピュータビジョンにおける中核的なタスクである。 本稿では,物体追跡を逐次的仮説テストとして解釈することを提案する。 本研究では,地中追跡情報と内部追跡情報の両方を活用することにより,教師なしと教師なしの両方の変種を提案する。
  論文  参考訳（メタデータ） (2026-02-13T14:57:15Z)
• A Granular Study of Safety Pretraining under Model Abliteration [64.24346997570275]
  本稿では,リフレクションに敏感な方向を除去する軽量プロジェクション技術であるモデルアブリーブレーションについて検討する。 我々は、バランスのとれた有害かつ無害なケースで100のプロンプトを発行し、複数の判断を用いて**Refusal*または***Non-Refusal*として応答を分類し、判断の忠実さを検証する。 本研究は,データ中心の安全コンポーネントが失語中も頑健であるチェックポイントレベルの特徴付けを行う。
  論文  参考訳（メタデータ） (2025-10-03T07:01:45Z)
• Watch the Weights: Unsupervised monitoring and control of fine-tuned LLMs [27.544312683007234]
  細調整された大言語モデル(LLM)の理解・監視・制御のための新しい手法を提案する。 微調整モデルとそのベースモデルの間の重み差のトップ特異点が,新たに獲得した挙動に対応することを示す。 シークレットトリガーが存在する場合の安全メカニズムをバイパスするバックドアモデルでは、我々の手法は1.2%以下の偽陽性率で攻撃の最大100%を停止する。
  論文  参考訳（メタデータ） (2025-07-31T21:04:12Z)
• Model Error Propagation via Learned Contraction Metrics for Safe Feedback Motion Planning of Unknown Systems [4.702729080310267]
  本稿では,局所的に安定化可能な動的システムの収縮に基づくフィードバック動作計画法を提案する。 動的データセットが与えられたとき、本手法はダイナミクスの深い制御親和近似を学習する。 4dカー,6dクワッドローター,22d変形可能なオブジェクト操作タスクにおいて,高次元不動システムの学習モデルを用いて,提案手法を安全に提示する。
  論文  参考訳（メタデータ） (2021-04-18T03:34:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。