論文の概要: LP-SFT: Local-Preserving Supervised Fine-Tuning via Multimodal Entropy Structure
- arxiv url: http://arxiv.org/abs/2607.04733v1
- Date: Mon, 06 Jul 2026 07:14:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:30.067997
- Title: LP-SFT: Local-Preserving Supervised Fine-Tuning via Multimodal Entropy Structure
- Title（参考訳）: LP-SFT:マルチモーダルエントロピー構造を用いた局所保存微細調整
- Abstract要約: Supervised Fine-tuning (SFT) は、事前訓練された言語モデルを下流ドメインに適応するための標準的なアプローチである。
我々は,この固有エントロピー構造を明示的に保護するために,局所保存型スーパーバイザード・ファイン・チューニングの目的であるLP-SFTを提案する。
- 参考スコア（独自算出の注目度）: 16.743783987674842
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Supervised fine-tuning (SFT) is the standard approach for adapting pretrained language models to downstream domains, yet it often improves target-domain behavior at the cost of degrading pre-existing capabilities. Standard cross-entropy fine-tuning promotes only the observed label token and leaves unconstrained how probability mass is redistributed over other plausible alternatives, potentially distorting the rich local preference structure learned during pretraining. We first analyze next-token predictions using Shannon and Renyi entropies, revealing that pretrained models exhibit a regular multimodal entropy structure. These entropy peaks correspond to varying numbers of plausible alternatives, indicating that the base model intrinsically encodes rich distributional knowledge beyond the single supervised token. Motivated by this observation, we propose LP-SFT, a Local-Preserving Supervised Fine-Tuning objective designed to explicitly protect this inherent entropy structure. At each step, LP-SFT constructs an adaptive support of alternative tokens and applies a locally normalized preservation loss to maintain the base model's relative structure among them, while standard cross-entropy independently optimizes the supervised token. Across mixed-domain and single-domain fine-tuning experiments, LP-SFT improves overall performance over vanilla SFT and recent SFT-enhancement baselines, achieving the best balance between pass@1 accuracy and pass@k performance. These results suggest that local preservation helps mitigate capability degradation without collapsing sampling-accessible diversity.
- Abstract（参考訳）: Supervised Fine-tuning (SFT) は、訓練済みの言語モデルを下流のドメインに適応するための標準的なアプローチであるが、既存の機能を劣化させるコストで、しばしばターゲットドメインの振る舞いを改善する。
標準のクロスエントロピー微調整は、観測されたラベルトークンのみを促進し、確率質量が他の可算な代替品に対してどのように再分配されるかは制限されず、事前訓練中に学習されたリッチな局所的嗜好構造を歪ませる可能性がある。
まずシャノンエントロピーとレニイエントロピーを用いて次トーケン予測を解析し、事前学習されたモデルが正規なマルチモーダルエントロピー構造を示すことを示した。
これらのエントロピーピークは、様々な可算な代替物に対応しており、ベースモデルが本質的に1つの教師付きトークンを超えて豊富な分布知識を符号化していることを示している。
本研究の目的は,この固有エントロピー構造を明示的に保護する,局所保存型スーパーバイザード・ファイン・チューニングの目的であるLP-SFTを提案することである。
各ステップにおいて、LP-SFTは代替トークンの適応的なサポートを構築し、ベースモデルの相対構造を維持するために局所的に正規化された保存損失を適用し、標準のクロスエントロピーは教師付きトークンを独立に最適化する。
混合ドメインと単一ドメインの微調整実験全体で、LP-SFTはバニラSFTと最近のSFT拡張ベースラインの全体的なパフォーマンスを改善し、pass@1精度とpass@kパフォーマンスの最良のバランスを達成する。
以上の結果から, 局所保存は, サンプリングアクセス可能な多様性を損なうことなく, 機能劣化を軽減できることが示唆された。
関連論文リスト
- Beyond Static Interpretability: Anticipating Post-SFT Mechanisms from Pre-SFT Parameters for Better Tuning [28.24632224083753]
機械的ローカライゼーションは機械的解釈可能性と後学習最適化を橋渡しする。
本研究では,SFT後の解釈可能性状態を正確に推定するフォワード・ルックティング・フレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-25T12:28:55Z) - One Step Closer to Ground Truth: A Multi-Scale Residual-Aware Representation Learning Pipeline for Predicting Time Series Data [6.704099492625706]
本稿では,予測と残差学習を表現学習の異なる段階に明確に分離する2段階のモデル非依存フレームワークを提案する。
このパイプラインを仮説空間拡張として定式化することにより、我々のフレームワークは単一ステージアーキテクチャに固有の近似制限に対処する。
論文 参考訳（メタデータ） (2026-06-09T10:31:54Z) - PriFT: Prior-Support Guided Supervised Fine-Tuning [74.65198014829393]
Supervised Fine-tuning (SFT) は、下流タスク適応のための効率的なアプローチである。
SFTはトークン単位で固定されたデモトークンに適合する。
凍結した事前訓練参照からトークン重みを導出し、微調整の影響を受けない安定した再重み付け信号を得るPriFTを提案する。
論文 参考訳（メタデータ） (2026-06-08T12:14:06Z) - Time Series as Language: A Universal Tokenizer for General-Purpose Time Series Foundation Models [58.73838451441261]
連続時間列(TS)を離散トークンに変換するユニバーサルトークンライザUniTokと、これらのトークン上でNTPを介して事前訓練された基礎モデルUniTok-FMを紹介する。
UniTok-FMは、ゼロショットとプロンプトブースト予測をサポートし、トレーニング不要なインコンテキスト推論による少数ショットの生成と分類をサポートする汎用基盤モデルである。
論文 参考訳（メタデータ） (2026-05-31T16:04:11Z) - Self-Distilled Trajectory-Aware Boltzmann Modeling: Bridging the Training-Inference Discrepancy in Diffusion Language Models [65.89572755202245]
拡散言語モデル(DLM)は、より強力なグローバル認識と高い並列生成を提供する。
標準負のエビデンス下界(NELBO)に基づく教師付き微調整後のDLMは非効率である。
そこで本研究では,学習を推論の容易かつハードな構造に整合させる,自己蒸留軌道に基づくポストトレーニングフレームワークを提案する。
論文 参考訳（メタデータ） (2026-05-12T09:39:06Z) - Matching Features, Not Tokens: Energy-Based Fine-Tuning of Language Models [102.20309135516186]
クロスエントロピー(CE)トレーニングは、言語モデルの密集したスケーラブルな監視を提供する。
言語モデル微調整のための特徴マッチング手法を提案する。
この目的を効率的に最適化するために,エネルギーベースファインチューニングを提案する。
論文 参考訳（メタデータ） (2026-03-12T17:57:50Z) - Support Tokens, Stability Margins, and a New Foundation for Robust LLMs [1.429795922604976]
現代基礎モデルのバックボーンである因果自己注意変換器を再解釈する。
バリア制約が自己アテンションパラメータに現れる。
これにより、注意が不調になる境界が明らかになる。
論文 参考訳（メタデータ） (2026-02-25T08:44:44Z) - Gradients Must Earn Their Influence: Unifying SFT with Generalized Entropic Objectives [22.29000001610794]
Supervised Fine-Tuning (SFT) の標準的な負の対数構造は、均一なトークンレベルの重み付けを適用する。
この剛性は2重の障害モードを生成する: (i)低確率目標を過度に強調することは、ノイズの監督の勾配を増幅し、頑健な事前を妨害し、 (ii)一様重み付けは、モデルが既に自信を持っているときに弱いシャープニングを与える。
既存の方法は可塑性の解決に失敗し、不安定なジレンマがしばしば有害なジレンマとともに必要な学習信号を抑圧する。
パラメータ自由度を変調する動的エントロピーファインチューニング(DEFT)を導入する。
論文 参考訳（メタデータ） (2026-02-11T22:56:43Z) - Entropy-Adaptive Fine-Tuning: Resolving Confident Conflicts to Mitigate Forgetting [44.23640219583819]
強化ファインチューニング(Reinforced Fine-Tuning, SFT)はドメイン適応の標準パラダイムである。
本稿では,この問題を解決するためにエントロピー適応ファインチューニング(EAFT)を提案する。
EAFTは標準SFTの下流性能と一貫して一致し、汎用能力の劣化を著しく軽減する。
論文 参考訳（メタデータ） (2026-01-05T14:28:17Z) - Steering Vision-Language Pre-trained Models for Incremental Face Presentation Attack Detection [62.89126207012712]
顔提示攻撃検出(PAD)は、スプーフィング戦術やドメインと戦うために漸進的な学習を要求する。
過去のデータ保持を禁止し、リハーサルフリーラーニング(RF-IL)を必要とするプライバシー規制
論文 参考訳（メタデータ） (2025-12-22T04:30:11Z) - Sparse is Enough in Fine-tuning Pre-trained Large Language Models [98.46493578509039]
我々はSparse Increment Fine-Tuning (SIFT) という勾配に基づくスパース微調整アルゴリズムを提案する。
GLUE Benchmark や Instruction-tuning などのタスクで有効性を検証する。
論文 参考訳（メタデータ） (2023-12-19T06:06:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。