論文の概要: From Checkpoint Variation to Selection Gains in Supervised Fine-Tuning
- arxiv url: http://arxiv.org/abs/2609.36569v1
- Date: Tue, 29 Sep 2026 02:50:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.134868
- Title: From Checkpoint Variation to Selection Gains in Supervised Fine-Tuning
- Title（参考訳）: 監督された微調整におけるチェックポイント変動から選択ゲインへ
- Abstract要約: チェックポイントの選択は教師付き微調整において日常的な決定である。
我々は、追加の検証データの改善、負のログ類似度(NLL)選択の獲得、最終チェックポイントの獲得を計測する。
- 参考スコア（独自算出の注目度）: 19.531321651869565
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Checkpoint selection is a routine decision in supervised fine-tuning (SFT): training produces multiple checkpoints, but only one is retained. Yet fixed-budget comparisons do not by themselves distinguish three empirical claims: whether more validation data improve checkpoint selection, whether a selection rule outperforms validation-loss selection, and whether it improves over simply retaining the final checkpoint. We therefore treat checkpoint selection as a finite-information decision problem. Holding completed training trajectories, candidate checkpoints, and independent test items fixed, we vary the validation budget and separately measure improvement from additional validation data, gain over negative log-likelihood (NLL) selection, and gain over the final checkpoint. Across 60 mathematical SFT trajectories and 19 configurations, increasing the validation budget from 32 to 305-313 examples raises independent-test accuracy by 0.32 percentage points (pp) for generated-accuracy selection and 0.29 pp for checkpoint agreement, with 95% configuration-bootstrap CIs of [0.10, 0.56] and [0.11, 0.50], respectively. At the full validation budget, the two generation-based rules outperform matched NLL selection by 0.71 and 0.85 pp, respectively, while their gains over the final checkpoint remain unresolved. A cross-domain replication on 12 newly trained Commonsense trajectories shows the same qualitative separation: increasing the validation budget from 32 to 1,024 questions improves generated-accuracy and checkpoint-agreement selection by 0.87 and 0.27 pp, while gains over the final checkpoint again remain unresolved. Together, these results show that benefiting from more validation data, outperforming NLL selection, and outperforming the final checkpoint are distinct empirical claims that require separate evidence.
- Abstract（参考訳）: チェックポイント選択は教師付き微調整(SFT):訓練は複数のチェックポイントを生成するが、1つのみが保持される。
しかし、固定予算比較は、より多くの検証データがチェックポイント選択を改善するかどうか、選択ルールがバリデーション・ロス選択を上回るかどうか、最終チェックポイントを単に保持するよりも改善するかどうかという3つの経験的クレームをそれ自体は区別しない。
したがって、チェックポイント選択を有限情報決定問題として扱う。
完了したトレーニングトラジェクトリ、候補チェックポイント、固定された独立したテスト項目を保持することで、検証予算を変更し、追加のバリデーションデータから改善を別々に測定し、負のログライクな選択(NLL)を獲得し、最終的なチェックポイントを獲得する。
60の数学的なSFT軌道と19の構成で、検証予算を32から305-313の例に増やすと、生成精度の選択で0.32ポイント(pp)、チェックポイント合意で0.29pp、それぞれ [0.10, 0.56] と [0.11, 0.50] の95%の構成ブートストラップCIで独立テストの精度が向上する。
完全な検証予算では、2つの世代ベースのルールがそれぞれ0.71と0.85ppのNLL選択に適合し、最終チェックポイントの利得は未解決のままである。
検証予算を 32 から 1,024 に増やすことで、生成精度とチェックポイント・アグリメントの選択が 0.87 と 0.27 pp の改善され、最終的なチェックポイントの獲得は未解決のままである。
これらの結果は、より多くの検証データ、NLLの選択よりも優れた結果、最終的なチェックポイントよりも優れた結果が、別個の証拠を必要とする経験的主張であることを示している。
関連論文リスト
- ThinkNet: Compact Architecture Selection and Validation-Gated Ensembles for Subject-Independent MI-EEG Decoding [3.383341806828598]
ThinkNetは、コンパクトなMI-EEGモデルとポリシーのための検証制御フレームワークである。
デプロイ不能な分析では6.1ポイントの家族選択ギャップとほぼゼロの検証-テスト相関がみられた。
論文 参考訳（メタデータ） (2026-09-27T22:11:26Z) - Refreshing Less, Selecting Better: Reusing Stale Gradient Features for Efficient Influence-Based Data Selection [10.53324936310131]
LESSのようなグラディエントベースのデータ選択方法は、その勾配と目標の検証勾配との整合によって各候補をスコアし、新しいチェックポイント毎にサンプルごとの勾配特徴を再計算することでコストを抑える。
そこで本研究では,トップランクの分数$p$候補の勾配特性を再計算するCached Diverse Influence Selection (CDIS)を提案する。
CDISは、ゼロを除いた信頼区間と4.3ポイントの完全再計算、トレーニングラン標準偏差、選択コストの3.4倍の確率でランダム選択よりも12ポイント高いスコアを得る。
論文 参考訳（メタデータ） (2026-09-26T19:16:59Z) - Validation-Frontier Representation Selection under Constrained Observation [0.0]
本稿では,制約観測下での表現選択について検討する。
本稿では, バランスの取れた精度と, 機能コスト, 過度なギャップ, 検証テストの不安定性に対するペナルティを組み合わせた検証最前線セレクタを提案する。
論文 参考訳（メタデータ） (2026-08-15T07:40:39Z) - Visual Credit Audit for Multimodal Spatial Reasoning [70.16915309526443]
Visual Credit Auditは、ベンチマーク画像がテキストのみとブランクコントロールよりもモデルの宣言された決定をもっとサポートするかどうか、モデルが関係性固有の視覚的エビデンスに反応するかどうかの2つの評価を分離する。
ラベルを適用すれば依存性認定正当性(D-CC)が得られる
4つのオープンMLLMと2つの空間ベンチマーク、12.73-26.25%の判定は正確であるが、証明されていない。
論文 参考訳（メタデータ） (2026-07-29T15:55:31Z) - Unveiling the Entropy Dynamics of Chain-of-Thought Reasoning [81.57028614960576]
1)信頼性の高い -- 信頼性の高い -- 信頼性の高い領域での回答は高度に正確で安定したものになり、2)高冗長性 -- モデルは正しい回答に達した後ずっと経ってから不必要なトークンを生成する。
これらの特性はより効率的で信頼性の高い推論戦略を解き放つ。
論文 参考訳（メタデータ） (2026-06-01T10:11:14Z) - FineVerify: Scaling Test-Time Compute with Fine-Grained Self-Verification for Agentic Search [88.16262636915975]
FineVerifyはエージェント検索のためのきめ細かい自己検証フレームワークである。
各質問をチェック可能なサブクエストに分解し、サンプル候補を検証し、最も高い集計スコアの候補を選択する。
FineVerifyは、標準のスケーリングベースラインを一貫して上回る。
論文 参考訳（メタデータ） (2026-05-30T10:21:20Z) - Don't stop me now: Rethinking Validation Criteria for Model Parameter Selection [3.219880761967806]
モデル選択に使用する検証基準がニューラル分類器の試験性能に与える影響について検討する。
検証精度に基づいた早期停止は最悪であり、テスト精度が低いチェックポイントを一貫して選択する。
損失ベースの検証基準は、同等で安定したテスト精度をもたらす。
論文 参考訳（メタデータ） (2026-02-25T16:56:14Z) - PRIME: A Process-Outcome Alignment Benchmark for Verifiable Reasoning in Mathematics and Engineering [71.15346406323827]
本稿では,プロセス・アウトカム・アライメント・アライメント・検証における検証結果を評価するベンチマークであるPRIMEを紹介する。
現在の検証器は、しばしば導出欠陥を検出するのに失敗する。
本稿では,PRIMEで選択した検証手法を利用したプロセス認識型RLVRトレーニングパラダイムを提案する。
論文 参考訳（メタデータ） (2026-02-12T04:45:01Z) - Uncertainty-Guided Checkpoint Selection for Reinforcement Finetuning of Large Language Models [27.97382399449914]
強化学習(RL)ファインタニングは大規模言語モデル(LLM)の整合に不可欠であるが、そのプロセスは不安定である。
実際に、最高のチェックポイントを選択することは難しい。トレーニング中の検証セットのチェックポイントを評価することは、計算コストが高く、優れた検証セットが必要である。
チェックポイント選択(UGCS)に対する不確実性誘導手法を導入し,これらの落とし穴を回避する。
論文 参考訳（メタデータ） (2025-11-13T01:46:58Z) - Ranking Neural Checkpoints [57.27352551718646]
本稿では、下流タスクへの変換学習のための事前訓練されたディープニューラルネットワーク(DNN)のランキングについて検討する。
ニューラルチェックポイントランキングベンチマーク(NeuCRaB)を構築し,直感的なランキング尺度について検討する。
以上の結果から,チェックポイントによって抽出された特徴の線形分離性は,伝達可能性の強い指標であることが示唆された。
論文 参考訳（メタデータ） (2020-11-23T04:05:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。