論文の概要: Every Batch Is Its Own Validation Set: Leave-One-Out Gradient Matching for Online Data Selection in LLM Fine-Tuning

• arxiv url: http://arxiv.org/abs/2610.00436v1
• Date: Wed, 30 Sep 2026 17:22:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:23.656852
• Title: Every Batch Is Its Own Validation Set: Leave-One-Out Gradient Matching for Online Data Selection in LLM Fine-Tuning
• Title（参考訳）: すべてのバッチが独自の検証セット: LLMファインチューニングにおけるオンラインデータ選択のための1対1のグラディエントマッチング
• Abstract要約: LOOMはLlama-3.1-8BとQwen2.5-7Bでフルバッチトレーニングを2.3と2.4ポイント改善した。 LOOMはすべてのアンサンブル勾配マーカを2.4ポイント、検証誘導GREATSとOPUSを1.6-2.0で上回る。
• 参考スコア（独自算出の注目度）: 21.343765027634316
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Online batch selection fine-tunes a language model on the most useful part of each candidate batch. Selectors that match the gradient of the candidate batch are attractive because they need no held-out data, yet they rarely beat training on the whole batch. We show why. In-sample gradient matching uses every example as part of its own target, so its objective credits each example with its own gradient noise. This is the covariance penalty that makes training error optimistic, now sitting on the diagonal of the gradient Gram matrix: it steers selection toward the noisiest examples and makes the full batch the best solution the objective can reach. The fix costs nothing. For each example, the other candidates form an independent sample of the data distribution, so removing the diagonal turns the matching objective into an unbiased estimate of the update's error with respect to the population gradient. The minimizer of this leave-one-out objective weights examples by their gradient signal-to-noise ratio (SNR), and whenever per-example SNR is heterogeneous enough, half of a batch yields a lower-error update than the whole batch; we give the exact condition. We build \method{} on this principle. It computes the Gram matrix in the metric of the Adam preconditioner during the ordinary backward pass, selects a weighted subset greedily with a $(1-e^{-γ})$ guarantee, and uses no held-out data. Across four fine-tuning tasks and seven backbones from 1.5B to 8B parameters, LOOM improves on full-batch training by 2.3 and 2.4 points on Llama-3.1-8B and Qwen2.5-7B, exceeds every in-sample gradient matcher by 2.4 points and the validation-guided GREATS and OPUS by 1.6--2.0, and selects injected label noise at under a fifth of its base rate.
• Abstract（参考訳）: オンラインバッチ選択は、各候補バッチの最も有用な部分に言語モデルを微調整する。 候補バッチの勾配にマッチするセレクタは、保持データを必要としないため魅力的だが、バッチ全体のトレーニングを破ることは滅多にない。 その理由を示します。 サンプル内勾配マッチングは、それぞれのサンプルを自身の目標の一部として使用するため、その目的はそれぞれのサンプルに独自の勾配雑音を与える。 これは、トレーニングエラーを楽観的にし、現在勾配のグラム行列の対角線上に座っている共分散ペナルティである。 修理には何の費用もかからない。 それぞれの例において、他の候補は、データ分布の独立したサンプルを形成するため、対角線を除去することで、一致した目的を、集団勾配に関する更新エラーのバイアスのない見積に変換する。 残余目標の最小化は、勾配信号対雑音比(SNR)による例を示し、サンプルごとのSNRが不均一である場合、バッチの半分はバッチ全体よりも低いエラー更新を出力し、正確な条件を与える。 この原理に基づいて \method{} を構築する。 通常の後方通過の間、アダム事前条件の計量におけるグラム行列を計算し、(1-e^{-γ})$の保証付き重み付き部分集合を選択し、保持データを使用しない。 Llama-3.1-8BとQwen2.5-7Bの4つの微調整タスクと1.5Bから8Bパラメータの7つのバックボーンで、LOOMはフルバッチトレーニングを2.3および2.4ポイント改善し、すべてのサンプル勾配マッチングを2.4ポイント、検証誘導GREATSとOPUSを1.6-2.0で上回り、ベースレートの5分の1以下でインジェクトラベルノイズを選択する。

関連論文リスト

• CTP-FL: Common-Trajectory Gradient Prediction for Federated Learning [0.42303492200814446]
  通信効率のよいフェデレーション最適化は、通常、サーバ更新間でいくつかの勾配評価に費やします。 共通軌道予測フェデレーション学習(textttCTP-FL)を提案する。 textttCTP-FLは、クライアントごとに$K$のミニバッチ勾配と、各通信方向のモデルサイズのベクトルを使い、全参加型FedAvg-Mのラウンドごとの計算と通信にマッチする。
  論文  参考訳（メタデータ） (2026-09-28T13:22:45Z)
• 1% of Tokens Can Be Enough: On Gradient Estimation in On-Policy Distillation [30.723155979280083]
  役に立つ教師指導は、次のトークンのサンプルから勾配が推定されたときにノイズを発生させる。 本稿では,信号対雑音分解に基づく情報効率比(IER)を提案する。 候補セット近似は、IERと既存の有用性スコアの組み合わせに基づいてトークンの選択を可能にする。
  論文  参考訳（メタデータ） (2026-09-21T11:28:24Z)
• MARBLE: Multi-Aspect Reward Balance for Diffusion RL [71.6241143519038]
  強化学習は、拡散モデルと人間の嗜好を整合させる主要なアプローチとなっている。 既存のプラクティスは、報酬ごとに1つのスペシャリストモデルをトレーニングすることで、複数の報酬を処理します。 我々は,各報酬に対する独立な優位推定器を維持する勾配空間最適化フレームワークMARBLEを提案する。
  論文  参考訳（メタデータ） (2026-05-07T16:20:42Z)
• Scaling Adversarial Training via Data Selection [0.0]
  本稿では,各ミニバッチにおける臨界サンプルのサブセットのみを摂動するemphSelective Adversa Trainingを提案する。 MNIST と CIFAR-10 の実験により,提案手法は PGD の完全対向訓練に匹敵する,あるいはそれ以上の堅牢性を達成できることが示された。
  論文  参考訳（メタデータ） (2025-12-26T15:50:33Z)
• Gradient-Aware Logit Adjustment Loss for Long-tailed Classifier [30.931850375858573]
  実世界の環境では、データは長い尾の分布に従い、ヘッドクラスはテールクラスよりもはるかに多くのトレーニングサンプルを含む。 本稿では、最適化プロセスのバランスをとるために、累積勾配に基づいてロジットを調整するグラディエント・アウェア・ロジット調整(GALA)の損失を提案する。 提案手法は,一般的なロングテール認識ベンチマークデータセットにおいて,48.5%,41.4%,73.3%のTop-1精度を実現する。
  論文  参考訳（メタデータ） (2024-03-14T02:21:01Z)
• A Negative Result on Gradient Matching for Selective Backprop [8.463693396893731]
  ディープニューラルネットワークのトレーニングは、膨大な計算負荷になる。 トレーニングプロセスをスピードアップする1つのアプローチはSelective Backpropである。 我々は、ミニバッチ全体の平均勾配に最もよく一致する(重み付けされた)サブセットを選択することで、このアプローチを構築します。 損失ベースと勾配マッチング戦略の両方が、ランダムなベースラインを一貫して上回りません。
  論文  参考訳（メタデータ） (2023-12-08T13:03:10Z)
• The Implicit Bias of Batch Normalization in Linear Models and Two-layer Linear Convolutional Neural Networks [117.93273337740442]
  勾配勾配勾配は、exp(-Omega(log2 t))$収束率でトレーニングデータ上の一様マージン分類器に収束することを示す。 また、バッチ正規化はパッチワイドの均一なマージンに対して暗黙の偏りを持つことを示す。
  論文  参考訳（メタデータ） (2023-06-20T16:58:00Z)
• Bias Mimicking: A Simple Sampling Approach for Bias Mitigation [57.17709477668213]
  本稿では,新しいクラス条件サンプリング手法であるBias Mimickingを紹介する。 Bias Mimickingは、4つのベンチマークで3%の精度でサンプリングの精度を向上する。
  論文  参考訳（メタデータ） (2022-09-30T17:33:00Z)
• Carath\'eodory Sampling for Stochastic Gradient Descent [79.55586575988292]
  本稿では,Tchakaloff と Carath'eodory の古典的な結果から着想を得た手法を提案する。 我々は、測定値の低減を行う降下ステップを適応的に選択する。 これをBlock Coordinate Descentと組み合わせることで、測定の削減を極めて安価に行えるようにします。
  論文  参考訳（メタデータ） (2020-06-02T17:52:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。