論文の概要: LESSER: Post-Training Data Selection with Output-Layer Gradients

• arxiv url: http://arxiv.org/abs/2610.03702v1
• Date: Fri, 02 Oct 2026 17:55:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.55619
• Title: LESSER: Post-Training Data Selection with Output-Layer Gradients
• Title（参考訳）: LESSER: Output-Layer Gradientsによるトレーニング後のデータ選択
• Abstract要約: 我々は,選択法にドロップインラッパーを実装し,特徴抽出FLOPのコストをSFTで9.7Times$,RLベンチマークで3.0times$に削減する。 出力層と全勾配が個々のサンプルを異なるランク付けしても、整列した勾配のバッチを選択する。
• 参考スコア（独自算出の注目度）: 22.727412636139444
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The choice of post-training data for large language models substantially affects downstream performance. Gradient-based data selection is a popular approach that ranks training data by how well their gradients align with those of a small validation set. However, ranking with full-parameter gradients requires an expensive backward pass on every sample, making computation intractable for large candidate pools. This raises a natural question: can we approximate full-gradient features at a fraction of the cost? Conveniently, we find that output-layer gradients suffice for effective data selection, yet require only the cheaper forward pass. We implement this as LESSER, a drop-in wrapper for selection methods that reduces the feature-extraction FLOP cost by $9.7\times$ for SFT and $3.0\times$ for RL benchmarks, while tracking full-gradient performance on downstream tasks. Empirically, we find that even when output-layer and full gradients rank individual samples differently, they select batches with aligned gradients.
• Abstract（参考訳）: 大規模言語モデルのトレーニング後のデータ選択は、ダウンストリームのパフォーマンスに大きく影響する。 グラディエントベースのデータ選択は、トレーニングデータと小さな検証セットの勾配がどの程度うまく一致しているかをランク付けする一般的なアプローチである。 しかし、全パラメータ勾配のランク付けには、全てのサンプルに対して高価な後方通過が必要であり、大きな候補プールに対して計算が難しくなる。 これは自然な疑問を引き起こします – 完全な段階的な機能を,コストのごく一部で近似することができますか? 出力層勾配が有効なデータ選択に十分であるのに対して、より安価なフォワードパスしか必要としないことがわかった。 LESSER は機能抽出 FLOP のコストを SFT で 9.7\times$ と RL ベンチマークで $3.0\times$ に削減し、下流タスクでの完全なパフォーマンスをトラッキングする。 経験的に、出力層と全勾配が個々のサンプルを異なるランク付けしても、整列した勾配のバッチを選択する。

関連論文リスト

• LoRIF: Low-Rank Influence Functions for Scalable Training Data Attribution [62.830878652285406]
  トレーニングデータ属性は、モデルの予測に最も影響したトレーニング例を特定する。 LoRIFは、両方のボトルネックに対処するために、勾配の低ランク構造を利用する。 数百万のサンプルでデータセットでトレーニングされた0.1Bから70Bパラメータのモデルで、LoRIFは最大20$timesのストレージ削減とクエリ時の高速化を実現している。
  論文  参考訳（メタデータ） (2026-01-29T16:18:34Z)
• Linear-Time Demonstration Selection for In-Context Learning via Gradient Estimation [19.158395403281734]
  例えば$n$の例があれば、$n$から$k$を選択して、下流推論の条件付けとして最適に機能するか? この問題は、迅速なチューニングとチェーン・オブ・ソート推論に幅広い応用がある。 勾配推定法は,6つのデータセットに対して誤差が1%未満の完全推論の近似を導出することを示す。
  論文  参考訳（メタデータ） (2025-08-27T15:59:47Z)
• Efficient Data Selection at Scale via Influence Distillation [53.03573620682107]
  本稿では,データ選択のための数学的に修飾されたフレームワークであるインフルエンス蒸留を紹介する。 対象分布に対する各試料の影響を蒸留することにより,トレーニングデータの選択に使用されるモデル固有の重みを割り当てる。 実験の結果、蒸留の影響は最先端のパフォーマンスに匹敵し、最大3.5タイムの高速選択を実現していることがわかった。
  論文  参考訳（メタデータ） (2025-05-25T09:08:00Z)
• GraSS: Scalable Data Attribution with Gradient Sparsification and Sparse Projection [11.516230371831774]
  インフルエンス関数のような勾配に基づくデータ帰属法は、反復的なモデル再訓練を必要とせず、個々のトレーニングサンプルの影響を理解するために重要である。 線形層に対する新しい勾配圧縮アルゴリズムであるGraSSと、その変種であるFactGraSSは、サブ線形空間と時間複雑性を達成するために、サンプル単位の勾配の本質的な空間性を利用する。 特に、FactGraSSは、これまでの最先端ベースラインと比較して、数十億規模のモデルで最大165%のスループットを実現している。
  論文  参考訳（メタデータ） (2025-05-25T04:58:57Z)
• Your Vision-Language Model Itself Is a Strong Filter: Towards High-Quality Instruction Tuning with Data Selection [59.11430077029321]
  視覚言語モデル(VLM)のための新しいデータセット選択手法であるSelf-Filterを導入する。 第1段階では、VLMと共同で学習する訓練指導の難しさを評価するためのスコアリングネットワークを考案する。 第2段階では、トレーニングされたスコアネットを使用して、各命令の難易度を測定し、最も難しいサンプルを選択し、類似したサンプルをペナルティ化し、多様性を促進する。
  論文  参考訳（メタデータ） (2024-02-19T20:08:48Z)
• A Negative Result on Gradient Matching for Selective Backprop [8.463693396893731]
  ディープニューラルネットワークのトレーニングは、膨大な計算負荷になる。 トレーニングプロセスをスピードアップする1つのアプローチはSelective Backpropである。 我々は、ミニバッチ全体の平均勾配に最もよく一致する(重み付けされた)サブセットを選択することで、このアプローチを構築します。 損失ベースと勾配マッチング戦略の両方が、ランダムなベースラインを一貫して上回りません。
  論文  参考訳（メタデータ） (2023-12-08T13:03:10Z)
• Towards Free Data Selection with General-Purpose Models [71.92151210413374]
  望ましいデータ選択アルゴリズムは、限られたアノテーション予算の有用性を最大化するために、最も情報性の高いサンプルを効率的に選択することができる。 アクティブな学習手法で表現された現在のアプローチは、通常、時間を要するモデルのトレーニングとバッチデータ選択を繰り返し繰り返す、面倒なパイプラインに従う。 FreeSelは重いバッチ選択プロセスをバイパスし、効率を大幅に改善し、既存のアクティブラーニングメソッドよりも530倍高速である。
  論文  参考訳（メタデータ） (2023-09-29T15:50:14Z)
• Carath\'eodory Sampling for Stochastic Gradient Descent [79.55586575988292]
  本稿では,Tchakaloff と Carath'eodory の古典的な結果から着想を得た手法を提案する。 我々は、測定値の低減を行う降下ステップを適応的に選択する。 これをBlock Coordinate Descentと組み合わせることで、測定の削減を極めて安価に行えるようにします。
  論文  参考訳（メタデータ） (2020-06-02T17:52:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。