論文の概要: High-Value Training Data from Noisy, Diverse Sources

• arxiv url: http://arxiv.org/abs/2610.30421v1
• Date: Wed, 21 Oct 2026 20:32:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.129344
• Title: High-Value Training Data from Noisy, Diverse Sources
• Title（参考訳）: 雑音, 異種音源からの高価値学習データ
• Abstract要約: 最先端モデルのトレーニングには、大規模で異質なデータセットからの学習がますます必要になる。 データ重み付け-トレーニングの例に異なる重みを割り当てる--そのようなデータがトレーニングにどのように影響するかを一般的な方法で制御するが、スケールでの効果的な重み付けの学習は依然として難しい。 データウェイトを学習するためのスケーラブルなアプローチを開発する。小規模で高品質なターゲットデータセットを前提として、トレーニングプロセスを通じてメタグラディエントを使用して、トレーニングとサンプルのウェイトを効率的に最適化する。
• 参考スコア（独自算出の注目度）: 49.80443911713402
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Training state-of-the-art models increasingly requires learning from large, heterogeneous datasets whose examples vary in quality, domain relevance, and source of supervision. Dataweighting---assigning different weights to training examples---offers a general way to control how such data influences training, but learning effective weights at scale remains challenging. We develop a scalable approach to learning dataweights: given a small, high-quality target dataset, we use metagradients through the training process to efficiently optimize training-example weights directly for performance on the target domain. To scale beyond a fixed dataset and model, we learn parametric weighting rules that generalize to new and streaming examples and transfer from smaller models to substantially larger ones. We study reward modeling as a prototypical application, where preference data may be noisy, adversarial, synthetic, or mismatched with the target domain. Learned dataweights improve held-out performance, automatically adapt reward models to specialized domains, and allow mixtures of human and synthetic supervision to outperform either source alone.
• Abstract（参考訳）: 最先端モデルのトレーニングには、品質、ドメイン関連性、監督源などによって異なる、大規模で異質なデータセットからの学習がますます必要になる。 データ重み付け-トレーニングの例に異なる重みを割り当てる--そのようなデータがトレーニングにどのように影響するかを一般的な方法で制御するが、スケールでの効果的な重み付けの学習は依然として難しい。 データウェイトを学習するためのスケーラブルなアプローチを開発する。小規模で高品質なターゲットデータセットを前提として、トレーニングプロセスを通じてメタグラディエントを使用して、ターゲットドメインのパフォーマンスを直接トレーニング・サンプル・ウェイトを効率的に最適化する。 固定されたデータセットやモデルを超えてスケールするために、新しいストリーミング例に一般化したパラメトリック重み付けルールを学び、より小さなモデルからかなり大きなモデルに移行する。 本研究は,プライオリティデータが雑音,敵対的,合成的,あるいは対象領域と不一致である可能性のある,原型的応用としての報酬モデリングについて検討する。 学習されたデータウェイトは、ホールドアウトのパフォーマンスを改善し、報酬モデルを自動的に特定のドメインに適応させ、人間と合成の監督の混合によって、ソース単独でパフォーマンスを向上する。

関連論文リスト

• LLM Data Selection and Utilization via Dynamic Bi-level Optimization [100.20933466418786]
  本研究では,各バッチ内で選択したデータの重み付けを調整し,トレーニング中の動的データ利用を実現するための新しいデータ重み付けモデル(DWM)を提案する。 実験により,DWMはランダムに選択されたデータを用いて訓練されたモデルの性能を向上させることが示された。 さらに、トレーニング中にモデルのデータ嗜好がどのように進化するかを分析し、トレーニング中のモデルのデータ嗜好に関する新たな洞察を提供する。
  論文  参考訳（メタデータ） (2025-07-22T02:47:12Z)
• ToReMi: Topic-Aware Data Reweighting for Dynamic Pre-Training Data Selection [28.75333303894706]
  ToReMiは、トピックの関連や観察された学習パターンに応じてトレーニングサンプル重量を調整する新しいフレームワークである。 実験の結果,ToReMiの変種は従来の事前学習手法よりも優れた性能が得られることがわかった。
  論文  参考訳（メタデータ） (2025-04-01T12:06:42Z)
• FedAWA: Adaptive Optimization of Aggregation Weights in Federated Learning Using Client Vectors [50.131271229165165]
  Federated Learning (FL)は、分散機械学習のための有望なフレームワークとして登場した。 ユーザの行動、好み、デバイス特性の相違から生じるデータの異質性は、連合学習にとって重要な課題である。 本稿では,学習過程におけるクライアントベクトルに基づくアダプティブ重み付けを適応的に調整する手法であるAdaptive Weight Aggregation (FedAWA)を提案する。
  論文  参考訳（メタデータ） (2025-03-20T04:49:40Z)
• Dynamic Loss-Based Sample Reweighting for Improved Large Language Model Pretraining [55.262510814326035]
  既存のリウェイト戦略は主にグループレベルのデータの重要性に焦点を当てている。 動的・インスタンスレベルのデータ再重み付けのための新しいアルゴリズムを提案する。 当社のフレームワークでは,冗長データや非形式データを優先的に再重み付けする戦略を考案することが可能です。
  論文  参考訳（メタデータ） (2025-02-10T17:57:15Z)
• The interplay between domain specialization and model size [8.653321928148547]
  計算制約シナリオ下での継続事前学習におけるドメインサイズとモデルサイズ間の相互作用について検討する。 我々の目標は、このシナリオに最適なトレーニング体制を特定し、異なるモデルサイズとドメインにまたがって一般化可能な、この相互作用のパターンを検出することです。
  論文  参考訳（メタデータ） (2025-01-03T19:28:53Z)
• Diffusion-Based Neural Network Weights Generation [80.89706112736353]
  D2NWGは拡散に基づくニューラルネットワーク重み生成技術であり、転送学習のために高性能な重みを効率よく生成する。 本稿では,ニューラルネットワーク重み生成のための遅延拡散パラダイムを再放送するために,生成的ハイパー表現学習を拡張した。 我々のアプローチは大規模言語モデル(LLM)のような大規模アーキテクチャにスケーラブルであり、現在のパラメータ生成技術の限界を克服しています。
  論文  参考訳（メタデータ） (2024-02-28T08:34:23Z)
• CMW-Net: Learning a Class-Aware Sample Weighting Mapping for Robust Deep Learning [55.733193075728096]
  現代のディープニューラルネットワークは、破損したラベルやクラス不均衡を含むバイアス付きトレーニングデータに容易に適合する。 サンプル再重み付け手法は、このデータバイアス問題を緩和するために一般的に使用されている。 本稿では,データから直接明示的な重み付け方式を適応的に学習できるメタモデルを提案する。
  論文  参考訳（メタデータ） (2022-02-11T13:49:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。