論文の概要: Online Data Selection for Instruction Tuning via Gaussian Processes

• arxiv url: http://arxiv.org/abs/2606.30077v1
• Date: Mon, 29 Jun 2026 10:08:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:16.175512
• Title: Online Data Selection for Instruction Tuning via Gaussian Processes
• Title（参考訳）: ガウス過程による授業調整のためのオンラインデータ選択
• Abstract要約: 大規模言語モデル(LLM) 事前トレーニングと微調整により、データボリュームからデータ品質へ焦点を移す。 LLMトレーニングのための既存のオンラインデータ選択方法は、通常「バッチ制約」である 我々は,グローバルな推定プロセスとしてデータ評価を定式化するフレームワークであるGAIAを提案する。
• 参考スコア（独自算出の注目度）: 11.553425714780076
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: With Large Language Model (LLM) pre-training and fine-tuning shifting its focus from data volume to data quality, quality data selection has emerged as a critical research topic. Existing online data selection methods for LLM training are typically "batch-constrained", limiting optimization to local utility within random batches. To overcome this, we propose GAIA (Global Adaptive Instruction tuning via GAussian processes), a framework that formulates data valuation as a global estimation process. GAIA employs Gaussian Process regression to model continuous utility manifolds across the semantic space, utilizing an adaptive strategy fusion mechanism to dynamically prioritize high-utility samples. By casting the strategy-posterior update as an instance of the classical fixed-share Hedge framework for tracking the best expert, we inherit a dynamic-regret guarantee that characterizes GAIA's robustness under non-stationary quality scores during training. Empirical evaluations on three datasets demonstrate that GAIA significantly outperforms state-of-the-art baselines like \greats, establishing our method as a scalable and robust solution for efficient instruction tuning.
• Abstract（参考訳）: 大規模言語モデル(LLM)の事前トレーニングと微調整により、データ量からデータ品質への焦点がシフトし、品質データの選択が重要な研究トピックとして浮上した。 LLMトレーニングのための既存のオンラインデータ選択方法は、通常「バッチ制約」であり、ランダムバッチ内のローカルユーティリティに最適化を制限している。 そこで我々は,GAIA(Global Adaptive Instruction tuning via GAussian Process)を提案する。 GAIAはガウス過程回帰を用いて意味空間を横断する連続ユーティリティ多様体をモデル化し、適応戦略融合機構を用いて高ユーティリティ標本を動的に優先順位付けする。 従来の固定共有Hedgeフレームワークの例に戦略後更新をキャストすることで、トレーニング中の非定常品質スコアにおけるGAIAの堅牢性を特徴付けるダイナミックレグレット保証を継承する。 3つのデータセットに対する実証的な評価により、GAIAは \greats のような最先端のベースラインを著しく上回り、効率的な命令チューニングのためのスケーラブルで堅牢なソリューションとして、我々の手法を確立した。

関連論文リスト

• Dynamic Important Example Mining for Reinforcement Finetuning [53.98969373888718]
  強化微調整 (Reinforcement fine-tuning, RFT) は、大型モデルの推論能力を高めるためにますます用いられる。 ほとんどのデータ中心のRFTメソッドは静的またはサンプルの選択に依存しており、サンプルの値がトレーニング中に固定されていることを暗黙的に仮定している。 RFT 全体にわたってデータ利用を適応させる,原則的かつ完全に自動化されたフレームワークである Dynamic important Example Mining (DIEM) を提案する。
  論文  参考訳（メタデータ） (2026-08-29T13:12:25Z)
• Dr. Post-Training: A Data Regularization Perspective on LLM Post-Training [9.040054119267344]
  ポストトライニング(Dr. Post-Training)は、一般的なトレーニングデータをデータ誘導正規化器として再認識する新しいフレームワークである。 我々の手法は、最先端のデータ選択ベースラインを一貫して上回ることを示す。
  論文  参考訳（メタデータ） (2026-05-08T00:16:11Z)
• Training Data Selection with Gradient Orthogonality for Efficient Domain Adaptation [21.694351921779845]
  専門分野のための微調整された大きな言語モデルは、しばしばドメインの専門知識の獲得と一般的な推論能力の維持の間のトレードオフを必要とする。 ドメイン性能,一般能力保持,トレーニング効率を調和させるデータ中心の手法として,直交勾配選択(OGS)を提案する。
  論文  参考訳（メタデータ） (2026-02-06T03:41:40Z)
• Predict the Retrieval! Test time adaptation for Retrieval Augmented Generation [66.36556189794526]
  TTARAGは、特殊ドメインにおけるRAGシステム性能を改善するために、推論中に言語モデルのパラメータを動的に更新するテスト時適応手法である。 提案手法では,モデルが検索した内容の予測を学習し,対象領域への自動パラメータ調整を可能にする。
  論文  参考訳（メタデータ） (2026-01-16T17:07:01Z)
• Heterogeneous Self-Supervised Acoustic Pre-Training with Local Constraints [64.15709757611369]
  異種データを扱うための自己教師付き事前学習手法を提案する。 提案手法は、下流の教師付き微調整タスクに対する自己教師付き事前訓練モデルの適応性を大幅に向上させることができる。
  論文  参考訳（メタデータ） (2025-08-27T15:48:50Z)
• Improving Model Classification by Optimizing the Training Dataset [3.987352341101438]
  Coresetsはデータ削減に対する原則的なアプローチを提供し、大規模なデータセットでの効率的な学習を可能にする。 下流の分類品質を向上させるために,コアセット生成プロセスを調整するための体系的なフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-07-22T16:10:11Z)
• Gradient Correction in Federated Learning with Adaptive Optimization [19.93709245766609]
  クライアント-ドリフト補償を適応最適化に組み込む最初のアルゴリズムである tt FAdamGC を提案する。 tt FAdamGCは、様々なレベルのデータの通信とコストにおいて、既存の手法よりも一貫して優れていることを示す。
  論文  参考訳（メタデータ） (2025-02-04T21:21:30Z)
• Self-Augmented Preference Optimization: Off-Policy Paradigms for Language Model Alignment [104.18002641195442]
  既存のペアデータを必要としない、効果的でスケーラブルなトレーニングパラダイムである自己拡張型優先度最適化(SAPO)を導入する。 負の反応を自律的に生成するセルフプレイの概念に基づいて、我々はさらに、データ探索とエクスプロイトを強化するために、非政治的な学習パイプラインを組み込む。
  論文  参考訳（メタデータ） (2024-05-31T14:21:04Z)
• A Conditioned Unsupervised Regression Framework Attuned to the Dynamic Nature of Data Streams [0.0]
  本稿では,制限付きラベル付きデータを用いたストリーミング環境の最適戦略を提案し,教師なし回帰のための適応手法を提案する。 提案手法は,初期ラベルのスパースセットを活用し,革新的なドリフト検出機構を導入する。 適応性を高めるために,Adaptive WINdowingアルゴリズムとRoot Mean Square Error (RMSE)に基づく誤り一般化アルゴリズムを統合する。
  論文  参考訳（メタデータ） (2023-12-12T19:23:54Z)
• TRIAGE: Characterizing and auditing training data for improved regression [80.11415390605215]
  TRIAGEは回帰タスクに適した新しいデータキャラクタリゼーションフレームワークで、広範囲の回帰器と互換性がある。 TRIAGEは、共形予測分布を利用して、モデルに依存しないスコアリング方法、TRIAGEスコアを提供する。 TRIAGEの特徴は一貫性があり、複数の回帰設定においてデータの彫刻/フィルタリングによるパフォーマンス向上に有効であることを示す。
  論文  参考訳（メタデータ） (2023-10-29T10:31:59Z)
• Consistency Regularization for Generalizable Source-free Domain Adaptation [62.654883736925456]
  ソースフリードメイン適応(source-free domain adapt, SFDA)は、ソースデータセットにアクセスすることなく、十分にトレーニングされたソースモデルを未学習のターゲットドメインに適応することを目的としている。 既存のSFDAメソッドは、ターゲットのトレーニングセット上で適用されたモデルを評価し、目に見えないが同一の分散テストセットからデータを無視する。 より一般化可能なSFDA法を開発するための整合正則化フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-03T07:45:53Z)
• DAGA: Data Augmentation with a Generation Approach for Low-resource Tagging Tasks [88.62288327934499]
  線形化ラベル付き文に基づいて訓練された言語モデルを用いた新しい拡張手法を提案する。 本手法は, 教師付き設定と半教師付き設定の両方に適用可能である。
  論文  参考訳（メタデータ） (2020-11-03T07:49:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。