論文の概要: Strategically Diverse Sampling for Self-Training

• arxiv url: http://arxiv.org/abs/2609.31571v1
• Date: Fri, 25 Sep 2026 17:35:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.523409
• Title: Strategically Diverse Sampling for Self-Training
• Title（参考訳）: 自己学習のための戦略的横サンプリング
• Abstract要約: 自己学習データは通常、IID応答のサンプリングと、主に正確性のためにフィルタリングによって構築される。 自己学習データ構築の代替原則として, ある問題に対するアプローチの戦略的多様性や実体的変動について検討する。 アプローチの多様性は、正当性や教師の規模よりも重要であることを示す。
• 参考スコア（独自算出の注目度）: 76.9820262553889
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Many LLM training and inference methods, including RL and test-time scaling, depend on repeated sampling, but benefit only when the responses meaningfully differ. Self-training faces the same challenge: training data is typically constructed by sampling IID responses and filtering primarily for correctness, thereby overrepresenting strategies a model already favours. We investigate strategic diversity, or substantive variation among approaches to a problem, as an alternative principle for constructing self-training data. We generate strategically diverse data with two sampling methods: GROOT, a new method which constructs a hierarchical tree of approaches and samples distinct paths, and Verbalized Sampling (VS), adapted to produce an unstructured set of approaches. Across competitive programming and Next-Chapter Prediction domains, models trained on strategically sampled data outperform IID-trained counterparts on difficult tasks and provide strong initializations for RL and test-time scaling. Most strikingly, self-training on strategically diverse but incorrect traces from Qwen3-4B outperforms IID distillation from a 235B teacher. These results challenge prevailing assumptions about what makes useful self-training data and show that diversity of approaches can matter more than correctness or teacher scale.
• Abstract（参考訳）: RLとテストタイムスケーリングを含む多くのLCMトレーニングと推論方法は、繰り返しサンプリングに依存するが、応答が有意に異なる場合にのみ有効である。 トレーニングデータは、IID応答をサンプリングし、主に正確性のためにフィルタリングすることで構築されるため、モデルがすでに好んでいる戦略を過剰に表現する。 本稿では,自己学習データ構築の代替原則として,問題に対するアプローチの戦略的多様性や実体的変動について検討する。 我々は2つのサンプリング手法を用いて戦略的に多様なデータを生成する。GROOTは、アプローチと異なるパスの階層木を構築する新しい方法であり、Verbalized Sampling (VS) は、非構造化されたアプローチの集合を生成するために適応する。 競合プログラミングとNext-Chapter予測ドメイン全体において、戦略的にサンプル化されたデータに基づいてトレーニングされたモデルは、困難なタスクにおいてIDD訓練されたモデルよりも優れ、RLとテスト時間スケーリングの強力な初期化を提供する。 最も印象的なのは、Qwen3-4Bの戦略的に多様だが誤った痕跡に対する自己学習は、235Bの教師によるIID蒸留よりも優れていることである。 これらの結果は、有用な自己学習データを作るための仮定に挑戦し、アプローチの多様性が正当性や教師の規模よりも重要であることを示す。

関連論文リスト

• Reasoning with Sampling: Your Base Model is Smarter Than You Think [52.639108524651846]
  本稿では,基本モデル自身の可能性を利用した単純な反復サンプリングアルゴリズムを提案する。 我々のアルゴリズムは、ほぼ一致し、RLのアルゴリズムよりも優れているという推論において、大幅に向上することを示した。 我々の方法は、トレーニング、キュレートされたデータセット、検証器を必要としない。
  論文  参考訳（メタデータ） (2025-10-16T17:18:11Z)
• Your Pretrained Model Tells the Difficulty Itself: A Self-Adaptive Curriculum Learning Paradigm for Natural Language Understanding [53.63482987410292]
  本稿では,事前学習言語モデルにより予測される難易度に基づいて,微調整例を優先する自己適応型カリキュラム学習パラダイムを提案する。 本手法は,4つの自然言語理解(NLU)データセットを用いて,二項分類と多項分類の両方を対象とする手法について検討した。
  論文  参考訳（メタデータ） (2025-07-13T19:36:17Z)
• Balanced Data Sampling for Language Model Training with Clustering [96.46042695333655]
  本稿では,学習データのテキスト分布のバランスをとるためにClusterClip Smplingを提案する。 大規模な実験は、ClusterClip Smplingの有効性を検証する。
  論文  参考訳（メタデータ） (2024-02-22T13:20:53Z)
• Take the Bull by the Horns: Hard Sample-Reweighted Continual Training Improves LLM Generalization [165.98557106089777]
  大きな言語モデル(LLM)の能力を高めることが大きな課題だ。 本研究は,従来の事前学習データセットを用いたLCMの光連続訓練に関する実証的戦略から始まった。 次に、この戦略をインスタンス重み付け分散ロバスト最適化の原則化されたフレームワークに定式化します。
  論文  参考訳（メタデータ） (2024-02-22T04:10:57Z)
• Sampling Through the Lens of Sequential Decision Making [9.101505546901999]
  我々はアダプティブ・サンプル・ウィズ・リワード(ASR)と呼ばれる報酬誘導型サンプリング戦略を提案する。 提案手法は,サンプリング過程を最適に調整し,最適性能を実現する。 情報検索とクラスタリングの実証的な結果は、異なるデータセット間でのASRのスーパーブパフォーマンスを示している。
  論文  参考訳（メタデータ） (2022-08-17T04:01:29Z)
• Improving speech recognition models with small samples for air traffic control systems [9.322392779428505]
  本研究では, 小さなトレーニングサンプルの課題に対処すべく, 事前学習とトランスファー学習に基づく新しいトレーニング手法を提案する。 3つの実際のATCデータセットを使用して、提案されたASRモデルとトレーニング戦略を検証する。 実験の結果,ASRの性能は3つのデータセットで大幅に向上した。
  論文  参考訳（メタデータ） (2021-02-16T08:28:52Z)
• Sample-based Regularization: A Transfer Learning Strategy Toward Better Generalization [8.432864879027724]
  少量のデータでディープニューラルネットワークをトレーニングすることは、難しい問題である。 私たちがよく直面する現実的な難題の1つは、多くのサンプルを集めることです。 大規模なデータセットでトレーニングされたソースモデルを使用することで、トレーニングデータの不足に起因する過度な適合を軽減することができる。
  論文  参考訳（メタデータ） (2020-07-10T06:02:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。