論文の概要: Overtaught, Underlearned: Learner-Centered Distillation from Multi-Agent Discussion

• arxiv url: http://arxiv.org/abs/2610.16543v1
• Date: Mon, 12 Oct 2026 10:27:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.357742
• Title: Overtaught, Underlearned: Learner-Centered Distillation from Multi-Agent Discussion
• Title（参考訳）: 過度、過度に学んだ:マルチエージェントによる学習中心の蒸留
• Abstract要約: FAR(Fold-Attempt-Revisit)は,学習者中心の蒸留プロセスであり,学生自身の状態を統括する。 2人の学生と4つの推論タスクの中で、FARは訓練対象をはるかに少なく、下位学習の少ないフルグラフ蒸留よりも優れています。
• 参考スコア（独自算出の注目度）: 5.92823371147128
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-agent discussion produces reasoning collaboratively, while deployment still relies on a smaller student that must answer alone. Full-graph distillation transfers such discussions by treating each correct solution as a separate training target, but what teachers provide need not match what the student learns. This mismatch appears in two ways: several correct solutions may amount to the same lesson in the student's representation (over-teaching), while some training questions remain missed after learning (under-learning). We quantify both with rates that are high on discussion graphs. To address them, we introduce FAR (Fold--Attempt--Revisit), a learner-centered distillation procedure that organizes supervision around the student's own state. Before training, FAR folds solutions within each discussion state into representative lessons. After training, the student's own attempts identify missed questions, while poorly represented clusters indicate where folding may have lost useful variation; FAR then writes targeted lessons from retained discussion contexts. Across two students and four reasoning tasks, FAR outperforms full-graph distillation with far fewer training targets and lower under-learning. Further analyses examine the behavior of FAR and the sources of its gains. Overall, the results show that organizing discussion supervision around the student can make distillation both more effective and more efficient.
• Abstract（参考訳）: マルチエージェントの議論は、共同で推論を生み出しますが、デプロイメントは、単独で答えなければならない小さな学生に依存しています。 フルグラフ蒸留は、正しい解を個別の訓練対象として扱うことによって、そのような議論を伝達するが、教師が提供するものは、学生が学習したものと一致しない。 このミスマッチは2つの方法で現れる: いくつかの正しい解は、生徒の表現(オーバーティーチング)において同じ教訓に結びつくかもしれない。 どちらも議論グラフ上で高いレートで定量化します。 そこで我々は,学習者中心の蒸留プロセスであるFAR(Fold--Attempt--Revisit)を導入する。 トレーニング前に、FARは各ディスカッションステート内のソリューションを代表的なレッスンに折り畳みます。 訓練後、学生自身の試みは、欠落した質問を識別するが、貧弱なクラスタは、折りたたみが有用なバリエーションを損なう可能性があることを示す。 2人の学生と4つの推論タスクの中で、FARは訓練対象をはるかに少なく、下位学習の少ないフルグラフ蒸留よりも優れています。 さらに,FARの挙動と利得源について検討した。 その結果,学生を中心とした議論指導の組織化は,蒸留をより効果的かつ効果的に行うことができることがわかった。

関連論文リスト

• On-Policy Visual Evidence Distillation [29.145226066460193]
  本稿では,視覚エージェントのオンライン蒸留法であるRe Reflection on Visual Evidence (ReVuE)を紹介する。 ReVuEは、同じクエリに対して複数の学生生成軌跡を比較し、観察された視覚的証拠を要約し、最初の失敗を診断する。 我々は,これらの反射が教師の予測にどの程度強く影響するかに応じて,トークンレベルの蒸留損失をグループ化し,再重み付けする。
  論文  参考訳（メタデータ） (2026-09-29T06:47:11Z)
• What Does Privileged Information Add to On-Policy Self-Distillation? [57.872246350931306]
  オンラインの自己蒸留(On-policy self-distillation)により、言語モデルは、答や解決方法を見る、自分自身の凍結したコピーから学ぶことができる。 AMPLE-Mathは、5,319の数学的問題からなる再利用可能なスイートで、同じ答えを6つの推論ビューで共有する。 直接応答型ロールアウトを監督する思考能力のある教師によって、Qwen3-1.7Bの改良の大部分は参照レス蒸留によるものである。
  論文  参考訳（メタデータ） (2026-09-17T15:57:10Z)
• DemoPSD: Disagreement-Modulated Policy Self-Distillation [49.30809363804017]
  大規模言語モデルを訓練するための実践的な方法として、オンデマンド自己蒸留が登場している。 DemoPSDは、教師と生徒の分布の重み付けされた幾何学的組み合わせに向けて学生を操縦する。
  論文  参考訳（メタデータ） (2026-07-02T17:58:29Z)
• Reinforcement Learning Teachers of Test Time Scaling [21.551446057221185]
  LMを推論する主要なユースケースは、新しい学生を蒸留し、将来のRLイテレーションを冷静に開始する教師として機能することである。 我々は,RLの探究課題を回避するために,RLT(Reinforcement-Learned Teachers)の新たなクラスを育成する枠組みを導入する。 RLTは、各問題に対する質問と解決の両方で促され、生徒に合った詳細な説明で単に「接続する」ことを任務とする。
  論文  参考訳（メタデータ） (2025-06-10T02:53:24Z)
• Progressive distillation induces an implicit curriculum [44.528775476168654]
  より良い教師は必ずしも良い生徒を産むとは限らない。 この原理を実証的に検証した1つの変種はプログレッシブ蒸留であり、そこで学生は教師の連続した中間チェックポイントから学習する。 スパースパリティをサンドボックスとして使用することにより、暗黙のカリキュラムをプログレッシブ蒸留によって学生の学習を加速させる1つのメカニズムとして認識する。
  論文  参考訳（メタデータ） (2024-10-07T19:49:24Z)
• YODA: Teacher-Student Progressive Learning for Language Models [82.0172215948963]
  本稿では,教師が指導するプログレッシブ・ラーニング・フレームワークであるYodaを紹介する。 モデルファインチューニングの有効性を向上させるために,教師の教育過程をエミュレートする。 実験の結果, YODAのデータによるLLaMA2のトレーニングにより, SFTは大幅に向上した。
  論文  参考訳（メタデータ） (2024-01-28T14:32:15Z)
• On student-teacher deviations in distillation: does it pay to disobey? [54.908344098305804]
  知識蒸留は「学生」ネットワークのテスト精度を向上させるために広く用いられている。 教師の確率に合うように訓練されているにもかかわらず、生徒は教師の確率から大きく逸脱するだけでなく、パフォーマンスにおいて教師を上回ることもある。
  論文  参考訳（メタデータ） (2023-01-30T14:25:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。