論文の概要: D$^3$-MOPD: Adaptive Dynamic Domain ScheDuling for Efficient Multi-Teacher Distillation

• arxiv url: http://arxiv.org/abs/2608.24987v1
• Date: Tue, 25 Aug 2026 17:57:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-27 14:15:15.366222
• Title: D$^3$-MOPD: Adaptive Dynamic Domain ScheDuling for Efficient Multi-Teacher Distillation
• Title（参考訳）: D$^3$-MOPD: 効率的なマルチ教師蒸留のための適応動的ドメインスケジューリング
• Abstract要約: マルチテラー・オン・ポリシー蒸留は、いくつかのドメイン専門家の教師を1人の学生に蒸留する。 既存のアプローチでは、トレーニング前にドメイン毎のデータ混在を修正するのが一般的である。 固定混合は、高速収束ドメイン上の計算を無駄にし、遅い収束ドメインをアンダートレインする。 D$3$-MOPDはドメイン単位の逆KL信号をオンラインに適応させるゼロオーバーヘッドスケジューラである。
• 参考スコア（独自算出の注目度）: 50.89072318748398
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Multi-teacher on-policy distillation (MOPD) distills several domain-expert teachers into a single student by minimizing per-domain reverse-KL divergence on the student's own rollouts. Existing approaches typically fix the per-domain data mixture before training, overlooking the fact that different domains converge at substantially different rates: some plateau early while others continue to improve throughout the training budget. A fixed mixture therefore wastes compute on fast-converging domains and undertrains slower-converging ones. To address this, we propose D$^3$-MOPD (Dynamic Domain ScheDuling for MOPD), a zero-overhead scheduler that repurposes the per-domain reverse-KL signal already produced during training to adapt the domain mixture online. Running asynchronously outside the training process, an off-process watcher periodically tracks each domain's KL trajectory, estimates remaining headroom and current improvement rate, and accordingly adjusts the domain sampling ratios without altering the core training loop. Our D$^3$-MOPD scales naturally to arbitrary numbers of domains, and the expected benefit grows as more domains introduce more diverse convergence patterns for the scheduler to exploit. On a Qwen3.6-35B-A3B student distilled from four domain-expert teachers, D$^3$-MOPD closes 97% of the average student-to-teacher performance gap, compared with 63% for vanilla MOPD, reaches the same peak performance with an approximately 3$\times$ reduction in rollout steps, and surpasses the specialist teachers on three of seven benchmarks.
• Abstract（参考訳）: マルチテラー・オン・ポリシー蒸留(MOPD)は、学生自身のロールアウトにおいて、ドメインごとの逆KL分散を最小化することにより、複数のドメイン専門家の教師を1人の学生に蒸留する。 既存のアプローチでは、トレーニング前にドメイン毎のデータ混合を修正し、異なるドメインが実質的に異なるレートで収束するという事実を見落としている。 したがって、固定混合は、高速収束ドメインでの計算を無駄にし、遅い収束ドメインをアンダートレインする。 D$^3$-MOPD(Dynamic Domain ScheDuling for MOPD)は、トレーニング中に既に生成したドメイン単位の逆KL信号を再利用して、ドメインの混合をオンラインに適応させるゼロオーバーヘッドスケジューラである。 トレーニングプロセスの外で非同期に実行されると、オフプロセスウォッチャーは、各ドメインのKL軌道を周期的に追跡し、残りのヘッドルームと電流改善率を推定し、コアトレーニングループを変更することなくドメインサンプリング比を調整する。 我々のD$3$-MOPDは自然に任意の数のドメインにスケールし、より多くのドメインがスケジューラを利用するためのより多様な収束パターンを導入するにつれて、期待される利益は増大する。 Qwen3.6-35B-A3Bの学生がドメインエキスパートの4人の教師から抽出し、D$^3$-MOPDは平均的な生徒と教師のパフォーマンスギャップの97%を閉じる。

関連論文リスト

• Know When to Stop, Where to Restart: Accelerating Multi-Turn Agentic On-Policy Distillation [45.25745441009372]
  既存の加速法は、固定されたオフライン予算に従って監視信号を切断または移動させる。 本稿では2つの相補的手法を組み合わせたSTRIDE(Stop-and-Restart on-policy DistillationAcceleration)を提案する。 提案手法は全軌道PDと一致し,30B 教師を3.73 タイムで上回り,ベースライン自体を2.34 タイムで上回り,クロスドメインマルチテスタトレーニングでは4.51 タイムで上回ります。
  論文  参考訳（メタデータ） (2026-09-13T16:17:35Z)
• Learn from Whoever Is Right: Answer-Verified Multi-Teacher Distillation for Multi-Domain LLMs [13.74158437063828]
  MT-SDPO (Multi-Teacher Self-Distillation Policy Optimization) は、複数の凍結教師を1つの学生モデルに統一するオンライン蒸留法である。 MT-SDPOは, 自己アンカー, 応答検証適性, 特権蒸留の3つの成分から構成される。 Qwen3-8Bの最も弱いドメインを14.79ポイント引き上げ、そのドメインギャップを74.7%縮小する。
  論文  参考訳（メタデータ） (2026-09-02T13:00:45Z)
• Consolidating RLVR Capabilities Across Domains: A Deep Dive into Fusion Paradigms [50.28963615440865]
  再利用した人工物によって3つの融合パラダイムを編成する。 モデルスケールとマルチベンチマークスイートで、共有専門家とデータを使用して、これら3つを比較します。
  論文  参考訳（メタデータ） (2026-08-27T17:38:04Z)
• MOPD: Multi-Teacher On-Policy Distillation for Capability Integration in LLM Post-Training [29.71786876690702]
  Multi-Teacher On-Policy Distillation (MOPD)は、複数のドメインRL教師の能力を組み合わせるためのポストトレーニングパラダイムである。 Qwen3-30B-A3Bでは、MOPDはMix-RL、Cascade RL、Off-Policy Finetune、Param-Mergeベースラインを上回っている。
  論文  参考訳（メタデータ） (2026-06-29T14:51:28Z)
• Transferability for General Reasoning: An Automated Curriculum for Multi-Domain RLVR [59.527728403519745]
  Transfer-Aware Curriculumは、トレーニングスイートの他の部分にとって大きなメリットがあるドメインを優先する。 Qwen3-1.7BとLlama3.2-3Bで最高のマクロ平均精度を達成する。 学習性のみのカリキュラムが支配的なドメインに過剰にコミットされる不均衡なトレーニングミックスでは、依然として堅牢である。
  論文  参考訳（メタデータ） (2026-06-23T21:10:29Z)
• A Local Perturbation Theory for Cross-Domain Interference and Recovery in Multi-Domain RL [49.589717630468876]
  単一領域のRLは、上位変化ニューロン間の重なりが弱い、スパースで小振幅のパラメータの編集を生成する。 マルチドメインRLの局所モデルの下では、後続のドメイントレーニングは、主に2階の損傷項によって、以前のドメインに害を与えることが証明される。
  論文  参考訳（メタデータ） (2026-06-01T15:44:56Z)
• Dynamic Expert Specialization: Towards Catastrophic Forgetting-Free Multi-Domain MoE Adaptation [35.38408768980583]
  我々は,Mixture-of-Expertsモデルのマルチドメイン適応のための動的専門家専門化フレームワークDES-MoEを提案する。 DES-MoEは,(1)事前学習した知識保持と蒸留によるタスク固有の更新のバランスをとる適応ルータ,(2)リアルタイムの専門家-ドメイン相関マッピング,(3)非特定パラメータを段階的に凍結する3相適応微調整スケジュールの3つのイノベーションを通じて,破滅的な忘れに対処する。
  論文  参考訳（メタデータ） (2025-09-21T02:30:04Z)
• D3T: Distinctive Dual-Domain Teacher Zigzagging Across RGB-Thermal Gap for Domain-Adaptive Object Detection [15.071470389431672]
  オブジェクト検出のためのドメイン適応は、通常、ある可視領域から別の可視領域への知識の転送を必要とする。 本稿では,ドメイン毎に異なるトレーニングパラダイムを用いるD3T(Distinctive Dual-Domain Teacher)フレームワークを提案する。 提案手法は、よく知られた熱データセットを用いた新しい実験プロトコルを用いて検証する。
  論文  参考訳（メタデータ） (2024-03-14T13:05:43Z)
• Decoupled Training: Return of Frustratingly Easy Multi-Domain Learning [20.17925272562433]
  マルチドメイン学習は、複数の重複するが識別できないドメインにわたって、最小限の平均リスクでモデルをトレーニングすることを目的としている。 本稿では,D-Train(Decoupled Training, D-Train)を提案する。 D-Trainは、まずルートモデルを温めるためにすべてのドメインで事前訓練を行い、その後、複数のヘッドに分割して各ドメインでトレーニングを行い、最後にバックボーンを固定して頭部を微調整する3段階の総合訓練戦略である。
  論文  参考訳（メタデータ） (2023-09-19T04:06:41Z)
• Improving Domain Generalization with Domain Relations [77.63345406973097]
  本稿では、モデルがトレーニングされたドメインと異なる新しいドメインに適用されたときに発生するドメインシフトに焦点を当てる。 ドメイン固有モデルを学習するためのD$3$Gという新しい手法を提案する。 以上の結果から,D$3$Gは最先端の手法より一貫して優れていた。
  論文  参考訳（メタデータ） (2023-02-06T08:11:16Z)
• Forget Less, Count Better: A Domain-Incremental Self-Distillation Learning Benchmark for Lifelong Crowd Counting [51.44987756859706]
  オフザシェルフ法は複数のドメインを扱うのにいくつかの欠点がある。 生涯クラウドカウンティングは、壊滅的な忘れを緩和し、一般化能力を改善することを目的としている。
  論文  参考訳（メタデータ） (2022-05-06T15:37:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。