論文の概要: Latent-MOPD: Latent Multi-Teacher On-Policy Distillation

• arxiv url: http://arxiv.org/abs/2610.02381v1
• Date: Thu, 01 Oct 2026 19:01:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 19:20:54.748011
• Title: Latent-MOPD: Latent Multi-Teacher On-Policy Distillation
• Title（参考訳）: 潜伏MOPD:潜伏多教師オンポリシィ蒸留
• Abstract要約: LLMのための表現レベル多重教師OPD法について,Latent-MOPDを紹介した。 既存のスペシャリストを、予測とそれらを計算するために使用される隠された状態の両方を通じて統合する。 この結果から,一人の学生が,出力分布と内部表現の両面から,複数の専門家の能力を統合できることが示唆された。
• 参考スコア（独自算出の注目度）: 10.355096792155168
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: On-policy distillation (OPD) trains a student on the responses it generates. Existing LLM multi-teacher OPD transfers what specialists predict through their output distributions. We introduce Latent-MOPD, to our knowledge the first representation-level multi-teacher OPD method for LLMs. It integrates existing specialists through both their predictions and the hidden states used to compute them, without additional teacher training. To coordinate representation supervision from multiple specialists, we select late-layer targets according to the teacher-student relationship, bridge unequal hidden widths with a shared projection, and group updates by domain. Each teacher's supervision gradually shifts from hidden states to token predictions, with both channels using the same routed specialist. In our main same-family setting, Latent-MOPD outperforms the token-only, representation-only and uniform-averaging baselines on all nine benchmarks across math, code and logic. With the same parameter count as each teacher, the student also surpasses the per-benchmark best teacher on a majority of these benchmarks. With larger, separately developed cross-family teachers, Latent-MOPD outperforms both single-channel baselines on all benchmarks. A same-family all-layer representation-only control remains stable with domain-pure updates but collapses when teacher domains are interleaved within an update. Our results show that a single student can integrate capabilities from several specialists through both their output distributions and internal representations.
• Abstract（参考訳）: オンライン蒸留(OPD)は、生徒が生み出す反応を訓練する。 既存のLLMマルチ教師PDは、出力分布を通じて専門家が予測するものを転送する。 LLMのための表現レベル多重教師OPD法について,Latent-MOPDを紹介した。 既存のスペシャリストを彼らの予測と、それらを計算するために使われる隠された状態の両方を通じて統合し、追加の教師の訓練を行なわない。 複数の専門家による代表監督のコーディネートを行うため,教師-学生関係,橋梁の不平等な隠蔽幅,共有投影,グループ更新をドメイン毎に選択した。 各教師の監督は、隠された状態からトークンの予測へと徐々にシフトし、両方のチャンネルは同じルートの専門家を用いている。 同じファミリー設定では、Latent-MOPDは、トークンのみ、表現のみ、均一なベースラインを、数学、コード、ロジックの9つのベンチマークすべてで上回ります。 生徒は各教師と同じパラメーター数で、これらのベンチマークの大多数でベンチマークごとの最高の教師を上回っている。 より大きく、別々に開発されたクロスファミリーの教師によって、Latent-MOPDは、すべてのベンチマークでシングルチャネルベースラインの両方を上回っている。 同一ファミリーの全層表現のみの制御は、ドメイン更新時に安定しているが、教師ドメインが更新中にインターリーブされると崩壊する。 この結果から,一人の学生が,出力分布と内部表現の両面から,複数の専門家の能力を統合できることが示唆された。

関連論文リスト

• Beyond Teacher Assignment: Domain-Normalized Multi-Teacher On-Policy Distillation [52.54764167264494]
  マルチティーチンガー・オン・ポリシー蒸留は、専門家が1人の生徒に教えることを可能にする。 生徒は各プロンプトに答え、そのプロンプトのドメインの専門家は各トークンにフィードバックを与える。 このルーティングは、どのスペシャリストが教えるかを決定するが、そのフィードバックが共有学生をどれほど強く動かすかは決定しない。 そこで本研究では,各領域のフィードバックを各領域に分散させて再スケールするMOPDを提案する。
  論文  参考訳（メタデータ） (2026-09-28T15:01:25Z)
• MOPD-Router: Rethinking Teacher Routing in Multi-Teacher On-Policy Distillation [25.107813325230207]
  ドメインラベルや個別のルーティングモデルを訓練することなく,各トークンにおける教師プール全体の管理をルーティングするフレームワークを提案する。 本インターフェースでは,教師がポストトレーニング中に取得した特殊化を,現在のトークンで生徒に補正するかどうかによって,各教師をスコアリングするExpertAlignを提案する。
  論文  参考訳（メタデータ） (2026-09-25T05:32:03Z)
• Distill What You Trust: Reliability-Aware Multi-Teacher On-Policy Distillation [28.795804636027977]
  ドメイン悪用されたアプローチは、例ごとに1つの教師を選択し、レスポンス全体を通してそれを修正します。 textbfTrustMOPDは,サンプルレベルの教師選択をラベルのないトークンレベルのアロケーションアロケーションに置き換える。
  論文  参考訳（メタデータ） (2026-09-20T15:15:24Z)
• Learn from Whoever Is Right: Answer-Verified Multi-Teacher Distillation for Multi-Domain LLMs [13.74158437063828]
  MT-SDPO (Multi-Teacher Self-Distillation Policy Optimization) は、複数の凍結教師を1つの学生モデルに統一するオンライン蒸留法である。 MT-SDPOは, 自己アンカー, 応答検証適性, 特権蒸留の3つの成分から構成される。 Qwen3-8Bの最も弱いドメインを14.79ポイント引き上げ、そのドメインギャップを74.7%縮小する。
  論文  参考訳（メタデータ） (2026-09-02T13:00:45Z)
• Consolidating RLVR Capabilities Across Domains: A Deep Dive into Fusion Paradigms [50.28963615440865]
  再利用した人工物によって3つの融合パラダイムを編成する。 モデルスケールとマルチベンチマークスイートで、共有専門家とデータを使用して、これら3つを比較します。
  論文  参考訳（メタデータ） (2026-08-27T17:38:04Z)
• OPOD: On-Policy Omni Distillation [55.440058537827134]
  プール化されたマルチモーダルデータ上で単一のモデルをトレーニングすることは、個々のモダリティに特化したモデルにマッチしないことが多い。 本報告では,オムニ蒸留法(Omni Distillation,OPD)について述べる。 OPDは各スケールで最高のスコアを獲得し、70.8、51.7、46.2に達した。
  論文  参考訳（メタデータ） (2026-07-23T04:55:04Z)
• Representation Consolidation for Training Expert Students [54.90754502493968]
  マルチヘッド多タスク蒸留法は,タスク固有の教師の表現を集約し,下流のパフォーマンスを向上させるのに十分であることを示す。 また,本手法では,複数のドメインで訓練された複数の教師の表現的知識を1つのモデルに組み合わせることができる。
  論文  参考訳（メタデータ） (2021-07-16T17:58:18Z)
• One Teacher is Enough? Pre-trained Language Model Distillation from Multiple Teachers [54.146208195806636]
  本稿では,事前学習型言語モデル圧縮のためのMT-BERTという多言語知識蒸留フレームワークを提案する。 MT-BERTは、複数の教師PLMから高品質な学生モデルを訓練できることを示す。 PLMの圧縮におけるMT-BERTの有効性を3つのベンチマークデータセットで検証した。
  論文  参考訳（メタデータ） (2021-06-02T08:42:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。