論文の概要: A Fisher-Geometric View of Multi-Teacher On-Policy Distillation

• arxiv url: http://arxiv.org/abs/2610.26525v1
• Date: Mon, 19 Oct 2026 14:54:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 02:45:17.682612
• Title: A Fisher-Geometric View of Multi-Teacher On-Policy Distillation
• Title（参考訳）: マルチティーラーオンポリティー蒸留の幾何的視点
• Abstract要約: Residual-Governed Branch-and-Merge(RGBM) フェーズ1のマージだけでは、完全に訓練されたマルチティーチンガー蒸留に適合または性能が向上し、RGBMは、余分なジョイントトレーニングのステップをゼロにすることで、さらに改善される。 フェーズ2では、このスペクトルが追加される可能性のあるものを管理することができる: RGBMは、正規化された残基が低く、分離された枝をスペクトルギャップの上だけに列車し、調整された縮小で更新を書き込みます。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Consolidating specialized foundation models into a unified generalist is a central goal of post-training. Two approaches are in common use: model merging, which is fast but treated as a heuristic, and multi-teacher on-policy distillation, which matches distributions but demands heavy rollout compute and suffers from cross-task gradient conflict. We show that the two are one objective seen at different orders. Within a shared basin of homologous specialists, the multi-teacher on-policy distillation objective is, to second order, exactly the Fisher-merging objective. Its minimizer is therefore the Fisher merge, a classic model-merging method given by a closed-form combination of the specialists, so merging is optimal, to second order, as a closed-form stage of distillation. Building on this identification, we propose Residual-Governed Branch-and-Merge(RGBM), a two-phase consolidation procedure. Concretely, a full-parameter Fisher merge is intractable on foundation models, so Phase~1 restricts the merge to the task-vector subspace. Extending tangent-space analyses of merging, we show that the same coefficients that mix task vectors also mix implicit rewards, which lets a residual program on unlabelled prompts solve for them. The program minimizes the worst per-domain residual and reports its energy-normalized values as the domain residual spectrum. Phase~2 lets this spectrum govern what may be added: RGBM passivates domains with low normalized residuals, trains isolated branches only for domains above the spectral gap, and writes back the admitted updates with calibrated shrinkage. On two open-source consolidation suites, the Phase~1 merge alone matches or outperforms fully trained multi-teacher distillation, and RGBM improves on it further with zero extra joint-training steps, whereas every un-gated write-back, including continued joint distillation from the merge, falls below it.
• Abstract（参考訳）: 専門的な基礎モデルを統一的なジェネラリストに統合することは、訓練後の中心的な目標である。 モデルマージング(英語版)は高速だがヒューリスティックとして扱われる)とマルチティーチンガー・オン・ポリチス蒸留(英語版)(英語版)(英語版)であり、分布に合致するが、重いロールアウト計算を必要とし、クロスタスク勾配紛争に苦しむ。 2つが異なる順序で見られる1つの目的であることを示す。 ホモロジーの専門家が共有する盆地の中では、マルチティーチンガー・オン・ポリシー蒸留の目的は、正確にはフィッシャー・マージの目的である。 その最小限はフィッシャー・マージ(Fisher merge)であり、これは古典的なモデルマージ法であり、専門家のクローズドフォームの組み合わせによって与えられるため、マージは蒸留のクローズドフォーム段階として最適である。 この同定に基づいて,2相連結法であるResidual-Governed Branch-and-Merge(RGBM)を提案する。 具体的には、フルパラメータのフィッシャーマージは基礎モデルで抽出可能であるので、フェーズ~1は、マージをタスクベクトル部分空間に制限する。 マージの接空間解析を拡張し、タスクベクトルを混合するのと同じ係数が暗黙の報酬を混合することを示した。 このプログラムは、ドメイン当たりの最悪の残留量を最小化し、そのエネルギー正規化値をドメイン残留スペクトルとして報告する。 RGBMは、正常化された残基の少ないドメインを誘導し、スペクトルギャップの上のドメインのみに分離されたブランチを訓練し、調整された縮小を伴って、承認された更新を書き戻す。 2つのオープンソース・コンソリデーション・スイートでは、フェーズ~1のマージ単独で完全に訓練されたマルチティーラー蒸留に適合または性能が向上し、RGBMは余分なジョイントトレーニングのステップをゼロにすることでさらに改善するが、マージからの継続的なジョイント蒸留を含む全てのアンゲート・ライトバックはその下にある。

関連論文リスト

• MergeHEIR: Mitigating Multimodal Hallucinations as the Tax of Model Merging [55.74741319182039]
  我々は,初期専門家から受け継がれた専門知識を維持しつつ,この統合税の削減を目的とした,制約後の適応フレームワークであるMergeHEIRを紹介する。 我々は,MergeHEIRが相変わらず幻覚を緩和し,継承した専門知識を保ちつつ,より好意的な幻覚-保留トレードオフを示すことを示す。
  論文  参考訳（メタデータ） (2026-09-26T09:48:28Z)
• UniRec: Cross-stage Multi-Task Fusion with Preference Alignment for Cascaded Recommender Systems [24.31254361881359]
  我々は,統一型クロスステージ勧告フュージョンモデルを提案する。 UniRecはシングルステージ融合とクロスステージ調整ベースラインを一貫して上回っている。 オンラインA/Bテストでは、アプリ使用時間が0.616%増加した。
  論文  参考訳（メタデータ） (2026-09-10T03:54:17Z)
• CoCurve: Cross-Module Co-Pruning Curvature for Training-Free Structured LLM Pruning [47.406985340436925]
  CoCurveはキャリブレーションのみの、微調整なしの手法で、注意とFFNのユニットを共同で刺激する。 これは1つの予算付き二次プログラムに還元され、ラベル、微調整、リカバリを伴わず、共有された注目の下で1ショットで解決される。
  論文  参考訳（メタデータ） (2026-07-20T05:27:57Z)
• Closed-Form Spectral Regularization for Multi-Task Model Merging [96.82449201305234]
  モデルマージは、個別に調整された複数の専門家をトレーニングデータなしで単一のマルチタスクモデルに結合する。 State-of-the-art merging method formulate merging as a layer-wise interference problem。 本稿では,逐次降下の勾配-流路に一致するソフト指数フィルタを組み合わせた閉形式手法SWUDIを提案する。
  論文  参考訳（メタデータ） (2026-06-05T14:00:47Z)
• ResMerge: Residual-based Spectral Merging of Large Language Models [52.65011413018957]
  本稿では,RL専門家のための残留スペクトルマージフレームワークResMergeを提案する。 本稿では,RL専門家のための残留スペクトルマージフレームワークResMergeを提案する。
  論文  参考訳（メタデータ） (2026-06-01T13:42:45Z)
• Continuous-Time Distribution Matching for Few-Step Diffusion Distillation [57.28746398500951]
  本稿では,CDM(Continuous-Time Distribution Matching)を導入し,DMDフレームワークを個別アンカーから連続最適化へ移行する。 まず、固定離散スケジュールをランダム長の動的連続スケジュールに置き換える。 第二に、学生の速度場を介して外挿された潜伏者に対してアクティブな軌道外マッチングを行う連続時間アライメント目的を提案する。
  論文  参考訳（メタデータ） (2026-05-07T14:56:39Z)
• Posterior Augmented Flow Matching [64.1559809786948]
  後拡張フローマッチング(PAFM)はフローマッチング(FM)の一般化である PAFMは、異なるモデルスケールで最大3.4FID50KでFMよりも改善されていることを示す。
  論文  参考訳（メタデータ） (2026-05-01T17:59:59Z)
• Functionality-Oriented LLM Merging on the Fisher--Rao Manifold [14.349284217707575]
  重み空間のマージは、複数の微調整LDMを再訓練せずに単一のモデルに組み合わせることを目的としている。 我々は,標準を守り,マルチエキスパートマージに直接一般化する軽量な球面プロキシを用いて,実用的な固定点アルゴリズムを導出する。
  論文  参考訳（メタデータ） (2026-03-05T09:08:38Z)
• Mean-Field Path-Integral Diffusion: From Samples to Interacting Agents [0.0]
  Mean-Field Path-Integral Diffusion (MF-PID) は、個体群密度の変動に自在に依存する相互作用する物質にサンプルを昇格させる枠組みである。 MF-PIDは、所定の端末分布を正確に一致させながら、独立エージェントベースラインに対する累積制御エネルギーを19～24%削減する。
  論文  参考訳（メタデータ） (2026-02-23T21:14:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。