論文の概要: Adaptive Mutual Distillation for Balanced Multi-Task Post-Training of Large Language Models

• arxiv url: http://arxiv.org/abs/2610.02856v1
• Date: Fri, 02 Oct 2026 05:42:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.234229
• Title: Adaptive Mutual Distillation for Balanced Multi-Task Post-Training of Large Language Models
• Title（参考訳）: 大規模言語モデルの訓練後バランスの取れたマルチタスクに対する適応的相互蒸留法
• Abstract要約: 大規模言語モデル(LLM)のマルチタスク後トレーニングは、不平等なトレーニングデータでタスク間のパフォーマンスを改善することを目的としている。 我々は,異なるタスクバランス戦略で2つのモデルを共同で訓練する,協調的なポストトレーニングフレームワークであるAdaptive Mutual Distillation (AMD)を提案する。 両方のAMDモデルは、同じサンプリング戦略で訓練された教師付き微調整(SFT)ベースラインよりも高い平均ベンチマークスコアを達成する。
• 参考スコア（独自算出の注目度）: 33.62881525316926
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multi-task post-training of large language models (LLMs) aims to improve performance across tasks with unequal amounts of training data. Existing methods focus primarily on balancing task contributions during single-model training. Different task-balancing strategies can produce models with complementary strengths, creating opportunities for mutual distillation. However, the usefulness of cross-model supervision can vary across tasks, transfer directions, and stages of training. We propose Adaptive Mutual Distillation (AMD), a collaborative post-training framework that jointly trains two models with different task-balancing strategies. AMD evaluates candidate adjustments to distillation weights through short training probes shared across tasks, then uses task-wise validation scores to select an adjustment for each task and transfer direction. Across six benchmarks and three LLM backbones, both AMD models achieve higher average benchmark scores than supervised fine-tuning (SFT) baselines trained with the same sampling strategies. They also outperform the task-balancing methods evaluated in our experiments. Merging the two trained models can further improve their average benchmark score while yielding a single model for inference. The merged models outperform multi-task SFT by an average of 2.91 points across the three backbones.
• Abstract（参考訳）: 大規模言語モデル(LLM)のマルチタスク後トレーニングは、不平等なトレーニングデータでタスク間のパフォーマンスを改善することを目的としている。 既存の方法は、主にシングルモデルトレーニング中のタスクコントリビューションのバランスにフォーカスする。 異なるタスクバランス戦略は相補的な強みを持つモデルを作成し、相互蒸留の機会を生み出すことができる。 しかし、クロスモデル監視の有用性は、タスク、転送方向、訓練の段階によって異なる可能性がある。 我々は,異なるタスクバランス戦略で2つのモデルを共同で訓練する,協調的なポストトレーニングフレームワークであるAdaptive Mutual Distillation (AMD)を提案する。 AMDは、タスク間で共有される短いトレーニングプローブを通じて蒸留重量に対する候補調整を評価し、タスクワイド検証スコアを使用して各タスクと転送方向の調整を選択する。 6つのベンチマークと3つのLCMバックボーンで、両方のAMDモデルは、同じサンプリング戦略でトレーニングされた教師付き微調整(SFT)ベースラインよりも高い平均ベンチマークスコアを達成する。 また,本実験で評価したタスクバランス手法よりも優れていた。 2つのトレーニングされたモデルをマージすることで、推論のための単一のモデルを生成しながら、平均ベンチマークスコアをさらに改善することができる。 合併モデルは3つのバックボーンの平均2.91ポイントでマルチタスクSFTを上回っている。

関連論文リスト

• Bagging-Based Model Merging for Robust General Text Embeddings [73.51674133699196]
  汎用テキスト埋め込みモデルは、幅広いNLPおよび情報検索アプリケーションを支える。 本稿では,データスケジューリングとモデルマージという2つの観点から,テキスト埋め込みのためのマルチタスク学習の体系的研究を行う。 本稿では,Baging ベースの rObust mOdel Merging (BOOM) を提案する。
  論文  参考訳（メタデータ） (2026-02-05T15:45:08Z)
• CoBa: Convergence Balancer for Multitask Finetuning of Large Language Models [23.50705152648991]
  マルチタスク学習(MTL)は,大規模言語モデル(LLM)の微調整に有効である LLM の既存の MTL 戦略は、計算集約的であるか、同時タスク収束の確保に失敗したかのいずれかによって、しばしば不足する。 本稿では,タスク収束バランスを最小限の計算オーバーヘッドで効果的に管理する新しいMTL手法であるCoBaを提案する。
  論文  参考訳（メタデータ） (2024-10-09T10:20:32Z)
• Spindle: Efficient Distributed Training of Multi-Task Large Models via Wavefront Scheduling [35.06717005729781]
  Spindleは、マルチタスク(MT)マルチモーダル(MM)モデルのウェーブフロントスケジューリングによるリソース効率のトレーニングに適した、新しいトレーニングシステムである。 実験では、スピンドルの性能と効率が向上し、スピードアップ比は最先端のトレーニングシステムと比較して最大71%向上した。
  論文  参考訳（メタデータ） (2024-09-05T09:10:40Z)
• AdaMerging: Adaptive Model Merging for Multi-Task Learning [68.75885518081357]
  本稿では,Adaptive Model Merging (AdaMerging)と呼ばれる革新的な手法を紹介する。 本来のトレーニングデータに頼ることなく、タスクレベルでも階層的にも、モデルマージの係数を自律的に学習することを目指している。 AdaMergingは、現在の最先端のタスク演算のマージ方式と比較すると、パフォーマンスが11%向上している。
  論文  参考訳（メタデータ） (2023-10-04T04:26:33Z)
• One-stop Training of Multiple Capacity Models [74.87789190840527]
  本稿では,高容量・低容量モデルとの共同学習のためのワンストップトレーニングフレームワークを提案する。 複数のキャパシティモデルをスクラッチから個別に訓練する知識蒸留とは異なり、我々の手法は異なるキャパシティモデルからの監督を同時に統合する。
  論文  参考訳（メタデータ） (2023-05-23T13:44:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。