論文の概要: Training Specialist Models without Reasoning Trajectories for Domain Expert Distillation
- arxiv url: http://arxiv.org/abs/2609.13770v1
- Date: Sat, 12 Sep 2026 07:29:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:05.546001
- Title: Training Specialist Models without Reasoning Trajectories for Domain Expert Distillation
- Title（参考訳）: ドメインエキスパート蒸留のための推論軌跡のない訓練スペシャリストモデル
- Abstract要約: 専門的な蒸留は、教師が生成した推論軌道を介して、学生モデルにドメインの専門知識を伝達する。
この潜在軌道空間から特殊最適化が暗黙的に選択されることを示す。
本研究は,金の推理が欠如している場合,下流モデルに渡される潜伏監督を調整選択が直接制御する,新たな専門訓練の視点を確立した。
- 参考スコア（独自算出の注目度）: 21.279730413366007
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Specialist distillation effectively transfers domain expertise to student models via teacher-generated reasoning trajectories. However, when these specialists are trained solely on question--answer pairs without explicit reasoning supervision, what governs the trajectories they generate? In this work, we show that specialist optimization implicitly selects from this latent trajectory space. To isolate and observe this latent distribution, we leverage student distillation not as a downstream goal, but as an agnostic probe---since students inherit no parameterization or optimization constraints from the specialist, inheriting only the sampled trajectories themselves. Through this probe, our empirical analysis unveils a tight governing relationship: across 27 specialist--student pairings, their specialization--generalization profiles correlate exceptionally strongly. Crucially, explicitly controlling the specialist's distributional drift systematically shifts both the teacher and its distilled student along a controllable trade-off between domain precision and general-capability retention. Across chemistry, physics, and multilingual settings, distilled students systematically reflect these specialist-induced profiles, even across divergent model families. Our findings establish a new view of specialist training: when gold reasoning is absent, tuning choices directly control the latent supervision passed to downstream models.
- Abstract（参考訳）: 専門的な蒸留は、教師が生成した推論トラジェクトリを通じて、ドメインの専門知識を学生モデルに効果的に伝達する。
しかし、これらの専門家が、明示的な推論監督を伴わない質問対のみに基づいて訓練されている場合、それらが生み出す軌跡をどう支配するか、この潜在軌道空間から暗黙的にスペシャリスト最適化が選択されることを示す。この潜伏分布を分離し観察するために、学生の蒸留を下流の目標としてではなく、無知のプローブとして活用する。学生は、パラメータ化や最適化の制約を継承せず、標本化された軌跡のみを継承する。
この調査を通じて、我々の経験的分析は、27の専門的なペアリング、その専門化、一般化プロファイルなど、厳密な支配関係を明らかにします。
重要なことは、専門家の分布的ドリフトを明示的に制御することは、教師と蒸留された学生の両方を、ドメイン精度と一般能力の保持との間の制御可能なトレードオフに沿って体系的にシフトさせる。
化学、物理学、多言語設定全体にわたって、蒸留された学生は、散発的なモデルファミリーでさえ、これらの専門家が引き起こしたプロファイルを体系的に反映する。
本研究は,金の推理が欠如している場合,下流モデルに渡される潜伏監督を調整選択が直接制御する,新たな専門訓練の視点を確立した。
関連論文リスト
- Neuron-Aware Data Selection for Annotation-Free LLM Self-Distillation [10.362162923646133]
実世界のインタラクションフィードバックや人間ラベルによる監視を伴わない、訓練後の大規模言語モデル(LLM)は依然として困難である。
最近のアノテーションのない自己進化法は、モデル自身の出力を監視信号として利用することでこの問題に対処している。
アノテーションのない自己蒸留のためのデータ中心型フレームワークであるNeuroon-OPSD(Neuroon-OPSD)を提案する。
論文 参考訳（メタデータ） (2026-07-02T17:27:24Z) - How Can Reinforcement Learning Achieve Expert-level Placement? [71.07457732447502]
我々は、報酬設計を専門家とのパフォーマンスギャップの主な原因とみなす。
複雑なプロセスを形式化する代わりに、専門家のレイアウトから直接学び、報酬モデルを引き出すことでこれを回避します。
私たちのフレームワークは、単一の設計からでも効率的に学習し、目に見えないケースにうまく一般化できます。
論文 参考訳（メタデータ） (2026-04-28T03:55:03Z) - MoE Lens -- An Expert Is All You Need [0.09444932939944471]
エキスパートの混合(MoE)モデルは、スパース専門家のアクティベーションを通じてパラメータ効率のスケーリングを可能にする。
本稿では,2つの相補的アプローチを用いて,MoEsの専門家専門化の体系的分析を行う。
論文 参考訳（メタデータ） (2026-03-06T01:35:28Z) - SAME: Stabilized Mixture-of-Experts for Multimodal Continual Instruction Tuning [83.66308307152808]
マルチモーダル・インストラクション・チューニング(MCIT)のためのStAbilized Mixture-of-Experts(SAME)を提案する。
プロプライエタリは、サブスペースへのルーティングダイナミクスを分解し、タスク関連方向のみを更新することで、専門家の選択を安定化する。
また、トレーニング中に選択した専門家を凍結するためにアダプティブな専門家アクティベーションを導入し、冗長でクロスタスクな干渉を減らす。
論文 参考訳（メタデータ） (2026-02-02T11:47:06Z) - The Illusion of Specialization: Unveiling the Domain-Invariant "Standing Committee" in Mixture-of-Experts Models [18.428606280260187]
エキスパートモデルの混合は、スパースルーティングによってドメインの特殊化を実現すると広く仮定されている。
我々は,個別の専門家ではなく,専門家グループレベルでのルーティング行動を分析するフレームワークであるCOMMITTEEAUDITを紹介する。
私たちは、スタンドング委員会が、ドメイン、レイヤ、およびルーティング予算をまたいだルーティングマスの大部分を一貫して捉えていることに気付きました。
論文 参考訳（メタデータ） (2026-01-06T21:29:45Z) - Mixture-of-Transformers Learn Faster: A Theoretical Study on Classification Problems [59.94955550958074]
本研究では,各変圧器ブロックが連続的に訓練されたゲーティングネットワークによって制御される専門家として機能する,トラクタブルな理論的枠組みについて検討する。
専門家の専門化は、勾配の衝突を減らし、各サブタスクを強く凸させることを示す。
トレーニングによって予測損失が$O(log(epsilon-1)$のステップでゼロに近づき、単一変圧器の$O(epsilon-1)$のレートよりも大幅に向上することが証明された。
論文 参考訳（メタデータ） (2025-10-30T21:07:36Z) - Offline Imitation Learning with Model-based Reverse Augmentation [48.64791438847236]
本稿では,自己ペースの逆拡張によるオフラインImitation Learningという,新しいモデルベースフレームワークを提案する。
具体的には、オフラインのデモからリバース・ダイナミック・モデルを構築し、専門家が観察した状態につながる軌道を効率的に生成する。
後続の強化学習法を用いて,拡張軌道から学習し,未観測状態から未観測状態へ移行する。
論文 参考訳（メタデータ） (2024-06-18T12:27:02Z) - A Simple Solution for Offline Imitation from Observations and Examples
with Possibly Incomplete Trajectories [122.11358440078581]
オフラインの模倣は、任意のインタラクションがコストがかかり、専門家のアクションが利用できない現実世界のシナリオで有用である。
本研究では,タスク固有の専門的状態とタスクに依存しない非専門的状態-アクションペアのみを利用できるMPPを解決するために,観察から学習するトラジェクトリ・アウェア・ラーニング(TAILO)を提案する。
論文 参考訳（メタデータ） (2023-11-02T15:41:09Z) - Self-Specialization: Uncovering Latent Expertise within Large Language Models [39.04128008742973]
近年の研究では、大規模言語モデルが一般的な指示に従うように整列された自己アライメントの有効性が実証されている。
我々はエキスパートドメイン専門化のための自己調整に焦点を当てる。
我々の自己特殊化モデルは、ベースモデルよりも大きなマージンで優れていることを示す。
論文 参考訳（メタデータ） (2023-09-29T21:53:46Z) - Supervision Complexity and its Role in Knowledge Distillation [65.07910515406209]
蒸留した学生の一般化行動について検討する。
この枠組みは、教師の精度、教師の予測に対する生徒の差、教師の予測の複雑さの間の微妙な相互作用を強調している。
オンライン蒸留の有効性を実証し,様々な画像分類ベンチマークとモデルアーキテクチャに関する理論的知見を検証した。
論文 参考訳（メタデータ） (2023-01-28T16:34:47Z) - Gaussian Experts Selection using Graphical Models [7.530615321587948]
ローカル近似は、元のデータセットをサブセットに分割し、各サブセットでローカル専門家を訓練することで、時間の複雑さを低減する。
我々は、専門家間の条件依存を符号化するスパース精度行列を用いて、非方向性のグラフィカルモデルに関する文献からのテクニックを活用し、最も重要な専門家を選択する。
論文 参考訳（メタデータ） (2021-02-02T14:12:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。