論文の概要: Learning Diverse Skills for Behavior Models with Mixture of Experts

• arxiv url: http://arxiv.org/abs/2601.12397v1
• Date: Sun, 18 Jan 2026 13:14:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-23 08:17:40.829561
• Title: Learning Diverse Skills for Behavior Models with Mixture of Experts
• Title（参考訳）: 専門家の混在による行動モデルのための多様なスキルの学習
• Authors: Wangtian Shen, Jinming Ma, Mingliang Zhou, Ziyang Meng,
• Abstract要約: Di-BMと呼ばれるMixture of Expertsを用いて,行動モデルの多様なスキルを学ぶことを提案する。 我々のアプローチはプラグアンドプレイであり、標準的な模倣学習手法にシームレスに統合できる。 複数の実世界のロボット操作タスクの実験は、Di-BMが最先端のベースラインを大幅に上回っていることを示している。
• 参考スコア（独自算出の注目度）: 12.076288904201418
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Imitation learning has demonstrated strong performance in robotic manipulation by learning from large-scale human demonstrations. While existing models excel at single-task learning, it is observed in practical applications that their performance degrades in the multi-task setting, where interference across tasks leads to an averaging effect. To address this issue, we propose to learn diverse skills for behavior models with Mixture of Experts, referred to as Di-BM. Di-BM associates each expert with a distinct observation distribution, enabling experts to specialize in sub-regions of the observation space. Specifically, we employ energy-based models to represent expert-specific observation distributions and jointly train them alongside the corresponding action models. Our approach is plug-and-play and can be seamlessly integrated into standard imitation learning methods. Extensive experiments on multiple real-world robotic manipulation tasks demonstrate that Di-BM significantly outperforms state-of-the-art baselines. Moreover, fine-tuning the pretrained Di-BM on novel tasks exhibits superior data efficiency and the reusable of expert-learned knowledge. Code is available at https://github.com/robotnav-bot/Di-BM.
• Abstract（参考訳）: 模倣学習は、大規模な人間のデモンストレーションから学ぶことにより、ロボット操作において強力なパフォーマンスを示した。 既存のモデルはシングルタスク学習において優れているが、実際の応用では、タスク間の干渉が平均化効果をもたらすマルチタスク設定でパフォーマンスが低下する。 この問題に対処するために,我々はdi-BMと呼ばれるMixture of Expertsを用いて,行動モデルの多様なスキルを学ぶことを提案する。 Di-BMは各専門家を別個の観察分布に関連付け、専門家が観測空間の下位領域を専門化できるようにする。 具体的には、専門家固有の観測分布を表すためにエネルギーモデルを使用し、対応する行動モデルと共にそれらを共同で訓練する。 我々のアプローチはプラグアンドプレイであり、標準的な模倣学習手法にシームレスに統合できる。 複数の実世界のロボット操作タスクに関する大規模な実験は、Di-BMが最先端のベースラインを大幅に上回っていることを示している。 さらに、新しいタスクにおける事前訓練されたDi-BMの微調整は、優れたデータ効率と専門家が学習した知識の再利用を示す。 コードはhttps://github.com/robotnav-bot/Di-BMで入手できる。

関連論文リスト

• LAR-MoE: Latent-Aligned Routing for Mixture of Experts in Robotic Imitation Learning [1.7272266547709354]
  政策学習から教師なしスキル発見を分離する2段階のフレームワークであるLAR-MoE(Latent-Aligned Routing for Mixture of Experts)を紹介する。 プレトレーニングでは,学生と教師の協調学習を通じて,観察と今後の行動の協調的潜在表現を学習する。 訓練後の段階では、専門家のルーティングは学習された潜在空間の構造に従うように規則化され、専門家の崩壊を防ぐ。
  論文  参考訳（メタデータ） (2026-03-09T15:10:31Z)
• Expertise need not monopolize: Action-Specialized Mixture of Experts for Vision-Language-Action Learning [56.129822832095726]
  AdaMoEはMixture-of-Experts (MoE)アーキテクチャであり、密度の高いVLAモデルから事前訓練された重量を継承する。 実世界の実験で21.5%の大幅な改善が、ロボット操作タスクの実用的効果を実証している。
  論文  参考訳（メタデータ） (2025-10-16T04:52:57Z)
• Beyond Benchmarks: Understanding Mixture-of-Experts Models through Internal Mechanisms [55.1784306456972]
  Mixture-of-Experts (MoE)アーキテクチャは、推論中にパラメータのサブセットだけをアクティベートすることで、効率とスケーラビリティを提供する、有望な方向性として登場した。 内部メトリックを用いて、ルーティング機構を明示的に取り入れ、専門家レベルの振る舞いを分析することで、MoEアーキテクチャのメカニズムを解明する。 その結果,(1)モデルの発展に伴ってニューロンの利用が減少し,より高度な一般化が期待できる,(2)ベンチマークのパフォーマンスが限られた信号のみを提供するダイナミックな軌道を示す,(3)複数の専門家の協力的貢献からタスク完了が生じる,(4)ニューロンレベルでの活性化パターンがデータ多様性のきめ細かいプロキシを提供する,といった結果が得られた。
  論文  参考訳（メタデータ） (2025-09-28T15:13:38Z)
• UNIFORM: Unifying Knowledge from Large-scale and Diverse Pre-trained Models [62.76435672183968]
  UNIFORMと呼ばれる新しいフレームワークを導入し、多様なオフザシェルフモデルから1つの学生モデルへ知識を伝達する。 本稿では,ロジットレベルでも機能レベルでも知識のコンセンサスを捉えるための,専用の投票機構を提案する。 UNIFORMは、強い知識伝達ベースラインに比べて、教師なしオブジェクト認識性能を効果的に向上することを示した。
  論文  参考訳（メタデータ） (2025-08-27T00:56:11Z)
• Coupled Distributional Random Expert Distillation for World Model Online Imitation Learning [25.304836126280424]
  イミテーション・ラーニング(IL)は、ロボット工学、自律運転、医療など、さまざまな分野において、エージェントが専門家によるデモンストレーションから複雑な振る舞いを学べることによって、目覚ましい成功を収めた。 既存のILメソッドは、特に世界モデルフレームワークにおける敵の報酬や価値の定式化に依存する場合、不安定な課題に直面します。 本稿では,これらの制約に対処するオンライン模倣学習手法について,密度推定のためのランダムネットワーク蒸留(RND)に基づく報酬モデルを用いて提案する。
  論文  参考訳（メタデータ） (2025-05-04T19:32:48Z)
• Conditional Neural Expert Processes for Learning Movement Primitives from Demonstration [1.9336815376402723]
  条件付きニューラルネットワークプロセス(CNEP)は、異なるモードから異なる専門家ネットワークにデモを割り当てることを学ぶ。 CNEPは、軌道がどのモードに属するかの監督を必要としない。 本システムは,オンラインコンディショニング機構を用いて,環境変化へのオンザフライ適応が可能なシステムである。
  論文  参考訳（メタデータ） (2024-02-13T12:52:02Z)
• LoRAMoE: Alleviate World Knowledge Forgetting in Large Language Models via MoE-Style Plugin [85.16356890023582]
  ルータネットワークを用いてローランクアダプタ(LoRA)を複数導入し,それらを統合する新しいフレームワークであるLoRAMoEを提案する。 バックボーンモデルを凍結し、LoRAの一部をダウンストリームタスクの解決に世界の知識を活用することに集中させます。 実験の結果、命令データが増加するにつれて、LoRAMoEは下流タスクの処理能力を大幅に改善できることがわかった。
  論文  参考訳（メタデータ） (2023-12-15T17:45:06Z)
• SeMAIL: Eliminating Distractors in Visual Imitation via Separated Models [22.472167814814448]
  本稿では,SeMAIL(Separated Model-based Adversarial Imitation Learning)というモデルベース模倣学習アルゴリズムを提案する。 本手法は, 様々な視覚的制御タスクにおいて, 複雑な観察と, 専門的な観察から異なる背景を持つより困難なタスクにおいて, ほぼ専門的な性能を実現する。
  論文  参考訳（メタデータ） (2023-06-19T04:33:44Z)
• Pre-training Multi-task Contrastive Learning Models for Scientific Literature Understanding [52.723297744257536]
  事前学習言語モデル(LM)は、科学文献理解タスクにおいて有効であることを示す。 文献理解タスク間の共通知識共有を容易にするために,マルチタスクのコントラスト学習フレームワークであるSciMultを提案する。
  論文  参考訳（メタデータ） (2023-05-23T16:47:22Z)
• Imitation by Predicting Observations [17.86983397979034]
  本研究では, 連続制御タスクの課題に対して, 専門家に匹敵する性能を達成できる観測結果のみを模倣する新しい手法を提案する。 提案手法は, 逆RL目標から導出され, 専門家の観察結果の生成モデルを用いて学習した専門家の行動モデルを用いて模倣する。 本稿では,DeepMind Control Suiteベンチマークにおける強力なベースラインIRL法(GAIL)に対して,タスク非関連機能の存在下でGAILよりも優れた性能を示すことを示す。
  論文  参考訳（メタデータ） (2021-07-08T14:09:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。