論文の概要: MoSE: Skill-by-Skill Mixture-of-Experts Learning for Embodied Autonomous Machines

• arxiv url: http://arxiv.org/abs/2507.07818v2
• Date: Wed, 13 Aug 2025 13:45:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-14 16:17:42.681565
• Title: MoSE: Skill-by-Skill Mixture-of-Experts Learning for Embodied Autonomous Machines
• Title（参考訳）: MoSE: 自動機械のスキル・バイ・スキル・ミックス・オブ・エキスパート・ラーニング
• Authors: Lu Xu, Jiaqian Yu, Xiongfeng Peng, Yiwei Chen, Weiming Li, Jaewook Yoo, Sunghyun Chunag, Dongwook Lee, Daehyun Ji, Chao Zhang,
• Abstract要約: 本稿では,AIの推論と学習効率を大幅に向上させる新しいMixture-of-Expert(MoE)手法を提案する。 一般的なMoEモデルは、広範囲なトレーニングデータと複雑な最適化を必要とする。 我々は,人間の学習と推論プロセスのスキル・バイ・スキル・バイ・ステップを模倣した,MoSEと呼ばれるスキル指向のMoEを提案する。
• 参考スコア（独自算出の注目度）: 14.042949333988785
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: To meet the growing demand for smarter, faster, and more efficient embodied AI solutions, we introduce a novel Mixture-of-Expert (MoE) method that significantly boosts reasoning and learning efficiency for embodied autonomous systems. General MoE models demand extensive training data and complex optimization, which limits their applicability in embodied AI such as autonomous driving (AD) and robotic manipulation. In this work, we propose a skill-oriented MoE called MoSE, which mimics the human learning and reasoning process skill-by-skill, step-by-step. We introduce a skill-oriented routing mechanism that begins with defining and annotating specific skills, enabling experts to identify the necessary competencies for various scenarios and reasoning tasks, thereby facilitating skill-by-skill learning. To better align with multi-step planning in human reasoning and in end-to-end driving models, we build a hierarchical skill dataset and pretrain the router to encourage the model to think step-by-step. Unlike other multi-round dialogues, MoSE integrates valuable auxiliary tasks (e.g. perception-prediction-planning for AD, and high-level and low-level planning for robots) in one single forward process without introducing any extra computational cost. With less than 3B sparsely activated parameters, our model effectively grows more diverse expertise and outperforms models on both AD corner-case reasoning tasks and robot reasoning tasks with less than 40% of the parameters.
• Abstract（参考訳）: より賢く、より高速で、より効率的なAIソリューションの需要に応えるために、我々は、組み込み自律システムの推論と学習効率を大幅に向上させる新しいMixture-of-Expert(MoE)手法を導入する。 一般的なMoEモデルは、広範なトレーニングデータと複雑な最適化を必要としており、自律運転(AD)やロボット操作といった具体的AIの適用性を制限する。 本研究では,人間の学習と推論プロセスのスキル・バイ・スキル・バイ・ステップを模倣した,MoSEというスキル指向のMoEを提案する。 スキル指向のルーティング機構を導入し、特定のスキルの定義と注釈付けから始まり、専門家が様々なシナリオや推論タスクに必要な能力を特定し、スキル・バイ・スキルの学習を容易にする。 人間の推論やエンドツーエンドの運転モデルにおける多段階計画の整合性を向上するために、階層的なスキルデータセットを構築し、ルータを事前訓練することで、モデルをステップバイステップで考えることを奨励する。 他の複数ラウンドの対話とは異なり、MoSEは計算コストを余分に導入することなく、1つの前処理に貴重な補助タスク(ADの知覚予測計画、ロボットの高レベルかつ低レベル計画など)を統合する。 3B未満の活性パラメータでは,パラメータの40%未満のADコーナーケース推論タスクとロボット推論タスクの両方において,より多様な専門知識を効果的に生かし,モデルに優れる。

関連論文リスト

• Multi-modal Knowledge Distillation-based Human Trajectory Forecasting [35.060041571520024]
  歩行者の軌道予測は、自律運転や移動ロボットナビゲーションといった様々な用途において重要である。 このようなアプリケーションでは、カメラベースの知覚により、追加のモダリティ(人間のポーズ、テキスト)の抽出が可能になり、予測精度が向上する。 そこで本研究では,多モードの知識蒸留フレームワークを提案する。多モードの知識蒸留を訓練した教師モデルから,限られたモダリティを持つ学生モデルを蒸留する。
  論文  参考訳（メタデータ） (2025-03-28T07:32:51Z)
• MoRE: Unlocking Scalability in Reinforcement Learning for Quadruped Vision-Language-Action Models [34.138699712315]
  本稿では、四足歩行ロボットのためのロボット専門家(MoRE)の混合であるビジョンアクション(VLA)モデルを提案する。 MoREは、複数の低ランク適応モジュールを、密集したマルチモーダルな大規模言語モデルの中で異なる専門家として統合する。 実験によると、MoREは6つの異なるスキルで全てのベースラインを上回り、アウト・オブ・ディストリビューションシナリオにおいて優れた一般化能力を示す。
  論文  参考訳（メタデータ） (2025-03-11T03:13:45Z)
• LLMs Can Evolve Continually on Modality for X-Modal Reasoning [62.2874638875554]
  既存の手法は、モーダル固有の事前訓練とジョイント・モーダルチューニングに大きく依存しており、新しいモーダルへと拡張する際の計算上の負担が大きくなった。 PathWeaveは、Modal-Path sWitchingとExpAnsion機能を備えた柔軟でスケーラブルなフレームワークである。 PathWeaveは最先端のMLLMと互換性があり、パラメータトレーニングの負担を98.73%削減する。
  論文  参考訳（メタデータ） (2024-10-26T13:19:57Z)
• MoExtend: Tuning New Experts for Modality and Task Extension [61.29100693866109]
  MoExtendは、Mixture-of-Experts (MoE)モデルのモダリティ適応と拡張を効率化する効果的なフレームワークである。 MoExtendは、新しいエキスパートをトレーニング済みのMoEモデルにシームレスに統合し、トレーニング済みのモデルをチューニングすることなく、新しい知識を提供する。
  論文  参考訳（メタデータ） (2024-08-07T02:28:37Z)
• Boosting Continual Learning of Vision-Language Models via Mixture-of-Experts Adapters [65.15700861265432]
  本稿では,視覚言語モデルを用いた漸進的学習における長期的忘れを緩和するパラメータ効率の連続学習フレームワークを提案する。 提案手法では,Mixture-of-Experts (MoE)アダプタの統合により,事前学習したCLIPモデルの動的拡張を行う。 視覚言語モデルのゼロショット認識能力を維持するために,分布判別オートセレクタを提案する。
  論文  参考訳（メタデータ） (2024-03-18T08:00:23Z)
• Delving into Multi-modal Multi-task Foundation Models for Road Scene Understanding: From Learning Paradigm Perspectives [56.2139730920855]
  本稿では,道路シーンに特化して設計されたMM-VUFMの系統解析について述べる。 本研究の目的は,タスク特化モデル,統合マルチモーダルモデル,統合マルチタスクモデル,基礎モデル推進技術など,共通プラクティスの包括的概要を提供することである。 我々は、クローズドループ駆動システム、解釈可能性、エンボディドドライブエージェント、世界モデルなど、重要な課題と今後のトレンドに関する洞察を提供する。
  論文  参考訳（メタデータ） (2024-02-05T12:47:09Z)
• When Parameter-efficient Tuning Meets General-purpose Vision-language Models [65.19127815275307]
  PETALは、一意のモード近似技術によって達成される全パラメータの0.5%しか必要とせず、トレーニングプロセスに革命をもたらす。 実験の結果,PETALは現状の手法をほとんどのシナリオで上回るだけでなく,完全な微調整モデルよりも優れていることがわかった。
  論文  参考訳（メタデータ） (2023-12-16T17:13:08Z)
• eP-ALM: Efficient Perceptual Augmentation of Language Models [70.47962271121389]
  本稿では,既存モデルの適応性を向上するための直接的な取り組みを提案し,認識を伴う言語モデルの拡張を提案する。 視覚言語タスクに事前訓練されたモデルを適用するための既存のアプローチは、その効率を妨げているいくつかの重要なコンポーネントに依存している。 総パラメータの99%以上を凍結し,1つの直線射影層のみをトレーニングし,1つのトレーニング可能なトークンのみを予測することにより,我々のアプローチ(eP-ALM)は,VQAとCaptioningの他のベースラインよりも有意に優れていることを示す。
  論文  参考訳（メタデータ） (2023-03-20T19:20:34Z)
• Skill-based Model-based Reinforcement Learning [18.758245582997656]
  モデルベース強化学習(RL)は、複雑な振る舞いを学習するサンプル効率のよい方法である。 本稿では,スキル領域における計画を可能にするSkill-based Model-based RL framework(SkiMo)を提案する。 学習したスキルダイナミクスモデルを利用して、スキル空間の長い地平線を正確にシミュレートし、計画する。
  論文  参考訳（メタデータ） (2022-07-15T16:06:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。