論文の概要: Emergent Compositional Skills in Mixture-of-Experts VLAs
- arxiv url: http://arxiv.org/abs/2607.20771v1
- Date: Wed, 22 Jul 2026 22:36:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-24 18:26:25.229851
- Title: Emergent Compositional Skills in Mixture-of-Experts VLAs
- Title(参考訳): 実験VLAの創発的構成スキル
- Abstract要約: 単純化されたMixture-of-Experts (MoE)アクションヘッドでトレーニングされたVLAが、タスクを再利用可能な、解釈可能なプリミティブに即時に分解することを学習できるかどうかを問う。
学習した専門家はタスク間で頻繁に再利用されており、定性的に異なる低レベルの振る舞いに対応しています。
- 参考スコア(独自算出の注目度): 0.5872014229110213
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider the problem of learning compositional robot policies end-to-end from expert demonstrations, without any pre-specified notion of task decomposition or hierarchy. We ask whether a VLA trained with a simplified Mixture-of-Experts (MoE) action head can emergently learn to decompose tasks into reusable, interpretable primitives. We find that learned experts are heavily reused across tasks and consistently correspond to qualitatively distinct low-level behaviors, suggesting that the router implicitly learns to perform high-level sequencing while experts serve as compositional primitives. Our MoE matches the task performance of a monolithic baseline while demonstrating meaningful expert specialization, a step toward modular, interpretable robot policies that emerge from data alone.
- Abstract(参考訳): 本研究では,タスクの分解や階層構造を事前に定義せずに,専門家による実証からエンドツーエンドに構成ロボットポリシーを学習する問題を考察する。
単純化されたMixture-of-Experts (MoE)アクションヘッドでトレーニングされたVLAが、タスクを再利用可能な、解釈可能なプリミティブに即時に分解することを学習できるかどうかを問う。
学習した専門家はタスク間で頻繁に再利用され、定性的に異なる低レベルな振る舞いに対応し、暗黙的にハイレベルなシーケンシングを学習し、専門家は作曲プリミティブとして機能することを示唆している。
私たちのMoEはモノリシックなベースラインのタスクパフォーマンスと一致し、有意義な専門性を示しながら、データのみから生まれるモジュラーで解釈可能なロボットポリシーへの一歩を踏み出します。
関連論文リスト
- Sparse Subspace-to-Expert Sharing for Task-Agnostic Continual Learning [10.01449025634975]
既存のメソッドはパラメータを均一に扱い、特定のタスク知識と共有能力の区別に失敗する。
適応的なスパース部分空間分解によって可塑性・安定性の対立を解決するフレームワークであるタスク非依存型連続学習のためのスパースエキスパートの混合(SETA)を導入する。
SETAは、最先端の継続的な学習ベースラインと比較して、競争力や優れた総合的なパフォーマンスを達成できることを示す。
論文 参考訳(メタデータ) (2026-06-05T17:53:52Z) - LAR-MoE: Latent-Aligned Routing for Mixture of Experts in Robotic Imitation Learning [1.7272266547709354]
政策学習から教師なしスキル発見を分離する2段階のフレームワークであるLAR-MoE(Latent-Aligned Routing for Mixture of Experts)を紹介する。
プレトレーニングでは,学生と教師の協調学習を通じて,観察と今後の行動の協調的潜在表現を学習する。
訓練後の段階では、専門家のルーティングは学習された潜在空間の構造に従うように規則化され、専門家の崩壊を防ぐ。
論文 参考訳(メタデータ) (2026-03-09T15:10:31Z) - Phase-Aware Mixture of Experts for Agentic Reinforcement Learning [23.18318273534301]
ポリシーネットワークにはMixture-of-Experts (MoE)アーキテクチャが採用される可能性がある。
MoEは異なるパラメータ(専門家)に異なるタスクを専門化させ、単純なタスクが全てのパラメータを支配できないようにする。
textbfPhase-Aware Mixture of Experts (PA-MoE)を提案する。
まず、RLの目的から遅延位相境界を直接学習し、位相カテゴリを事前に定義せずに、軽量のEmphphaseルータを特徴とする。
そして、フェーズルータは同じ専門家に時間的に一貫した割り当てを割り当て、専門家はフェーズ固有の専門知識を維持することができる。
論文 参考訳(メタデータ) (2026-02-19T03:18:30Z) - SAME: Stabilized Mixture-of-Experts for Multimodal Continual Instruction Tuning [83.66308307152808]
マルチモーダル・インストラクション・チューニング(MCIT)のためのStAbilized Mixture-of-Experts(SAME)を提案する。
プロプライエタリは、サブスペースへのルーティングダイナミクスを分解し、タスク関連方向のみを更新することで、専門家の選択を安定化する。
また、トレーニング中に選択した専門家を凍結するためにアダプティブな専門家アクティベーションを導入し、冗長でクロスタスクな干渉を減らす。
論文 参考訳(メタデータ) (2026-02-02T11:47:06Z) - Split-on-Share: Mixture of Sparse Experts for Task-Agnostic Continual Learning [10.01449025634975]
大規模言語モデル(LLM)における連続学習は、可塑性安定性ジレンマによって妨げられる。
モデルをモジュラー部分空間に分解することで可塑性と安定性の衝突を解決するフレームワークであるSETAを紹介する。
SETA は,パラメータ効率のよい連続学習法よりも常に優れていることを示す。
論文 参考訳(メタデータ) (2026-01-24T22:39:22Z) - One-Prompt Strikes Back: Sparse Mixture of Experts for Prompt-based Continual Learning [52.966712416640085]
本稿では,タスク固有戦略と共有プロンプト戦略の両方の利点を統合する新しいフレームワークであるSMoPEを提案する。
SMoPEはタスク固有のプロンプトメソッドを一貫して上回り、最先端のアプローチと競合する性能を達成する。
論文 参考訳(メタデータ) (2025-09-29T08:54:58Z) - Complexity Experts are Task-Discriminative Learners for Any Image Restoration [80.46313715427928]
複雑性の専門家" - 様々な計算複雑性と受容的なフィールドを持つフレキシブルな専門家ブロックを紹介します。
この選好は、タスク固有の割り当てを効果的に推進し、適切な複雑さを持つ専門家にタスクを割り当てる。
提案したMoCE-IRモデルは最先端の手法より優れており、その効率性と実用性が確認されている。
論文 参考訳(メタデータ) (2024-11-27T15:58:07Z) - Pre-training Multi-task Contrastive Learning Models for Scientific
Literature Understanding [52.723297744257536]
事前学習言語モデル(LM)は、科学文献理解タスクにおいて有効であることを示す。
文献理解タスク間の共通知識共有を容易にするために,マルチタスクのコントラスト学習フレームワークであるSciMultを提案する。
論文 参考訳(メタデータ) (2023-05-23T16:47:22Z) - Inferring Versatile Behavior from Demonstrations by Matching Geometric
Descriptors [72.62423312645953]
人間は直感的にタスクを多目的に解決し、軌道に基づく計画や個々のステップの行動を変化させる。
現在のImitation Learningアルゴリズムは、通常、単調な専門家によるデモンストレーションのみを考慮し、状態アクションベースの設定で行動する。
代わりに、移動プリミティブの混合と分布マッチングの目的を組み合わせることで、専門家の行動と汎用性にマッチする多目的行動を学ぶ。
論文 参考訳(メタデータ) (2022-10-17T16:42:59Z) - EEML: Ensemble Embedded Meta-learning [5.9514420658483935]
本稿では,事前知識を多種多様な専門家に整理するために,マルチモデルアンサンブルを明示的に活用する組込みメタ学習アルゴリズム(EEML)を提案する。
トレーニングプロセスのエキスパートに多様なタスクを提供し、テストフェーズで専門家がどのように協力するかを指示するために、クラスタメカニズムを組み込むタスクに依存しています。
実験結果から,提案手法は,最近の最先端技術に優れることが示された。
論文 参考訳(メタデータ) (2022-06-18T12:37:17Z) - Learning Task Decomposition with Ordered Memory Policy Network [73.3813423684999]
OMPN(Ordered Memory Policy Network)を提案し、デモから学習することでサブタスク階層を発見する。
ompnは部分的に観測可能な環境に適用でき、高いタスク分解性能を達成できる。
私たちの視覚化は、サブタスク階層がモデルに出現できることを確認します。
論文 参考訳(メタデータ) (2021-03-19T18:13:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。