Fugu-MT 論文翻訳(概要): Factor-Aware Mixture-of-Experts with Pretrained Encoder for Combinatorial Generalization

論文の概要: Factor-Aware Mixture-of-Experts with Pretrained Encoder for Combinatorial Generalization

arxiv url: http://arxiv.org/abs/2606.21100v1
Date: Fri, 19 Jun 2026 05:03:00 GMT
ステータス: 翻訳完了
システム内更新日: 2026-06-26 08:18:30.647342
Title: Factor-Aware Mixture-of-Experts with Pretrained Encoder for Combinatorial Generalization
Title（参考訳）: 組合せ一般化のための事前学習エンコーダを用いた因子認識混合
Authors: Feihong Zhang, Guojian Zhan, Zeyu He, Yinuo Wang, Likun Wang, Tianze Zhu, Yao Lyu, Tao Zhang, Tinghao Yi, Wei You, Shengbo Eben Li,
Abstract要約: 環境変動に対する一般化を促進するために,FAMEは,Facter-aware Mixed-of-Experts(MoE)と事前学習エンコーダを統合したフレームワークである。中央のルータが凍った因子特異的アダプターを濃密なMoEとして柔らかく重み付け、複数の因子をまたいだ一般化を可能にするため、FAMEは「Facter-aware」である。我々は,FAMEが実世界の変動下での一般化を35%改善する,新たな収集データに基づいて訓練されたコンパクトモデルを用いて,実世界のピック・アンド・プレイス・タスクにおけるFAMEの有効性を検証する。
参考スコア（独自算出の注目度）: 24.283345294785192
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: The integration of pretrained encoders with diffusion policies has become a dominant paradigm for visual robotic manipulation. However, it still struggles to generalize across complex environments with varying factors such as lighting and surface textures. To address this, we propose FAME, a framework that integrates a factor-aware mixture-of-experts (MoE) with a pretrained encoder to enhance generalization to environmental variations. FAME follows a three-stage training process: (1) policy warmup, where a diffusion policy is trained on standard-environment data with a frozen encoder; (2) factor-specific adapter training, where lightweight adapters inserted between the frozen encoder and the temporarily frozen policy are trained on customized datasets, each targeting a distinct environmental variation; and (3) joint fine-tuning, where a central router and the warmed policy are trained on mixed data to handle multiple factors jointly. FAME is ``factor-aware'' because the central router softly weights frozen factor-specific adapters as a dense MoE, enabling combinatorial generalization across multiple factors. Evaluations on the Meta-World benchmark show that FAME outperforms diffusion policy baselines by 34%. We further validate FAME in a real-world pick-and-place task using a compact model trained on newly collected data, where FAME achieves a 35% improvement in generalization under real-world variations.
Abstract（参考訳）: 事前訓練されたエンコーダと拡散ポリシーの統合は、視覚ロボット操作において支配的なパラダイムとなっている。しかし、光や表面のテクスチャといった様々な要素を持つ複雑な環境をまたいだ一般化に苦慮している。そこで本稿では,FAME(Facter-aware Mixed-of-Experts)と事前学習エンコーダを統合し,環境変動への一般化を促進するフレームワークを提案する。 FAMEは、(1)フリーズエンコーダで標準環境データに基づいて拡散ポリシーを訓練したポリシーウォームアップ、(2)冷凍エンコーダと一時的に凍結されたポリシーの間に挿入された軽量アダプタを個別の環境変動をターゲットとしたカスタマイズデータセットで訓練したファクター固有のアダプタトレーニング、(3)中央ルータと暖房ポリシーを混合データで訓練したジョイント微調整という3段階のトレーニングプロセスに従う。 FAME は ‘factor-aware' である、なぜなら中央ルータは冷凍因子固有のアダプタを濃密な MoE としてソフトに重み付け、複数の因子をまたいだ組合せ一般化を可能にするからである。 Meta-Worldベンチマークの評価によると、FAMEは拡散ポリシーのベースラインを34%上回っている。さらに、FAMEが実世界の変動下での一般化を35%改善する、新たな収集データに基づいて訓練されたコンパクトモデルを用いて、実世界のピック・アンド・プレイス・タスクにおけるFAMEの検証を行う。

関連論文リスト

Optimizing Server Placement for Vertical Federated Learning in Dynamic Edge/Fog Networks [49.91939413642465]
本稿では,エッジ/フォグデバイスに異なるデータ特徴を含む垂直連合学習法(VFL)の制御と最適化について検討する。本稿では,サーバ制御型VFLを動的ネットワーク(SC-DN)で実現し,まずグローバルラウンド毎の1次定常点の存在を確定する手法を提案する。本手法は, 過酷な手法よりも, 分類・回帰性能と資源消費量の削減が優れていることを示す。
論文参考訳（メタデータ） (2026-05-10T23:30:18Z)
UniMPR: A Unified Framework for Multimodal Place Recognition with Heterogeneous Sensor Configurations [14.975915291012983]
マルチモーダル位置認識のための統合フレームワークUniMPRを提案する。訓練された1つのモデルのみを使用して、共通の知覚的モダリティの組み合わせにシームレスに適応することができる。 7つのデータセットの実験は、UniMPRが最先端のパフォーマンスを達成することを示す。
論文参考訳（メタデータ） (2025-12-20T09:01:18Z)
PathFinder: Advancing Path Loss Prediction for Single-to-Multi-Transmitter Scenario [60.906711761476735]
PathFinderは、アンタングル化された特徴符号化を通じて建物や送信機を積極的にモデル化する新しいアーキテクチャである。テストでは、PathFinderは最先端のメソッド、特に挑戦的なマルチトランスミッタシナリオにおいて、大幅にパフォーマンスが向上している。
論文参考訳（メタデータ） (2025-12-16T07:15:15Z)
Generalizable Federated Learning using Client Adaptive Focal Modulation [0.29465623430708915]
フェデレートラーニング(FL)は、分散クライアント間での、プライバシー保護、協調トレーニングに不可欠であることが証明されている。本稿では,サーバ側通信のオーバーヘッドを低減したTransFedの効率的なバージョンを提案する。我々の発見は、より適応的で、スケーラブルで、一般化可能なトランスフォーマーベースのフェデレーションシステムへの道を開いた。
論文参考訳（メタデータ） (2025-08-14T17:06:50Z)
Dynamic Context-oriented Decomposition for Task-aware Low-rank Adaptation with Less Forgetting and Faster Convergence [131.41894248194995]
タスク認識方式でアダプタを初期化する新しい手法であるコンテキスト指向分解適応(CorDA)を提案する。本手法は,タスク認識により,知識保存モード (KPM) と命令レビューモード (IPM) の2つのオプション適応モードを実現する。
論文参考訳（メタデータ） (2025-06-16T07:55:14Z)
SPIRE: Conditional Personalization for Federated Diffusion Generative Models [7.8583640700306585]
Shared Backbone Personal Identity Representation Embeddings (SPIRE)は、FLで条件付き生成としてクライアント拡散ベースの生成をキャストするフレームワークである。 SPIREは、ネットワークを(i)人口レベルのスコア関数を学習する高容量なグローバルバックボーンと、(ii)ローカルデータ統計を符号化する軽量で学習可能なクライアント埋め込みに分解する。我々の分析は、クライアントの埋め込みが共有スコアネットワークをパーソナライズするバイアスとしてどのように振舞うかを示唆している。
論文参考訳（メタデータ） (2025-06-14T01:40:31Z)
Personalized Federated Collaborative Filtering: A Variational AutoEncoder Approach [49.63614966954833]
Federated Collaborative Filtering (FedCF)は、プライバシを保護する新しいレコメンデーションフレームワークの開発に焦点を当てた新興分野である。既存のFedCFメソッドは通常、分散協調フィルタリング(CF)アルゴリズムとプライバシ保護メカニズムを組み合わせて、パーソナライズされた情報をユーザ埋め込みベクタに保存する。本稿では,ユーザのパーソナライズされた情報を潜在変数とニューラルモデルに同時に保存することで,新たなパーソナライズされたFedCF手法を提案する。
論文参考訳（メタデータ） (2024-08-16T05:49:14Z)
Generalized Correspondence Matching via Flexible Hierarchical Refinement and Patch Descriptor Distillation [13.802788788420175]
対応マッチングは多くのロボティクス応用において重要な役割を担っている。本稿では,SoTA (State-of-the-art) のプラグ・アンド・プレイ対応手法であるDFM (Deep Feature Match) の限界に対処する。提案手法は,それぞれ1,3,5画素に対する平均マッチング精度0.68,0.92,0.95の総合的な性能を実現する。
論文参考訳（メタデータ） (2024-03-08T15:32:18Z)
Object Segmentation by Mining Cross-Modal Semantics [68.88086621181628]
マルチモーダル特徴の融合と復号を導くために,クロスモーダル・セマンティックスをマイニングする手法を提案する。具体的には,(1)全周減衰核融合(AF),(2)粗大デコーダ(CFD),(3)多層自己超越からなる新しいネットワークXMSNetを提案する。
論文参考訳（メタデータ） (2023-05-17T14:30:11Z)
FedHiSyn: A Hierarchical Synchronous Federated Learning Framework for Resource and Data Heterogeneity [56.82825745165945]
フェデレートラーニング(FL)は、データプライバシを保護するために複数のデバイスに格納された分散生データを共有することなく、グローバルモデルのトレーニングを可能にする。本稿では,階層型同期FLフレームワークであるFedHiSynを提案し,トラグラー効果や時代遅れモデルの問題に対処する。提案手法は,MNIST,EMNIST,CIFAR10,CIFAR100のデータセットと多種多様なデバイス設定に基づいて評価する。
論文参考訳（メタデータ） (2022-06-21T17:23:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。