論文の概要: Whole-Body Mobile Manipulation using Offline Reinforcement Learning on Sub-optimal Controllers
- arxiv url: http://arxiv.org/abs/2604.12509v1
- Date: Tue, 14 Apr 2026 09:32:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-15 19:11:32.379684
- Title: Whole-Body Mobile Manipulation using Offline Reinforcement Learning on Sub-optimal Controllers
- Title(参考訳): 準最適制御器を用いたオフライン強化学習を用いた全体移動マニピュレーション
- Authors: Snehal Jauhri, Vignesh Prasad, Georgia Chalvatzaki,
- Abstract要約: 全体ボディコントローラ(WBC)は階層的な最適化によって問題を解決することができるが、手動による広範囲な最適化が必要であり、脆弱である。
本稿では,軽量なWBCをランダム化することによって,まず多様なデモを生成する2段階パイプラインであるWHOLE-MoMaを提案する。
我々は、チャンクレベルの批判評価とアドバンテージ重み付きポリシー抽出のために、Qチャンクによる暗黙Q-ラーニングを拡張した。
- 参考スコア(独自算出の注目度): 11.892460841109818
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Mobile Manipulation (MoMa) of articulated objects, such as opening doors, drawers, and cupboards, demands simultaneous, whole-body coordination between a robot's base and arms. Classical whole-body controllers (WBCs) can solve such problems via hierarchical optimization, but require extensive hand-tuned optimization and remain brittle. Learning-based methods, on the other hand, show strong generalization capabilities but typically rely on expensive whole-body teleoperation data or heavy reward engineering. We observe that even a sub-optimal WBC is a powerful structural prior: it can be used to collect data in a constrained, task-relevant region of the state-action space, and its behavior can still be improved upon using offline reinforcement learning. Building on this, we propose WHOLE-MoMa, a two-stage pipeline that first generates diverse demonstrations by randomizing a lightweight WBC, and then applies offline RL to identify and stitch together improved behaviors via a reward signal. To support the expressive action-chunked diffusion policies needed for complex coordination tasks, we extend offline implicit Q-learning with Q-chunking for chunk-level critic evaluation and advantage-weighted policy extraction. On three tasks of increasing difficulty using a TIAGo++ mobile manipulator in simulation, WHOLE-MoMa significantly outperforms WBC, behavior cloning, and several offline RL baselines. Policies transfer directly to the real robot without finetuning, achieving 80% success in bimanual drawer manipulation and 68% in simultaneous cupboard opening and object placement, all without any teleoperated or real-world training data.
- Abstract(参考訳): オープニングドア、引き出し、カップボードなどの調音された物体の移動操作(MoMa)は、ロボットのベースとアーム間の全体調整を同時に要求する。
古典的な全身制御装置(WBC)は階層的な最適化によってそのような問題を解決することができるが、手作業による広範囲な最適化が必要であり、不安定なままである。
一方、学習ベースの手法は強力な一般化能力を示すが、通常は高価な全身遠隔操作データや重い報酬工学に依存している。
状態-作用空間の制約されたタスク関連領域におけるデータ収集に使用することができ、オフライン強化学習を用いてその振る舞いを改善することができる。
そこで本研究では,まず軽量なWBCをランダム化して多様な実演を生成する2段階パイプラインであるWHOLE-MoMaを提案する。
複雑な調整作業に必要な表現的行動チャンク拡散ポリシーをサポートするため,Qチャンクによる暗黙Q学習を拡張して,チャンクレベルの批判評価とアドバンテージ重み付きポリシー抽出を行う。
TIAGo++モバイルマニピュレータのシミュレーションにおける難易度を高める3つのタスクにおいて、WHOLE-MoMaはWBC、行動クローニング、いくつかのオフラインRLベースラインを著しく上回っている。
ポリシーは、微調整なしで実際のロボットに直接移行し、双方向の引き出し操作で80%の成功と、コップボードのオープニングとオブジェクト配置を同時に行う68%を達成し、遠隔操作や実世界のトレーニングデータがない。
関連論文リスト
- ULTRA: Unified Multimodal Control for Autonomous Humanoid Whole-Body Loco-Manipulation [55.467742403416175]
本稿では,大規模モーションキャプチャをヒューマノイドに変換する物理駆動型ニューラルネットワークを提案する。
我々は高密度参照とスパースタスク仕様の両方をサポートする統合マルチモーダルコントローラを学習する。
その結果,ULTRAは自我中心の知覚から,自律的,目標条件付き全体ロコ操作に一般化することが示された。
論文 参考訳(メタデータ) (2026-03-03T18:59:29Z) - Scaling Tasks, Not Samples: Mastering Humanoid Control through Multi-Task Model-Based Reinforcement Learning [49.82882141491629]
効果的なオンライン学習は、タスク毎のサンプル数ではなく、タスクの回数を拡大すべきである、と我々は主張する。
この体制はモデルに基づく強化学習の構造上の利点を明らかにしている。
我々は、オンライン学習のためのサンプル効率のよいマルチタスクアルゴリズムである textbfEfficientZero-Multitask (EZ-M) を用いて、このアイデアをインスタンス化する。
論文 参考訳(メタデータ) (2026-03-02T05:07:43Z) - SOP: A Scalable Online Post-Training System for Vision-Language-Action Models [15.86316960521611]
視覚言語アクション(VLA)モデルは、大規模な事前訓練を通じて強力な一般化を実現するが、現実の展開には幅広い汎用性に加えて、専門家レベルのタスク能力が必要である。
VLAモデルの既存のトレーニング後のアプローチは、通常、オフライン、シングルロボット、タスク固有である。
本稿では,一般VLAモデルのオンライン,分散,マルチタスクのポストトレーニングを物理世界に直接適用可能なスケーラブルオンラインポストトレーニングシステムを提案する。
論文 参考訳(メタデータ) (2026-01-06T14:25:11Z) - CollaPipe: Adaptive Segment-Optimized Pipeline Parallelism for Collaborative LLM Training in Heterogeneous Edge Networks [57.95170323315603]
CollaPipeは、コラボレーティブパイプライン並列性とフェデレーションアグリゲーションを統合し、自己進化型ネットワークをサポートする分散学習フレームワークである。
CollaPipeでは、エンコーダ部分は可変サイズのセグメントに適応的に分割され、パイプライン並列トレーニングのためにモバイルデバイスにデプロイされ、デコーダは生成タスクを処理するためにエッジサーバにデプロイされる。
トレーニング効率を向上させるために,モデルセグメント,マイクロバッチ,帯域幅,送信電力を適応的に割り当てる共同最適化問題を定式化する。
論文 参考訳(メタデータ) (2025-09-24T07:54:01Z) - Sim-to-Real Reinforcement Learning for Vision-Based Dexterous Manipulation on Humanoids [56.892520712892804]
本稿では,ヒューマノイドロボットを訓練して3つの巧妙な操作を行う,実用的なシミュレート・トゥ・リアルなRLレシピを提案する。
未確認のオブジェクトやロバストで適応的な政策行動に対して高い成功率を示す。
論文 参考訳(メタデータ) (2025-02-27T18:59:52Z) - Robotic Control via Embodied Chain-of-Thought Reasoning [86.6680905262442]
学習したロボット制御ポリシーの鍵となる制限は、トレーニングデータの外部で一般化できないことである。
視覚言語行動モデル(VLA)に関する最近の研究は、大規模なインターネット事前学習型視覚言語モデルを使用することで、その堅牢性と一般化能力を大幅に向上させることができることを示した。
ロボットの動作を予測する前に、VLAに対して、計画、サブタスク、動作、視覚的接地機能について複数の推論を行うために、VLAに対してEmbodied Chain-of-Thought Reasoning (ECoT)を導入する。
論文 参考訳(メタデータ) (2024-07-11T17:31:01Z) - Generalize by Touching: Tactile Ensemble Skill Transfer for Robotic Furniture Assembly [24.161856591498825]
TEST(Tactile Ensemble Skill Transfer)は、制御ループに触覚フィードバックを組み込んだオフライン強化学習(RL)アプローチのパイオニアである。
TESTの中核となる設計は、高度計画のためのスキル移行モデルと、適応的なスキル内目標達成ポリシーのセットを学ぶことである。
その結果, TESTは90%以上の成功率を達成でき, 一般化政策の4倍以上の効率であることがわかった。
論文 参考訳(メタデータ) (2024-04-26T20:27:10Z) - Bi-Manual Block Assembly via Sim-to-Real Reinforcement Learning [24.223788665601678]
2つのxArm6ロボットがU字型組立タスクを、シミュレーションで90%以上、実際のハードウェアで50%の確率で解決する。
以上の結果から,本システムは今後,深部RLおよびSim2Real転送バイマニュアルポリアの研究を刺激していきたいと願っている。
論文 参考訳(メタデータ) (2023-03-27T01:25:24Z) - Robot Learning of Mobile Manipulation with Reachability Behavior Priors [38.49783454634775]
モバイルマニピュレーション(MM)システムは、非構造化現実環境におけるパーソナルアシスタントの役割を引き継ぐ上で理想的な候補である。
その他の課題として、MMは移動性と操作性の両方を必要とするタスクを実行するために、ロボットの実施形態を効果的に調整する必要がある。
本研究では,アクタ批判的RL手法におけるロボットの到達可能性の先行性の統合について検討した。
論文 参考訳(メタデータ) (2022-03-08T12:44:42Z) - Whole-Body Control of a Mobile Manipulator using End-to-End
Reinforcement Learning [31.150823782805283]
WBC(Whole-Body Control)に対するエンドツーエンド強化学習(RL)アプローチを提案する。
シミュレーションでは,学習したコントローラを最先端のサンプリングベース手法と比較し,全体のミッションタイムを高速化した。
論文 参考訳(メタデータ) (2020-02-25T21:21:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。