論文の概要: UniLab: A Heterogeneous Architecture for Robot RL Beyond GPU-Dominant Paradigms
- arxiv url: http://arxiv.org/abs/2605.30313v3
- Date: Tue, 02 Jun 2026 16:21:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-03 18:57:50.172365
- Title: UniLab: A Heterogeneous Architecture for Robot RL Beyond GPU-Dominant Paradigms
- Title(参考訳): UniLab:GPUが支配するパラダイムを超えたロボットRLのための異種アーキテクチャ
- Authors: Yufei Jia, Zhanxiang Cao, Mingrui Yu, Heng Zhang, Shenyu Chen, Dixuan Jiang, Meng Li, Xiaofan Li, Yiyang Liu, Junzhe Wu, Zheng Li, XiLin Fang, Ting-Yu Tsui, Shengcheng Fu, Haoyang Li, Anqi Wang, Zifan Wang, Dongjie Zhu, Chenyu Cao, Zhenbiao Huang, Ziang Zheng, Jie Lu, Xin Ma, Zhengyang Wei, Xiang Zhao, Tianyue Zhan, Ye He, Yuxiang Chen, Yizhou Jiang, Yue Li, Haizhou Ge, Yuhang Dong, Fan Jia, Ziheng Zhang, Meng Zhang, Xiwa Deng, Zhixing Chen, Hanyang Shao, Chenxin Dong, Yixuan Li, Yizhi Chen, Bokui Chen, Kaifeng Zhang, Hanqing Cui, Yusen Qin, Ruqi Huang, Lei Han, Tiancai Wang, Xiang Li, Yue Gao, Guyue Zhou,
- Abstract要約: シミュレーション支配型ロボット制御では、どのプロセッサが物理を実行するかではなく、シミュレーションスループット、ポリシー学習、実行時同期が効率的なエンドツーエンドループを形成するかどうかが重要な問題である。
データ移動、バッファリング、同期のための統一ランタイムを通じて、GPUポリシー更新からCPU並列シミュレーションを分離する、異種CPU常駐/GPU学習アーキテクチャであるUniLabを提案する。
- 参考スコア(独自算出の注目度): 68.40808444348735
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Simulation-based RL for contemporary robot control is increasingly organized around GPU-resident simulation: physics, rollout collection, and learning are placed on a single GPU-centric execution path. This paradigm has greatly improved training speed, but it has also encouraged a default assumption that efficient training requires physics to reside on the GPU. We revisit this assumption. Our view is that, in simulation-dominated robot control, the essential question is not which processor runs physics, but whether simulation throughput, policy learning, and runtime synchronization form an efficient end-to-end loop. We present UniLab, a heterogeneous CPU-simulation / GPU-learning architecture that decouples CPU-parallel simulation from GPU policy updates through a unified runtime for data movement, buffering, and synchronization. UniLab is implemented as a complete and extensible training system using MuJoCoUni and MotrixSim CPU-batched physics backends, supporting PPO, FastSAC, FlashSAC, and APPO. On representative simulation-based robot control tasks, UniLab improves end-to-end training efficiency by 3--10$\times$ under the same hardware configuration, while reducing dependence on the NVIDIA CUDA-based software stack and supporting cross-platform execution on the Apple macOS platform and the AMD ROCm and Intel XPU accelerator backends. These results show that GPU simulation is an effective path to efficient training, but not a necessary one, broadening the practical system choices available for robot RL training. Project page: https://unilabsim.github.io.
- Abstract(参考訳): 物理、ロールアウトコレクション、学習は、単一のGPU中心の実行パスに置かれる。
このパラダイムは、トレーニング速度を大幅に改善しただけでなく、効率的なトレーニングでは、物理をGPUに常駐させる必要があるというデフォルトの仮定も推奨している。
私たちはこの仮定を再考する。
我々の見解では、シミュレーション支配型ロボット制御においては、どのプロセッサが物理を実行するかではなく、シミュレーションスループット、ポリシー学習、実行時同期が効率的なエンドツーエンドループを形成するかどうかが重要な問題である。
データ移動、バッファリング、同期のための統一ランタイムを通じて、GPUポリシー更新からCPU並列シミュレーションを分離する異種CPUシミュレーション/GPU学習アーキテクチャであるUniLabを提案する。
UniLabは、MuJoCoUniとMotrixSimのCPUバッチされた物理バックエンドを使用して、完全な拡張可能なトレーニングシステムとして実装され、PPO、FastSAC、FlashSAC、APPOをサポートする。
一般的なシミュレーションベースのロボット制御タスクにおいて、UniLabは、NVIDIA CUDAベースのソフトウェアスタックへの依存を低減し、Apple macOSプラットフォームとAMD ROCmおよびIntel XPUアクセラレータバックエンドでのクロスプラットフォーム実行をサポートするとともに、同じハードウェア構成でエンドツーエンドのトレーニング効率を3~10$\times$で改善する。
これらの結果から,GPUシミュレーションは効率的なトレーニングの有効な方法であるが,必要ではないことが示され,ロボットRLトレーニングで利用可能な実用システム選択が拡大された。
プロジェクトページ: https://unilabsim.github.io
関連論文リスト
- Isaac Lab: A GPU-Accelerated Simulation Framework for Multi-Modal Robot Learning [72.43357471969564]
Isaac Labは、高忠実度GPU並列物理、レンダリング、および環境の設計とロボットポリシーのトレーニングのためのモジュラーで構成可能なアーキテクチャを組み合わせる。
我々は、全身制御、クロス・エボディメント・モビリティ、接触豊かで器用な操作、スキル獲得のための人間のデモの統合など、さまざまな課題へのその応用を強調した。
アイザック・ラボの高度なシミュレーション能力、リッチセンシング、データセンターのスケール実行の組み合わせは、ロボット研究における次世代のブレークスルーを解き放つのに役立つと信じています。
論文 参考訳(メタデータ) (2025-11-06T21:43:02Z) - ManiSkill3: GPU Parallelized Robotics Simulation and Rendering for Generalizable Embodied AI [26.070510680936486]
ManiSkill3は、汎用的な操作をターゲットとしたコンタクトリッチな物理を備えた、最先端のGPU並列化ロボットシミュレータである。
ManiSkill3は、シミュレーション+レンダリング、異種シミュレーション、ポイントクラウド/ボクセルビジュアル入力など、多くの面でGPU並列化をサポートしている。
論文 参考訳(メタデータ) (2024-10-01T06:10:39Z) - In Situ Framework for Coupling Simulation and Machine Learning with
Application to CFD [51.04126395480625]
近年、流体力学計算を容易にする機械学習(ML)の多くの成功例が報告されている。
シミュレーションが大きくなるにつれて、従来のオフライン学習のための新しいトレーニングデータセットの生成は、I/Oとストレージのボトルネックを生み出します。
この作業は、この結合を単純化し、異種クラスタでのその場トレーニングと推論を可能にするソリューションを提供する。
論文 参考訳(メタデータ) (2023-06-22T14:07:54Z) - Continual learning autoencoder training for a particle-in-cell
simulation via streaming [52.77024349608834]
今後のエクサスケール時代は 次世代の物理シミュレーションを 高解像度で提供します
これらのシミュレーションは高解像度であり、ディスク上に大量のシミュレーションデータを格納することはほぼ不可能であるため、機械学習モデルのトレーニングに影響を与える。
この研究は、ディスク上のデータなしで、実行中のシミュレーションにニューラルネットワークを同時にトレーニングするアプローチを示す。
論文 参考訳(メタデータ) (2022-11-09T09:55:14Z) - Optimizing Data Collection in Deep Reinforcement Learning [4.9709347068704455]
GPUベクタライゼーションは、一般的に使用されるCPUシミュレータよりも最大1024タイムでスピードアップできる。
シミュレーションの複雑さがメモリ帯域幅の要求で増大するにつれて、シミュレーターカーネルの核融合の高速化は11.3Times$となり、最大1024times$に増加することを示す。
論文 参考訳(メタデータ) (2022-07-15T20:22:31Z) - Isaac Gym: High Performance GPU-Based Physics Simulation For Robot
Learning [5.786157611032947]
Isaac Gym氏は、GPU上でさまざまなロボティクスタスクのポリシーをトレーニングする、高性能な学習プラットフォームを提供している。
物理シミュレーションとニューラルネットワークポリシトレーニングトレーニングの両方が、データをPyTorchに直接渡すことで通信する。
これにより、単一のGPU上での複雑なロボティクスタスクの高速トレーニング時間が2~3桁改善される。
論文 参考訳(メタデータ) (2021-08-24T01:38:11Z) - Megaverse: Simulating Embodied Agents at One Million Experiences per
Second [75.1191260838366]
私たちは、強化学習と具体化AI研究のための新しい3DシミュレーションプラットフォームであるMegaverseを紹介します。
MegaverseはDeepMind Labより最大70倍速い。
私たちはMegaverseを使って、複数の単一エージェントタスクとマルチエージェントタスクからなる新しいベンチマークを構築します。
論文 参考訳(メタデータ) (2021-07-17T03:16:25Z) - Large Batch Simulation for Deep Reinforcement Learning [101.01408262583378]
我々は,視覚複雑な3次元環境における深層強化学習に基づく学習を,事前作業よりも2桁高速化する。
単一のGPUマシンで1秒間に19,000フレーム以上の経験と最大72,000フレーム/秒のエンドツーエンドのトレーニング速度を実現します。
バッチシミュレーションと性能最適化を組み合わせることで、1つのGPU上の複雑な3D環境において、従来の最先端システムでトレーニングされたエージェントの精度の97%から97%まで、ポイントナビゲーションエージェントをトレーニングできることを実証する。
論文 参考訳(メタデータ) (2021-03-12T00:22:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。