論文の概要: HOLO-MPPI: Multi-Scenario Motion Planning via Hierarchical Policy Optimization
- arxiv url: http://arxiv.org/abs/2606.16480v1
- Date: Mon, 15 Jun 2026 09:49:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-16 16:21:34.353487
- Title: HOLO-MPPI: Multi-Scenario Motion Planning via Hierarchical Policy Optimization
- Title(参考訳): HOLO-MPPI:階層的ポリシー最適化による多段階運動計画
- Authors: Youngjae Min, Jovin D'sa, Faizan M. Tariq, David Isele, Navid Azizan, Sangjae Bae,
- Abstract要約: 我々は,高レベル政策学習と低レベル最適制御を組み合わせた多シナリオ運動計画フレームワークHOLO-MPPIを提案する。
オフラインでは、オンラインロールアウトのための学習された世界モデルを用いて、抽象的なアクション空間におけるシナリオロバスト計画を提案する高レベルなポリシーを学習する。
オンラインでは、現在の観測と目標に基づいてMPPIのサンプリング分布をパラメータ化するデータ駆動の事前生成器として機能する。
その後MPPIは、この前回までの低レベル制御シーケンスをリアルタイムで最適化し、局所的な障害に適応する。
- 参考スコア(独自算出の注目度): 8.210283573775568
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Robots deployed in the real world must plan motions across diverse scenarios without per-scenario retuning. End-to-end reinforcement learning (RL) can generalize across scenarios but often becomes brittle under distribution shift, reward misspecification, and stochastic interactions. Model predictive path integral (MPPI) control enables strong real-time refinement without gradients, but its performance depends on a well-shaped sampling prior, while manually designing the priors does not scale to multi-scenario deployment. We present HOLO-MPPI (High-level Offline, Low-level Online MPPI), a multi-scenario motion planning framework that combines high-level policy learning with low-level stochastic optimal control. Offline, we learn a high-level policy that proposes scenario-robust plans in an abstract action space, with a learned world model for online rollout. Online, the policy serves as a data-driven prior generator that parameterizes MPPI's sampling distribution conditioned on the current observation and goal. MPPI then optimizes low-level control sequences around this prior in real time to adapt to local disturbances. We instantiate HOLO-MPPI in autonomous driving by designing an effective high-level action space and tailored model architectures. Our evaluation across diverse driving scenarios shows that HOLO-MPPI improves upon MPPI and end-to-end RL baselines while maintaining real-time control.
- Abstract(参考訳): 現実世界に展開されるロボットは、シナリオ毎に調整することなく、さまざまなシナリオで動きを計画しなければならない。
エンドツーエンド強化学習(英語: End-to-end reinforcement learning, RL)は、複数のシナリオにまたがって一般化できるが、分散シフトや報酬のミススペクテーション、確率的相互作用によって不安定になることが多い。
モデル予測経路積分(MPPI)制御は、勾配を伴わずに強力なリアルタイム改善を可能にするが、その性能は、事前の十分な形状のサンプリングに依存し、手動で事前設計はマルチシナリオ展開にスケールしない。
提案するHOLO-MPPI(High-level Offline, Low-level Online MPPI)は,高レベルのポリシー学習と低レベルの確率的最適制御を組み合わせた多シナリオ動作計画フレームワークである。
オフラインでは、オンラインロールアウトのための学習された世界モデルを用いて、抽象的なアクション空間におけるシナリオロバスト計画を提案する高レベルなポリシーを学習する。
オンラインでは、現在の観測と目標に基づいてMPPIのサンプリング分布をパラメータ化するデータ駆動の事前生成器として機能する。
その後MPPIは、この前の低レベルの制御シーケンスをリアルタイムで最適化し、局所的な障害に適応する。
我々は,効率的な高レベル動作空間とモデルアーキテクチャを設計し,自律運転におけるHOLO-MPPIのインスタンス化を行う。
多様な運転シナリオに対する評価の結果,HOLO-MPPIはMPPIとエンドツーエンドのRLベースラインを改善しながら,リアルタイム制御を維持していることがわかった。
関連論文リスト
- Unifying Object-Centric World Models and Diffusion Policy: A Hierarchical Framework for Multi-Stage Robotic Tasks [44.06996146648851]
マルチステージロボット操作用に設計された世界モデルフレームワークであるWorldDPを紹介する。
我々の階層的アプローチは、実行中に実現可能なサブゴールを最適化するために、遷移関数として高レベル世界モデルを利用する。
環境エンティティを分離したオブジェクト中心の表現を導入し,それぞれに対して順次計画を立てることを可能にする。
論文 参考訳(メタデータ) (2026-06-07T18:39:45Z) - HAD: Combining Hierarchical Diffusion with Metric-Decoupled RL for End-to-End Driving [51.268878540511054]
我々は階層的拡散政策を備えたエンドツーエンドの計画フレームワークであるHADを提案する。
我々は,NAVSIMとHUGSIMの両方でHADが新たな最先端性能を実現することを示す。
論文 参考訳(メタデータ) (2026-04-04T04:12:47Z) - Soft MPCritic: Amortized Model Predictive Value Iteration [2.217971863441725]
本稿では,(ソフト)値空間で学習するRL-MPCフレームワークであるMPCriticを提案する。
ソフトMPCriticはモデル予測経路積分制御(MPPI)によりMPCをインスタンス化する
オンライン観測から計画されたオープンループアクションシーケンスをリサイクルする,アモータイズされたウォームスタート戦略を導入する。
論文 参考訳(メタデータ) (2026-04-01T23:35:00Z) - Model Predictive Control with Differentiable World Models for Offline Reinforcement Learning [17.293286354647716]
モデル予測制御(MPC)にインスパイアされた推論時間適応フレームワークを提案する。
ポリシーパラメータを最適化するために推定時情報を利用すると、強いオフラインRLベースラインよりも一貫した利得が得られることを示す。
論文 参考訳(メタデータ) (2026-03-23T18:05:29Z) - DDP-WM: Disentangled Dynamics Prediction for Efficient World Models [79.53092337527382]
本稿では,DDP-WMについて紹介する。DDP-WMはDDP-WM(Distangled Dynamics Prediction)の原理に基づく新しい世界モデルである。
DDP-WMは、効率的な履歴処理と動的ローカライゼーションを統合したアーキテクチャにより、この分解を実現する。
実験により、DDP-WMは様々なタスクにおいて、大幅な効率と性能を達成することが示された。
論文 参考訳(メタデータ) (2026-02-02T08:04:25Z) - Model-Based Policy Adaptation for Closed-Loop End-to-End Autonomous Driving [54.46325690390831]
本稿では,事前学習したE2E運転エージェントのロバスト性と安全性を高めるための汎用フレームワークとして,モデルベースポリシー適応(MPA)を提案する。
MPAは、ジオメトリ一貫性のあるシミュレーションエンジンを用いて、まず様々な対物軌道を生成する。
MPAは拡散ベースのポリシーアダプタを訓練し、基本方針の予測を洗練させ、Q値モデルを多段階に分けて長期的な結果を評価する。
論文 参考訳(メタデータ) (2025-11-26T17:01:41Z) - Bootstrap Off-policy with World Model [59.129118672069644]
ブートストラップループを通じて計画と非政治学習を緊密に統合するフレームワークであるBOOMを提案する。
BOOMは、トレーニングの安定性と最終的なパフォーマンスの両方において、最先端の結果を達成する。
論文 参考訳(メタデータ) (2025-11-01T06:33:04Z) - A KL-regularization framework for learning to plan with adaptive priors [1.0246259631050245]
政策最適化モデル予測制御(PO-MPC)を導入する。
PO-MPCは、政策最適化の先駆けとしてプランナーの行動分布を統合する。
実験により,これらの拡張構成により,大幅な性能向上が得られた。
論文 参考訳(メタデータ) (2025-10-05T16:45:38Z) - Drive As You Like: Strategy-Level Motion Planning Based on A Multi-Head Diffusion Model [7.3078271605135114]
拡散型多頭部軌道プランナ(M拡散プランナ)を提案する。
初期の訓練段階では、すべての出力ヘッドは、高品質な軌道を生成するためにウェイトを共有する。
戦略選択のガイドとして,大規模言語モデル(LLM)を導入し,動的かつ命令対応の計画を可能にする。
論文 参考訳(メタデータ) (2025-08-23T08:33:11Z) - Modular Deep Reinforcement Learning for Continuous Motion Planning with
Temporal Logic [59.94347858883343]
本稿では,マルコフ決定過程(MDP)をモデルとした自律動的システムの運動計画について検討する。
LDGBA と MDP の間に組込み製品 MDP (EP-MDP) を設計することである。
モデルフリー強化学習(RL)のためのLDGBAベースの報酬形成と割引スキームは、EP-MDP状態にのみ依存する。
論文 参考訳(メタデータ) (2021-02-24T01:11:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。