論文の概要: FlowMPC: Improving Flow Matching policies with World Models
- arxiv url: http://arxiv.org/abs/2606.16286v1
- Date: Mon, 15 Jun 2026 06:50:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-16 16:21:34.125118
- Title: FlowMPC: Improving Flow Matching policies with World Models
- Title(参考訳): FlowMPC: 世界モデルとのフローマッチングポリシーの改善
- Abstract要約: フローマッチング(FM)はマルチモーダルな行動空間における行動クローニングの強力なアプローチである。
期待したリターンを直接最大化するように訓練されていないため、FMポリシーがテスト時にどのように振る舞うかを改善する余地は依然として残っている。
本研究は,学習した世界モデルが,提案する行動系列に対するモデル予測パス積分(MPPI)計画を可能にすることにより,FMポリシーを改善することができるかどうかを検討する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Flow Matching (FM) is a powerful approach for behavior cloning in multimodal action spaces [Jiang et al., 2025], but because it is not trained to directly maximize expected return, there is still room to improve how FM policies act at test time. This work investigates whether a learned world model can improve FM policies by enabling Model Predictive Path Integral (MPPI) planning over candidate action sequences proposed by the policy. Building on TD-MPC2 [Hansen et al., 2024], I introduce FlowMPC, a framework that combines an imitation-learned FM policy with a learned world model for test-time planning in ManiSkill manipulation tasks [Tao et al., 2025]. Across PickCube and PickSingleYCB, adding the world model improved performance over the FM policy alone, with especially clear gains in end-of-episode success. These results suggest that world-model-based planning can effectively complement flow-based imitation policies without modifying the FM training objective.
- Abstract(参考訳): フローマッチング(FM)はマルチモーダルな行動空間[Jiang et al , 2025]における行動クローニングの強力なアプローチであるが, 期待したリターンを直接最大化するよう訓練されていないため, FMポリシーがテスト時にどのように振る舞うかを改善する余地がある。
本研究は,学習した世界モデルが,提案する行動系列に対するモデル予測パス積分(MPPI)計画を可能にすることにより,FMポリシーを改善することができるかどうかを検討する。
TD-MPC2 [Hansen et al , 2024] 上に構築したFlowMPCは、模倣学習FMポリシーと、ManiSkill操作タスク(Tao et al , 2025)におけるテスト時間計画の学習的モデルを組み合わせたフレームワークである。
PickCubeとPickSingleYCB全体では、世界モデルがFMポリシーだけでパフォーマンスを改善した。
これらの結果から,FM学習目標を変更することなく,フローベースの模倣政策を効果的に補完できる可能性が示唆された。
関連論文リスト
- MODIP: Efficient Model-Based Optimization for Diffusion Policies [13.033386079956266]
拡散政策(DP)は,ロボット学習の表現的政策表現として登場した。
DPのオフライン・オンライン微調整のためのフレームワークであるMODIPを提案する。
論文 参考訳(メタデータ) (2026-06-09T13:09:21Z) - Scaling World-Model Reinforcement Learning Through Diffusion Policy Optimization [46.32504081845328]
モデルに基づく強化学習は、世界モデルを用いて、大規模に効果的に支援することができる。
我々は、既存の世界モデルアプローチにおける検索と価値学習の間の構造的ミスアライメントであるボトルネックを特定する。
拡散政策表現を通じて探索と政策最適化を統一するフレームワークである世界モデルにおけるモデルベース拡散政策最適化(MBDPO)を提案する。
論文 参考訳(メタデータ) (2026-05-25T19:06:51Z) - World Action Verifier: Self-Improving World Models via Forward-Inverse Asymmetry [82.93104394404781]
汎用世界モデルは、スケーラブルなポリシー評価、最適化、計画を約束します。
本稿では,世界モデルによる予測誤りと自己改善を識別するフレームワークであるWorld Action Verifier(WAV)を提案する。
論文 参考訳(メタデータ) (2026-04-02T12:48:36Z) - Enhancing Policy Learning with World-Action Model [4.941630596191806]
World-Action Model (WAM) は行動規則化された世界モデルであり、将来の視覚的観察と状態遷移を駆動する行動について共同で理由を定めている。
WAMは、遅延状態遷移からアクションを予測するDreamerV2に、逆ダイナミクスの目的を組み込んでいる。
我々は、CALVINベンチマークから8つの操作タスクにわたるポリシー学習の強化について、WAMを評価した。
論文 参考訳(メタデータ) (2026-03-30T19:56:05Z) - Bootstrap Off-policy with World Model [59.129118672069644]
ブートストラップループを通じて計画と非政治学習を緊密に統合するフレームワークであるBOOMを提案する。
BOOMは、トレーニングの安定性と最終的なパフォーマンスの両方において、最先端の結果を達成する。
論文 参考訳(メタデータ) (2025-11-01T06:33:04Z) - A KL-regularization framework for learning to plan with adaptive priors [1.0246259631050245]
政策最適化モデル予測制御(PO-MPC)を導入する。
PO-MPCは、政策最適化の先駆けとしてプランナーの行動分布を統合する。
実験により,これらの拡張構成により,大幅な性能向上が得られた。
論文 参考訳(メタデータ) (2025-10-05T16:45:38Z) - Flow Matching Policy Gradients [33.011978450108636]
フローポリシー最適化は、条件付きフローマッチング損失から計算された利益重み付け比を最大化するものとしてポリシー最適化を推し進める。
FPOは,様々な連続制御タスクにおいて,スクラッチから拡散型ポリシーを訓練できることを示す。
フローベースモデルでは,マルチモーダルな動作分布を捉えることができ,特に未条件条件下でのガウスポリシーよりも高い性能を実現することができる。
論文 参考訳(メタデータ) (2025-07-28T17:59:57Z) - Decision Flow Policy Optimization [53.825268058199825]
生成モデルは、複雑なマルチモーダルな動作分布を効果的にモデル化し、連続的な動作空間において優れたロボット制御を実現することができることを示す。
従来の手法は通常、データセットからの状態条件付きアクション分布に適合する振る舞いモデルとして生成モデルを採用する。
マルチモーダルな行動分布モデリングとポリシー最適化を統合した統合フレームワークDecision Flowを提案する。
論文 参考訳(メタデータ) (2025-05-26T03:42:20Z) - PWM: Policy Learning with Multi-Task World Models [37.678858748473196]
世界モデル手法は、環境のシミュレーションを学習することでスケーラビリティを提供する。
勾配に基づく手法は低い分散を示すが、不連続性を扱うことができない。
連続制御のための新しいモデルベースRLアルゴリズムであるマルチタスク世界モデル(PWM)を用いたポリシー学習を紹介する。
論文 参考訳(メタデータ) (2024-07-02T17:47:03Z) - Theoretically Guaranteed Policy Improvement Distilled from Model-Based
Planning [64.10794426777493]
モデルベース強化学習(RL)は、様々な連続制御タスクにおいて顕著な成功を収めた。
近年のプラクティスでは、最適化されたアクションシーケンスをトレーニングフェーズ中にRLポリシーに蒸留する傾向にある。
我々は,モデルに基づく計画から政策への蒸留アプローチを開発する。
論文 参考訳(メタデータ) (2023-07-24T16:52:31Z) - Evaluating model-based planning and planner amortization for continuous
control [79.49319308600228]
我々は、モデル予測制御(MPC)と学習モデルとモデルフリーポリシー学習を組み合わせたハイブリッドアプローチを採っている。
モデルフリーエージェントは高いDoF制御問題においても強いベースラインであることがわかった。
モデルに基づくプランナを,パフォーマンスを損なうことなく,計画が損なわれるようなポリシーに置き換えることが可能であることを示す。
論文 参考訳(メタデータ) (2021-10-07T12:00:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。