論文の概要: RLMM-Flow: A Flow-based Mobile Manipulation Framework with Latent-Space Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2607.26460v1
- Date: Wed, 29 Jul 2026 04:22:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-30 21:06:25.537894
- Title: RLMM-Flow: A Flow-based Mobile Manipulation Framework with Latent-Space Reinforcement Learning
- Title(参考訳): RLMM-Flow: ラテントスペース強化学習を備えたフローベースのモバイル操作フレームワーク
- Abstract要約: 本稿では,フローベースの移動操作フレームワークであるRLMM-Flowを提案する。
移動体操作動作計画ベンチマーク実験により、RLMM-Flowは、模擬フローポリシーや既存の強化学習後トレーニングよりもタスク成功、衝突回避、軌道品質を大幅に改善することが示された。
- 参考スコア(独自算出の注目度): 15.421698703970167
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Mobile manipulation requires generating whole-body action chunks that jointly satisfy goal reaching, collision avoidance, base kinematic constraints, manipulator joint limits, and trajectory smoothness. Flow-based generative policies provide an efficient paradigm for learning multimodal and temporally consistent motion priors from expert demonstrations, but imitation-only training cannot improve policy quality beyond the demonstration distribution. We propose RLMM-Flow, a flow-based mobile manipulation framework that combines expert flow-policy pretraining with latent-space reinforcement learning post-training. The framework first learns a flow policy that captures a multimodal whole-body motion prior from expert demonstrations. The pretrained flow policy is then frozen, while a latent steering network steers its initial noise toward higher-value action chunks. To stabilize high-dimensional latent optimization, we warm up an action-space critic before jointly training the latent critic and latent actor, and introduce coarse-to-fine latent steering that progressively expands control from a horizon-shared latent representation to a full-dimensional residual representation. Experiments on mobile manipulation motion-planning benchmarks show that RLMM-Flow substantially improves task success, collision avoidance, and trajectory quality over imitation-only flow policies and existing reinforcement learning post-training baselines, while preserving fast flow-based inference.
- Abstract(参考訳): 移動操作には、目標到達、衝突回避、ベースキネマティック制約、マニピュレータ関節限界、軌道の滑らかさを共同で満足する全身アクションチャンクを生成する必要がある。
フローベースの生成ポリシーは、専門家によるデモンストレーションから多モーダルかつ時間的に一貫した動作を学習するための効率的なパラダイムを提供するが、模倣のみのトレーニングは、実証分布を超えてポリシー品質を改善することはできない。
本稿では,フローベースの移動操作フレームワークであるRLMM-Flowを提案する。
このフレームワークは、まず、専門家によるデモンストレーションから、マルチモーダルな全身の動きをキャプチャするフローポリシーを学習する。
事前訓練されたフローポリシーは凍結され、遅延ステアリングネットワークは、その初期ノイズを高い値のアクションチャンクに向けて操る。
高次元ラテント最適化を安定化するために、潜伏批評家と潜伏俳優を協調訓練する前にアクションスペース評論家を温め、水平方向のラテント表現から全次元残留表現への制御を段階的に拡張する粗大なラテントステアリングを導入する。
移動体操作動作計画ベンチマークの実験では、RLMM-Flowは高速なフローベースの推論を保ちながら、模倣のみのフローポリシーや既存の強化学習ベースラインよりもタスク成功、衝突回避、軌道品質を大幅に改善することが示された。
関連論文リスト
- RoamFlow: Reinforcement-Aligned One-Step Action MeanFlow Policy for Image-Goal Navigation [15.931984448913264]
RoamFlowは、MeanFlowを利用して軌道合成の平均速度場を予測する生成ナビゲーションフレームワークである。
Habitatシミュレーションと実世界のロボットプラットフォームの両方の実験では、RoamFlowは、リアルタイムの制約下で強力なナビゲーション性能を維持しながら、効率的な推論を実現している。
論文 参考訳(メタデータ) (2026-06-29T08:10:43Z) - LAFP: Preserving Latent Action Structure in Latent Policy Learning via Flow Matching [15.922360971421654]
スケーラブルな潜在ポリシー学習のための潜在アクションフローポリシー(LAFP)を提案する。
LAFPは、下流の模倣学習タスクにおいて、従来手法よりも一貫して優れている。
LAFPは1倍のオーバヘッドを発生させる。
論文 参考訳(メタデータ) (2026-06-09T07:49:49Z) - SCRIPT: Scalable Diffusion Policy with Multi-stage Training for Language-driven Physics-based Humanoid Control [72.5651722107621]
SCRIPTは、言語駆動の物理に基づくヒューマノイド制御のための多段階トレーニングフレームワークを備えたスケーラブルな拡散ポリシーである。
SCRIPTの中核はJAST-DiT(Joint Action-State-Text Diffusion Transformer)であり、アクション、物理状態、テキストを専用トークンストリームとして表現している。
自己回帰制御を安定させるために,近年の密集した文脈を保存し,長期的歴史から疎開したサンプルを抽出する非線形履歴条件付け機構を導入する。
論文 参考訳(メタデータ) (2026-05-21T14:17:21Z) - Aligning Flow Map Policies with Optimal Q-Guidance [50.514994916864275]
フローマップポリシは、任意のサイズのジャンプを学習することで、高速なアクション生成のために設計されている。
FLOW MAP Q-GUIDANCE (FMQ) は, 批判誘導型信頼領域制約の下でオフラインフローマップポリシーを適用するのに最適な, 原則付きクローズドフォーム学習ターゲットである。
FMQは、オフラインからオフラインまでのRLにおける最先端のパフォーマンスを達成し、平均成功率に対して21.3%の相対的な改善により、以前のワンステップポリシーMVPを上回っている。
論文 参考訳(メタデータ) (2026-05-12T17:12:29Z) - Beyond Self-Play: Hierarchical Reasoning for Continuous Motion in Closed-Loop Traffic Simulation [8.157621070273736]
本稿では,ハイレベルなマルチエージェント相互作用推論と低レベルな連続軌道実現を組み合わせた階層型アーキテクチャを提案する。
SUMOをベースとした都市ネットワーク上での実験により,提案手法は自己再生や受動的模倣のベースラインと比較して,スムーズな制御と安全性を実現することが示された。
論文 参考訳(メタデータ) (2026-05-09T20:31:34Z) - AnchorRefine: Synergy-Manipulation Based on Trajectory Anchor and Residual Refinement for Vision-Language-Action Models [60.04879435087352]
視覚言語アクション(VLA)ポリシーは、単一の統一空間内でアクションを生成する。
本稿では,VLAの動作モデリングを軌跡アンカーと残留精細化に分解する階層的フレームワークであるAnchorRefineを提案する。
LIBERO、CALVIN、および実ロボットタスクの実験では、AnchorRefineは回帰ベースと拡散ベースの両方のVLAバックボーンを一貫して改善している。
論文 参考訳(メタデータ) (2026-04-20T04:25:24Z) - Mean Flow Policy with Instantaneous Velocity Constraint for One-step Action Generation [65.13627721310613]
平均速度ポリシー(MVP)は、平均速度場をモデル化し、最速のワンステップアクション生成を実現するための新しい生成ポリシー関数である。
MVPはRoomimicとOGBenchのいくつかの困難なロボット操作タスクに対して、最先端の成功率を達成する。
論文 参考訳(メタデータ) (2026-02-14T14:44:06Z) - CoLA-Flow Policy: Temporally Coherent Imitation Learning via Continuous Latent Action Flow Matching for Robotic Manipulation [4.726851899243877]
LG-Flow Policyは、連続的な潜在アクション空間でフローマッチングを実行する軌道レベルの模倣学習フレームワークである。
動作シーケンスを時間的に規則化された潜在軌道に符号化し、明示的な潜在空間の流れを学習することにより、提案手法は低レベル制御ノイズからグローバルな運動構造を分離する。
論文 参考訳(メタデータ) (2026-01-30T15:36:43Z) - Steering Vision-Language-Action Models as Anti-Exploration: A Test-Time Scaling Approach [78.4812458793128]
動作チャンクの高忠実度検証に軽量な擬数推定器を適用したテスト時間スケーリングフレームワークである textbfTACO を提案する。
我々の手法は、オフライン強化学習(RL)における古典的な反探索原理に似ており、勾配のないため、計算上の大きな恩恵をもたらす。
論文 参考訳(メタデータ) (2025-12-02T14:42:54Z) - Iterative Refinement of Flow Policies in Probability Space for Online Reinforcement Learning [56.47948583452555]
固定ステップのEulerスキームによるフローマッチング推論プロセスの離散化は,最適輸送から変化するJordan-Kinderlehrer-Otto原理と整合する,というキーインサイトに基づいて,SWFP(Stepwise Flow Policy)フレームワークを紹介した。
SWFPは、大域的な流れを、プロキシメート分布間の小さな漸進的な変換の列に分解する。
この分解は、小さな流れブロックのカスケードを介して事前訓練された流れを微調整する効率的なアルゴリズムを導き、大きな利点をもたらす。
論文 参考訳(メタデータ) (2025-10-17T07:43:51Z) - RIFT: Group-Relative RL Fine-Tuning for Realistic and Controllable Traffic Simulation [13.319344167881383]
データ駆動シミュレーターにおいて、模擬学習事前学習を行う2段階のAV中心シミュレーションフレームワークを導入する。
次に、物理に基づくシミュレータで微調整を学習し、スタイルレベルの制御性を向上する。
微調整段階において,新しいグループ関連RL微調整戦略であるRIFTを提案する。
論文 参考訳(メタデータ) (2025-05-06T09:12:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。