論文の概要: RFPO: Rectified Flow Policy Optimization for Embodied Control
- arxiv url: http://arxiv.org/abs/2610.10453v1
- Date: Wed, 07 Oct 2026 17:24:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:23.073748
- Title: RFPO: Rectified Flow Policy Optimization for Embodied Control
- Title(参考訳): RFPO: 身体制御のための整流制御最適化
- Abstract要約: フローベースのポリシーは、継続的ロボット制御のための表現力のあるフレームワークを提供するが、その反復ODE統合は、かなりの推論コストをもたらす。
本稿では,信頼性のある数ステップ実行のためのフローポリシー最適化フレームワークRFPOを紹介する。
Unitree Go2、Boston Dynamics Spot、Unitree H1、Unitree G1の他、RFPOはワンステップ実行下でのフルステップ制御性能を一貫して維持する。
- 参考スコア(独自算出の注目度): 57.28454299980691
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Flow-based policies provide an expressive framework for continuous robot control, but their iterative ODE integration incurs substantial inference cost. Naively reducing the integration budget can severely degrade control, since policies optimized under full-step execution are not explicitly constrained to remain reliable under coarse numerical integration. We refer to this mismatch as the few-step discretization gap. To address this problem, we introduce RFPO, a flow-policy optimization framework for reliable few-step execution. Reward-aware online Reflow rectifies student-induced transport paths during on-policy learning, making the resulting policy more robust to coarse integration. A frozen Gaussian PPO controller supplies complementary action-space supervision at full and intermediate integration budgets, while the deployed policy remains a single flow student executed with one Euler step. Across Unitree Go2, Boston Dynamics Spot, Unitree H1, and Unitree G1, RFPO consistently preserves full-step control performance under one-step execution, with one-step returns remaining within 2.4% of their corresponding 64-step values across both zero and random initialization. On Unitree Go2, one-step execution retains 98.5% of the 64-step reward while reducing onboard mean inference latency from 4.39 ms to 0.08 ms, yielding a 54.9x speedup. Real-robot experiments further validate stable one-step locomotion. Code: https://github.com/AIGeeksGroup/RFPO. Website: https://aigeeksgroup.github.io/RFPO.
- Abstract(参考訳): フローベースのポリシーは、継続的ロボット制御のための表現力のあるフレームワークを提供するが、その反復ODE統合は、かなりの推論コストをもたらす。
完全実行時に最適化されたポリシーは、粗い数値積分の下で信頼性を保つよう明示的に制約されていないため、統合予算を過度に削減することは、制御を著しく低下させる可能性がある。
このミスマッチを、数ステップの離散化ギャップと呼んでいる。
この問題に対処するために、信頼性のある数ステップ実行のためのフローポリシー最適化フレームワークRFPOを導入する。
Reward-aware Online Reflowは、オンラインの政治学習中に学生が引き起こす交通経路を修正し、その結果、統合をより堅牢にする。
凍結したガウスのPPOコントローラは、完全な統合予算と中間統合予算で補完的な行動空間の監視を提供するが、配備されたポリシーは、ユーラーステップ1つで実行された単一フローの学生のままである。
Unitree Go2、Boston Dynamics Spot、Unitree H1、Unitree G1の他、RFPOは1ステップ実行時のフルステップ制御性能を一貫して維持し、0とランダムの初期化の両方で対応する64ステップ値の2.4%以内に1ステップリターンが残っている。
Unitree Go2では、1ステップの実行で64ステップの報酬の98.5%を維持し、平均推論遅延を4.39msから0.08msに削減し、54.9倍のスピードアップを実現している。
実ロボット実験は、安定なワンステップの移動をさらに検証する。
コード:https://github.com/AIGeeksGroup/RFPO。
ウェブサイト:https://aigeeksgroup.github.io/RFPO
関連論文リスト
- TinyUDE: Solver-Free Universal Differential Equations on Microcontrollers via Lie-Taylor Jet Matching [0.0]
普遍微分方程式(UDEs)の訓練は、伝統的に数値ODEソルバによるバックプロパゲーションに依存している。
システム状態の第1および第2の時間微分に、ハイブリッドベクトル場を直接適合させる解法のないトレーニングフレームワークであるLie-Taylor jet matchingを提案する。
論文 参考訳(メタデータ) (2026-09-22T19:09:00Z) - Fewer Steps, Better Actions: Rethinking Flow-Matching Inference for VLA Policies [6.735527039644392]
フローマッチングに基づく視覚パーセンテージアクション(VLA)ポリシーは、アクションエキスパートの繰り返しの評価を通じてアクションチャンクを生成する。
我々は,この統合予算の一部を単一学習エンドポイントに再配置するCodaを提案する。
50のRoboTwin Easyタスクでは、5ステップのCodaが71.64%から74.68%に改善された。
論文 参考訳(メタデータ) (2026-09-18T01:57:17Z) - SoRoMoX: Fast, Differentiable, and Parallelizable Soft Robot Models [40.64972837908431]
SoRoMoXは、統一された制御可能なインターフェースを通じて、明瞭な、Piecewise Constant Strain、および可変ストレインモデルを実装している。
連続したCPUロールアウトは最先端の代替よりも18.1倍速く、GPU並列ロールアウトはスループットを最大234.6倍向上させる。
論文 参考訳(メタデータ) (2026-08-06T23:31:47Z) - Stochastic MeanFlow Policies: One-Step Generative Control with Entropic Mirror Descent [53.828537014796574]
オンラインの非政治強化学習(RL)は、ポリシークラスと更新ルールの2つの選択肢によって構成されている。
我々は、MeanFlow変換を通じてノイズをアクションにマッピングする一段階生成ポリシークラスであるMeanFlow Policiesを提案する。
7つのMuJoCoベンチマークで、Sは1ステップの推論効率を維持しながら、ガウスおよび生成ベースラインを改善する。
論文 参考訳(メタデータ) (2026-05-20T15:14:14Z) - Causal Forcing++: Scalable Few-Step Autoregressive Diffusion Distillation for Real-Time Interactive Video Generation [50.55853275866995]
リアルタイムのインタラクティブなビデオ生成には、低レイテンシ、ストリーミング、コントロール可能なロールアウトが必要である。
本稿では,フレームワイドの自己回帰を1~2ステップのサンプリングで行うという,よりアグレッシブな設定について検討する。
原理的かつスケーラブルなパイプラインである textbfCausal Forcing++ を提案する。
論文 参考訳(メタデータ) (2026-05-14T17:46:36Z) - Near-Policy: Accelerating On-Policy Distillation via Asynchronous Generation and Selective Packing [44.26853590985694]
NPD(Near-Policy Distillation)は、学生生成を訓練から切り離す非同期アプローチである。
NPDは、オンラインベースラインの8.1倍のスピードアップを実現し、SFTを8.09%上回る。
本手法では,openPangu-Embedded-1Bが68.73%に達し,Qwen3-1.7Bを大きく上回っている。
論文 参考訳(メタデータ) (2026-05-07T09:50:53Z) - Training Non-Differentiable Networks via Optimal Transport [1.5229257192293202]
PolyStepは、フォワードパスのみを使用してパラメータを更新する、勾配のないメソッドである。
我々は、既存の勾配のない手法がほぼランダムな精度で崩壊する真に微分不可能なモデルを訓練する。
ハードLIFスパイクネットワークでは、93.4%の精度に達し、全ての勾配のないベースラインを60pp以上上回り、サロゲート勾配のアダム天井の4.4pp以内に閉じる。
論文 参考訳(メタデータ) (2026-05-03T15:20:56Z) - Iterative Refinement of Flow Policies in Probability Space for Online Reinforcement Learning [56.47948583452555]
固定ステップのEulerスキームによるフローマッチング推論プロセスの離散化は,最適輸送から変化するJordan-Kinderlehrer-Otto原理と整合する,というキーインサイトに基づいて,SWFP(Stepwise Flow Policy)フレームワークを紹介した。
SWFPは、大域的な流れを、プロキシメート分布間の小さな漸進的な変換の列に分解する。
この分解は、小さな流れブロックのカスケードを介して事前訓練された流れを微調整する効率的なアルゴリズムを導き、大きな利点をもたらす。
論文 参考訳(メタデータ) (2025-10-17T07:43:51Z) - One-Step Diffusion Policy: Fast Visuomotor Policies via Diffusion Distillation [80.71541671907426]
OneStep Diffusion Policy (OneDP)は、事前訓練された拡散政策から知識を単一ステップのアクションジェネレータに蒸留する新しいアプローチである。
OneDPはロボット制御タスクの応答時間を著しく短縮する。
論文 参考訳(メタデータ) (2024-10-28T17:54:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。