論文の概要: SimPT: An Automated Simulation Framework for Intervention-Based VLA Post-Training
- arxiv url: http://arxiv.org/abs/2610.29161v1
- Date: Wed, 21 Oct 2026 03:53:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 00:40:06.194857
- Title: SimPT: An Automated Simulation Framework for Intervention-Based VLA Post-Training
- Title(参考訳): SimPT: インターベンションベースのVLAポストトレーニングのための自動シミュレーションフレームワーク
- Abstract要約: SimPT(Simulation-based Post-Training)は、介入ベースのVLAポストトレーニングを自動化するシミュレーションフレームワークである。
我々は,7つのRoboTwin操作タスクに対して,RECAP,HG-DAgger,DPO+SFT,FlowPROの4つのポストトレーニング手法を実装し,比較する。
そこで,SimPTを用いたRECAP-CF-LPF(reCAP-CF-LPF)を開発した。
- 参考スコア(独自算出の注目度): 19.24917575277404
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Human-in-the-loop (HIL) post-training improves vision-language-action (VLA) policies through expert corrections, but costly human supervision and repeated real-robot evaluation limit algorithm exploration and development. We introduce SimPT (Simulation-based Post-Training), a simulation framework that automates intervention-based VLA post-training by integrating policy rollouts, corrective data collection, policy training, and standalone evaluation. To automatically determine intervention timing and recovery strategies, we develop an Agent-Compiled Progress Graph that tracks task progress using privileged simulator state and retains stable snapshots during policy execution. After a rollout fails, a CuRobo-based expert attempts recovery from these snapshots, starting at more advanced task stages and falling back to earlier ones as needed to generate corrective trajectories. We implement and compare four post-training methods, RECAP, HG-DAgger, DPO+SFT, and FlowPRO, across seven RoboTwin manipulation tasks. Relative to a fixed-interval snapshot baseline, the Progress Graph reduces recovery attempts by 75.0% and increases recovery success from 93.4% to 98.9%. Using SimPT, we develop RECAP-CF-LPF, a refinement of RECAP that combines cross-fitting and low-pass filtering of value predictions. This refinement increases the overall success rate from 76.50% to 79.36% in held-out simulation trials. In real-robot HIL post-training, it increases the success rate from 72% to 96% across 25 scenarios of an Ethernet cable-insertion task. These results demonstrate the utility of SimPT for exploring and developing VLA post-training algorithms.
- Abstract(参考訳): HIL(Human-in-the-loop)のポストトレーニングは、専門家の修正を通じて視覚言語(VLA)ポリシーを改善するが、コストがかかる人事監督と、アルゴリズムの探索と開発に制限が繰り返される。
SimPT(Simulation-based Post-Training)は、ポリシーロールアウト、修正データ収集、ポリシートレーニング、スタンドアローン評価を統合することで、介入ベースのVLAポストトレーニングを自動化するシミュレーションフレームワークである。
介入タイミングとリカバリ戦略を自動的に決定するために,特権的シミュレータ状態を用いてタスク進捗を追跡し,ポリシー実行中に安定したスナップショットを保持するエージェントコンパイルプログレスグラフを開発した。
ロールアウトが失敗した後、CuRoboベースのエキスパートがこれらのスナップショットからリカバリを試みる。
我々は,7つのRoboTwin操作タスクに対して,RECAP,HG-DAgger,DPO+SFT,FlowPROの4つのポストトレーニング手法を実装し,比較する。
固定インターバルスナップショットベースラインとは対照的に、Progress Graphはリカバリの試みを75.0%削減し、93.4%から98.9%に改善した。
そこで,SimPTを用いたRECAP-CF-LPF(reCAP-CF-LPF)を開発した。
この改良により、総合的な成功率は76.50%から79.36%に向上した。
実ロボットHILのポストトレーニングでは、Ethernetケーブル挿入タスクの25シナリオに対して、成功率が72%から96%に向上する。
これらの結果は,VLA後学習アルゴリズムの探索と開発におけるSimPTの有用性を示す。
関連論文リスト
- Refine Actions If Needed: Adaptive Action Chunk Refinement for Robot Manipulation [25.553015151635975]
反復生成ポリシーはタスクの成功率を高めることができるが、繰り返しネットワーク評価は推論遅延を増加させる。
このフレームワークは、異なるリファインメントレベルでアクションエラーを予測し、各実行可能な提案をどの程度洗練するかを決定する。
RAINは66.6%の成功を達成し、最も評価の高い拡散政策の成功率に近づき、政策遅延の5.71倍にも達する。
論文 参考訳(メタデータ) (2026-10-14T08:17:57Z) - Trust-Calibrated VLA Policy Post-Training with Evolving Imagination [60.998903003181006]
既存の改善パラダイムは信頼性と効率性の緊張を露呈する。
本稿では,モデル進化強化学習(MERL, Model-Evolving Reinforcement Learning)を提案する。
摂動型LIBERO-PROタスクでは、MERLは平均79.7%の成功を達成し、マッチしたモデルフリー制御よりも10.9%の高閾値学習速度を向上し、同じプロトコール外部ベースラインを上回っている。
論文 参考訳(メタデータ) (2026-10-12T10:08:28Z) - RESETTLE: Robotic Recovery through Disagreement-Triggered Retrieval and Efficient Corrective Control [92.47481295713227]
本稿では,凍結ロボットポリシーのアクション・エグゼクティブ・インタフェースにおいて,効率的なリカバリのためのモデルに依存しないフレームワークであるRESETTLEを紹介する。
適応されたV-JEPAエンコーダを使用して、同じタスクのデモ参照を取得する。
LIBERO-Plus、Meta-World、RoboCasaでは最大8.70%、6.28%、絶対的な成功率6.83%に達する。
論文 参考訳(メタデータ) (2026-10-08T15:49:03Z) - EmbodiRSI: Recursive Self-Improvement for Data-Efficient Robot Adaptation [54.5481724465918]
EmbodiRSIは、リアルからシミュレート・トゥ・リアル・セッティングにおける反復的な政策改善のためのシステムである。
タスク固有のシミュレーションは、ターゲットのデプロイメントシナリオから構築され、低コストな環境として使用される。
400の適応的なシミュレートされた軌道と、サブタスクごとに10の現実世界の軌道しか持たないため、EmbodiRSIは83.1%のシーンバランスの自律的実世界の成功を達成している。
論文 参考訳(メタデータ) (2026-09-30T03:54:53Z) - Stable and Efficient Real-World Online VLA Post-Training via Asynchronous Replay-Anchored Policy Improvement [60.83624556700821]
本稿では,リプレイ動作における批評家とアクターの更新の両方を基盤として,ロールアウトと学習を同時に行うフレームワークを提案する。
RAPolicyを4つのシングルタスク設定と1つのジョイント5タスク設定で実世界で評価し,オンライントレーニングの予算は1~2時間に過ぎなかった。
論文 参考訳(メタデータ) (2026-09-19T08:45:18Z) - FAR: Failure-Aware Retry for Test-Time Recovery and Continual Policy Improvement [10.94594187411586]
フェール・アウェア・リトライ(FAR)は、ロボットがテスト時に以前の失敗から学び、その振る舞いを順応し、最終的にタスクを自律的に完了させることを可能にするフレームワークである。
FARは成功率とロバスト性を大幅に改善し、シミュレーションにおける標準拡散政策よりも平均17.6%、現実世界では11.7%向上した。
論文 参考訳(メタデータ) (2026-07-01T16:01:54Z) - Posterior Optimization with Clipped Objective for Bridging Efficiency and Stability in Generative Policy Learning [22.708956698352704]
Clipped Objective (POCO) は、ポリシー改善を時間的アクションチャンクに適した後部推論問題として定式化する原則的なRLフレームワークである。
POCOは破滅的な政策崩壊を防ぎ、SOTAベースラインを上回り、現実世界のタスクで96.7%の成功率を達成した。
論文 参考訳(メタデータ) (2026-04-02T10:15:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。