論文の概要: RoboFQE: Rollout-Free Evaluation of Visual Robot Policies from Offline Trajectories
- arxiv url: http://arxiv.org/abs/2610.18699v1
- Date: Tue, 13 Oct 2026 16:48:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-16 20:07:07.336042
- Title: RoboFQE: Rollout-Free Evaluation of Visual Robot Policies from Offline Trajectories
- Title(参考訳): RoboFQE:オフライン軌道からの視覚ロボットポリシーのロールアウトフリー評価
- Abstract要約: 本稿では,ロールアウト型ロボット政策評価手法の代替として,オフ政治評価について検討する。
具体的には、オフラインロボット軌道からの目標ポリシーの割引を推定する評価器であるRoboFQEを紹介する。
シミュレーションおよび実世界の操作タスクにおける制御された実験は、RoboFQEが正確な割引リターン推定を生成することを示している。
- 参考スコア(独自算出の注目度): 15.848579764975598
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Evaluating robot policies before deployment typically requires producing new trajectories through real-world execution, simulators, or learned world models. These rollout-based approaches impose infrastructure requirements; simulator and world-model evaluators additionally face prediction errors that can compound over the evaluation horizon. In this paper, we study off-policy evaluation as an alternative to rollout-based robot-policy evaluation methods. Specifically, we introduce RoboFQE, an evaluator that estimates the discounted expected return of a target policy from offline robot trajectories without estimating a behavior-policy density, combining fitted Q-evaluation with a pretrained vision foundation model and learned terminal success annotation to bridge the gap between standard OPE benchmarks and continuous-control visual manipulation. Controlled experiments across simulated and real-world manipulation tasks show that RoboFQE produces accurate discounted-return estimates and preserves policy rankings even on long-horizon manipulation tasks where video world-model evaluators are degraded by autoregressive prediction errors. Ablation experiments show that pretrained vision encoders substantially outperform from-scratch alternatives, particularly on long-horizon tasks, and that learned terminal success annotation enables evaluation without ground-truth reward labels with only slight reduction of accuracy.
- Abstract(参考訳): デプロイ前にロボットポリシーを評価するには、通常、現実世界の実行、シミュレータ、学習された世界モデルを通じて新しい軌道を作成する必要がある。
これらのロールアウトベースのアプローチは、インフラ要件を課し、シミュレータとワールドモデル評価器は、評価の地平線上で複雑な予測エラーに直面している。
本稿では,ロールアウト型ロボット政策評価手法の代替として,オフ政治評価について検討する。
具体的には、動作ポリティクスの密度を見積もることなく、オフラインロボット軌道からの目標ポリシーの値の割引を見積もる評価器であるRoboFQEを導入し、事前学習された視覚基盤モデルと組み合わさったQ評価と、標準OPEベンチマークと連続制御視覚操作のギャップを埋めるために端末成功アノテーションを学習する。
シミュレーションおよび実世界の操作タスクによる制御実験により、RoboFQEは、自己回帰予測エラーによってビデオワールドモデル評価器が劣化する長時間の操作タスクにおいても、正確な割引リターン推定を生成し、ポリシーのランクを保っていることが示された。
アブレーション実験により、事前学習された視覚エンコーダは、特に長距離タスクにおいて、オフ・スクラッチのオルタナティブよりも大幅に優れており、学習した端末成功アノテーションは、精度をわずかに低下させるだけで、地道報酬ラベルを使わずに評価できることを示した。
関連論文リスト
- GR2PO: Group Relative Return Policy Optimization for Continuous Robot Control [24.541914524911608]
Group Relative Return Policy Optimization (GR2PO)は、継続的ロボット制御のための批判のない強化学習フレームワークである。
GR2POは、並列収集されたトラジェクトリからの割引されたリターンを推定し、ロールアウト時間インデックス毎にグループ正規化を行い、相対的なアドバンテージとクリップされたターゲットを使用してポリシーを更新する。
その結果、GR2POは、即時報酬を使用し、最先端のアクター批判手法と競合する、批評家なしのベースラインを著しく上回っていることがわかった。
論文 参考訳(メタデータ) (2026-09-17T08:03:23Z) - FIERCE: From Generalist Robot Policies to Fast Specialists via Progress-Failure Feedback [32.98143466079881]
汎用的なロボットポリシーは役に立つが、限定的な物理的相互作用を通じてコンパクトなスペシャリストを磨き直すには、情報的学習のフィードバックが必要である。
FIERCEは,タスク適応型プログレッシブ・フェール評価器を統合化した汎用的な強化学習フレームワークである。
この評価は、フィードバック品質、ポリシー学習効率、シミュレーション全体にわたるデプロイメントコストと2つのコンタクトリッチな実際のタスクを分離する。
論文 参考訳(メタデータ) (2026-09-16T13:34:08Z) - R2S-Eval: Robot Evaluation with Real-to-Sim Calibration via Vision-Language Models [12.45799943639499]
R2S-Evalは、リアル・ツー・シミュレート・キャリブレーションと視覚言語モデル(VLM)の嗜好評価を組み合わせた評価パイプラインである。
信頼性が高く安定したポリシーの結論を導き、人間の好みとの一致を達成し、繰り返しハードウェア操作の労力を大幅に削減し、バイナリ成功ラベルによって捉えられない行動品質の違いを明らかにする。
論文 参考訳(メタデータ) (2026-09-03T02:08:16Z) - Predicting LLM Safety Before Release by Simulating Deployment [5.628199352593384]
デプロイ前の安全性評価は、新しいAIモデルをリリースする下流のリスクを通知することを目的としている。
ほとんどの評価は、デプロイにおいて望ましくないモデル動作がどれだけ頻繁に発生するかという限定的な証拠を提供する。
我々は、公開チャットデータセットからデプロイメントシミュレーションをシードし、生産ミス行動率について情報を提供し続けることを示す。
論文 参考訳(メタデータ) (2026-07-08T09:17:47Z) - GigaWorld-1: A Roadmap to Build World Models for Robot Policy Evaluation [73.02743604295246]
WMBenchは、実際のロボット遠隔操作データとポリシーのロールアウトから構築されたベンチマークである。
7つのビデオワールドモデル,4つのアクション表現スキーム,および実際のロボット実行と組み合わせた324,000以上のシミュレートされたポリシーロールアウトを分析した。
評価者の品質は、短期的な視覚的リアリズムよりも、長期的な、行動に忠実なロールアウト一貫性に支配されている。
論文 参考訳(メタデータ) (2026-07-02T17:02:43Z) - Hi-WM: Human-in-the-World-Model for Scalable Robot Post-Training [54.896907620476675]
本稿では,学習世界モデルを用いた学習後学習フレームワークを提案する。
Hi-WMは中間状態をキャッシュし、ロールバックとブランチをサポートする。
我々は、剛性と変形性のあるオブジェクト相互作用と2つのポリシーバックボーンにまたがる3つの実世界の操作タスクについて、Hi-WMを評価する。
論文 参考訳(メタデータ) (2026-04-23T14:42:54Z) - Self-Correcting VLA: Online Action Refinement via Sparse World Imagination [55.982504915794514]
本稿では, 自己補正VLA (SC-VLA) を提案する。
SC-VLAは最先端のパフォーマンスを達成し、最高タスクスループットを16%削減し、最高パフォーマンスのベースラインよりも9%高い成功率を得る。
論文 参考訳(メタデータ) (2026-02-25T06:58:06Z) - Seeing Farther and Smarter: Value-Guided Multi-Path Reflection for VLM Policy Optimization [41.15414881730464]
VLM(Vision-Language Models)は、この目標に対して、一般的なパーセプティブ・レアソン・アクティベート・フレームワークを提供する。
従来のアプローチは、ノイズの多い予見予測から状態値の非効率で、しばしば不正確な暗黙の学習に依存していた。
動作生成から状態評価を分離する新しいテスト時間計算フレームワークを提案する。
論文 参考訳(メタデータ) (2026-02-22T22:53:16Z) - Reshaping Action Error Distributions for Reliable Vision-Language-Action Models [69.38615670891038]
ロボット操作において、視覚言語アクション(VLA)モデルは、一般化可能でスケーラブルなロボットポリシーを学ぶための有望なパラダイムとして登場した。
連続動作型VLAモデルに焦点をあて、トレーニング中の動作誤差分布を再構成することにより、従来のMSEベースの回帰を超越する。
複数の代表的VLAアーキテクチャ上で、標準、少数ショット、ノイズの多い設定にまたがるアプローチを評価します。
論文 参考訳(メタデータ) (2026-02-04T05:37:09Z) - WorldGym: World Model as An Environment for Policy Evaluation [41.204900701616914]
WorldGymは、実環境のプロキシとして機能する自動回帰、アクション条件付きビデオ生成モデルである。
ポリシーはモンテカルロの世界モデルによるロールアウトを通じて評価され、視覚言語モデルが報酬を提供する。
We show that WorldGym can maintain relative policy rankings across different policy version, sizes, and training checkpoints。
論文 参考訳(メタデータ) (2025-05-31T15:51:56Z) - WorldSimBench: Towards Video Generation Models as World Simulators [79.69709361730865]
我々は、予測モデルの機能を階層に分類し、WorldSimBenchと呼ばれる2つの評価フレームワークを提案することにより、World Simulatorの評価の第一歩を踏み出す。
WorldSimBenchにはExplicit Perceptual EvaluationとImplicit Manipulative Evaluationが含まれている。
我々の総合的な評価は、ビデオ生成モデルのさらなる革新を促進する重要な洞察を与え、World Simulatorsをエンボディされた人工知能への重要な進歩と位置づけている。
論文 参考訳(メタデータ) (2024-10-23T17:56:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。