論文の概要: Not All Actions Contribute Equally: Learning Precise Progress Estimation from Imprecise Demonstrations
- arxiv url: http://arxiv.org/abs/2610.23769v1
- Date: Fri, 16 Oct 2026 17:07:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:08.031411
- Title: Not All Actions Contribute Equally: Learning Precise Progress Estimation from Imprecise Demonstrations
- Title(参考訳): すべての行動が等しく寄与するわけではない:不正確な説明から精密な進行推定を学習する
- Abstract要約: 本研究では,不正確な実演から精度の高い進捗推定を学習できる新しい進捗推定器PRIMEを提案する。
PRIMEは多種多様なタスクに対して一貫して有効であり、様々な準最適度を持つデータに対して堅牢であることを示す。
特に、PRIMEの利点は、より高精度なシナリオでより顕著になり、政策の成功率を最大5倍に向上させる。
- 参考スコア(独自算出の注目度): 52.85692927198773
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Progress estimators play an essential role in providing dense reward signals for reinforcement learning in robotic manipulation, but accurately assessing task progress can be much challenging. Existing methods heavily rely on expert data and naively assume that all actions within a demonstration contribute to task success. This assumption often breaks down in real-world scenarios, especially in high-precision manipulation, where subtle geometric errors can lead to task failure. Therefore, these methods can erroneously interpret human mistakes as meaningful progress, further corrupting progress learning. We argue that a key limitation is the lack of a global prior regarding task evaluation criteria, which is crucial for distinguishing meaningful progress from human mistakes. To this end, we propose PRIME, a novel progress estimator capable of learning precise progress estimation from imprecise demonstrations by aggregating experience across trajectories. PRIME constructs a weighted graph over observed states, connecting states across trajectories based on spatial proximity and visual consistency. Edge weights encode spatial distances as transition costs, and shortest-path search approximates the geodesic distance to success. Changes in this distance naturally distinguish advancement, stagnation, and setbacks without assuming monotonic progress over time. Extensive experiments in both simulation and real world on precise manipulation tasks show that PRIME is consistently effective across diverse tasks, and robust to data with varying degrees of suboptimality. Notably, the advantage of PRIME gets more pronounced in higher-precision scenarios, yielding up to a \(5\times\) improvement in policy success rate over the SFT baselines on charger insertion.
- Abstract(参考訳): プログレッシブ推定器は、ロボット操作において強化学習のための高密度報酬信号を提供する上で重要な役割を担っているが、タスクの進捗を正確に評価することは、非常に困難である。
既存のメソッドは専門家のデータに大きく依存しており、デモ内のすべてのアクションがタスクの成功に寄与していると鼻で仮定する。
この仮定は、特に微妙な幾何学的誤りがタスクの失敗につながるような高精度な操作において、現実世界のシナリオでしばしば破られる。
したがって、これらの手法は人間の誤りを有意義な進歩と誤って解釈し、さらに進歩学習を損なう可能性がある。
我々は,人的ミスと有意義な進歩を区別する上で重要な,タスク評価基準に関するグローバルな事前の欠如が,重要な限界であると主張している。
そこで本稿では,軌道上での経験を集約することで,不正確な実演から正確な進捗推定を学習できる新しい進捗推定器PRIMEを提案する。
PRIMEは観測された状態の上に重み付きグラフを構築し、空間的近接性と視覚的整合性に基づいて軌跡をまたいだ状態を接続する。
エッジウェイトは、遷移コストとして空間距離を符号化し、最短経路探索は、成功までの測地距離を近似する。
この距離の変化は、時間とともに単調な進行を仮定することなく、自然に進行、停滞、後退を区別する。
シミュレーションと実世界における精密な操作タスクに関する広範な実験は、PRIMEが様々なタスクに対して一貫して有効であり、様々な準最適性を持つデータに対して堅牢であることを示している。
特に、PRIMEの利点は、より高精度なシナリオでより顕著になり、チャージャー挿入に基づくSFTベースラインよりも、(5\times\)政策成功率を最大に向上させる。
関連論文リスト
- EgoTSR++: Egocentric Spatiotemporal Reasoning for Task Progress Understanding [51.078675806865306]
VLM(Vision-Language Models)は、静的な視覚的理解において急速に進歩しているが、エゴセントリックなタスクがどのように進行しているかを判断しても信頼性が低い。
EgoTSR(EgoTSR)は,オーダーローバストなタスク・プログレス理解を診断・改善するための統合フレームワークである。
論文 参考訳(メタデータ) (2026-09-23T09:20:44Z) - Long-Horizon Language Model Reinforcement Learning via Progressive Point Matching [70.73681123064533]
単純で偏りのない厳密な報酬の定式化(プログレッシブ・ポイントマッチング)は、長い水平タスクに対して指数関数的に効率良くスケールする。
非常に難しい数学推論問題では、粗末な結果報酬は進歩することができないが、セグメントレベルの報酬はより大きなテストタイムトークン予算の改善を可能にする。
論文 参考訳(メタデータ) (2026-09-07T10:21:41Z) - Predicting Task Difficulty Without Rollouts [0.0]
我々は,コーディング,数学,機械学習,Webナビゲーション,関数呼び出し,その他の領域にまたがる17のエージェントベンチマークを対象に,テキスト列の難易度予測について検討した。
我々は,AUCが難易度推定を隠蔽し,トークンレベルのエントロピーを有用な予測信号として同定し,予測された難易度と観測された難易度の間の残差が,汚染や不実現性などの隠れた環境欠陥を如何に隠蔽するかを示す。
論文 参考訳(メタデータ) (2026-08-06T09:33:09Z) - Beyond Monotonic Progress: Retry-Supervised Value Learning for Robot Imitation [38.88183703128359]
混在型ロボットのデモから誤検知値関数を学習するフレームワークであるReTVL(ReTry-Supervised Value Learning)を提案する。
ReTVLは、グローバルプログレスキャリブレーションとローカルなペアワイズ選好学習を組み合わせることで、ミスに伴う局所的な劣化・回復構造をキャプチャする。
実ロボット操作タスクの実験では、ReTVLは進捗ベースのベースラインよりもよりきめ細かな値推定を生成する。
論文 参考訳(メタデータ) (2026-06-23T14:27:10Z) - ProgressVLA: Progress-Guided Diffusion Policy for Vision-Language Robotic Manipulation [57.07494675832939]
ロボット操作のための既存の視覚言語アクション(VLA)モデルは、進歩意識を欠いている。
本研究では,textbf vla という新しいモデルを提案し,タスク進捗の推定と統合について検討する。
CALVINとLIBEROベンチマークの実験は、実世界のロボットの展開とともに、成功率の大幅な改善を一貫して示している。
論文 参考訳(メタデータ) (2026-03-29T12:38:11Z) - SPOT: Scalable 3D Pre-training via Occupancy Prediction for Learning Transferable 3D Representations [76.45009891152178]
トレーニング-ファインタニングアプローチは、さまざまな下流データセットとタスクをまたいだトレーニング済みのバックボーンを微調整することで、ラベル付けの負担を軽減することができる。
本稿では, 一般表現学習が, 占領予測のタスクを通じて達成できることを, 初めて示す。
本研究は,LiDAR 点の理解を促進するとともに,LiDAR の事前訓練における今後の進歩の道を開くことを目的とする。
論文 参考訳(メタデータ) (2023-09-19T11:13:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。