論文の概要: ProgressCompass: Embodied Progress Reward Models Are Lost Without the Right Context
- arxiv url: http://arxiv.org/abs/2609.36684v1
- Date: Tue, 29 Sep 2026 04:27:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.181833
- Title: ProgressCompass: Embodied Progress Reward Models Are Lost Without the Right Context
- Title(参考訳): ProgressCompass: ボディードプログレッシブ・リワードモデルが適切なコンテキストなしで失われる
- Abstract要約: 長いタスクでは、現在のフレームだけでは、以前何が起こったかに依存するため、タスクがどれだけ遠くなったかを知ることができません。
既存の進捗推定のベンチマークは、主に現在の観察から進捗を読み取ることができる短いタスクに焦点が当てられ、また、PRMがコンテキストが必要な場合の進捗を推定できるかどうかが過小評価されている。
- 参考スコア(独自算出の注目度): 14.933964103962369
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Embodied agents now take on ever longer tasks. For long tasks, knowing only whether a task finally succeeds or fails says little; the steps along the way matter. Progress Reward Models (PRMs) score how far a task has come at every step, and serve as dense rewards, verifiers and monitors. Yet in long tasks the current frame alone often cannot tell how far the task has come, because progress depends on what happened before. We call this problem context-dependent progress estimation. Existing benchmarks on progress estimation mostly focus on short tasks whose progress can be read from the current observation, and whether PRMs can estimate progress when context is needed remains underexplored. We therefore build ContextProgress-Bench, with 24 manipulation tasks for 120 episodes. The benchmark covers three settings: (i) State Recall, where information needed for progress appeared earlier but is not in the current frame; (ii) Sequence Tracking, where steps follow a fixed order, so progress requires knowing which steps are done and which comes next; and (iii) Recurrence Disambiguation, where look-alike frames sit at very different progress. We then run a paired diagnosis: each PRM keeps the same input format in both runs, and in one run its instruction integrates the right context. Even PRMs that read the entire history get lost in estimating progress, yet with the right context the same five models cut their progress error by 77-82%. Embodied PRMs are thus not incapable of progress estimation, but lost without the right context. We therefore propose ProgressCompass, an autonomous agentic loop that reorients an existing PRM and uses current general-purpose VLMs to supply the context the PRM needs. Wrapped in the loop, the same frozen PRM cuts its progress error by 63% and raises its rank agreement by 76%. With such a compass, PRMs estimate progress far better on longer, more complex tasks.
- Abstract(参考訳): エンボディード・エージェントは、今やずっと長い仕事をこなしている。
長いタスクでは、タスクが最終的に成功するか失敗するかのみを知ることはほとんど言わない。
プログレッシブ・リワード・モデル(PRM)は、タスクがどのステップでどれだけ完了したかをスコアし、厳密な報酬、検証者、モニターとして機能する。
しかし、長いタスクでは、現在のフレームだけでは、以前何が起こったかによって進捗が変わるため、そのタスクがどれくらい完了したかを知ることができません。
我々はこの問題を文脈依存進捗推定と呼ぶ。
既存の進捗推定のベンチマークは、主に現在の観察から進捗を読み取ることができる短いタスクに焦点が当てられ、また、PRMがコンテキストが必要な場合の進捗を推定できるかどうかが過小評価されている。
そのため、ContextProgress-Benchを構築し、120エピソードで24の操作タスクを実行します。
ベンチマークには3つの設定がある。
一 進捗に必要な情報が早く現れたが、現在の枠にない状態再生
(ii) 手順追跡(Sequence Tracking) ステップが一定の順序に従う場合、進捗にはどのステップが実行され、次にどのステップが実行されるかを知る必要がある。
(3)ルックライクなフレームが全く異なる進行状態にある再帰的曖昧さ。
それぞれのPRMは、両方の実行時に同じ入力フォーマットを保持し、ひとつの実行時にその命令が適切なコンテキストを統合する。
履歴全体を読んだPRMでさえ、進捗を見積もると失われるが、適切なコンテキストでは、同じ5つのモデルが進捗エラーを77~82%削減した。
したがって、身体的PRMは進行推定ができないが、適切なコンテキストがなければ失われる。
そこで我々は,既存のPRMを再配置する自律エージェントループであるProgressCompassを提案する。
ループでラップされた同じ凍結PRMは、進捗エラーを63%削減し、ランク合意を76%引き上げる。
このようなコンパスでは、PRMはより長くより複雑なタスクの進捗をより正確に見積もる。
関連論文リスト
- EgoTSR++: Egocentric Spatiotemporal Reasoning for Task Progress Understanding [51.078675806865306]
VLM(Vision-Language Models)は、静的な視覚的理解において急速に進歩しているが、エゴセントリックなタスクがどのように進行しているかを判断しても信頼性が低い。
EgoTSR(EgoTSR)は,オーダーローバストなタスク・プログレス理解を診断・改善するための統合フレームワークである。
論文 参考訳(メタデータ) (2026-09-23T09:20:44Z) - Success Leaves Detours: Learning Executable Walkthroughs for Long-Horizon Agents [11.833965746124408]
テストタイムの自己進化エージェントは過去の経験を再利用することで改善されるが、スパース・リワード・トラジェクトリには障害、ループ、デトゥールが含まれる。
我々は、ノイズの多いトラジェクトリを実行可能なウォークスルーメモリにコンパイルする依存基盤フレームワークであるTraceを提案する。
J-TTL、WebShop、ScienceWorldの3つのオープンソースのLCMによる実験によると、トレースは8つのテスト時間学習とメモリベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2026-08-20T01:10:11Z) - ChainVLA: Chaining Vision-Language-Action Queries through a Unified Execution State for Long-Horizon Manipulation [9.820724216368543]
ChainVLAは、連続したクエリを共同実行状態にチェーンするポリシーである。
Progress Contextは、リカレントなWorking Stateとスパースなイベントメモリを組み合わせることで、観察から派生したタスクの進捗を実行する。
Motion Tailは、前回の予測が実行されない継続を状態構築と行動生成に供給する。
論文 参考訳(メタデータ) (2026-08-03T14:48:20Z) - ProcVLM: Learning Procedure-Grounded Progress Rewards for Robotic Manipulation [25.420455584290465]
ロングホライゾンのロボット操作は、タスクが手続き段階を通してどのように進行するかを反映した密集したフィードバックを必要とする。
本稿では,プログレッシブ・アウェア・ビジョン言語モデルであるProcVLMについて述べる。
論文 参考訳(メタデータ) (2026-05-09T08:00:59Z) - See, Plan, Rewind: Progress-Aware Vision-Language-Action Models for Robust Robotic Manipulation [59.07792608884117]
本稿では,See, Plan, Rewind (SPR)について紹介する。
SPRは、現在の状態と今後のマイルストーンを見て、次の2Dウェイポイントに向けて軌道を計画し、障害時に回復可能な状態に戻すという、継続的なコアサイクルを通じて運用される。
SPRは、OpenVLA-OFTとUniVLAを上回る最小のパフォーマンス低下で最先端のロバスト性を達成する。
論文 参考訳(メタデータ) (2026-03-10T07:22:51Z) - PROGRESSLM: Towards Progress Reasoning in Vision-Language Models [10.481670664271073]
タスクの進捗を見積もるには、静的な視覚的内容を認識するのではなく、長い水平運動を推理する必要がある。
本稿では,視覚言語モデルにおける進捗推論を体系的に評価するベンチマークであるProgress-Benchを紹介する。
さらに、トレーニングフリープロンプトとトレーニングベースアプローチの両方を通じて、人間にインスパイアされた2段階進行推論パラダイムについて検討する。
論文 参考訳(メタデータ) (2026-01-21T17:56:59Z) - AgentPRM: Process Reward Models for LLM Agents via Step-Wise Promise and Progress [71.02263260394261]
大規模言語モデル(LLM)は、マルチターン意思決定タスクにおいて依然として課題に直面している。
プロセス報酬モデル(PRM)を構築し、各意思決定を評価し、エージェントの意思決定プロセスを導く。
AgentPRMは、シーケンシャルな決定と最終的な目標への貢献の間の相互依存の両方をキャプチャする。
論文 参考訳(メタデータ) (2025-11-11T14:57:54Z) - Process Reward Models That Think [85.06022494911811]
ステップバイステップ検証 - プロセス報酬モデル(PRM)としても知られる - は、テスト時間スケーリングの鍵となる要素である。
この研究は、検証チェーン・オブ・シント(CoT)を生成することにより、ソリューションのすべてのステップを検証する言語化されたステップワイド報酬モデルとして、データ効率の高いPRMを構築することを目的としている。
我々は差別的PRMよりもプロセスラベルを桁違いに少なめに微調整した長いCoT検証器ThinkPRMを提案する。
論文 参考訳(メタデータ) (2025-04-23T15:44:54Z) - Rewarding Progress: Scaling Automated Process Verifiers for LLM Reasoning [90.23629291067763]
大規模言語モデルにおける推論を改善するための有望なアプローチは、プロセス報酬モデル(PRM)を使用することである。
PRMは多段階の推論トレースの各ステップでフィードバックを提供し、結果報酬モデル(ORM)よりも信用割当を改善する可能性がある。
PRMに対して探索を行ったり、強化学習(RL)の報酬として使ったりすることで、基本方針を改善するために、「プロセス報酬をどう設計すべきか?」と質問する。
理論的には,良質なプロデューサの集合を特徴付けるとともに,このようなプロデューサからのプロセス報酬の最適化が,テスト時間探索やオンラインRLの探索を改善することを示す。
論文 参考訳(メタデータ) (2024-10-10T17:31:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。