論文の概要: PAPO-VLA: Planning-Aware Policy Optimization for Vision-Language-Action Models
- arxiv url: http://arxiv.org/abs/2605.19580v1
- Date: Tue, 19 May 2026 09:22:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-20 15:03:09.247393
- Title: PAPO-VLA: Planning-Aware Policy Optimization for Vision-Language-Action Models
- Title(参考訳): PAPO-VLA:ビジョン・ランゲージ・アクションモデルのためのプランニング・アウェア・ポリシー最適化
- Authors: Peizheng Guo, Jingyao Wang, Changwen Zheng, Wenwen Qiang,
- Abstract要約: Vision-Language-Action(VLA)モデルは、言語誘導ロボットタスクにおいて有望な能力を示す。
VLAの信頼性を向上させるには、特に計画行動に注意が必要であると我々は主張する。
VLAモデル(PAPO-VLA)のためのプランニング・アウェア・ポリシー最適化を提案する。
- 参考スコア(独自算出の注目度): 22.797350217163977
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Vision-Language-Action (VLA) models show promising ability in language-guided robotic tasks. However, making VLA policies reliable remains challenging, because a manipulation task is completed through closed-loop interaction, where each action affects subsequent execution. To analyze this problem, we revisit VLA policy during execution and argue that a VLA policy acts both as a planner, which makes task-oriented decisions that change the direction of execution, and as an executor, which realizes these decisions through dense continuous actions. This view suggests that improving VLA reliability requires particular attention to planning actions. Existing optimization methods can imitate actions or improve complete trajectories, but they usually do not explicitly identify planning actions or measure their importance for task success. To address this issue, we propose Planning-Aware Policy Optimization for VLA models (PAPO-VLA). PAPO-VLA first identifies planning actions by jointly considering action variation and trajectory outcome, then estimates their importance through causal sufficiency and causal necessity, and finally incorporates this importance into GRPO advantage estimation. In this way, more important planning actions receive stronger optimization emphasis, while the whole trajectory is still optimized by trajectory-level feedback. Experiments on multiple benchmarks demonstrate the effectiveness of PAPO-VLA.
- Abstract(参考訳): Vision-Language-Action(VLA)モデルは、言語誘導ロボットタスクにおいて有望な能力を示す。
しかしながら、VLAポリシーを信頼できるものにすることは、操作タスクがクローズドループインタラクションによって完了し、各アクションがその後の実行に影響を与えるため、依然として困難である。
この問題を解析するために、実行中のVLAポリシーを再検討し、実行の方向を変えるタスク指向の意思決定を行うプランナーと、密集した連続的なアクションを通じてこれらの決定を実現するエグゼキュータの両方として、VLAポリシーが機能することを議論する。
この見解は、VLAの信頼性を向上させるには、特に計画行動に注意が必要であることを示唆している。
既存の最適化手法は、アクションを模倣したり、完全な軌道を改善できるが、計画的なアクションを明確に特定したり、タスクの成功のためにその重要性を測ったりしない。
この問題に対処するため、我々はVLAモデル(PAPO-VLA)のためのプランニング・アウェア・ポリシー最適化を提案する。
PAPO-VLAはまず行動の変動と軌跡の結果を共同で検討し,その重要度を因果的満足度と因果的必要性を通じて推定し,最終的にこの重要度をGRPOの優位性推定に組み込む。
このように、より重要な計画行動はより強い最適化強調を受け、トラジェクトリ全体は依然としてトラジェクトリレベルのフィードバックによって最適化されている。
複数のベンチマークの実験では、PAPO-VLAの有効性が示されている。
関連論文リスト
- LoopVLA: Learning Sufficiency in Recurrent Refinement for Vision-Language-Action Models [13.30873593845724]
LoopVLAは、表現の洗練、アクション予測、十分性推定を学習する、リカレントなVision-Language-Actionアーキテクチャである。
この結果から,LoopVLAはVLAポリシーの効率性向上のフロンティアを推し進め,パラメータを45%削減し,推論スループットを最大1.7倍向上させることを示した。
論文 参考訳(メタデータ) (2026-05-11T03:51:22Z) - Anticipation-VLA: Solving Long-Horizon Embodied Tasks via Anticipation-based Subgoal Generation [23.021987362787225]
VLA(Vision-Language-Action)モデルは、インテリジェンスを具現化する強力なパラダイムとして登場した。
本稿では,予測モデルを利用して動作可能なサブゴールを生成する階層型VLAモデルであるPrecipation-VLAを提案する。
我々は、高レベルサブゴール生成のための統一マルチモーダルモデル(UMM)を微調整し、低レベル動作実行のための目標条件付きVLAポリシーを実装した予測-VLAを実装した。
論文 参考訳(メタデータ) (2026-05-03T08:11:35Z) - AC^2-VLA: Action-Context-Aware Adaptive Computation in Vision-Language-Action Models for Efficient Robotic Manipulation [21.23747444669735]
VLAモデル(AC2-VLA)に対するアクションコンテキスト対応適応計算を提案する。
AC2-VLAは、タイムステップ間の認識再利用、トークンプルーニング、統一メカニズム内のモデルコンポーネントの選択的な実行を適応的に行う。
ロボット操作ベンチマークの実験では、AC2-VLAはFLOPを29.4%まで減らし、最大1.79倍のスピードアップを達成した。
論文 参考訳(メタデータ) (2026-01-27T14:10:39Z) - Learning Affordances at Inference-Time for Vision-Language-Action Models [50.93181349331096]
ロボット工学において、VLA(Vision-Language-Action Model)は複雑な制御タスクを解くための有望な道を提供する。
本稿では,VLAの低レベルポリシーを過去の経験を条件とした高レベルVLMに接続するLITEN(Learning from Inference-Time Execution)を紹介する。
提案手法は,低レベルVLAの計画の生成と実行を行う推論フェーズと,その結果を反映した評価フェーズとを反復する。
論文 参考訳(メタデータ) (2025-10-22T16:43:29Z) - Improving Pre-Trained Vision-Language-Action Policies with Model-Based Search [7.9342097024286815]
VLAPS(Vision-Language-Action Planning & Search)について紹介する。
モデルベースの検索を事前訓練されたVLAポリシーの推論手順に組み込む。
VLAPSは、言語指定タスクにおけるVLAのみのベースラインを著しく上回る。
論文 参考訳(メタデータ) (2025-08-17T02:59:42Z) - LaViPlan : Language-Guided Visual Path Planning with RLVR [0.0]
VLM(Vision-Language Models)は,高レベルなシーン理解とユーザ対応の意思決定を提供することによって,このようなシナリオを扱う上で有望であることを示す。
既存のVLMは、言語に基づく推論とアクションレベルの計画に必要な低レベルの軌道との不一致を示すことが多い。
本稿では,RLVR(Reinforcement Learning with Verifiable Rewards)を利用したLaViPlanを提案する。
論文 参考訳(メタデータ) (2025-07-17T08:58:24Z) - PGPO: Enhancing Agent Reasoning via Pseudocode-style Planning Guided Preference Optimization [58.465778756331574]
本稿では,効果的なエージェント学習のためのPGPOと呼ばれる疑似コード型計画優先最適化手法を提案する。
2つの計画指向の報酬により、PGPOは、高品質なPコードプランを生成するLLMエージェントの能力をさらに強化する。
実験により、PGPOは代表エージェントベンチマークよりも優れた性能を示し、現在のリードベースラインより優れていることが示された。
論文 参考訳(メタデータ) (2025-06-02T09:35:07Z) - Propose, Assess, Search: Harnessing LLMs for Goal-Oriented Planning in Instructional Videos [48.15438373870542]
VidAssistは、インストラクショナルビデオにおけるゼロ/フェーショット目標指向の計画のために設計された統合フレームワークである。
最適な計画生成のための幅優先探索アルゴリズムを採用している。
実験によると、VidAssistは異なる目標指向の計画設定のための統一されたフレームワークを提供する。
論文 参考訳(メタデータ) (2024-09-30T17:57:28Z) - Exploring and Benchmarking the Planning Capabilities of Large Language Models [57.23454975238014]
この研究は、大規模言語モデル(LLM)の計画能力を改善するための基礎を築いた。
我々は、古典的な計画ベンチマークと自然言語シナリオの両方を含む包括的なベンチマークスイートを構築した。
本研究は,LLM計画の強化を目的としたマルチショットインコンテキスト学習について検討し,文脈長の増大と計画性能の向上の関係について検討する。
論文 参考訳(メタデータ) (2024-06-18T22:57:06Z) - Theoretically Guaranteed Policy Improvement Distilled from Model-Based
Planning [64.10794426777493]
モデルベース強化学習(RL)は、様々な連続制御タスクにおいて顕著な成功を収めた。
近年のプラクティスでは、最適化されたアクションシーケンスをトレーニングフェーズ中にRLポリシーに蒸留する傾向にある。
我々は,モデルに基づく計画から政策への蒸留アプローチを開発する。
論文 参考訳(メタデータ) (2023-07-24T16:52:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。