論文の概要: Beyond Prediction: Steering VLM Agents with Retrospective World Modeling
- arxiv url: http://arxiv.org/abs/2609.39101v1
- Date: Wed, 30 Sep 2026 06:41:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.291699
- Title: Beyond Prediction: Steering VLM Agents with Retrospective World Modeling
- Title(参考訳): 予測を超えて:振り返り世界モデリングによるVLMエージェントのステアリング
- Abstract要約: 世界モデリング能力を持つVLMエージェントは、複雑な推論と長期計画に強い可能性を示している。
本稿では,エージェントの逆推論を可能にする新しいエージェント学習パラダイムであるRetrospective World Modelingを紹介する。
本手法は, 政策の堅牢性と, 将来的な世界モデリングベースラインを大幅に改善する。
- 参考スコア(独自算出の注目度): 38.89406602855148
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Equipping VLM agents with world modeling capabilities has shown strong potential for complex reasoning and long-horizon planning, while reducing the dependence of policy learning on costly real-world interactions. Existing methods mainly rely on prospective simulation to predict the consequences of candidate actions. However, this forward-only paradigm focuses on what will happen next and provides limited constraints for verifying whether an action is causally consistent with the observed state transition, which can lead to plausible-looking but physically incoherent behaviors. In this paper, we challenge the view of world modeling as only prospective prediction and introduce Retrospective World Modeling, a new agent learning paradigm that enables agents to reason backward by estimating the retrospective attribution distribution $P(\hat{a}{t}|s_t, s{t+1})$ for the action that most likely caused a given transition. Based on this capability, we formulate the Self-Consistency Reward (SCR), an intrinsic signal that measures the probabilistic consistency between the policy action and the retrospective explanation. Integrating SCR into reinforcement learning provides dense transition-level feedback and steers agents toward behaviors that are both task-effective and physically grounded. Extensive experiments across diverse agentic tasks show that our method substantially improves policy robustness and generalization over prospective-only world modeling baselines.
- Abstract(参考訳): 世界モデリング能力を備えたVLMエージェントの取得は、複雑な推論と長期計画の可能性を強く示し、一方で、コストのかかる実世界の相互作用に対する政策学習の依存を減らしている。
既存の手法は主に、予測された行動の結果を予測するための予測シミュレーションに依存している。
しかしながら、このフォワードオンリーのパラダイムは次に何が起こるかに焦点を当て、あるアクションが観測された状態遷移と因果的に一致しているかどうかを検証するための制限を提供する。
本稿では,世界モデリングを予見的予測のみとする見解に挑戦し,新たなエージェント学習パラダイムであるRetrospective World Modelingを導入する。これは,エージェントが与えられた遷移を最も引き起こしたアクションに対して,レトロスペクティブ属性分布$P(\hat{a}{t}|s_t, s{t+1})$を推定することで,エージェントが後方に推論できるような新しいエージェント学習パラダイムである。
この能力に基づいて、政策行動と振り返り説明の間の確率的一貫性を測定する本質的な信号である自己整合逆(SCR)を定式化する。
SCRを強化学習に組み込むことは、タスク効果と物理的基盤の両方の行動に対して、高密度な遷移レベルフィードバックとステアエージェントを提供する。
本手法は,多種多様なエージェント・タスクにわたる広範囲な実験により,将来的な世界モデリングベースラインに対するポリシーの堅牢性と一般化を大幅に改善することを示す。
関連論文リスト
- Internalizing the Future: A Unified Agentic Training Paradigm for World Model Planning [32.26884129316165]
大規模言語モデル(LLM)エージェントは、シーケンシャルな意思決定において強力な能力を示している。
コミットメントの前に潜在的な計画を評価するために「What-if」推論を採用する人間とは異なり、標準エージェントは将来の成果をシミュレートする内的世界モデルが欠如している。
本研究では,1つの自己回帰モデルを訓練し,将来的な状態展開と計画条件による成功推定の両方を言語化することにより,将来の計画の内在化を提案する。
論文 参考訳(メタデータ) (2026-06-25T19:05:44Z) - SCAR: Self-Supervised Continuous Action Representation Learning [36.917304453471864]
視覚的遷移から具現化された動作表現を学習するための共同逆フォワード動的フレームワークであるSCARを提案する。
事前訓練された生成バックボーン上に構築されたSCARは、逆ダイナミクスモデル(IDM)を使用して、潜時観測ペアから潜時動作を推論し、フォワードダイナミクスモデル(FDM)を用いて、それらに条件付けられた将来のダイナミクスを予測する。
Procgen と Robotwin のデータセットの実験により、学習された統合潜在行動表現は、具体化固有の生の行動よりも、世界モデリングのためのより強い条件付けインターフェースとして機能することが示された。
論文 参考訳(メタデータ) (2026-05-13T16:23:11Z) - HarmoWAM: Harmonizing Generalizable and Precise Manipulation via Adaptive World Action Models [58.191567345416836]
世界行動モデル(WAM)は、物理力学のモデリングによるロボット制御のための有望なパラダイムとして登場した。
HarmoWAMは、予測と反応の制御を統一するために世界モデルを完全に活用し、一般的なトランジットと正確な操作を可能にする。
実世界の6つのロボットタスクにまたがる3つのトレーニング未確認テスト環境を構築し、背景、位置、オブジェクトの意味のバリエーションをカバーした。
論文 参考訳(メタデータ) (2026-05-11T17:59:56Z) - World Action Verifier: Self-Improving World Models via Forward-Inverse Asymmetry [82.93104394404781]
汎用世界モデルは、スケーラブルなポリシー評価、最適化、計画を約束します。
本稿では,世界モデルによる予測誤りと自己改善を識別するフレームワークであるWorld Action Verifier(WAV)を提案する。
論文 参考訳(メタデータ) (2026-04-02T12:48:36Z) - From Passive Metric to Active Signal: The Evolving Role of Uncertainty Quantification in Large Language Models [77.04403907729738]
このサーベイは、受動的診断基準からリアルタイムモデル動作を導くアクティブ制御信号への不確実性の進化をグラフ化する。
3つのフロンティアにまたがるアクティブ制御信号として不確実性がいかに活用されているかを示す。
この調査は、次世代のスケーラブルで信頼性があり、信頼できるAIを構築するためには、新しい不確実性のトレンドを習得することが不可欠である、と論じている。
論文 参考訳(メタデータ) (2026-01-22T06:21:31Z) - Imagine-then-Plan: Agent Learning from Adaptive Lookahead with World Models [13.90532093512575]
エージェント学習のための統合フレームワークであるImagine-then-Plan(textttITP)を提案する。
最終目標とタスクの進捗をトレードオフすることで、適応的な新しいルックアヘッド機構を導入する。
実験の結果, TexttITP は競争ベースラインを著しく上回っていることがわかった。
論文 参考訳(メタデータ) (2026-01-13T19:49:58Z) - Current Agents Fail to Leverage World Model as Tool for Foresight [61.82522354207919]
エージェントは、行動する前に結果を予測するためにそれらを使用できます。
本稿では,現在のエージェントがそのような世界モデルを,認知力を高めるツールとして活用できるかどうかを実証的に検討する。
論文 参考訳(メタデータ) (2026-01-07T13:15:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。