論文の概要: World Action Critic (WAC) Model: Joint Foresight and Criticism for Policy Learning
- arxiv url: http://arxiv.org/abs/2610.22825v1
- Date: Fri, 16 Oct 2026 02:05:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.731732
- Title: World Action Critic (WAC) Model: Joint Foresight and Criticism for Policy Learning
- Title(参考訳): World Action Critic(WAC)モデル:政策学習のための共同展望と批判
- Abstract要約: マルチモーダルな行動候補を提案し,候補条件付き将来の予測と結果評価を共同で学習する世界行動批判(WAC)モデルを提案する。
筆者らの理論的分析では, 批評家による特徴保持を特徴付け, 候補者選択の後悔を抑えている。
自律運転に適用されたWAC 93.4 PDMSは、NAVSIM-v1上で予測予測と結果評価を併用して学習する効果を示す。
- 参考スコア(独自算出の注目度): 29.638052205544057
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: World models have shown considerable promise in sequential decision-making by anticipating the consequences of actions and providing predictive foresight for policy learning. However, learning to reason about counterfactual actions remains challenging, since predictive objectives may underemphasize information critical for action evaluation, while unexecuted actions lack observed futures for direct supervision. To address these challenges, we propose the World Action Critic (WAC) Model, which proposes multimodal action candidates and jointly learns candidate-conditioned future prediction and consequence evaluation. In our proposed framework, critic supervision directly shapes intermediate predictive representations during rollout, encouraging them to retain information needed to distinguish action quality. Observed futures supervise prediction for executed actions, while external task-quality targets provide evaluation signals for counterfactual candidates. Through joint optimization, critic signals from these candidates propagate into predictive representations without requiring their observed futures. Our theoretical analysis characterizes critic-guided feature retention and bounds candidate-selection regret. Applied to autonomous driving, WAC achieves 93.4 PDMS on NAVSIM-v1, demonstrating the effectiveness of jointly learning predictive foresight and consequence evaluation.
- Abstract(参考訳): 世界モデルは、行動の結果を予測し、政策学習に対する予測的な予測を提供することによって、シーケンシャルな意思決定においてかなりの可能性を示してきた。
しかし、予測的目的が行動評価に不可欠な情報を過小評価する一方で、実行されていない行動は直接監督のための観察された未来を欠いているため、反事実的行動について推論する学習は依然として困難である。
これらの課題に対処するために、多モーダルな行動候補を提案し、候補条件付き将来の予測と結果評価を共同で学習するWorld Action Critic(WAC)モデルを提案する。
提案フレームワークでは,ロールアウト中の中間予測表現を直接形成し,行動品質を識別するために必要な情報を保持するように促している。
観測された未来は実行されたアクションの予測を監督し、外部タスク品質のターゲットは、反現実的候補に対する評価信号を提供する。
共同最適化を通じて、これらの候補からの批判信号は、観測された未来を必要とせずに予測表現へと伝播する。
筆者らの理論的分析では, 批評家による特徴保持を特徴付け, 候補者選択の後悔を抑える。
自律運転に適用すると、WACはNAVSIM-v1上で93.4PDMSを達成する。
関連論文リスト
- CivWorldBench: Evaluating Language World Models in Structured Multi-Agent Sandbox Worlds [54.553784788457484]
マルチエージェント戦略ゲームエンジン上に構築されたベンチマークであるCivWorldBenchを紹介する。
475の世界の1,900の意思決定ポイントは、関連予測、信念推論、介入予測という3つのタスクレベルをサポートする。
複合ベンチマークスコアは、一致したモデルパネル上の現実の予測リーダーボードと相関する。
論文 参考訳(メタデータ) (2026-10-12T09:16:29Z) - Action-Consequence Alignment for Reliable Planning and Self-Improving in Latent World Models [50.093046379641315]
学習された世界モデルが類似した行動結果対応を維持しているかどうかを検討する。
その結果、近くの代替手段は、記録された目標から遠く離れた物理的結果を生み出すにもかかわらず、より低い予測誤差を得られることが示された。
これらの結果は、予測学習と信頼性プランニングをブリッジする実践原則として、アクション・エフェクト・アライメントを支援する。
論文 参考訳(メタデータ) (2026-10-03T14:12:16Z) - DA-WAM: Decision-Aligned Future Latents for Driving World Models [6.756366477497099]
DA-WAMは、予測表現学習、行動条件付き将来のモデリング、軌道スコアを単一の意思決定目標の下で統一するフレームワークである。
動作条件付き予測器は、トラジェクトリ候補毎の異なる将来の潜在状態を生成し、将来の遅延条件付き因子化スコアラによって評価される。
NAVSIM-v1とNAVSIM-v2の実験は、最先端の性能を示し、改善と診断分析は鍵となる構成要素を検証する。
論文 参考訳(メタデータ) (2026-08-19T16:33:02Z) - Can Vision Language Models Judge Action Quality? An Empirical Evaluation [5.688409551177917]
アクション・クオリティ・アセスメント(AQA)は、理学療法、スポーツコーチング、競争力判定に広く応用されている。
Vision Language Models (VLM) は AQA に対してかなりの保証を持っているが、この領域における実際のパフォーマンスは、ほとんど役に立たないままである。
本稿では,活動領域(例えば,フィットネス,フィギュアスケート,ダイビング,タスク,表現,促進戦略)における最先端VLMの総合評価について述べる。
論文 参考訳(メタデータ) (2026-04-09T14:29:19Z) - PredictaBoard: Benchmarking LLM Score Predictability [50.47497036981544]
大きな言語モデル(LLM)は予測不能に失敗することが多い。
これは、安全なデプロイメントを保証する上で、大きな課題となる。
PredictaBoardは,新しいベンチマークフレームワークである。
論文 参考訳(メタデータ) (2025-02-20T10:52:38Z) - How to Exhibit More Predictable Behaviors [3.5248694676821484]
本稿では,外部オブザーバが行うことができる予測を最適化するために,エージェントがその戦略を選択する必要がある予測可能性問題について考察する。
環境力学や観察対象者の政策について不確実性を考慮して検討する。
本稿では,エージェントポリシーに対するオブザーバの信念に基づいて,報酬関数を用いた行動予測可能性評価基準を提案する。
論文 参考訳(メタデータ) (2024-04-17T12:06:17Z) - On the Value of Myopic Behavior in Policy Reuse [67.37788288093299]
未知のシナリオで学習戦略を活用することは、人間の知性の基本である。
本稿では,Selectivemyopic bEhavior Control(SMEC)というフレームワークを提案する。
SMECは、事前ポリシーの共有可能な短期的行動とタスクポリシーの長期的行動を適応的に集約し、協調的な決定につながる。
論文 参考訳(メタデータ) (2023-05-28T03:59:37Z) - What Should I Know? Using Meta-gradient Descent for Predictive Feature
Discovery in a Single Stream of Experience [63.75363908696257]
計算強化学習は、未来の感覚の予測を通じて、エージェントの世界の知覚を構築しようとする。
この一連の作業において、オープンな課題は、エージェントがどの予測が意思決定を最も支援できるかを、無限に多くの予測から決定することである。
本稿では,エージェントが何を予測するかを学習するメタ段階的な降下過程,(2)選択した予測の見積もり,3)将来の報酬を最大化するポリシーを生成する方法を紹介する。
論文 参考訳(メタデータ) (2022-06-13T21:31:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。