論文の概要: Direct Experience World-Model Optimization: Learning the World Beyond Action Imitation
- arxiv url: http://arxiv.org/abs/2609.37398v1
- Date: Tue, 29 Sep 2026 12:41:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.492725
- Title: Direct Experience World-Model Optimization: Learning the World Beyond Action Imitation
- Title(参考訳): ダイレクトエクスペリエンス ワールドモデル最適化: アクション・イミテーションを超えて世界を学ぶ
- Abstract要約: World-Action Models (WAM) は、物理的な相互作用がどのように展開されるかを予測するアクション生成を結合する。
WAMのための後処理学習パラダイムであるDirect Experience World-Model Optimization (DEWO)を提案する。
- 参考スコア(独自算出の注目度): 13.304916656517472
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: World-Action Models (WAMs) couple action generation with predictions of how physical interactions unfold. However, current post-deployment learning paradigms typically improve behavior without requiring better world predictions. Especially in dexterous manipulation, small execution errors can compound in high-dimensional action spaces, hindering policy improvement and pushing interactions beyond the world model's training distribution. Motivated by this, we propose Direct Experience World-Model Optimization (DEWO), a post-deployment learning paradigm for WAMs that, alongside action imitation, refines world representations through visual experience to better condition action generation. Specifically, it identifies interaction turning points and learns from successful and failed futures to support classifier-free guidance. An additional value head estimates task progress from video representations and activates guidance when progress stalls during inference. Across five DexJoCo tasks, DEWO improves average success across all three WAM formulations. Ablations show that visual supervision from successful and failed continuations improves both prediction and control beyond action supervision alone. On four real-world tasks across Wuji and Sharpa, 3 x 3 grid evaluations show that two rounds of deployment learning increase success from 51.0% to 71.7% in cells with at least one initial success, a gain of 20.7 percentage points. These findings support continued predictive learning for improving control through deployment experience, making world modeling an active part of WAM adaptation.
- Abstract(参考訳): World-Action Models (WAM) は、物理的な相互作用がどのように展開されるかを予測するアクション生成を結合する。
しかし、現在のデプロイ後の学習パラダイムは一般的に、より良い世界予測を必要としない行動を改善する。
特に器用な操作では、高次元のアクション空間において小さな実行エラーが複雑になり、ポリシーの改善を妨げ、世界モデルのトレーニング分布を超えて相互作用をプッシュする。
そこで本研究では,WAMのための後処理学習パラダイムであるDirect Experience World-Model Optimization (DEWO)を提案する。
具体的には、対話のターンポイントを特定し、成功と失敗から学び、分類器なしのガイダンスをサポートする。
追加の値ヘッドは、ビデオ表現からタスクの進捗を推定し、推論中に進捗が停止したときにガイダンスを起動する。
5つのDexJoCoタスク全体で、DreWOは3つのWAM定式化の平均的な成功を改善している。
アブレーションは、成功と失敗の継続による視覚的監督が、行動監督以外の予測と制御の両方を改善することを示している。
Wuji と Sharpa の4つの実世界のタスクにおいて、3 x 3 グリッドの評価では、デプロイ学習の2ラウンドが51.0%から71.7%に成長し、少なくとも1つの初期成功、20.7%の上昇を示した。
これらの知見は、展開経験を通して制御を改善するための予測学習を継続し、世界モデリングをWAM適応の活発な一部にする。
関連論文リスト
- WorldGuide: Learning Success-Failure Boundaries in Latent World Models for Vision-Language-Action Policies [55.15896481989941]
textbfWorldGuideは、潜在空間における区別を学習し、政策訓練の指導に使用するフレームワークである。
WorldGuideは、成功と失敗の軌跡に対する予測事前トレーニングと、一致した成功と失敗のペアに関する対照的な学習を組み合わせる。
実験により、WorldGuideはVLAの信頼性を大幅に向上し、アートパフォーマンスの状態を達成している。
論文 参考訳(メタデータ) (2026-09-28T03:13:43Z) - Achieve What You Imagined: Learning to Align Actions with Visual Plans [37.7412146305617]
世界行動モデルは、将来の視覚的な観察とロボットのアクションを共同で予測することができる。
視覚的予測と、生成された行動によって引き起こされる結果の間には、相違がある可能性がある。
我々は、フリーズされた行動条件付き世界モデルを用いて、行動条件付き結果の予測とフィードバックの構築を行う。
論文 参考訳(メタデータ) (2026-09-27T18:32:40Z) - FAN: Foresight Action Normalization for Continual Adaptation of Vision-Language-Action Models [23.23356628659099]
大規模でクローズドなデータセットで事前訓練されたビジョンランゲージ・アクション(VLA)モデルは、多様なロボット操作タスクで顕著な成功を収めている。
しかし、彼らの長期のリアルタイムデプロイメントは、これまで学んだ能力を維持しながら、新しいスキルを継続的に獲得する必要がある。
実世界の4つのタスクストリームにまたがる5つの正規化戦略を評価する。
解析の結果、既存のプロトコルは、タスク間座標のドリフト、限られた動作カバレッジ、列車-テスト間の座標ミスマッチによって、深刻な障害モードを引き起こすことが明らかとなった。
論文 参考訳(メタデータ) (2026-09-18T06:17:06Z) - Do Robotic World Models Really Follow Actions? Diagnosing and Aligning Action-Conditioned Generation for Policy Learning [53.77164209208635]
本稿では,視覚的整合性と軌跡アライメントを用いて,より広い行動分布を探索するWorldEchoを紹介する。
本稿では,3つの軸に沿った行動(分布カバレッジ,表現的接地,介入効果のアライメント)を強化するWorldSyncを提案する。
RoboTwinベンチマークと実ロボットタスクの実験は、WorldSyncがWorldEchoメトリクスを改善し、反復的なポリシー改善のためのより信頼性の高いシミュレータとして機能していることを示している。
論文 参考訳(メタデータ) (2026-08-25T17:59:49Z) - PAVXploreRL: Physical-Action-Visual World Model Reinforcement Learning with Action Exploration [49.59412060345528]
アクション条件付き世界モデルは、スケーラブルなポリシー評価ツールとして機能する、実施中のAIの重要なコンポーネントである。
PAVXploreRLは、事前訓練された潜在世界モデルに基づいて構築された強化学習フレームワークである。
実験の結果、PAVXploreRLはトレーニング済みのベースラインより一貫して優れていた。
論文 参考訳(メタデータ) (2026-07-18T02:42:27Z) - HarmoWAM: Harmonizing Generalizable and Precise Manipulation via Adaptive World Action Models [58.191567345416836]
世界行動モデル(WAM)は、物理力学のモデリングによるロボット制御のための有望なパラダイムとして登場した。
HarmoWAMは、予測と反応の制御を統一するために世界モデルを完全に活用し、一般的なトランジットと正確な操作を可能にする。
実世界の6つのロボットタスクにまたがる3つのトレーニング未確認テスト環境を構築し、背景、位置、オブジェクトの意味のバリエーションをカバーした。
論文 参考訳(メタデータ) (2026-05-11T17:59:56Z) - Grounded World Model for Semantically Generalizable Planning [94.53923128709965]
我々は、視覚言語対応の潜在空間において、グラウンドドワールドモデル(GWM)を学習する。
提案された各アクションは、タスク命令に対する将来の結果がどの程度近いかに基づいてスコアされる。
提案したWISERベンチマークでは、GWM-MPCはテストセットで87%の成功率を達成した。
論文 参考訳(メタデータ) (2026-04-13T17:25:41Z) - World Action Verifier: Self-Improving World Models via Forward-Inverse Asymmetry [82.93104394404781]
汎用世界モデルは、スケーラブルなポリシー評価、最適化、計画を約束します。
本稿では,世界モデルによる予測誤りと自己改善を識別するフレームワークであるWorld Action Verifier(WAV)を提案する。
論文 参考訳(メタデータ) (2026-04-02T12:48:36Z) - Enhancing Policy Learning with World-Action Model [4.941630596191806]
World-Action Model (WAM) は行動規則化された世界モデルであり、将来の視覚的観察と状態遷移を駆動する行動について共同で理由を定めている。
WAMは、遅延状態遷移からアクションを予測するDreamerV2に、逆ダイナミクスの目的を組み込んでいる。
我々は、CALVINベンチマークから8つの操作タスクにわたるポリシー学習の強化について、WAMを評価した。
論文 参考訳(メタデータ) (2026-03-30T19:56:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。