論文の概要: Pretrained Features as Teachers, Not States: Compact Latent World Models for Visual Planning
- arxiv url: http://arxiv.org/abs/2610.23984v1
- Date: Wed, 14 Oct 2026 09:00:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-26 11:59:01.187215
- Title: Pretrained Features as Teachers, Not States: Compact Latent World Models for Visual Planning
- Title(参考訳): 教師としての事前訓練された特徴: ビジュアルプランニングのためのコンパクトな潜在世界モデル
- Abstract要約: ビジュアルワールドモデルにおける重要な設計選択は、潜伏状態の保存が推奨される情報である。
事前訓練された視覚的特徴を直接的に構築したモデルは、強い視覚的先行性を継承するが、予測と計画を凍結状態空間に結びつける。
そこで我々は,教師として事前学習した視覚的特徴を,コンパクトな潜伏状態の学習に用いるアンカー-WMを提案する。
- 参考スコア(独自算出の注目度): 18.136948036022364
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: A key design choice in visual world models is what information the latent state is encouraged to preserve. Models that learn a latent space with only a latent-prediction objective adapt to environment dynamics, but the predictive objective alone admits collapsed solutions and provides no explicit constraint on the visual information retained by the latent. Models built directly on pretrained visual features inherit a strong visual prior, but tie prediction and planning to a frozen state space. We propose Anchor-WM, which instead uses pretrained visual features as a teacher for learning a compact latent state rather than as the world-model state itself. Anchor-WM learns this compact latent with action-conditioned dynamics, while distilling the dense DINO representations through a training-only distillation head. This encourages the compact latent to retain visual information captured by the pretrained representation while discouraging representational collapse. At inference, the DINO encoder and distillation head are discarded, allowing prediction and planning to operate entirely in the learned latent space. Anchor-WM achieves the best average success rate across the four evaluated environments while enabling substantially faster planning than world models operating directly on DINO patch features. These results show that pretrained visual features can effectively guide world-model learning without defining the state space used for prediction and planning.
- Abstract(参考訳): ビジュアルワールドモデルにおける重要な設計選択は、潜伏状態の保存が推奨される情報である。
潜在予測対象のみを用いて潜在空間を学習するモデルは環境力学に適応するが、予測対象のみは崩壊した解を認め、潜伏者が保持する視覚情報に明示的な制約を与えない。
事前訓練された視覚的特徴を直接的に構築したモデルは、強い視覚的先行性を継承するが、予測と計画を凍結状態空間に結びつける。
そこで本稿では,Anchor-WMを提案する。Anchor-WMは,ワールドモデルステート自体ではなく,コンパクトな潜伏状態を学ぶための教師として,事前学習された視覚的特徴を利用する。
Anchor-WMは、訓練専用の蒸留ヘッドを通して密度の高いDINO表現を蒸留しながら、アクション条件のダイナミクスでこのコンパクトな潜水剤を学習する。
これにより、コンパクトな潜伏者は、事前訓練された表現によってキャプチャされた視覚情報を保持でき、表現的崩壊を回避できる。
推測では、DINOエンコーダと蒸留ヘッドは破棄され、学習された潜在空間で予測と計画が完全に動作する。
Anchor-WMは、4つの評価された環境で最高の平均成功率を達成すると同時に、DINOパッチ機能で直接動作する世界モデルよりもはるかに高速な計画を可能にする。
これらの結果から,事前学習した視覚的特徴は,予測や計画に使用する状態空間を定義することなく,世界モデル学習を効果的に導くことができることが示された。
関連論文リスト
- MORE: Learning Motion-Oriented Registers for Driving World Models and Planning [32.827078841452604]
潜在世界モデルは、エンド・ツー・エンド・ドライブのためのリッチ・セルフ・スーパービジョンを提供するが、事前訓練されたビジュアル・エンコーダの密集した機能をワールド・ステート・インタフェースとして継承することが多い。
視覚的事前学習は情報豊かで空間的に密集した特徴を生み出すが、動作条件付き世界モデリングや計画への適応は下流の訓練に委ねられる。
ビデオ事前学習は、継承された視覚的特徴に適応するために下流のトレーニングに頼るのではなく、下流の世界モデリングと計画に適した状態表現を直接学習すべきである、と我々は主張する。
論文 参考訳(メタデータ) (2026-10-10T12:43:06Z) - Sensorimotor World Models: Perception for Action via Inverse Dynamics [59.121736411156384]
Inverse dynamics regularization で訓練されたエンド・ツー・エンドのセンサモレータ・ワールドモデルを導入する。
表現の崩壊を防ぎ、アクション整列表現を誘導する。
コンパクトで解釈可能な潜在空間を学習し、単純な2Dおよび3D制御タスク間の競合計画性能を実現する。
論文 参考訳(メタデータ) (2026-06-18T11:25:16Z) - Back to Parsimonious Latents: Learning Task-Centric World Models from Visual Foundations [35.521396983843864]
本稿では,基礎モデル埋め込みをコンパクトでタスクに適した世界表現に変換するためのフレームワークを提案する。
TC-WM は、動的空間としてコンパクトなラテントに高次元の視覚的埋め込みを射影する。
TC-WMは、タスク中心の潜在要因を単純な変換まで特定するのに十分であることを示す。
論文 参考訳(メタデータ) (2026-05-25T09:21:43Z) - Vision-Centric 4D Occupancy Forecasting and Planning via Implicit Residual World Models [28.777224599594717]
Implicit Residual World Modelは、世界の現在の状態と進化をモデル化することに焦点を当てている。
IR-WMは4次元占有予測と軌道計画の両方において最高性能を達成する。
論文 参考訳(メタデータ) (2025-10-19T06:45:37Z) - DreamVLA: A Vision-Language-Action Model Dreamed with Comprehensive World Knowledge [41.030494146004806]
本稿では,逆動力学モデリングを実現するために,包括的世界知識予測を統合した新しいVLAフレームワークであるDreamVLAを提案する。
DreamVLAは、動的領域誘導の世界知識予測を導入し、空間的および意味的な手がかりと統合し、アクション計画のためのコンパクトで包括的な表現を提供する。
実世界とシミュレーション環境での実験では、ドリームVLAが実際のロボットタスクで76.7%の成功率を達成したことが示されている。
論文 参考訳(メタデータ) (2025-07-06T16:14:29Z) - Top-Down Compression: Revisit Efficient Vision Token Projection for Visual Instruction Tuning [70.57180215148125]
ビジュアルインストラクションチューニングは、大きな言語モデルで視覚世界を理解できるようにすることを目的としている。
既存の手法は、精度と効率の間の難解なトレードオフに悩まされることが多い。
LLaVA-Meteorは,コア情報を妥協することなく,視覚トークンを戦略的に圧縮する手法である。
論文 参考訳(メタデータ) (2025-05-17T10:22:29Z) - DINO-WM: World Models on Pre-trained Visual Features enable Zero-shot Planning [38.749045283035365]
DINO-WM (DINO-WM) は視覚世界を再構築することなく視覚力学をモデル化する新しい手法である。
我々は,DINO-WMが6つの環境でテスト時にゼロショット動作解を実現することを実証した。
論文 参考訳(メタデータ) (2024-11-07T18:54:37Z) - Temporal Predictive Coding For Model-Based Planning In Latent Space [80.99554006174093]
時間的に予測可能な環境要素を符号化するために,時間的予測符号化を用いた情報理論的手法を提案する。
本稿では,DMControl タスクの背景を複雑な情報を含む自然なビデオに置き換える,標準的な DMControl タスクの挑戦的な修正について評価する。
論文 参考訳(メタデータ) (2021-06-14T04:31:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。