論文の概要: MiniWorld: Democratizing the Training of Video World Models from Scratch
- arxiv url: http://arxiv.org/abs/2608.01127v2
- Date: Tue, 04 Aug 2026 04:32:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-05 13:15:27.421546
- Title: MiniWorld: Democratizing the Training of Video World Models from Scratch
- Title(参考訳): MiniWorld:スクラッチからビデオワールドモデルのトレーニングを民主化
- Abstract要約: ビデオワールドモデルは、過去の観測と制御信号に基づいて将来の観測を予測する。
MiniWorldは、ストリーミングビデオワールドモデルをゼロからトレーニングするための再現可能なフレームワークである。
- 参考スコア(独自算出の注目度): 13.334555097211636
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Video world models predict future observations conditioned on historical observations and control signals, enabling long-horizon generation through autoregressive state transitions. Unlike conventional video generation models that primarily capture visual appearance and motion, video world models learn the underlying dynamics governing environment evolution under agent actions, providing a foundation for embodied AI and interactive simulation. Recent progress has largely relied on adapting pretrained video generation models through post-training or distillation. Although effective, these approaches often require complex training pipelines, substantial computational resources, and suffer from the mismatch between bidirectional pretraining and causal streaming inference. Recent studies have shown that training autoregressive video world models from scratch is feasible and scalable. However, the community still lacks a lightweight, transparent, and fully reproducible baseline trainable end-to-end with modest computational resources. We present MiniWorld, a reproducible framework for training streaming video world models from scratch. MiniWorld employs a block-causal Video Diffusion Transformer trained with Flow Matching in the latent space of a pretrained Video VAE. Building on Diffusion Forcing, it adopts a chunk-wise non-decreasing noise schedule and two-stage continued training to improve temporal modeling and stability. During inference, MiniWorld combines a rolling KV cache with pipelined asynchronous denoising for efficient streaming generation under bounded computation. The entire model can be trained within several days on a single 8-GPU server. By releasing the training and inference codebase and pretrained checkpoints, we hope MiniWorld will facilitate future research on video world modeling.
- Abstract(参考訳): ビデオワールドモデルは、過去の観測と制御信号に照らされた将来の観測を予測し、自己回帰状態遷移による長距離発生を可能にする。
視覚的な外観と動きを主に捉える従来のビデオ生成モデルとは異なり、ビデオワールドモデルはエージェントアクションの下で環境の進化を管理する基礎となるダイナミクスを学習し、AIとインタラクティブなシミュレーションの基礎を提供する。
最近の進歩は、訓練後や蒸留を通じて、事前訓練されたビデオ生成モデルを適応させることに大きく依存している。
効果的ではあるが、これらのアプローチは複雑なトレーニングパイプライン、かなりの計算資源を必要とし、双方向の事前学習と因果ストリーミング推論のミスマッチに悩まされることが多い。
近年の研究では、スクラッチから自己回帰的ビデオワールドモデルをトレーニングすることは可能でスケーラブルであることが示されている。
しかし、コミュニティには、軽量で透明で完全に再現可能なベースライントレーニング可能なエンドツーエンドと、控えめな計算リソースがない。
ストリーミングビデオワールドモデルをスクラッチからトレーニングするための再現可能なフレームワークであるMiniWorldを紹介する。
MiniWorldは、事前訓練されたビデオVAEの潜伏空間でフローマッチングで訓練されたブロックカスルビデオ拡散変換器を使用している。
Diffusion Forcing上に構築されており、時間的モデリングと安定性を改善するために、チャンクワイズ非遅延ノイズスケジュールと2段階の継続トレーニングを採用している。
推論の間、MiniWorldはローリングKVキャッシュとパイプライン化された非同期デノゲーションを組み合わせて、バウンド計算による効率的なストリーミング生成を行う。
モデル全体のトレーニングは、単一の8GPUサーバで数日以内に行うことができる。
トレーニングと推論のコードベースと事前訓練されたチェックポイントをリリースすることによって、MiniWorldが将来のビデオワールドモデリングの研究を促進することを願っている。
関連論文リスト
- minWM: A Full-Stack Open-Source Framework for Real-Time Interactive Video World Models [51.45338589543413]
minWMはリアルタイムインタラクティブなビデオワールドモデルを構築するためのフルスタックのオープンソースフレームワークである。
minWMは既存の双方向T2V/TI2Vビデオ基盤モデルをカメラ制御可能な数ステップの自己回帰世界モデルに変換する。
論文 参考訳(メタデータ) (2026-05-28T17:27:03Z) - Matrix-Game 3.0: Real-Time and Streaming Interactive World Model with Long-Horizon Memory [53.39687409541093]
Matrix-Game 3.0は、720pのリアルタイムビデオ生成用に設計されたメモリ拡張型インタラクティブワールドモデルである。
データ、モデル、推論にまたがる体系的な改善を導入する。
実験結果から, Matrix-Game 3.0は最大40FPSのリアルタイム生成を実現し, 5Bモデルで720pの解像度を実現した。
論文 参考訳(メタデータ) (2026-04-10T06:00:09Z) - Disentangled Robot Learning via Separate Forward and Inverse Dynamics Pretraining [28.30092786035367]
DeFIはビジュアルフォワードと逆ダイナミクスを分離し、各データソースを利用するための新しいフレームワークである。
今後の予測のために,多種多様な人・ロボットビデオで事前訓練された一般フォワード・ダイナミクス・モデル(GFDM)と,ラベルなしビデオ遷移から潜伏行動を予測するための自己教師付き学習によって訓練された一般逆ダイナミクス・モデル(GIDM)を紹介する。
CALVIN ABC-D と SimplerEnv の実験では、DeFI は CALVIN の平均タスク長 4.51 に達し、SimplerEnv-Frac は 51.2% 成功した。
論文 参考訳(メタデータ) (2026-03-27T17:20:10Z) - End-to-End Training for Autoregressive Video Diffusion via Self-Resampling [63.84672807009907]
自己回帰ビデオ拡散モデルは、世界シミュレーションの可能性を保っているが、列車テストミスマッチに起因する露出バイアスに弱い。
教師なしのフレームワークであるResampling Forcingを導入し、スクラッチから大規模まで自動回帰ビデオモデルのトレーニングを可能にする。
論文 参考訳(メタデータ) (2025-12-17T18:53:29Z) - Inferix: A Block-Diffusion based Next-Generation Inference Engine for World Simulation [41.993197533574126]
Inferixは、最適化された半自己回帰復号プロセスを通じて没入型世界合成を可能にする推論エンジンである。
Inferixはさらに、インタラクティブなビデオストリーミングとプロファイリングによる提供を強化し、リアルタイムのインタラクションと現実的なシミュレーションを可能にしている。
論文 参考訳(メタデータ) (2025-11-25T01:45:04Z) - LongDWM: Cross-Granularity Distillation for Building a Long-Term Driving World Model [22.92353994818742]
ドライビングワールドモデルは、現在の状態と行動の状態に基づいて、ビデオ生成によって未来をシミュレートするために使用される。
最近の研究は、ディフュージョントランスフォーマー(DiT)を駆動世界モデルのバックボーンとして利用し、学習の柔軟性を向上させる。
我々は、シンプルで効果的な長期運転世界モデルを構築するためのソリューションをいくつか提案する。
論文 参考訳(メタデータ) (2025-06-02T11:19:23Z) - Vid2World: Crafting Video Diffusion Models to Interactive World Models [35.42362065437052]
我々は、トレーニング済みの動画拡散モデルをインタラクティブな世界モデルに活用し、転送するための一般的なアプローチであるVid2Worldを紹介する。
本手法は,高機能な映像拡散モデルをインタラクティブな世界モデルに再利用するための,スケーラブルで効果的な経路を提供する。
論文 参考訳(メタデータ) (2025-05-20T13:41:45Z) - iVideoGPT: Interactive VideoGPTs are Scalable World Models [70.02290687442624]
世界モデルは、現実の意思決定のために想像された環境の中で、モデルベースのエージェントを対話的に探索し、推論し、計画することを可能にする。
マルチモーダルな信号 – 視覚的観察,アクション,報酬 – を統合した,スケーラブルな自己回帰型トランスフォーマーフレームワークであるInteractive VideoGPTを導入する。
iVideoGPTは、高次元の視覚的観察を効率的に識別する新しい圧縮トークン化技術を備えている。
論文 参考訳(メタデータ) (2024-05-24T05:29:12Z) - Pre-training Contextualized World Models with In-the-wild Videos for
Reinforcement Learning [54.67880602409801]
本稿では,視覚制御タスクの学習を効率的に行うために,Wild 動画を多用した事前学習型世界モデルの課題について検討する。
本稿では、コンテキストと動的モデリングを明確に分離したContextualized World Models(ContextWM)を紹介する。
実験により,ContextWMを内蔵したWildビデオ事前学習は,モデルベース強化学習のサンプル効率を大幅に向上できることが示された。
論文 参考訳(メタデータ) (2023-05-29T14:29:12Z) - Continual learning autoencoder training for a particle-in-cell
simulation via streaming [52.77024349608834]
今後のエクサスケール時代は 次世代の物理シミュレーションを 高解像度で提供します
これらのシミュレーションは高解像度であり、ディスク上に大量のシミュレーションデータを格納することはほぼ不可能であるため、機械学習モデルのトレーニングに影響を与える。
この研究は、ディスク上のデータなしで、実行中のシミュレーションにニューラルネットワークを同時にトレーニングするアプローチを示す。
論文 参考訳(メタデータ) (2022-11-09T09:55:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。