論文の概要: Why Do Conventional World Models Fail to Learn Cellular Automata?
- arxiv url: http://arxiv.org/abs/2609.39604v1
- Date: Wed, 30 Sep 2026 12:24:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.707534
- Title: Why Do Conventional World Models Fail to Learn Cellular Automata?
- Title（参考訳）: なぜ従来の世界モデルはセルオートマトンを学ばないのか?
- Abstract要約: 自己回帰モデルや拡散モデルでは、観測された歴史から正確な世界力学を学べないことを示す。
セルオートマトンを単純なテストベッドとして使うと、多くの場合、答えはノーであることが分かる。
また、ビリヤードと探索的研究において、シミュレートされたバーガーズ方程式について、関節と順序のサンプリングを比較した。
- 参考スコア（独自算出の注目度）: 21.49349810955267
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Although conventional world models - auto-regressive or diffusion models based on transformers or convolutional networks - may learn surface statistics of world dynamics, can they learn the exact world dynamics from its observed history? Leveraging cellular automata as a simple testbed, we find the answer to be no in many cases. Conventional architectures predict most pixels correctly yet rarely complete a rollout: a CNN predicts 96.3% of cells but completes 18.9% of rollouts; a joint diffusion model completes none. We trace the gap to three failure modes of these world models - namely, they fail to exactly capture spatial locality, temporal locality or temporal stability. Simple changes repair each: (1) for spatial locality, two-dimensional rotary positions lift a transformer from 39.1% to 100% on the Game of Life; (2) for temporal locality, handing each token its cell's previous-frame neighbourhood lifts the same transformer from 25.8% to 99.9% on unseen rules; (3) for temporal stability, causal freezing lifts the same diffusion weights from 42.2% to 99.9%. None of the three changes touches the architectural backbone; each only modifies the information flow within it. We also compare joint and ordered sampling on billiards and, in an exploratory study, on a simulated Burgers equation.
- Abstract（参考訳）: 従来の世界モデル - トランスフォーマーや畳み込みネットワークに基づく自己回帰モデルや拡散モデル - は、世界力学の表面統計学を学ぶことができるが、観測された歴史から正確な世界力学を学べるだろうか?
簡単なテストベッドとしてセルオートマトンを利用すると、多くの場合、答えはノーであることが分かる。
CNNは96.3%の細胞を予測しているが、18.9%のロールアウトを完了している。
私たちは、これらの世界モデルの3つの障害モード、すなわち、空間的局所性、時間的局所性、時間的安定性を正確に捉えることができず、ギャップをトレースします。
1)空間的局所性のため、2次元回転位置は、ゲーム・オブ・ライフにおいて、トランスフォーマーを39.1%から100%に上げ、(2)時間的局所性のために、各トークンのセルの以前のフレーム近傍に同じトランスフォーマーを25.8%から99.9%まで引き上げ、(3)時間的安定性のために、因果凍結は42.2%から99.9%まで、同じ拡散重量を持ち上げる。
3つの変更はいずれもアーキテクチャのバックボーンに触れるものではない。
また、ビリヤードと探索的研究において、シミュレートされたバーガーズ方程式について、関節と順序のサンプリングを比較した。
関連論文リスト
- Modeling What Changes: Sparse, Residual World Models for Object-Centric Manipulation [0.0]
スパース/残留モデルは高密度多層パーセプトロンの2.5倍から4.6倍の精度で次状態のポーズを予測する。
自動回帰ロールアウトでは誤差がはるかに少なくなり、密度の高いモデルがドリフトする間、動きのないフロアを抱きしめる。
世界全体を予測するのではなく、どのような変化をモデル化するかは、オブジェクト中心の物理的なAIに対して単純で効果的なバイアスとなります。
論文 参考訳（メタデータ） (2026-09-02T03:20:09Z) - CausalDrive: Real-time Causal World Models for Autonomous Driving [60.66609721457312]
制御可能でリアルタイムなファンデーション駆動の世界であるCausalDriveを紹介します。
CaulDriveは、最初のフロントビューフレーム、エゴ車両の軌道、マクロテキストプロンプトのみで動作する。
本稿では,(1)衝突アーティファクトを著しく緩和した生成的クローズループ評価,(2)ビデオ2Rewardモジュールによる大規模強化学習(RL)後トレーニング,(3)リアルタイムの人間-イン-ザ・ループシミュレーション,の3つのダウンストリームアプリケーションにおける汎用性を実証する。
論文 参考訳（メタデータ） (2026-06-13T15:04:44Z) - FluidWorld: Reaction-Diffusion Dynamics as a Predictive Substrate for World Models [0.0]
現在のアプローチでは、学習された潜在空間で動作するTransformerベースの予測器がデフォルトになっている。
本稿では,予測的世界モデリングに自己注意が必要なのか,それとも代替の計算基板が同等あるいは優れた結果が得られるのか,という根本的な疑問を提起する。
反応拡散型の偏微分方程式(PDE)によって予測力学が支配される概念実証世界モデルであるFluidWorldを紹介する。
論文 参考訳（メタデータ） (2026-03-22T16:49:43Z) - RAYNOVA: Scale-Temporal Autoregressive World Modeling in Ray Space [51.441415833480505]
RAYNOVAは、二重因果自己回帰フレームワークを使用するシナリオを駆動するための多視点世界モデルである。
相対的なシャーカー線位置符号化に基づいて、ビュー、フレーム、スケールにまたがる等方的時間的表現を構築する。
論文 参考訳（メタデータ） (2026-02-24T08:41:40Z) - InternVLA-A1: Unifying Understanding, Generation and Action for Robotic Manipulation [77.07565723756119]
InternVLA-A1は動的予測機能を備えた視覚言語モデルである。
我々は、実世界のロボットデータ、合成シミュレーションデータ、人間のビデオなどを用いて、これらのモデルを異種データソース上で事前訓練する。
InternVLA-A1を実世界の12のロボットタスクとシミュレーションベンチマークで評価した。
論文 参考訳（メタデータ） (2026-01-05T18:54:29Z) - Structure From Tracking: Distilling Structure-Preserving Motion for Video Generation [76.04880323498598]
自己回帰動画追跡モデル(SAM2)から双方向ビデオ拡散モデル(CogVideoX)へ構造保存動作先行情報を抽出するアルゴリズムを提案する。
VBenchと人間の研究ではSAM2VideoXが一貫した利益をもたらすことが示されている。
論文 参考訳（メタデータ） (2025-12-12T18:56:35Z) - Self-localization on a 3D map by fusing global and local features from a monocular camera [0.0]
カメラに基づく自己局在化は、しばしば、近くのピクセルによって計算される局所的な特徴を抽出できる畳み込みニューラルネットワーク(CNN)を使用する。
本研究では,CNNとVision Transformerを組み合わせることで,画像全体のパッチの関係を示すグローバルな特徴を抽出する手法を提案する。
論文 参考訳（メタデータ） (2025-10-30T06:14:22Z) - Global-to-Local Modeling for Video-based 3D Human Pose and Shape
Estimation [53.04781510348416]
フレーム内精度とフレーム間スムーズさにより,映像に基づく3次元人間のポーズと形状推定を評価する。
エンドツーエンドフレームワークGLoT(Global-to-Local Transformer)における長期的・短期的相関のモデル化を構造的に分離することを提案する。
我々のGLoTは、一般的なベンチマーク(3DPW、MPI-INF-3DHP、Human3.6M)において、最も低いモデルパラメータを持つ従来の最先端の手法を上回る。
論文 参考訳（メタデータ） (2023-03-26T14:57:49Z) - Transformer-based World Models Are Happy With 100k Interactions [0.4588028371034407]
サンプル効率の良い世界モデルを構築するために,実世界のエピソードにトランスフォーマーを自己回帰的に適用する。
トランスにより、圧縮されたリカレント状態を通して見るのではなく、我々の世界モデルが以前の状態に直接アクセスすることができる。
Transformer-XLアーキテクチャを利用することで、計算効率を保ちながら長期的な依存関係を学習することができる。
論文 参考訳（メタデータ） (2023-03-13T13:43:59Z) - Statistical treatment of convolutional neural network super-resolution
of inland surface wind for subgrid-scale variability quantification [13.209152157749534]
本研究では, 畳み込みニューラルネットワーク(CNN)による風速データのダウンスケール化について検討した。
各ダウンスケーリング係数,すなわち8x,16x,32xの中で,風速の予測を行うモデルを考える。
全てのCNN予測は、古典的予測よりも優れた古典的予測を1つのサンプル外データで実行した。
論文 参考訳（メタデータ） (2022-11-30T03:11:43Z) - Uniformer: Unified Transformer for Efficient Spatiotemporal
Representation Learning [68.55487598401788]
この研究の最近の進歩は、主に3D畳み込みニューラルネットワークと視覚変換器によって推進されている。
本稿では3次元畳み込み自己注意の利点を簡潔なトランスフォーマー形式にシームレスに統合する新しいUnified TransFormer(UniFormer)を提案する。
我々は、Kineetics-400、Kineetics-600、Something V1&V2といった人気ビデオベンチマークで広範な実験を行っている。
我々の UniFormer は Kinetics-400/Kinetics-600 で 8/84.8% のトップ-1 の精度を実現している。
論文 参考訳（メタデータ） (2022-01-12T20:02:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。