論文の概要: Probing the Impact of Scale on Data-Efficient, Generalist Transformer World Models for Atari

• arxiv url: http://arxiv.org/abs/2605.08578v1
• Date: Sat, 09 May 2026 00:43:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:49.753385
• Title: Probing the Impact of Scale on Data-Efficient, Generalist Transformer World Models for Atari
• Title（参考訳）: 大規模化がアタリにおけるデータ効率, 一般変圧器世界モデルに及ぼす影響
• Abstract要約: 我々は最小限のトランスフォーマー・ワールド・モデルを用いて、Atari 100kベンチマークのスケーリングの振る舞いを分析します。 この結果から,同一のオフラインデータ予算とモデル能力に制約された場合でも,環境は異なるスケーリング体制に陥ることが判明した。 統合された環境では、26のAtari環境でトレーニングされた単一のトランスフォーマーが、共同トレーニングがスケーリングのダイナミクスを安定化することを明らかにする。
• 参考スコア（独自算出の注目度）: 4.849672345901367
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Developing generalist systems that retain human-like data efficiency is a central challenge. While world models (WMs) offer a promising path, existing research often conflates architectural mechanisms with the independent impact of model \emph{scale}. In this work, we use a minimalist transformer world model to analyze scaling behaviors on the Atari 100k benchmark, using fixed offline datasets derived from a presupposed expert policy. Our results reveal that environments fundamentally fall into distinct scaling regimes, even when constrained by identical offline data budgets and model capacities. For individual tasks, some environments naturally allow models to pass the interpolation threshold, yielding monotonic improvements in the overparameterized regime, while others remain trapped in the classical regime, where larger world models degrade fidelity. In the unified setting, i.e., a single transformer trained on a suite of 26 Atari environments, we uncover that joint training stabilizes scaling dynamics, ensuring monotonic gains across all environments, regardless of their distinct inherent scaling regimes. Finally, we demonstrate that improved fidelity translates directly to downstream control, with policies learned entirely within the simulated dynamics achieving a median expert-random-normalized score of 0.770. Our findings suggest that future progress lies as much in precise scaling strategies as in architectural innovation.
• Abstract（参考訳）: 人間のようなデータ効率を維持する汎用システムを開発することは、重要な課題である。 世界モデル(WM)は有望な経路を提供するが、既存の研究はしばしば、モデル \emph{scale} の独立的な影響とアーキテクチャメカニズムを混同している。 本研究では,Atari 100kベンチマークのスケーリング動作の解析にミニマリストトランスフォーマー・ワールド・モデルを用いて,事前提案された専門家ポリシーから導出される固定されたオフラインデータセットを用いて行う。 この結果から,同一のオフラインデータ予算とモデル能力に制約された場合でも,環境は根本的に異なるスケーリング体制に陥ることが判明した。 個々のタスクに対して、いくつかの環境は、モデルが補間しきい値を通過することを自然に許し、過度にパラメータ化された状態において単調な改善をもたらす。 統合された環境では、26のアタリ環境で訓練された単一のトランスフォーマーが、共同トレーニングがスケーリングのダイナミクスを安定化し、固有のスケーリング体制に関係なく、すべての環境におけるモノトニックゲインを確保することを明らかにした。 最後に、改良された忠実度が下流制御に直接変換されることを示し、シミュレーション力学で完全に学習されたポリシーは、エキスパートランダム正規化スコアの0.770を中央値とする。 我々の発見は、将来の進歩は、アーキテクチャの革新と同じくらい正確なスケーリング戦略にあることを示唆している。

関連論文リスト

• Looped World Models [58.41573587377422]
  Looped World Models (LoopWM)は、世界モデリングのための最初のループアーキテクチャである。 本手法はパラメータ共有変換器ブロックを介して潜伏環境を反復的に洗練する。 これにより、従来の手法よりも100倍のパラメータ効率が得られる。
  論文  参考訳（メタデータ） (2026-06-16T17:37:27Z)
• Sword: Style-Robust World Models as Simulators via Dynamic Latent Bootstrapping for VLA Policy Post-Training [19.013714390803052]
  あるアプローチは、学習した世界モデルを生成シミュレータとして扱い、「想像」内での政策最適化を可能にする しかしながら、LIBEROベンチマークのような特定の環境のシミュレータとしてデプロイされる場合、既存のWorld Modelは一般化が貧弱で長い水平誤差の蓄積に悩まされることが多い。 我々はこれらの問題を緩和するために、堅牢なワールドモデルフレームワークであるSwordを提案する。
  論文  参考訳（メタデータ） (2026-05-08T05:54:33Z)
• Unifying Model-Free Efficiency and Model-Based Representations via Latent Dynamics [6.208369829942616]
  我々は,新しい強化学習アルゴリズムであるUnified Latent Dynamics (ULD)を提案する。 ULDはモデルベースアプローチの表現力でモデルフリー手法の効率を統一する。 Gymロコモーション、DeepMind Control(プロセプティブおよびビジュアル)、Atariにまたがる80環境での評価を行った。
  論文  参考訳（メタデータ） (2026-02-13T06:06:56Z)
• Aligning Agentic World Models via Knowledgeable Experience Learning [68.85843641222186]
  環境フィードバックをシンセサイザー化したWorld Knowledge Repositoryを構築するフレームワークであるWorldMindを紹介する。 WorldMindは、優れたクロスモデルとクロス環境転送性を備えたベースラインよりも優れたパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2026-01-19T17:33:31Z)
• Scaling Collapse Reveals Universal Dynamics in Compute-Optimally Trained Neural Networks [59.552873049024775]
  計算最適化モデルでは, 極めて高精度な普遍性を示すことを示す。 学習速度が減衰すると、崩壊は非常に厳しくなり、モデル間の正規化曲線の差はノイズフロアより下になる。 これらの現象は、典型的なニューラルスケーリング法則において、崩壊とパワー・ロー構造を結びつけることによって説明される。
  論文  参考訳（メタデータ） (2025-07-02T20:03:34Z)
• Learning Transformer-based World Models with Contrastive Predictive Coding [58.0159270859475]
  変換器の表現能力を十分に活用するには,次の状態予測目標が不十分であることを示す。 本稿では,行動条件のContrastive Predictive Codingを用いた世界モデルであるTWISTERを導入することで,世界モデル予測をより長い時間的地平線まで拡張することを提案する。 TWISTERは、Atari 100kベンチマークで162%の人間正規化平均スコアを達成し、ルックアヘッド検索を使用しない最先端のメソッドの中で、新しい記録を樹立した。
  論文  参考訳（メタデータ） (2025-03-06T13:18:37Z)
• Trajectory World Models for Heterogeneous Environments [67.27233466954814]
  環境を横断するセンサーやアクチュエータの不均一性は、大規模な事前訓練された世界モデルを構築する上で大きな課題となる。 我々は80の環境から100万以上のトラジェクトリからなる統一データセットUniTrajを紹介した。 また,様々なセンサやアクチュエータ情報を扱える新しいアーキテクチャであるTrajWorldを提案する。
  論文  参考訳（メタデータ） (2025-02-03T13:59:08Z)
• EDELINE: Enhancing Memory in Diffusion-based World Models via Linear-Time Sequence Modeling [8.250616459360684]
  EDELINEは、状態空間モデルと拡散モデルを統合する統一世界モデルアーキテクチャである。 我々のアプローチは、視覚的に困難なAtari 100kタスク、メモリ要求ベンチマーク、3DファーストパーソンのViZDoom環境において、既存のベースラインよりも優れています。
  論文  参考訳（メタデータ） (2025-02-01T15:49:59Z)
• STORM: Efficient Stochastic Transformer based World Models for Reinforcement Learning [82.03481509373037]
  近年,モデルに基づく強化学習アルゴリズムは視覚入力環境において顕著な有効性を示している。 本稿では,強力なモデリングと生成機能を組み合わせた効率的な世界モデルアーキテクチャであるTransformer-based wORld Model (STORM)を紹介する。 Stormは、Atari 100$kベンチマークで平均126.7%の人的パフォーマンスを達成し、最先端のメソッドの中で新しい記録を樹立した。
  論文  参考訳（メタデータ） (2023-10-14T16:42:02Z)
• Scalable Modular Synthetic Data Generation for Advancing Aerial Autonomy [2.9005223064604078]
  本稿では,自律飛行に適したスケーラブルなAerial Synthetic Data Augmentation (ASDA) フレームワークを提案する。 ASDAは、シーンとデータ拡張を自動的に実行する2つのスクリプト可能なパイプラインを備えた中央データ収集エンジンを拡張している。 多様なデータセットを自動生成する手法の有効性を実証する。
  論文  参考訳（メタデータ） (2022-11-10T04:37:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。