論文の概要: World Machine: Towards Generative World Modeling for Time-Series
- arxiv url: http://arxiv.org/abs/2605.23025v1
- Date: Thu, 21 May 2026 20:48:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-25 17:29:20.092104
- Title: World Machine: Towards Generative World Modeling for Time-Series
- Title(参考訳): World Machine: 時系列の生成的世界モデリングを目指して
- Authors: Elton Cardoso do Nascimento, Alexandre da Silva Simões, Esther Luna Colombini, Ricardo Ribeiro Gudwin, Paula Dornhofer Paro Costa,
- Abstract要約: 本稿では,時系列の生成的世界モデリングアーキテクチャであるWorld Machineを紹介する。
遅延状態を持つトランスフォーマーベースのアーキテクチャで、異なる量の観測データやコンテキストへの適応を可能にする。
- 参考スコア(独自算出の注目度): 37.99105200271773
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: World models represent a paradigm shift in generative AI, pursuing predictive understanding and controllable simulation of environments in a structured and generalizable way. We present World Machine, a generative world-modeling architecture for time series. It is a transformer-based architecture with latent states that enables adaptation to different amounts of observed data and contexts. This shows an improvement over traditional transformers, which have a computational and memory cost that scales quadratically with the context. Experiments on a proposed synthetic dataset, Toy1D, validate the approach's feasibility, demonstrate capabilities not found in conventional transformers, and highlight the contributions of each component of the training protocol.
- Abstract(参考訳): 世界モデルは、予測的理解と、構造化され一般化可能な方法で環境の制御可能なシミュレーションを追求する、生成AIのパラダイムシフトを表している。
時系列のための生成的世界モデリングアーキテクチャであるWorld Machineについて紹介する。
遅延状態を持つトランスフォーマーベースのアーキテクチャで、異なる量の観測データやコンテキストへの適応を可能にする。
これは、計算コストとメモリコストの2倍にスケールする従来のトランスフォーマーよりも改善されたことを示している。
提案された合成データセットであるToy1Dの実験では、アプローチの有効性を検証するとともに、従来のトランスフォーマーにはない機能を示し、トレーニングプロトコルの各コンポーネントのコントリビューションを強調している。
関連論文リスト
- From monoliths to modules: Decomposing transducers for efficient world modelling [74.41506965793417]
我々はトランスデューサで表される複雑な世界モデルを分解するフレームワークを開発する。
提案手法は,異なる入力出力サブ空間で動作するサブトランスデューサを導出する。
論文 参考訳(メタデータ) (2025-12-01T20:37:43Z) - Learning Transformer-based World Models with Contrastive Predictive Coding [58.0159270859475]
変換器の表現能力を十分に活用するには,次の状態予測目標が不十分であることを示す。
本稿では,行動条件のContrastive Predictive Codingを用いた世界モデルであるTWISTERを導入することで,世界モデル予測をより長い時間的地平線まで拡張することを提案する。
TWISTERは、Atari 100kベンチマークで162%の人間正規化平均スコアを達成し、ルックアヘッド検索を使用しない最先端のメソッドの中で、新しい記録を樹立した。
論文 参考訳(メタデータ) (2025-03-06T13:18:37Z) - Trajectory World Models for Heterogeneous Environments [67.27233466954814]
環境を横断するセンサーやアクチュエータの不均一性は、大規模な事前訓練された世界モデルを構築する上で大きな課題となる。
我々は80の環境から100万以上のトラジェクトリからなる統一データセットUniTrajを紹介した。
また,様々なセンサやアクチュエータ情報を扱える新しいアーキテクチャであるTrajWorldを提案する。
論文 参考訳(メタデータ) (2025-02-03T13:59:08Z) - CENTS: Generating synthetic electricity consumption time series for rare and unseen scenarios [4.997673761305336]
本稿では, 希少かつ未知のコンテキスト変数を対象とした高忠実度電力消費時系列データを作成する手法を提案する。
本研究は,家庭レベルの電力消費データを現実的に生成する上で,提案手法の有効性を強調した。
論文 参考訳(メタデータ) (2025-01-24T11:52:52Z) - Transformers and Slot Encoding for Sample Efficient Physical World Modelling [1.5498250598583487]
本研究では,世界モデリングのためのトランスフォーマーとスロットアテンションパラダイムを組み合わせたアーキテクチャを提案する。
得られたニューラルアーキテクチャについて述べるとともに、既存のソリューションよりも、サンプル効率とトレーニング例よりも性能の変動を低減できることを示す実験結果を報告する。
論文 参考訳(メタデータ) (2024-05-30T15:48:04Z) - Transformers are Universal Predictors [21.92580010179886]
言語モデリングにおけるTransformerアーキテクチャの限界を見つけ,情報理論的な意味での普遍的な予測特性を示す。
我々は,トランスフォーマーアーキテクチャの様々なコンポーネントの役割を,特にデータ効率のトレーニングの文脈で理解するために,非漸近データシステムの性能を分析した。
論文 参考訳(メタデータ) (2023-07-15T16:19:37Z) - Analogous to Evolutionary Algorithm: Designing a Unified Sequence Model [58.17021225930069]
実演的進化アルゴリズム(EA)と類似した視覚変換器の合理性について説明する。
我々は、より効率的なEATモデルを提案し、様々なタスクに柔軟に対処するタスク関連ヘッドを設計する。
近年のビジョントランスに比べて,イメージネット分類作業における最先端の成果が得られている。
論文 参考訳(メタデータ) (2021-05-31T16:20:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。