論文の概要: Pythia: Toward Foundation World Models for Multimodal Time Series
- arxiv url: http://arxiv.org/abs/2610.05240v1
- Date: Sun, 04 Oct 2026 14:12:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 22:25:03.583544
- Title: Pythia: Toward Foundation World Models for Multimodal Time Series
- Title(参考訳): Pythia: マルチモーダル時系列のための基礎的世界モデルを目指して
- Abstract要約: Pythiaは、データセット間でコンテキスト条件付き潜在ダイナミクスを学習する基礎的世界モデルである。
停止段階の数値参照は、将来の予測状態に対する文脈補正を導く。
別個の確率的デコーダは、凍結した予測表現に適応し、観測された歴史に適応する。
- 参考スコア(独自算出の注目度): 12.3575752227525
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Time-series foundation models offer a unified approach to forecasting across heterogeneous domains. Textual context and auxiliary observations provide complementary information about temporal dynamics, yet reusable multimodal predictive representations remain underexplored. We introduce Pythia, a foundation world model that learns context-conditioned latent dynamics across datasets through a joint-embedding predictive architecture. A stop-gradient numerical reference guides contextual corrections to predicted future states. A separate probabilistic decoder then adapts to the frozen predictive representation and observed history, decoupling world-model pretraining from observation-space forecasting. On MUSE, Pythia-Tiny's normalized mean absolute scaled error (MASE) and weighted sum quantile loss (WSQL) are 0.6879 and 0.4269, reducing errors by 6.26% and 5.00% relative to the strongest model evaluated in the published MUSE leaderboard. Through a series of controlled experiments, we investigate how to design a time-series world model through shared pretraining and how joint-embedding predictive learning can incorporate multimodal information. The results support separating predictive representation learning from probabilistic readout and show complementary contributions from entity descriptions, events, and covariates.
- Abstract(参考訳): 時系列基礎モデルは、異種領域をまたいだ予測に統一的なアプローチを提供する。
テクストの文脈と補助的な観察は、時間的ダイナミクスに関する補完的な情報を提供するが、再利用可能なマルチモーダルな予測表現は未発見のままである。
我々はPythiaを紹介した。Pythiaは、データセット間のコンテキスト条件付き潜在ダイナミクスを、共同埋め込み予測アーキテクチャを通じて学習する基礎的世界モデルである。
停止段階の数値参照は、将来の予測状態に対する文脈補正を導く。
別個の確率デコーダは、凍結した予測表現に適応し、観測履歴を観察し、観測空間予測から事前訓練された世界モデルを切り離す。
MUSEでは、Pythia-Tinyの正規化平均絶対スケール誤差(MASE)と重み付き和量子損失(WSQL)は0.6879と0.4269であり、MUSEのリーダーボードで評価された最強モデルと比較して誤差を6.26%と5.00%削減する。
一連の制御実験を通じて,共用事前学習による時系列世界モデルの設計方法と,マルチモーダル情報を用いた共同埋め込み予測学習について検討する。
その結果、予測表現学習を確率的読み出しから分離し、エンティティ記述、イベント、共変量からの補完的な貢献を示す。
関連論文リスト
- When Rigidity Hurts: Soft Consistency Regularization for Probabilistic
Hierarchical Time Series Forecasting [69.30930115236228]
確率的階層的時系列予測は時系列予測の重要な変種である。
ほとんどの手法は点予測に焦点を絞っており、確率的確率分布を十分に調整していない。
ProFHiTは,階層全体の予測分布を共同でモデル化する完全確率的階層予測モデルである。
論文 参考訳(メタデータ) (2023-10-17T20:30:16Z) - EAMDrift: An interpretable self retrain model for time series [0.0]
EAMDrift(EAMDrift)は、複数の個人予測器から予測を合成し、性能指標に従って予測を重み付けする新しい手法である。
EAMDriftはデータのアウト・オブ・ディストリビューションパターンに自動的に適応し、各瞬間に使用する最も適切なモデルを特定するように設計されている。
本研究は,EAMDriftが個々のベースラインモデルより20%優れ,非解釈可能なアンサンブルモデルに匹敵する精度が得られることを示す。
論文 参考訳(メタデータ) (2023-05-31T13:25:26Z) - When Rigidity Hurts: Soft Consistency Regularization for Probabilistic
Hierarchical Time Series Forecasting [69.30930115236228]
確率的階層的時系列予測は時系列予測の重要な変種である。
ほとんどの手法は点予測に焦点を絞っており、確率的確率分布を十分に調整していない。
ProFHiTは,階層全体の予測分布を共同でモデル化する完全確率的階層予測モデルである。
論文 参考訳(メタデータ) (2022-06-16T06:13:53Z) - TACTiS: Transformer-Attentional Copulas for Time Series [76.71406465526454]
時間変化量の推定は、医療や金融などの分野における意思決定の基本的な構成要素である。
本稿では,アテンションベースデコーダを用いて関節分布を推定する多元的手法を提案する。
本研究では,本モデルが実世界の複数のデータセットに対して最先端の予測を生成することを示す。
論文 参考訳(メタデータ) (2022-02-07T21:37:29Z) - MECATS: Mixture-of-Experts for Quantile Forecasts of Aggregated Time
Series [11.826510794042548]
我々はtexttMECATS という異種の専門家フレームワークを混合して導入する。
集約階層を通じて関連付けられた時系列の集合の値を同時に予測する。
異なる種類の予測モデルを個別の専門家として使用することで、各モデルの形式を対応する時系列の性質に合わせて調整することができる。
論文 参考訳(メタデータ) (2021-12-22T05:05:30Z) - A framework for probabilistic weather forecast post-processing across
models and lead times using machine learning [3.1542695050861544]
我々はNWPモデルと意思決定支援の「理想的な」予測とのギャップを埋める方法について述べる。
本研究では,各数値モデルの誤差プロファイルの学習にQuantile Regression Forestsを使用し,これを経験から得られた確率分布を予測に適用する。
第2に、これらの確率予測を量子平均化(quantile averaging)を用いて組み合わせ、第3に、集合量子化の間で補間して完全な予測分布を生成する。
論文 参考訳(メタデータ) (2020-05-06T16:46:02Z) - Multivariate Probabilistic Time Series Forecasting via Conditioned
Normalizing Flows [8.859284959951204]
時系列予測は科学的・工学的な問題の基本である。
深層学習法はこの問題に適している。
多くの実世界のデータセットにおける標準メトリクスの最先端よりも改善されていることを示す。
論文 参考訳(メタデータ) (2020-02-14T16:16:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。