論文の概要: A Time-Series Foundation Model by Universal Delay Embedding
- arxiv url: http://arxiv.org/abs/2509.12080v1
- Date: Mon, 15 Sep 2025 16:11:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-16 17:26:23.387213
- Title: A Time-Series Foundation Model by Universal Delay Embedding
- Title(参考訳): ユニバーサル遅延埋め込みによる時系列基礎モデル
- Authors: Zijian Wang, Peng Tao, Jifan Shi, Rui Bao, Rui Liu, Luonan Chen,
- Abstract要約: 本研究は,時系列予測に革命をもたらすための事前訓練された基礎モデルであるUniversal Delay Embedding (UDE)を紹介する。
観測データの動的表現としてのUDEは、ハンケル行列から2次元部分空間パッチを構成する。
特に、学習された動的表現とパッチからのクープマン作用素予測形式は例外的な解釈可能性を示す。
- 参考スコア(独自算出の注目度): 4.221753069966852
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This study introduces Universal Delay Embedding (UDE), a pretrained foundation model designed to revolutionize time-series forecasting through principled integration of delay embedding representation and Koopman operator prediction. Leveraging Takens' embedding theorem, UDE as a dynamical representation of observed data constructs two-dimensional subspace patches from Hankel matrices, theoretically preserving dynamical and topological properties of underlying dynamical systems. Such patches are viewed as images, which can be efficiently processed by exploiting advanced deep learning technologies. Computationally, these patches further serve as tokens for learning a self-attention encoder, thus enabling accurate prediction of nonlinear time-series by a finite-dimensional Koopman operator in a linear manner in a latent space. Extensive evaluations across various benchmarks and real-world climate datasets demonstrate over 20% average reduction in mean squared error versus state-of-the-art foundation models, alongside superior generalization in fine-tuning scenarios. In particular, the learned dynamical representations and Koopman operator prediction forms from the patches exhibit exceptional interpretability, with consistent identification of topologically informative subspaces and robust encoding of domain-invariant dynamics, establishing UDE as a scalable, interpretable framework for universal time-series modeling and forecasting with broad scientific and industrial applicability.
- Abstract(参考訳): 本研究は,遅延埋め込み表現とクープマン演算子予測の原理的統合により時系列予測に革命をもたらすことを目的とした,事前訓練された基礎モデルであるユニバーサル遅延埋め込み(UDE)を紹介する。
ケインの埋め込み定理を利用して、観測データの動的表現として UDE はハンケル行列から2次元部分空間パッチを構築し、基礎となる力学系の動的および位相的性質を理論的に保存する。
このようなパッチは画像と見なされ、高度なディープラーニング技術を利用して効率的に処理することができる。
これらのパッチはさらに、自己アテンションエンコーダを学習するためのトークンとして機能し、有限次元クープマン作用素による非線形時系列の線形な予測を可能にする。
様々なベンチマークや実世界の気候データセットに対する広範囲な評価は、平均2乗誤差と最先端の基礎モデルの平均20%以上の減少を示し、微調整シナリオにおける優れた一般化を示している。
特に、学習された動的表現と、パッチからのクープマン作用素の予測形式は、トポロジカルな情報的部分空間の一貫性のある識別とドメイン不変ダイナミクスのロバストな符号化と、普遍的な時系列モデリングと広範な科学的および工業的適用性を備えた予測のためのスケーラブルで解釈可能なフレームワークとしてのUDEを確立することで、例外的な解釈可能性を示す。
関連論文リスト
- Learning Time-Aware Causal Representation for Model Generalization in Evolving Domains [50.66049136093248]
動的因果要因と因果機構のドリフトを組み込んだ時間認識型構造因果モデル(SCM)を開発した。
本研究では,時間領域毎に最適な因果予測値が得られることを示す。
合成と実世界の両方のデータセットの結果から,SynCは時間的一般化性能に優れることが示された。
論文 参考訳(メタデータ) (2025-06-21T14:05:37Z) - Spatial-Temporal-Spectral Unified Modeling for Remote Sensing Dense Prediction [20.1863553357121]
リモートセンシングのための現在のディープラーニングアーキテクチャは、基本的に堅固である。
本稿では,統合モデリングのための空間時間スペクトル統一ネットワーク(STSUN)について紹介する。
STSUNは任意の空間サイズ、時間長、スペクトル帯域で入力および出力データに適応することができる。
様々な密集した予測タスクと多様な意味クラス予測を統一する。
論文 参考訳(メタデータ) (2025-05-18T07:39:17Z) - Dynamical system prediction from sparse observations using deep neural networks with Voronoi tessellation and physics constraint [12.638698799995815]
本稿では,Voronoi Tessellation (DSOVT) フレームワークを用いたスパース観測からの動的システム予測について紹介する。
ボロノイテッセルレーションと深層学習モデルを統合することで、DSOVTは疎く非構造的な観測で力学系の予測に適している。
純粋にデータ駆動モデルと比較して、我々の物理学に基づくアプローチは、明示的に定式化された力学の中で物理法則を学習することができる。
論文 参考訳(メタデータ) (2024-08-31T13:43:52Z) - Temporally Consistent Koopman Autoencoders for Forecasting Dynamical Systems [38.36312939874359]
時間的に一貫したクープマンオートエンコーダ(tcKAE)を導入する。
tcKAEは、限られたノイズの多いトレーニングデータであっても、正確な長期予測を生成する。
我々は、様々なテストケースにおいて、最先端のKAEモデルよりもtcKAEの優れた性能を実証的に示す。
論文 参考訳(メタデータ) (2024-03-19T00:48:25Z) - Generative Modeling of Regular and Irregular Time Series Data via Koopman VAEs [50.25683648762602]
モデルの新しい設計に基づく新しい生成フレームワークであるKoopman VAEを紹介する。
クープマン理論に触発され、線形写像を用いて潜在条件事前力学を表現する。
KoVAEは、いくつかの挑戦的な合成および実世界の時系列生成ベンチマークにおいて、最先端のGANおよびVAEメソッドより優れている。
論文 参考訳(メタデータ) (2023-10-04T07:14:43Z) - Anamnesic Neural Differential Equations with Orthogonal Polynomial
Projections [6.345523830122166]
本稿では,長期記憶を強制し,基礎となる力学系の大域的表現を保存する定式化であるPolyODEを提案する。
提案手法は理論的保証に支えられ,過去と将来のデータの再構築において,過去の成果よりも優れていたことを実証する。
論文 参考訳(メタデータ) (2023-03-03T10:49:09Z) - Multivariate Time Series Forecasting with Dynamic Graph Neural ODEs [65.18780403244178]
動的グラフニューラル正規微分方程式(MTGODE)を用いた多変量時系列予測連続モデルを提案する。
具体的には、まず、時間進化するノードの特徴と未知のグラフ構造を持つ動的グラフに多変量時系列を抽象化する。
そして、欠落したグラフトポロジを補完し、空間的および時間的メッセージパッシングを統一するために、ニューラルODEを設計、解決する。
論文 参考訳(メタデータ) (2022-02-17T02:17:31Z) - Differentiable Generalised Predictive Coding [2.868176771215219]
本稿では,脳の機能を内部生成モデルの階層的洗練とみなすニューラルプロセス理論と相反する,微分可能な力学モデルについて述べる。
我々の研究は、勾配に基づく予測符号化の既存の実装を拡張し、非線形状態パラメータ化のためのディープニューラルネットワークを統合することができる。
論文 参考訳(メタデータ) (2021-12-02T22:02:56Z) - Stochastically forced ensemble dynamic mode decomposition for
forecasting and analysis of near-periodic systems [65.44033635330604]
本稿では,観測力学を強制線形系としてモデル化した新しい負荷予測手法を提案する。
固有線型力学の利用は、解釈可能性やパーシモニーの観点から、多くの望ましい性質を提供することを示す。
電力グリッドからの負荷データを用いたテストケースの結果が提示される。
論文 参考訳(メタデータ) (2020-10-08T20:25:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。