論文の概要: DeepKoopFormer: A Koopman Enhanced Transformer Based Architecture for Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2508.02616v1
- Date: Mon, 04 Aug 2025 17:05:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-05 18:25:22.446359
- Title: DeepKoopFormer: A Koopman Enhanced Transformer Based Architecture for Time Series Forecasting
- Title（参考訳）: DeepKoopFormer: 時系列予測のためのKoopman拡張トランスフォーマーベースアーキテクチャ
- Authors: Ali Forootani, Mohammad Khosravi, Masoud Barati,
- Abstract要約: 時系列予測は、科学的、工業的、環境的な領域において重要な役割を担っている。
DeepKoopFormerは、Transformerの表現力とKoopman演算子理論の理論的な厳密さを組み合わせた、原則化された予測フレームワークである。
我々のモデルはモジュラーエンコーダ・プロパゲータ・デコーダ構造を特徴とし、時間的ダイナミクスはスペクトル的に制約された線形クープマン作用素を潜在空間で学習する。
- 参考スコア（独自算出の注目度）: 0.9217021281095907
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Time series forecasting plays a vital role across scientific, industrial, and environmental domains, especially when dealing with high-dimensional and nonlinear systems. While Transformer-based models have recently achieved state-of-the-art performance in long-range forecasting, they often suffer from interpretability issues and instability in the presence of noise or dynamical uncertainty. In this work, we propose DeepKoopFormer, a principled forecasting framework that combines the representational power of Transformers with the theoretical rigor of Koopman operator theory. Our model features a modular encoder-propagator-decoder structure, where temporal dynamics are learned via a spectrally constrained, linear Koopman operator in a latent space. We impose structural guarantees-such as bounded spectral radius, Lyapunov based energy regularization, and orthogonal parameterization to ensure stability and interpretability. Comprehensive evaluations are conducted on both synthetic dynamical systems, real-world climate dataset (wind speed and surface pressure), financial time series (cryptocurrency), and electricity generation dataset using the Python package that is prepared for this purpose. Across all experiments, DeepKoopFormer consistently outperforms standard LSTM and baseline Transformer models in terms of accuracy, robustness to noise, and long-term forecasting stability. These results establish DeepKoopFormer as a flexible, interpretable, and robust framework for forecasting in high dimensional and dynamical settings.
- Abstract（参考訳）: 時系列予測は、特に高次元および非線形システムを扱う場合、科学的、工業的、環境的な領域において重要な役割を果たす。
トランスフォーマーベースのモデルは最近、長距離予測において最先端のパフォーマンスを達成したが、ノイズや動的不確実性の存在下では、解釈可能性の問題や不安定性に悩まされることが多い。
本研究では、変換器の表現力とクープマン作用素理論の理論的厳密性を組み合わせた原理的予測フレームワークであるDeepKoopFormerを提案する。
我々のモデルはモジュラーエンコーダ・プロパゲータ・デコーダ構造を特徴とし、時間的ダイナミクスはスペクトル的に制約された線形クープマン作用素を潜在空間で学習する。
我々は、安定と解釈性を確保するために、有界スペクトル半径、リャプノフに基づくエネルギー正規化、直交パラメータ化などの構造保証を課す。
合成力学系、実世界の気候データセット(風速と表面圧力)、金融時系列(暗号)およびこの目的のために準備されたPythonパッケージを用いた発電データセットについて総合的な評価を行った。
実験全体を通して、DeepKoopFormerは標準LSTMモデルとベースライントランスフォーマーモデルを精度、ノイズに対する堅牢性、長期予測安定性で一貫して上回っている。
これらの結果は、DeepKoopFormerを高次元および動的設定で予測するための柔軟で解釈可能な、堅牢なフレームワークとして確立する。
関連論文リスト
- Transformer with Koopman-Enhanced Graph Convolutional Network for Spatiotemporal Dynamics Forecasting [12.301897782320967]
TK-GCNは、幾何学的空間符号化と長距離時間モデリングを統合した2段階のフレームワークである。
我々は,TK-GCNが予測地平線全体にわたって優れた予測精度を提供することを示す。
論文 参考訳（メタデータ） (2025-07-05T01:26:03Z) - Multivariate Long-term Time Series Forecasting with Fourier Neural Filter [55.09326865401653]
我々はFNFをバックボーンとして、DBDをアーキテクチャとして導入し、空間時間モデルのための優れた学習能力と最適な学習経路を提供する。
FNFは、局所時間領域とグローバル周波数領域の情報処理を単一のバックボーン内で統合し、空間的モデリングに自然に拡張することを示す。
論文 参考訳（メタデータ） (2025-06-10T18:40:20Z) - Synthetic Time Series Forecasting with Transformer Architectures: Extensive Simulation Benchmarks [1.03590082373586]
時系列予測はエネルギー、金融、医療といった分野において重要な役割を果たす。
Autoformer、Informer、Patchtst-eachは3種類のアーキテクチャで評価された。
Koopman-enhanced TransformerフレームワークであるDeep Koopformerは、演算子理論の潜在状態モデリングを統合している。
論文 参考訳（メタデータ） (2025-05-26T14:34:05Z) - PRformer: Pyramidal Recurrent Transformer for Multivariate Time Series Forecasting [82.03373838627606]
Transformerアーキテクチャにおける自己保持機構は、時系列予測において時間順序を符号化するために位置埋め込みを必要とする。
この位置埋め込みへの依存は、トランスフォーマーの時間的シーケンスを効果的に表現する能力を制限している、と我々は主張する。
本稿では,Prepreを標準的なTransformerエンコーダと統合し,様々な実世界のデータセット上での最先端性能を示す。
論文 参考訳（メタデータ） (2024-08-20T01:56:07Z) - Temporally Consistent Koopman Autoencoders for Forecasting Dynamical Systems [38.36312939874359]
時間的に一貫したクープマンオートエンコーダ(tcKAE)を導入する。
tcKAEは、限られたノイズの多いトレーニングデータであっても、正確な長期予測を生成する。
我々は、様々なテストケースにおいて、最先端のKAEモデルよりもtcKAEの優れた性能を実証的に示す。
論文 参考訳（メタデータ） (2024-03-19T00:48:25Z) - Generative Modeling of Regular and Irregular Time Series Data via Koopman VAEs [50.25683648762602]
モデルの新しい設計に基づく新しい生成フレームワークであるKoopman VAEを紹介する。
クープマン理論に触発され、線形写像を用いて潜在条件事前力学を表現する。
KoVAEは、いくつかの挑戦的な合成および実世界の時系列生成ベンチマークにおいて、最先端のGANおよびVAEメソッドより優れている。
論文 参考訳（メタデータ） (2023-10-04T07:14:43Z) - Koopa: Learning Non-stationary Time Series Dynamics with Koopman
Predictors [85.22004745984253]
実世界の時系列は、深い予測モデルにとって大きな課題となる固有の非定常性によって特徴づけられる。
我々は、基礎となる時間変動力学を根本的に考慮する現代のクープマン理論を用いて、非定常時系列に取り組む。
階層的力学を学習する積み重ね可能なブロックからなる新しいクープマン予測器としてクーパを提案する。
論文 参考訳（メタデータ） (2023-05-30T07:40:27Z) - An Interpretable Approach to Load Profile Forecasting in Power Grids using Galerkin-Approximated Koopman Pseudospectra [0.3160121582090025]
本稿では,電力網における電力予測のための演算子理論フレームワーク内の力学を特徴付ける解釈可能な機械学習手法を提案する。
非線形力学の線形無限次元表現を提供するクープマン演算子を用いて負荷データの動的表現を行う。
本手法は,季節変化による時間的コヒーレントなパターンと,日時や日時といったより詳細な時間スケールを捉える。
論文 参考訳（メタデータ） (2023-04-16T16:56:52Z) - Towards Long-Term Time-Series Forecasting: Feature, Pattern, and
Distribution [57.71199089609161]
長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。
トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。
LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
論文 参考訳（メタデータ） (2023-01-05T13:59:29Z) - Mitigating Data Redundancy to Revitalize Transformer-based Long-Term Time Series Forecasting System [46.39662315849883]
本稿では,カリキュラム学習とメモリ駆動デコーダによる冗長性を緩和する新しいフレームワークであるCLMFormerを紹介する。
CLMFormerはTransformerベースのモデルを最大30%改善し、長距離予測の有効性を示している。
論文 参考訳（メタデータ） (2022-07-16T04:05:15Z) - Forecasting Sequential Data using Consistent Koopman Autoencoders [52.209416711500005]
クープマン理論に関連する新しい物理学に基づく手法が導入された。
本稿では,既存の作業の多くと異なり,前方・後方のダイナミクスを生かした新しいコンシスタント・クープマン・オートエンコーダモデルを提案する。
このアプローチの鍵となるのは、一貫性のある力学と関連するクープマン作用素との相互作用を探索する新しい解析である。
論文 参考訳（メタデータ） (2020-03-04T18:24:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。