論文の概要: StretchTime: Adaptive Time Series Forecasting via Symplectic Attention
- arxiv url: http://arxiv.org/abs/2602.08983v1
- Date: Mon, 09 Feb 2026 18:29:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-10 20:26:25.419738
- Title: StretchTime: Adaptive Time Series Forecasting via Symplectic Attention
- Title(参考訳): StretchTime:シンプレクティックアテンションによる適応的時系列予測
- Authors: Yubin Kim, Viresh Pati, Jevon Twitty, Vinh Pham, Shihao Yang, Jiecheng Lu,
- Abstract要約: 回転位置埋め込みは,非アフィン時間ワープを数学的に表現できないことを示す。
ハミルトン力学から派生した学習可能な符号化フレームワークであるSymphlectic Positional Embeddings (SyPE)を提案する。
SyPE は回転群 $mathrmSO(2)$ をシンプレクティック群 $mathrmSp(2,mathbbR)$ に拡張することで、RoPE を厳密に一般化する。
- 参考スコア(独自算出の注目度): 5.339037322817684
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Transformer architectures have established strong baselines in time series forecasting, yet they typically rely on positional encodings that assume uniform, index-based temporal progression. However, real-world systems, from shifting financial cycles to elastic biological rhythms, frequently exhibit "time-warped" dynamics where the effective flow of time decouples from the sampling index. In this work, we first formalize this misalignment and prove that rotary position embedding (RoPE) is mathematically incapable of representing non-affine temporal warping. To address this, we propose Symplectic Positional Embeddings (SyPE), a learnable encoding framework derived from Hamiltonian mechanics. SyPE strictly generalizes RoPE by extending the rotation group $\mathrm{SO}(2)$ to the symplectic group $\mathrm{Sp}(2,\mathbb{R})$, modulated by a novel input-dependent adaptive warp module. By allowing the attention mechanism to adaptively dilate or contract temporal coordinates end-to-end, our approach captures locally varying periodicities without requiring pre-defined warping functions. We implement this mechanism in StretchTime, a multivariate forecasting architecture that achieves state-of-the-art performance on standard benchmarks, demonstrating superior robustness on datasets exhibiting non-stationary temporal dynamics.
- Abstract(参考訳): トランスフォーマーアーキテクチャは時系列予測において強力なベースラインを確立してきたが、通常は一様でインデックスベースの時間進行を仮定する位置エンコーディングに依存している。
しかし、実世界のシステムでは、金融サイクルのシフトから弾性的な生物学的リズムに至るまで、サンプリング指標から効果的な時間の流れが切り離される「タイムワープ(time-warped)」ダイナミクスがしばしば現れる。
本研究はまず, この不整合を定式化し, 回転位置埋め込み(RoPE)が非アフィン時間ワープを表現する数学的に不可能であることを証明した。
これを解決するために,ハミルトン力学から学習可能な符号化フレームワークであるSymphlectic Positional Embeddings (SyPE)を提案する。
SyPE は回転群 $\mathrm{SO}(2)$ をシンプレクティック群 $\mathrm{Sp}(2,\mathbb{R})$ に拡張して RoPE を厳密に一般化する。
注意機構を適応的に拡張したり、時間座標をエンドツーエンドに収縮させることで、予め定義されたワープ関数を必要とせず、局所的に異なる周期性を取得することができる。
我々は,この機構を標準ベンチマークにおける最先端性能を実現する多変量予測アーキテクチャであるStretchTimeに実装し,非定常時間ダイナミクスを示すデータセットに優れたロバスト性を示す。
関連論文リスト
- Temporal Graph Pattern Machine [17.352525018007473]
時間的グラフパターンマシン(TGPM)は、時間的に偏ったランダムウォークによって合成された相互作用パッチとして、各相互作用を概念化する。
TGPMは、トランスダクティブリンク予測とインダクティブリンク予測の両方において、常に最先端の性能を達成する。
論文 参考訳(メタデータ) (2026-01-30T01:46:13Z) - Temporal Lifting as Latent-Space Regularization for Continuous-Time Flow Models in AI Systems [0.0]
連続時間力学系に対する適応時間的再パラメータ化の潜時空間定式化を提案する。
機械学習のダイナミクスの観点からすると、テンポラルリフトは連続時間正規化やタイムワープ演算子として機能する。
論文 参考訳(メタデータ) (2025-10-10T19:06:32Z) - EntroPE: Entropy-Guided Dynamic Patch Encoder for Time Series Forecasting [50.794700596484894]
IntroPE(Entropy-Guided Dynamic Patch)は,条件付きエントロピーによる遷移点を動的に検出する新しい時間情報フレームワークである。
これは、パッチの計算上の利点を維持しながら、時間構造を保存する。
長期予測ベンチマークによる実験では、EntroPEは精度と効率の両方を改善している。
論文 参考訳(メタデータ) (2025-09-30T12:09:56Z) - Kairos: Towards Adaptive and Generalizable Time Series Foundation Models [27.076542021368056]
時系列基礎モデル (TSFM) は時系列解析の強力なパラダイムとして登場してきた。
動的パッチトークンとインスタンス適応型位置埋め込みを統合した,柔軟なTSFMフレームワークであるKairosを提案する。
Kairosは2つの共通ゼロショットベンチマークのパラメータをはるかに少なくして、優れたパフォーマンスを実現している。
論文 参考訳(メタデータ) (2025-09-30T06:02:26Z) - DeepKoopFormer: A Koopman Enhanced Transformer Based Architecture for Time Series Forecasting [0.9217021281095907]
時系列予測は、科学的、工業的、環境的な領域において重要な役割を担っている。
DeepKoopFormerは、Transformerの表現力とKoopman演算子理論の理論的な厳密さを組み合わせた、原則化された予測フレームワークである。
我々のモデルはモジュラーエンコーダ・プロパゲータ・デコーダ構造を特徴とし、時間的ダイナミクスはスペクトル的に制約された線形クープマン作用素を潜在空間で学習する。
論文 参考訳(メタデータ) (2025-08-04T17:05:55Z) - Multivariate Long-term Time Series Forecasting with Fourier Neural Filter [42.60778405812048]
我々はFNFをバックボーンとして、DBDをアーキテクチャとして導入し、空間時間モデルのための優れた学習能力と最適な学習経路を提供する。
FNFは、局所時間領域とグローバル周波数領域の情報処理を単一のバックボーン内で統合し、空間的モデリングに自然に拡張することを示す。
論文 参考訳(メタデータ) (2025-06-10T18:40:20Z) - PRformer: Pyramidal Recurrent Transformer for Multivariate Time Series Forecasting [82.03373838627606]
Transformerアーキテクチャにおける自己保持機構は、時系列予測において時間順序を符号化するために位置埋め込みを必要とする。
この位置埋め込みへの依存は、トランスフォーマーの時間的シーケンスを効果的に表現する能力を制限している、と我々は主張する。
本稿では,Prepreを標準的なTransformerエンコーダと統合し,様々な実世界のデータセット上での最先端性能を示す。
論文 参考訳(メタデータ) (2024-08-20T01:56:07Z) - A Poisson-Gamma Dynamic Factor Model with Time-Varying Transition Dynamics [51.147876395589925]
非定常PGDSは、基礎となる遷移行列が時間とともに進化できるように提案されている。
後続シミュレーションを行うために, 完全共役かつ効率的なギブスサンプリング装置を開発した。
実験により,提案した非定常PGDSは,関連するモデルと比較して予測性能が向上することを示した。
論文 参考訳(メタデータ) (2024-02-26T04:39:01Z) - Stochastically forced ensemble dynamic mode decomposition for
forecasting and analysis of near-periodic systems [65.44033635330604]
本稿では,観測力学を強制線形系としてモデル化した新しい負荷予測手法を提案する。
固有線型力学の利用は、解釈可能性やパーシモニーの観点から、多くの望ましい性質を提供することを示す。
電力グリッドからの負荷データを用いたテストケースの結果が提示される。
論文 参考訳(メタデータ) (2020-10-08T20:25:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。