論文の概要: Time-Delayed Transformers for Data-Driven Modeling of Low-Dimensional Dynamics

• arxiv url: http://arxiv.org/abs/2602.08478v1
• Date: Mon, 09 Feb 2026 10:22:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-10 20:26:25.169602
• Title: Time-Delayed Transformers for Data-Driven Modeling of Low-Dimensional Dynamics
• Title（参考訳）: 低次元ダイナミクスのデータ駆動モデリングのための時間遅延変換器
• Authors: Albert Alcalde, Markus Widhalm, Emre Yılmaz,
• Abstract要約: 非定常時間力学のデータ駆動モデリングのための時間遅延変換器(TD-TF)を提案する。 アーキテクチャは意図的に最小限であり、1つの自己アテンション層と1つの汎用層と1つのフィードフォワード層で構成されている。 数値実験により,TD-TFは線形に近い系において強い線形基底線の性能と一致し,非線形系やカオス系では著しく優れていた。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We propose the time-delayed transformer (TD-TF), a simplified transformer architecture for data-driven modeling of unsteady spatio-temporal dynamics. TD-TF bridges linear operator-based methods and deep sequence models by showing that a single-layer, single-head transformer can be interpreted as a nonlinear generalization of time-delayed dynamic mode decomposition (TD-DMD). The architecture is deliberately minimal, consisting of one self-attention layer with a single query per prediction and one feedforward layer, resulting in linear computational complexity in sequence length and a small parameter count. Numerical experiments demonstrate that TD-TF matches the performance of strong linear baselines on near-linear systems, while significantly outperforming them in nonlinear and chaotic regimes, where it accurately captures long-term dynamics. Validation studies on synthetic signals, unsteady aerodynamics, the Lorenz '63 system, and a reaction-diffusion model show that TD-TF preserves the interpretability and efficiency of linear models while providing substantially enhanced expressive power for complex dynamics.
• Abstract（参考訳）: 非定常時空間力学のデータ駆動モデリングのための簡易なトランスフォーマアーキテクチャであるTD-TFを提案する。 TD-TFは, 時間遅延動的モード分解(TD-DMD)の非線形一般化として, 単層単ヘッド変圧器を解釈可能であることを示すことによって, 線形演算子に基づく手法と深部シーケンスモデルを橋渡しする。 アーキテクチャは意図的に最小限であり、予測毎に1つのクエリと1つのフィードフォワード層で構成される。 数値実験により、TD-TFは線形に近い系上での強い線形ベースラインの性能と一致し、非線形およびカオス的な状態においてそれらを著しく上回り、長期的ダイナミクスを正確に捉えることを示した。 合成信号、非定常空気力学、ロレンツ'63系および反応拡散モデルに関する検証研究は、TD-TFが複素力学に対して大幅に拡張された表現力を提供しながら線形モデルの解釈性と効率を保っていることを示している。

関連論文リスト

• ACFormer: Mitigating Non-linearity with Auto Convolutional Encoder for Time Series Forecasting [6.27761817493579]
  時系列予測(TSF)は、複雑なチャネル内時間依存性とチャネル間相関をモデル化する際の課題に直面している。 本稿では,線形射影の効率を,畳み込みの非線形特徴抽出力と整合させるアーキテクチャであるACFormerを提案する。
  論文  参考訳（メタデータ） (2026-01-28T13:47:54Z)
• Tensor Network Framework for Forecasting Nonlinear and Chaotic Dynamics [1.790605517028706]
  非線形およびカオス力学を予測するためのテンソルネットワークモデル(TNM)を提案する。 我々は,TNMが短時間の軌道を正確に再構成し,アトラクタ形状を忠実に捉えていることを示す。
  論文  参考訳（メタデータ） (2025-11-12T11:49:38Z)
• Hybrid machine learning models based on physical patterns to accelerate CFD simulations: a short guide on autoregressive models [3.780691701083858]
  本研究では,Long Short-Term Memory (LSTM) アーキテクチャと高次特異値分解を革新的に統合し,流体力学における低次モデリング(ROM)の複雑さに対処する。 この手法は、2次元および3次元のシリンダー流(2次元および3次元)を含む数値的および実験的なデータセットで試験される。 その結果、HOSVDは、異なるエラーメトリクスを用いて証明されたように、すべてのテストシナリオでSVDより優れていることが示された。
  論文  参考訳（メタデータ） (2025-04-09T10:56:03Z)
• AverageTime: Enhance Long-Term Time Series Forecasting with Simple Averaging [6.125620036017928]
  長期の時系列予測は、将来のトレンドを予測するために歴史的なデータを活用することに焦点を当てている。 主な課題は、シーケンスとチャネルの両方で依存関係を効果的にモデリングすることである。 本研究は,シーケンスとチャネルの依存関係をキャプチャするための新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2024-12-30T05:56:25Z)
• Attractor Memory for Long-Term Time Series Forecasting: A Chaos Perspective [63.60312929416228]
  textbftextitAttraosはカオス理論を長期時系列予測に取り入れている。 本研究では,AttraosがPatchTSTと比較して,パラメータの12分の1しか持たない主流データセットやカオスデータセットにおいて,LTSF法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-02-18T05:35:01Z)
• Towards Long-Term Time-Series Forecasting: Feature, Pattern, and Distribution [57.71199089609161]
  長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。 トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。 LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
  論文  参考訳（メタデータ） (2023-01-05T13:59:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。