論文の概要: Zero-shot forecasting of chaotic systems

• arxiv url: http://arxiv.org/abs/2409.15771v1
• Date: Tue, 24 Sep 2024 05:56:58 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-26 08:51:16.970428
• Title: Zero-shot forecasting of chaotic systems
• Title（参考訳）: カオスシステムのゼロショット予測
• Authors: Yuanzhao Zhang, William Gilpin,
• Abstract要約: 多様なドメインからの膨大な時系列データに基づいて事前訓練されたファンデーションモデル。 ゼロショット学習パラダイムがカオスシステムを予測する困難な課題に拡張されるかどうかを評価する。
• 参考スコア（独自算出の注目度）: 6.445605125467573
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Time-series forecasting is a challenging task that traditionally requires specialized models custom-trained for the specific task at hand. Recently, inspired by the success of large language models, foundation models pre-trained on vast amounts of time-series data from diverse domains have emerged as a promising candidate for general-purpose time-series forecasting. The defining characteristic of these foundation models is their ability to perform zero-shot learning, that is, forecasting a new system from limited context data without explicit re-training or fine-tuning. Here, we evaluate whether the zero-shot learning paradigm extends to the challenging task of forecasting chaotic systems. Across 135 distinct chaotic dynamical systems and $10^8$ timepoints, we find that foundation models produce competitive forecasts compared to custom-trained models (including NBEATS, TiDE, etc.), particularly when training data is limited. Interestingly, even after point forecasts fail, foundation models preserve the geometric and statistical properties of the chaotic attractors, demonstrating a surprisingly strong ability to capture the long-term behavior of chaotic dynamical systems. Our results highlight the promises and pitfalls of foundation models in making zero-shot forecasts of chaotic systems.
• Abstract（参考訳）: 時系列予測(Time-Series forecasting)は、従来、特定のタスクのためにカスタムトレーニングされた特別なモデルを必要とする、困難なタスクである。 近年,大規模言語モデルの成功に触発されて,多種多様なドメインの時系列データに基づいて事前学習された基礎モデルは,汎用的時系列予測の候補として期待されている。 これらの基礎モデルの特色は、ゼロショット学習、すなわち、明示的な再訓練や微調整をすることなく、限られた文脈データから新しいシステムを予測できる能力である。 ここでは,ゼロショット学習パラダイムがカオスシステムを予測する困難な課題に拡張するか否かを評価する。 135の異なるカオス力学系と10^8$のタイムポイントで、特にトレーニングデータに制限がある場合、基礎モデルがカスタムトレーニングモデル(NBEATS、TiDEなど)と比較して競争予測を生成することがわかった。 興味深いことに、点予測が失敗しても、基礎モデルはカオス的誘引子の幾何学的および統計的性質を保存し、カオス的力学系の長期的挙動をキャプチャする驚くほど強い能力を示す。 この結果から,カオスシステムのゼロショット予測における基礎モデルの期待と落とし穴が浮き彫りになった。

関連論文リスト

• GIFT-Eval: A Benchmark For General Time Series Forecasting Model Evaluation [90.53485251837235]
  時系列基礎モデルはゼロショット予測に優れ、明示的なトレーニングなしで多様なタスクを処理する。 GIFT-Evalは、多様なデータセットに対する評価を促進するための先駆的なベンチマークである。 GIFT-Evalには、144,000の時系列と17700万のデータポイントの23のデータセットが含まれている。
  論文  参考訳（メタデータ） (2024-10-14T11:29:38Z)
• Implicit Reasoning in Deep Time Series Forecasting [16.750280337155647]
  この研究は、ディープ時系列予測モデルの推論能力を評価するための最初の一歩を踏み出した。 系統的に編成されたアウト・オブ・ディストリビューションシナリオにおいて,ある線形なパッチベーストランスフォーマーモデルが効果的に一般化できることが判明した。
  論文  参考訳（メタデータ） (2024-09-17T02:11:19Z)
• Koopman Ensembles for Probabilistic Time Series Forecasting [6.699751896019971]
  独立に訓練されたモデルのアンサンブルは極めて過信であり、メンバーに高いモデル間分散による予測を明示的に促す訓練基準を用いることで、アンサンブルの不確実性を大幅に改善することを示す。
  論文  参考訳（メタデータ） (2024-03-11T14:29:56Z)
• Lag-Llama: Towards Foundation Models for Probabilistic Time Series Forecasting [54.04430089029033]
  本稿では,デコーダのみの変換器アーキテクチャに基づく時系列予測のための汎用基礎モデルであるLag-Llamaを提案する。 Lag-Llamaは、複数のドメインからの多様な時系列データの大規模なコーパスで事前訓練され、強力なゼロショット一般化能力を示す。 このような未確認データセットの比較的小さな部分で微調整を行うと、Lag-Llamaは最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2023-10-12T12:29:32Z)
• Leveraging the structure of dynamical systems for data-driven modeling [111.45324708884813]
  トレーニングセットとその構造が長期予測の品質に与える影響を考察する。 トレーニングセットのインフォームドデザインは,システムの不変性と基盤となるアトラクションの構造に基づいて,結果のモデルを大幅に改善することを示す。
  論文  参考訳（メタデータ） (2021-12-15T20:09:20Z)
• Neural forecasting at scale [8.245069318446415]
  本研究では,大規模な時系列集合上での時系列予測のために,アンサンブルに基づくディープニューラルネットワークを効率的にスケーリングする問題について検討する。 我々のモデルは、関連するモデルの実用的限界に対処し、トレーニング時間を半減し、メモリ要件を5。
  論文  参考訳（メタデータ） (2021-09-20T17:22:40Z)
• Randomized Neural Networks for Forecasting Time Series with Multiple Seasonality [0.0]
  この研究は、新しいランダム化に基づく学習手法を用いたニューラル予測モデルの開発に寄与する。 時系列のパターンに基づく表現は、複数の季節の時系列を予測するのに有用である。
  論文  参考訳（メタデータ） (2021-07-04T18:39:27Z)
• Simultaneously Reconciled Quantile Forecasting of Hierarchically Related Time Series [11.004159006784977]
  本稿では,階層間の予測の整合性を維持するために,量子レグレッション損失を最適化するフレキシブル非線形モデルを提案する。 ここで導入された理論的枠組みは、下層の微分可微分損失関数を持つ任意の予測モデルに適用できる。
  論文  参考訳（メタデータ） (2021-02-25T00:59:01Z)
• Model-Attentive Ensemble Learning for Sequence Modeling [86.4785354333566]
  シーケンスモデリング(MAES)のためのモデル・アテンティブ・アンサンブル・ラーニングを提案する。 MAESは、異なるシーケンスダイナミクスの専門家を専門とし、予測を適応的に重み付けるために、注目ベースのゲーティングメカニズムを利用する時系列の専門家の混合物です。 MAESが時系列シフトを受けるデータセットの人気シーケンスモデルを大幅に上回ることを示す。
  論文  参考訳（メタデータ） (2021-02-23T05:23:35Z)
• Learning Interpretable Deep State Space Model for Probabilistic Time Series Forecasting [98.57851612518758]
  確率的時系列予測は、その歴史に基づいて将来の分布を推定する。 本稿では,非線形エミッションモデルと遷移モデルとをネットワークによってパラメータ化した,確率的時系列予測のための深部状態空間モデルを提案する。 実験では,我々のモデルが正確かつ鋭い確率予測を生成することを示す。
  論文  参考訳（メタデータ） (2021-01-31T06:49:33Z)
• Stochastically forced ensemble dynamic mode decomposition for forecasting and analysis of near-periodic systems [65.44033635330604]
  本稿では,観測力学を強制線形系としてモデル化した新しい負荷予測手法を提案する。 固有線型力学の利用は、解釈可能性やパーシモニーの観点から、多くの望ましい性質を提供することを示す。 電力グリッドからの負荷データを用いたテストケースの結果が提示される。
  論文  参考訳（メタデータ） (2020-10-08T20:25:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。