論文の概要: Lag-Llama: Towards Foundation Models for Time Series Forecasting

• arxiv url: http://arxiv.org/abs/2310.08278v1
• Date: Thu, 12 Oct 2023 12:29:32 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-14 11:28:44.178312
• Title: Lag-Llama: Towards Foundation Models for Time Series Forecasting
• Title（参考訳）: Lag-Llama: 時系列予測の基礎モデルを目指して
• Authors: Kashif Rasul, Arjun Ashok, Andrew Robert Williams, Arian Khorasani, George Adamopoulos, Rishika Bhagwatkar, Marin Bilo\v{s}, Hena Ghonia, Nadhir Vincent Hassen, Anderson Schneider, Sahil Garg, Alexandre Drouin, Nicolas Chapados, Yuriy Nevmyvaka, Irina Rish
• Abstract要約: ここでは、時系列データの大規模な収集に基づいてトレーニングされた時系列予測モデルであるLag-Llamaの進捗状況について紹介する。 このモデルでは、"アウト・オブ・ディストリビューション"な時系列データセットに対して、教師付きベースラインよりも優れたゼロショット予測能力を示す。 モデルスケーリングの振る舞いに適合し、予測するために、スムーズに壊れたパワーローを使用します。
• 参考スコア（独自算出の注目度）: 53.82904284026041
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Aiming to build foundation models for time-series forecasting and study their scaling behavior, we present here our work-in-progress on Lag-Llama, a general-purpose univariate probabilistic time-series forecasting model trained on a large collection of time-series data. The model shows good zero-shot prediction capabilities on unseen "out-of-distribution" time-series datasets, outperforming supervised baselines. We use smoothly broken power-laws to fit and predict model scaling behavior. The open source code is made available at https://github.com/kashif/pytorch-transformer-ts.
• Abstract（参考訳）: 時系列予測の基礎モデルの構築と,そのスケーリング行動の研究を目的として,大規模な時系列データに基づいてトレーニングされた汎用的単変量確率的時系列予測モデルであるLag-Llamaについて述べる。 このモデルは、教師付きベースラインよりも優れており、見当たらない「分散外」時系列データセット上で優れたゼロショット予測能力を示す。 モデルのスケーリング動作を適度に予測するために,スムースに破断されたパワールールを使用します。 ソースコードはhttps://github.com/kashif/pytorch-transformer-tsで入手できる。

関連論文リスト

• GIFT-Eval: A Benchmark For General Time Series Forecasting Model Evaluation [90.53485251837235]
  時系列基礎モデルはゼロショット予測に優れ、明示的なトレーニングなしで多様なタスクを処理する。 GIFT-Evalは、多様なデータセットに対する評価を促進するための先駆的なベンチマークである。 GIFT-Evalには、144,000の時系列と17700万のデータポイントの23のデータセットが含まれている。
  論文  参考訳（メタデータ） (2024-10-14T11:29:38Z)
• Scaling Law for Time Series Forecasting [8.967263259533036]
  大規模データセット、複雑なモデル、強化されたデータの粒度に報いるスケーリング法則は、ディープラーニングの様々な分野において観察されている。 しかし、時系列予測の研究は、時系列予測のためのディープラーニング手法のスケーリング行動に疑問を投げかけている。 本稿では,このような異常な振る舞いを説明できる時系列予測法則のスケーリング理論を提案する。
  論文  参考訳（メタデータ） (2024-05-24T00:46:27Z)
• Unified Training of Universal Time Series Forecasting Transformers [104.56318980466742]
  マスク型ユニバーサル時系列予測変換器(モイライ)について述べる。 Moiraiは、新たに導入された大規模オープンタイムシリーズアーカイブ(LOTSA)で訓練されており、9つのドメインで27億以上の観測が行われた。 Moiraiは、フルショットモデルと比較してゼロショットの予測器として、競争力や優れたパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2024-02-04T20:00:45Z)
• Timer: Generative Pre-trained Transformers Are Large Time Series Models [83.03091523806668]
  本稿では,大規模時系列モデル(LTSM)の早期開発を目的とした。 事前トレーニング中に、最大10億のタイムポイントを持つ大規模なデータセットをキュレートします。 多様なアプリケーションのニーズを満たすため,予測,計算,時系列の異常検出を統一的な生成タスクに変換する。
  論文  参考訳（メタデータ） (2024-02-04T06:55:55Z)
• A decoder-only foundation model for time-series forecasting [23.824504640087753]
  我々のモデルは,大規模時系列コーパス上でパッチ付きデコーダスタイルのアテンションモデルを事前学習することに基づいている。 予測履歴の長さ、予測長、時間的粒度の異なる範囲でうまく機能する。
  論文  参考訳（メタデータ） (2023-10-14T17:01:37Z)
• Pushing the Limits of Pre-training for Time Series Forecasting in the CloudOps Domain [54.67888148566323]
  クラウドオペレーションドメインから,大規模時系列予測データセットを3つ導入する。 強力なゼロショットベースラインであり、モデルとデータセットサイズの両方において、さらなるスケーリングの恩恵を受けています。 これらのデータセットと結果を取得することは、古典的および深層学習のベースラインを事前訓練された方法と比較した総合的なベンチマーク結果の集合である。
  論文  参考訳（メタデータ） (2023-10-08T08:09:51Z)
• Time-LLM: Time Series Forecasting by Reprogramming Large Language Models [110.20279343734548]
  時系列予測は多くの実世界の力学系において重要な意味を持つ。 時系列予測のための大規模言語モデルを再利用するための再プログラミングフレームワークであるTime-LLMを提案する。 Time-LLMは、最先端の特殊な予測モデルよりも優れた、強力な時系列学習者である。
  論文  参考訳（メタデータ） (2023-10-03T01:31:25Z)
• Improving the Accuracy of Global Forecasting Models using Time Series Data Augmentation [7.38079566297881]
  GFM(Global Forecasting Models)として知られる多くの時系列のセットでトレーニングされた予測モデルは、競争や実世界のアプリケーションを予測する上で有望な結果を示している。 本稿では,GFMモデルのベースライン精度を向上させるための,データ拡張に基づく新しい予測フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-08-06T13:52:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。