論文の概要: This Time is Different: An Observability Perspective on Time Series Foundation Models
- arxiv url: http://arxiv.org/abs/2505.14766v1
- Date: Tue, 20 May 2025 17:48:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-22 15:42:58.685841
- Title: This Time is Different: An Observability Perspective on Time Series Foundation Models
- Title(参考訳): 今回は異なる - 時系列基礎モデルにおける可観測性の観点から
- Authors: Ben Cohen, Emaad Khwaja, Youssef Doubli, Salahidine Lemaachi, Chris Lettieri, Charles Masson, Hugo Miccinilli, Elise Ramé, Qiqi Ren, Afshin Rostamizadeh, Jean Ogier du Terrail, Anna-Monica Toon, Kan Wang, Stephan Xie, David Asker, Ameet Talwalkar, Othmane Abou-Amal,
- Abstract要約: Totoは15100万のパラメータを持つ時系列予測基盤モデルである。
Totoの事前トレーニングコーパスは、可観測性データ、オープンデータセット、合成データを組み合わせたものだ。
我々は,2,807個の実時間時系列にわたる3億5000万の観測結果からなる大規模ベンチマークであるBOOMを紹介する。
- 参考スコア(独自算出の注目度): 17.346384679225974
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: We introduce Toto, a time series forecasting foundation model with 151 million parameters. Toto uses a modern decoder-only architecture coupled with architectural innovations designed to account for specific challenges found in multivariate observability time series data. Toto's pre-training corpus is a mixture of observability data, open datasets, and synthetic data, and is 4-10$\times$ larger than those of leading time series foundation models. Additionally, we introduce BOOM, a large-scale benchmark consisting of 350 million observations across 2,807 real-world time series. For both Toto and BOOM, we source observability data exclusively from Datadog's own telemetry and internal observability metrics. Extensive evaluations demonstrate that Toto achieves state-of-the-art performance on both BOOM and on established general purpose time series forecasting benchmarks. Toto's model weights, inference code, and evaluation scripts, as well as BOOM's data and evaluation code, are all available as open source under the Apache 2.0 License available at https://huggingface.co/Datadog/Toto-Open-Base-1.0 and https://github.com/DataDog/toto.
- Abstract(参考訳): 1億5100万のパラメータを持つ時系列予測基盤モデルであるTotoを紹介した。
Totoは、現代のデコーダのみのアーキテクチャと、多変量可観測時系列データに見られる特定の課題を考慮に入れたアーキテクチャの革新を兼ね備えている。
Totoの事前トレーニングコーパスは、可観測性データ、オープンデータセット、合成データを組み合わせたもので、主要な時系列基盤モデルよりも4-10$\times$である。
さらに,2,807個の実時間時系列にわたる3億5000万の観測結果からなる大規模ベンチマークであるBOOMを紹介する。
TotoとBOOMはどちらも、Datadog独自のテレメトリと内部の可観測性メトリクスからのみ、可観測データを生成しています。
大規模評価は,TOTOがBOOMと確立された汎用時系列予測ベンチマークの両方で最先端の性能を達成することを示す。
Totoのモデルウェイト、推論コード、評価スクリプト、およびBOOMのデータおよび評価コードはすべて、Apache 2.0ライセンスの下でオープンソースとして、https://huggingface.co/Datadog/Toto-Open-Base-1.0とhttps://github.com/DataDog/totoで利用可能である。
関連論文リスト
- GIFT-Eval: A Benchmark For General Time Series Forecasting Model Evaluation [90.53485251837235]
時系列基礎モデルはゼロショット予測に優れ、明示的なトレーニングなしで多様なタスクを処理する。
GIFT-Evalは、多様なデータセットに対する評価を促進するための先駆的なベンチマークである。
GIFT-Evalには、144,000の時系列と17700万のデータポイントの23のデータセットが含まれている。
論文 参考訳(メタデータ) (2024-10-14T11:29:38Z) - Mamba4Cast: Efficient Zero-Shot Time Series Forecasting with State Space Models [38.162017417805885]
Mamba4Castは時系列予測のためのゼロショット基礎モデルである。
データセット固有の微調整を必要とせずに、多様な時系列タスクを堅牢に一般化する。
論文 参考訳(メタデータ) (2024-10-12T06:35:18Z) - Toto: Time Series Optimized Transformer for Observability [1.1218164008522182]
TotoはDatadogが開発した時系列予測のためのアートファウンデーションモデルの新たな状態である。
Totoは、観測可能性測定のために特別に調整された、初めての汎用時系列予測基盤モデルである。
論文 参考訳(メタデータ) (2024-07-10T17:40:30Z) - Lag-Llama: Towards Foundation Models for Probabilistic Time Series
Forecasting [54.04430089029033]
本稿では,デコーダのみの変換器アーキテクチャに基づく時系列予測のための汎用基礎モデルであるLag-Llamaを提案する。
Lag-Llamaは、複数のドメインからの多様な時系列データの大規模なコーパスで事前訓練され、強力なゼロショット一般化能力を示す。
このような未確認データセットの比較的小さな部分で微調整を行うと、Lag-Llamaは最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2023-10-12T12:29:32Z) - Pushing the Limits of Pre-training for Time Series Forecasting in the
CloudOps Domain [54.67888148566323]
クラウドオペレーションドメインから,大規模時系列予測データセットを3つ導入する。
強力なゼロショットベースラインであり、モデルとデータセットサイズの両方において、さらなるスケーリングの恩恵を受けています。
これらのデータセットと結果を取得することは、古典的および深層学習のベースラインを事前訓練された方法と比較した総合的なベンチマーク結果の集合である。
論文 参考訳(メタデータ) (2023-10-08T08:09:51Z) - OpenSTL: A Comprehensive Benchmark of Spatio-Temporal Predictive
Learning [67.07363529640784]
提案するOpenSTLは,一般的なアプローチを再帰的モデルと再帰的モデルに分類する。
我々は, 合成移動物体軌道, 人間の動き, 運転シーン, 交通流, 天気予報など, さまざまな領域にわたるデータセットの標準評価を行う。
リカレントフリーモデルは、リカレントモデルよりも効率と性能のバランスが良いことがわかった。
論文 参考訳(メタデータ) (2023-06-20T03:02:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。