論文の概要: Toto 2.0: Time Series Forecasting Enters the Scaling Era
- arxiv url: http://arxiv.org/abs/2605.20119v1
- Date: Tue, 19 May 2026 17:08:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-20 15:03:09.543723
- Title: Toto 2.0: Time Series Forecasting Enters the Scaling Era
- Title(参考訳): Toto 2.0: 時系列予測がスケーリング時代に入る
- Authors: Emaad Khwaja, Chris Lettieri, Gerald Woo, Eden Belouadah, Marc Cenac, Guillaume Jarry, Enguerrand Paquin, Xunyi Zhao, Viktoriya Zhukov, Othmane Abou-Amal, Chenghao Liu, Ameet Talwalkar, David Asker,
- Abstract要約: Toto 2.0は、このレシピに基づいてトレーニングされたモデルを予測する5つのオープンウエイトのファミリーである。
Toto 2.0は、我々の可観測性ベンチマークであるBOOM、標準汎用ベンチマークであるGIFT-Eval、最近の汚染耐性ベンチマークであるTIMEの3つの予測ベンチマークに、新しい技術状況を設定している。
- 参考スコア(独自算出の注目度): 29.052153002487415
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: We show that time series foundation models scale: a single training recipe produces reliable forecast-quality improvements from 4M to 2.5B parameters. We release Toto 2.0, a family of five open-weights forecasting models trained under this recipe. The Toto 2.0 family sets a new state of the art on three forecasting benchmarks: BOOM, our observability benchmark; GIFT-Eval, the standard general-purpose benchmark; and the recent contamination-resistant TIME benchmark. This report describes our experimental results and details the design decisions behind Toto 2.0: its architecture and training recipe, training data, and the u-muP hyperparameter transfer pipeline. All five base checkpoints are released under Apache 2.0.
- Abstract(参考訳): 1つのトレーニングレシピは、4M から 2.5B のパラメータに信頼性の高い予測品質の改善をもたらす。
Toto 2.0は、このレシピでトレーニングされた5つのオープンウェイト予測モデルのファミリーです。
Toto 2.0ファミリは、私たちの可観測性ベンチマークであるBOOM、標準汎用ベンチマークであるGIFT-Eval、最近の汚染耐性ベンチマークであるTIMEの3つの予測ベンチマークに、最先端のベンチマークを新たに設定している。
本報告では、Toto 2.0のアーキテクチャとトレーニングレシピ、トレーニングデータ、u-muPハイパーパラメータ転送パイプラインの設計決定について、実験結果について詳述する。
5つのベースチェックポイントはすべて、Apache 2.0でリリースされている。
関連論文リスト
- This Time is Different: An Observability Perspective on Time Series Foundation Models [13.510650846873743]
Totoは15100万のパラメータを持つ時系列予測基盤モデルである。
Totoの事前トレーニングコーパスは、可観測性データ、オープンデータセット、合成データを組み合わせたものだ。
我々は,2,807個の実時間時系列にわたる3億5000万の観測結果からなる大規模ベンチマークであるBOOMを紹介する。
論文 参考訳(メタデータ) (2025-05-20T17:48:13Z) - Timeseries Foundation Models for Mobility: A Benchmark Comparison with Traditional and Deep Learning Models [0.0]
本研究では、都市全体の移動時間を予測する従来の手法と比較して、TimeGPTの性能を評価する。
その結果,モビリティ予測の基礎モデルの可能性に加えて,実験の限界も明らかになった。
論文 参考訳(メタデータ) (2025-03-31T07:20:31Z) - Tulu 3: Pushing Frontiers in Open Language Model Post-Training [94.14908801708049]
トゥル3(Tulu 3)は、最先端の訓練後モデルである。
Tulu 3はLlama 3.1ベースモデルをベースにしており、Llama 3.1、Qwen 2.5、Mistral、さらにGPT-4o-mini、Claude 3.5-Haikuといったクローズドモデルにも勝っている。
論文 参考訳(メタデータ) (2024-11-22T18:44:04Z) - Toto: Time Series Optimized Transformer for Observability [1.1218164008522182]
TotoはDatadogが開発した時系列予測のためのアートファウンデーションモデルの新たな状態である。
Totoは、観測可能性測定のために特別に調整された、初めての汎用時系列予測基盤モデルである。
論文 参考訳(メタデータ) (2024-07-10T17:40:30Z) - Scale Efficiently: Insights from Pre-training and Fine-tuning
Transformers [57.931830650323]
本稿では,事前学習および微調整型変圧器によるスケーリングの洞察について述べる。
モデルのサイズだけでなく、モデル形状が下流の微調整に重要であることを示す。
再設計したモデルにより、下流の微調整品質が向上する。
論文 参考訳(メタデータ) (2021-09-22T12:29:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。