論文の概要: TiRex: Zero-Shot Forecasting Across Long and Short Horizons with Enhanced In-Context Learning

• arxiv url: http://arxiv.org/abs/2505.23719v1
• Date: Thu, 29 May 2025 17:52:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-30 18:14:08.055427
• Title: TiRex: Zero-Shot Forecasting Across Long and Short Horizons with Enhanced In-Context Learning
• Title（参考訳）: TiRex: 文脈内学習の強化による長短ホライズン間のゼロショット予測
• Authors: Andreas Auer, Patrick Podest, Daniel Klotz, Sebastian Böck, Günter Klambauer, Sepp Hochreiter,
• Abstract要約: 文脈内学習は近年,時系列予測に応用されている。 ゼロショット時系列予測の新しいアプローチであるTiRexを紹介する。 TiRexは、HuggingFaceベンチマークのGiftEvalとChronos-ZSで予測するゼロショット時系列で、新しい最先端の技術を設定している。
• 参考スコア（独自算出の注目度）: 7.586582726700125
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: In-context learning, the ability of large language models to perform tasks using only examples provided in the prompt, has recently been adapted for time series forecasting. This paradigm enables zero-shot prediction, where past values serve as context for forecasting future values, making powerful forecasting tools accessible to non-experts and increasing the performance when training data are scarce. Most existing zero-shot forecasting approaches rely on transformer architectures, which, despite their success in language, often fall short of expectations in time series forecasting, where recurrent models like LSTMs frequently have the edge. Conversely, while LSTMs are well-suited for time series modeling due to their state-tracking capabilities, they lack strong in-context learning abilities. We introduce TiRex that closes this gap by leveraging xLSTM, an enhanced LSTM with competitive in-context learning skills. Unlike transformers, state-space models, or parallelizable RNNs such as RWKV, TiRex retains state-tracking, a critical property for long-horizon forecasting. To further facilitate its state-tracking ability, we propose a training-time masking strategy called CPM. TiRex sets a new state of the art in zero-shot time series forecasting on the HuggingFace benchmarks GiftEval and Chronos-ZS, outperforming significantly larger models including TabPFN-TS (Prior Labs), Chronos Bolt (Amazon), TimesFM (Google), and Moirai (Salesforce) across both short- and long-term forecasts.
• Abstract（参考訳）: In-context Learning, 大規模言語モデルのタスク実行能力は, プロンプトで提供された例のみを用いて, 最近, 時系列予測に適応している。 このパラダイムはゼロショット予測を可能にし、過去の値が将来の値を予測するコンテキストとして機能し、非専門家に強力な予測ツールを提供し、トレーニングデータが少ない場合にパフォーマンスを向上する。 既存のゼロショット予測アプローチのほとんどはトランスフォーマーアーキテクチャに依存しており、言語での成功にもかかわらず、LSTMのようなリカレントモデルがしばしばエッジを持つ時系列予測では期待に届かなかった。 逆に、LSTMは状態追跡能力のため時系列モデリングに適しているが、文脈内学習能力は乏しい。 このギャップを埋めるTiRexを導入し,テキスト内学習能力の強化した拡張LSTMであるxLSTMを活用する。 変圧器や状態空間モデル、RWKVのような並列化可能なRNNとは異なり、TiRexは長期予測の重要な特性である状態追跡を維持している。 そこで本研究では,その状態追跡能力を高めるために,CPMと呼ばれるトレーニング時間マスキング戦略を提案する。 TiRexは、HuggingFaceベンチマークのGiftEvalとChronos-ZSをベースとして、ゼロショット時系列の予測を新たに発表した。TabPFN-TS(Prior Labs)、Chronos Bolt(Amazon)、TimeFM(Google)、Moirai(Salesforce)といった、短期および長期の予測よりもはるかに大きなモデルを上回っている。

関連論文リスト

• Leveraging Multivariate Long-Term History Representation for Time Series Forecasting [6.661358934189792]
  MTS予測のためのLMHR(Long-term Multivariate Representation)というフレームワークを提案する。 LMHRは、長期の歴史をセグメントレベルの文脈表現にエンコードし、ポイントレベルのノイズを低減する。 急速に変化するパターンのトップ10%で予測精度を9.8%向上させる。
  論文  参考訳（メタデータ） (2025-05-20T03:46:36Z)
• LLM-PS: Empowering Large Language Models for Time Series Forecasting with Temporal Patterns and Semantics [56.99021951927683]
  Time Series Forecasting (TSF) は、金融計画や健康モニタリングなど、多くの現実世界のドメインにおいて重要である。 既存のLarge Language Models (LLM) は通常、時系列データ固有の特性を無視するため、非最適に実行する。 時系列データから基本的なtextitPatterns と有意義な textitSemantics を学習し,TLF のための LLM-PS を提案する。
  論文  参考訳（メタデータ） (2025-03-12T11:45:11Z)
• Sundial: A Family of Highly Capable Time Series Foundation Models [64.6322079384575]
  Sundialはネイティブでフレキシブルでスケーラブルな時系列基盤モデルのファミリーです。 我々のモデルは、事前の分布を指定せずに事前訓練されており、複数の確率予測を生成することができる。 Sundialは、ジャスト・イン・タイムの推論速度で、ポイントと確率予測ベンチマークの両方で最先端の結果を達成する。
  論文  参考訳（メタデータ） (2025-02-02T14:52:50Z)
• Time-MoE: Billion-Scale Time Series Foundation Models with Mixture of Experts [25.503695417712997]
  Time-MoEは、より大きく、より有能な基礎モデルを予測するために設計された、スケーラブルで統一されたアーキテクチャである。 Time-MoEは、予測毎にネットワークのサブセットだけを活性化することで、計算効率を向上させる。 時系列基礎モデルを24億のパラメータに拡張し,予測精度を大幅に向上させた。
  論文  参考訳（メタデータ） (2024-09-24T12:42:18Z)
• Test Time Learning for Time Series Forecasting [1.4605709124065924]
  テストタイムトレーニング(TTT)モジュールは、MambaベースのTimeMachineなど、最先端モデルよりも一貫して優れている。 その結果,平均二乗誤差 (MSE) と平均絶対誤差 (MAE) に有意な改善が認められた。 この研究は、時系列予測の新しいベンチマークを設定し、スケーラブルで高性能な予測モデルにおける将来の研究の基礎を定めている。
  論文  参考訳（メタデータ） (2024-09-21T04:40:08Z)
• SparseTSF: Modeling Long-term Time Series Forecasting with 1k Parameters [16.966008476215258]
  本稿では,長期時系列予測(LTSF)のための新しい,極めて軽量なモデルであるSparseTSFを紹介する。 SparseTSFの中心にはCross-Period Sparse Forecasting技術があり、時系列データの周期性と傾向を分離することで予測タスクを単純化する。 SparseTSFは目覚ましい一般化機能を示しており、限られた計算資源、小さなサンプル、低品質のデータを扱うシナリオに適している。
  論文  参考訳（メタデータ） (2024-05-02T02:15:23Z)
• Chronos: Learning the Language of Time Series [79.38691251254173]
  Chronosは事前訓練された確率的時系列モデルのためのフレームワークである。 クロノスモデルでは,様々な領域の時系列データを利用して,未知の予測タスクにおけるゼロショット精度を向上させることができることを示す。
  論文  参考訳（メタデータ） (2024-03-12T16:53:54Z)
• CALF: Aligning LLMs for Time Series Forecasting via Cross-modal Fine-Tuning [59.88924847995279]
  MTSFのためのクロスモーダルLCMファインチューニング(CALF)フレームワークを提案する。 分散の相違を低減するため,クロスモーダルマッチングモジュールを開発した。 CALFは、長期および短期の予測タスクの最先端のパフォーマンスを確立する。
  論文  参考訳（メタデータ） (2024-03-12T04:04:38Z)
• AutoTimes: Autoregressive Time Series Forecasters via Large Language Models [67.83502953961505]
  AutoTimesは時系列を言語トークンの埋め込み空間に投影し、任意の長さで将来予測を生成する。 時系列をプロンプトとして定式化し、ルックバックウィンドウを越えて予測のコンテキストを拡張する。 AutoTimesは、トレーニング可能なパラメータが0.1%、トレーニング/推論のスピードアップが5ドル以上で最先端を実現している。
  論文  参考訳（メタデータ） (2024-02-04T06:59:21Z)
• Timer: Generative Pre-trained Transformers Are Large Time Series Models [83.03091523806668]
  本稿では,大規模時系列モデル(LTSM)の早期開発を目的とした。 事前トレーニング中に、最大10億のタイムポイントを持つ大規模なデータセットをキュレートします。 多様なアプリケーションのニーズを満たすため,予測,計算,時系列の異常検出を統一的な生成タスクに変換する。
  論文  参考訳（メタデータ） (2024-02-04T06:55:55Z)
• Tiny Time Mixers (TTMs): Fast Pre-trained Models for Enhanced Zero/Few-Shot Forecasting of Multivariate Time Series [11.635608108358575]
  本稿では,効率的な転送学習機能を備えたコンパクトモデルであるTiny Time Mixers (TTM)について紹介する。 TTMには、適応パッチ、多様な解像度サンプリング、およびさまざまなデータセット解像度の事前トレーニングを処理するための解像度プレフィックスチューニングなどのイノベーションが含まれている。 既存のベンチマークでは0/few-shot予測(4-40%)を上回り、計算要求を大幅に削減した。
  論文  参考訳（メタデータ） (2024-01-08T15:21:21Z)
• Time-LLM: Time Series Forecasting by Reprogramming Large Language Models [110.20279343734548]
  時系列予測は多くの実世界の力学系において重要な意味を持つ。 時系列予測のための大規模言語モデルを再利用するための再プログラミングフレームワークであるTime-LLMを提案する。 Time-LLMは、最先端の特殊な予測モデルよりも優れた、強力な時系列学習者である。
  論文  参考訳（メタデータ） (2023-10-03T01:31:25Z)
• OpenSTL: A Comprehensive Benchmark of Spatio-Temporal Predictive Learning [67.07363529640784]
  提案するOpenSTLは,一般的なアプローチを再帰的モデルと再帰的モデルに分類する。 我々は, 合成移動物体軌道, 人間の動き, 運転シーン, 交通流, 天気予報など, さまざまな領域にわたるデータセットの標準評価を行う。 リカレントフリーモデルは、リカレントモデルよりも効率と性能のバランスが良いことがわかった。
  論文  参考訳（メタデータ） (2023-06-20T03:02:14Z)
• Pre-training Enhanced Spatial-temporal Graph Neural Network for Multivariate Time Series Forecasting [13.441945545904504]
  スケーラブルな時系列事前学習モデル(STEP)によりSTGNNが拡張される新しいフレームワークを提案する。 具体的には、非常に長期の歴史時系列から時間パターンを効率的に学習するための事前学習モデルを設計する。 我々のフレームワークは下流のSTGNNを著しく強化することができ、事前学習モデルは時間パターンを適切にキャプチャする。
  論文  参考訳（メタデータ） (2022-06-18T04:24:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。