論文の概要: TS-RAG: Retrieval-Augmented Generation based Time Series Foundation Models are Stronger Zero-Shot Forecaster

• arxiv url: http://arxiv.org/abs/2503.07649v1
• Date: Thu, 06 Mar 2025 16:48:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-12 15:45:30.337149
• Title: TS-RAG: Retrieval-Augmented Generation based Time Series Foundation Models are Stronger Zero-Shot Forecaster
• Title（参考訳）: TS-RAG: Retrieval-Augmented Generation based Time Series Foundation Models is stronger Zero-Shot Forecaster
• Authors: Kanghui Ning, Zijie Pan, Yu Liu, Yushan Jiang, James Y. Zhang, Kashif Rasul, Anderson Schneider, Lintao Ma, Yuriy Nevmyvaka, Dongjin Song,
• Abstract要約: 時系列基礎モデル (TSFM) にはドメイン適応の固有のメカニズムが欠如しており、限定的な解釈可能性に悩まされている。 TS-RAGは、検索強化世代別時系列予測フレームワークである。 TS-RAGは最先端のゼロショット予測性能を達成し,様々な領域でTSFMを最大6.51%上回った。
• 参考スコア（独自算出の注目度）: 14.512119661418522
• License:
• Abstract: Recently, Large Language Models (LLMs) and Foundation Models (FMs) have become prevalent for time series forecasting tasks. However, fine-tuning large language models (LLMs) for forecasting enables the adaptation to specific domains but may not generalize well across diverse, unseen datasets. Meanwhile, existing time series foundation models (TSFMs) lack inherent mechanisms for domain adaptation and suffer from limited interpretability, making them suboptimal for zero-shot forecasting. To this end, we present TS-RAG, a retrieval-augmented generation based time series forecasting framework that enhances the generalization capability and interpretability of TSFMs. Specifically, TS-RAG leverages pre-trained time series encoders to retrieve semantically relevant time series segments from a dedicated knowledge database, incorporating contextual patterns for the given time series query. Next, we develop a learnable Mixture-of-Experts (MoE)-based augmentation module, which dynamically fuses retrieved time series patterns with the TSFM's representation of the input query, improving forecasting accuracy without requiring task-specific fine-tuning. Thorough empirical studies on seven public benchmark datasets demonstrate that TS-RAG achieves state-of-the-art zero-shot forecasting performance, outperforming TSFMs by up to 6.51% across diverse domains and showcasing desired interpretability.
• Abstract（参考訳）: 近年,Large Language Models (LLMs) とFoundation Models (FMs) が時系列予測タスクで普及している。 しかし、予測のための微調整された大型言語モデル(LLM)は、特定のドメインへの適応を可能にするが、多種多様な未知のデータセットをうまく一般化できない可能性がある。 一方、既存の時系列基礎モデル(TSFM)はドメイン適応の固有のメカニズムを欠き、限定的な解釈可能性に苦しむため、ゼロショット予測には最適ではない。 この目的のために、TSFMの一般化能力と解釈可能性を高める検索強化世代ベースの時系列予測フレームワークTS-RAGを提案する。 具体的には、TS-RAGはトレーニング済みの時系列エンコーダを利用して、特定の時系列クエリのコンテキストパターンを組み込んで、専用の知識データベースから意味的に関連する時系列セグメントを検索する。 次に、学習可能なMixture-of-Experts(MoE)ベースの拡張モジュールを開発し、このモジュールは、検索した時系列パターンをTSFMの入力クエリ表現と動的に融合し、タスク固有の微調整を必要とせずに予測精度を向上させる。 7つの公開ベンチマークデータセットに関する詳細な実証研究は、TS-RAGが最先端のゼロショット予測性能を達成し、様々な領域でTSFMを最大6.51%上回り、望ましい解釈可能性を示していることを示している。

関連論文リスト

• General Time-series Model for Universal Knowledge Representation of Multivariate Time-Series data [61.163542597764796]
  周波数領域で異なる時間粒度(または対応する周波数分解能)の時系列が異なる結合分布を示すことを示す。 時間領域と周波数領域の両方からタイムアウェア表現を学習するために,新しいFourierナレッジアテンション機構を提案する。 自己回帰的空白埋め込み事前学習フレームワークを時系列解析に初めて組み込み、生成タスクに依存しない事前学習戦略を実現する。
  論文  参考訳（メタデータ） (2025-02-05T15:20:04Z)
• Time Series Foundational Models: Their Role in Anomaly Detection and Prediction [0.0]
  時系列基礎モデル (TSFM) は時系列予測において注目されている。 本稿では,異常検出および予測タスクにおけるTSFMの有効性を批判的に評価する。
  論文  参考訳（メタデータ） (2024-12-26T17:15:30Z)
• Retrieval Augmented Time Series Forecasting [19.71444850959715]
  我々は、時系列データの動的かつイベント駆動的な性質が、RAGを時系列予測の重要な構成要素にしていると論じる。 我々は、RAF(Retrieval Augmented Forecasting)と呼ばれる時系列予測のための原則付きRAGフレームワークを導入する。
  論文  参考訳（メタデータ） (2024-11-12T23:55:11Z)
• FlexTSF: A Universal Forecasting Model for Time Series with Variable Regularities [17.164913785452367]
  我々は,より優れた一般化を持ち,正規時間と不規則時間の両方をサポートする普遍時系列予測モデルFlexTSFを提案する。 12のデータセットの実験では、FlexTSFは、それぞれ通常の時系列と不規則時系列のために設計された最先端の予測モデルより優れていることが示されている。
  論文  参考訳（メタデータ） (2024-10-30T16:14:09Z)
• Moirai-MoE: Empowering Time Series Foundation Models with Sparse Mixture of Experts [103.725112190618]
  本稿では,単一入出力プロジェクション層を用いたMoirai-MoEを紹介するとともに,多種多様な時系列パターンのモデリングを専門家の疎結合に委ねる。 39のデータセットに対する大規模な実験は、既存の基盤モデルよりも、分配シナリオとゼロショットシナリオの両方において、Moirai-MoEの優位性を実証している。
  論文  参考訳（メタデータ） (2024-10-14T13:01:11Z)
• Unified Training of Universal Time Series Forecasting Transformers [104.56318980466742]
  マスク型ユニバーサル時系列予測変換器(モイライ)について述べる。 Moiraiは、新たに導入された大規模オープンタイムシリーズアーカイブ(LOTSA)で訓練されており、9つのドメインで27億以上の観測が行われた。 Moiraiは、フルショットモデルと比較してゼロショットの予測器として、競争力や優れたパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2024-02-04T20:00:45Z)
• Lag-Llama: Towards Foundation Models for Probabilistic Time Series Forecasting [54.04430089029033]
  本稿では,デコーダのみの変換器アーキテクチャに基づく時系列予測のための汎用基礎モデルであるLag-Llamaを提案する。 Lag-Llamaは、複数のドメインからの多様な時系列データの大規模なコーパスで事前訓練され、強力なゼロショット一般化能力を示す。 このような未確認データセットの比較的小さな部分で微調整を行うと、Lag-Llamaは最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2023-10-12T12:29:32Z)
• Time-LLM: Time Series Forecasting by Reprogramming Large Language Models [110.20279343734548]
  時系列予測は多くの実世界の力学系において重要な意味を持つ。 時系列予測のための大規模言語モデルを再利用するための再プログラミングフレームワークであるTime-LLMを提案する。 Time-LLMは、最先端の特殊な予測モデルよりも優れた、強力な時系列学習者である。
  論文  参考訳（メタデータ） (2023-10-03T01:31:25Z)
• MPR-Net:Multi-Scale Pattern Reproduction Guided Universality Time Series Interpretable Forecasting [13.790498420659636]
  時系列予測は、その広範な応用が本質的に困難なため、既存の研究から幅広い関心を集めている。 本稿では,まず,畳み込み操作を用いてマルチスケールの時系列パターンを適応的に分解し,パターン再現の既知に基づいてパターン拡張予測手法を構築し,最終的に畳み込み操作を用いて将来的なパターンを再構築する。 時系列に存在する時間的依存関係を活用することで、MPR-Netは線形時間複雑性を達成するだけでなく、予測プロセスも解釈できる。
  論文  参考訳（メタデータ） (2023-07-13T13:16:01Z)
• Deep Autoregressive Models with Spectral Attention [74.08846528440024]
  本稿では,深部自己回帰モデルとスペクトル注意(SA)モジュールを組み合わせた予測アーキテクチャを提案する。 時系列の埋め込みをランダムなプロセスの発生としてスペクトル領域に特徴付けることにより,グローバルな傾向と季節パターンを同定することができる。 時系列に対するグローバルとローカルの2つのスペクトルアテンションモデルは、この情報を予測の中に統合し、スペクトルフィルタリングを行い、時系列のノイズを除去する。
  論文  参考訳（メタデータ） (2021-07-13T11:08:47Z)
• Improving the Accuracy of Global Forecasting Models using Time Series Data Augmentation [7.38079566297881]
  GFM(Global Forecasting Models)として知られる多くの時系列のセットでトレーニングされた予測モデルは、競争や実世界のアプリケーションを予測する上で有望な結果を示している。 本稿では,GFMモデルのベースライン精度を向上させるための,データ拡張に基づく新しい予測フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-08-06T13:52:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。