論文の概要: TimeRAF: Retrieval-Augmented Foundation model for Zero-shot Time Series Forecasting

• arxiv url: http://arxiv.org/abs/2412.20810v1
• Date: Mon, 30 Dec 2024 09:06:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-31 16:05:03.736233
• Title: TimeRAF: Retrieval-Augmented Foundation model for Zero-shot Time Series Forecasting
• Title（参考訳）: TimeRAF: ゼロショット時系列予測のための検索拡張ファンデーションモデル
• Authors: Huanyu Zhang, Chang Xu, Yi-Fan Zhang, Zhang Zhang, Liang Wang, Jiang Bian, Tieniu Tan,
• Abstract要約: TimeRAFは検索拡張技術によるゼロショット時系列予測を強化する検索拡張予測モデルである。 TimeRAFは、エンド・ツー・エンドの学習可能なレトリバーを使用して、知識ベースから貴重な情報を抽出する。
• 参考スコア（独自算出の注目度）: 59.702504386429126
• License:
• Abstract: Time series forecasting plays a crucial role in data mining, driving rapid advancements across numerous industries. With the emergence of large models, time series foundation models (TSFMs) have exhibited remarkable generalization capabilities, such as zero-shot learning, through large-scale pre-training. Meanwhile, Retrieval-Augmented Generation (RAG) methods have been widely employed to enhance the performance of foundation models on unseen data, allowing models to access to external knowledge. In this paper, we introduce TimeRAF, a Retrieval-Augmented Forecasting model that enhance zero-shot time series forecasting through retrieval-augmented techniques. We develop customized time series knowledge bases that are tailored to the specific forecasting tasks. TimeRAF employs an end-to-end learnable retriever to extract valuable information from the knowledge base. Additionally, we propose Channel Prompting for knowledge integration, which effectively extracts relevant information from the retrieved knowledge along the channel dimension. Extensive experiments demonstrate the effectiveness of our model, showing significant improvement across various domains and datasets.
• Abstract（参考訳）: 時系列予測はデータマイニングにおいて重要な役割を担い、多くの産業で急速に進歩している。 大規模モデルの出現に伴い、時系列基礎モデル(TSFM)は、大規模な事前学習を通じてゼロショット学習のような顕著な一般化能力を示した。 一方,RAG(Retrieval-Augmented Generation)法は,未知のデータに基づく基礎モデルの性能向上に広く用いられている。 本稿では,検索拡張技術によるゼロショット時系列予測を向上する検索拡張予測モデルであるTimeRAFを紹介する。 我々は,特定の予測タスクに適した時系列知識ベースを開発する。 TimeRAFは、エンド・ツー・エンドの学習可能なレトリバーを使用して、知識ベースから貴重な情報を抽出する。 また,知識統合のためのチャネル・プロンプティングを提案し,チャネル次元に沿って検索した知識から関連情報を効果的に抽出する。 大規模な実験により、モデルの有効性が示され、さまざまなドメインやデータセットで大幅な改善が見られた。

関連論文リスト

• Tackling Data Heterogeneity in Federated Time Series Forecasting [61.021413959988216]
  時系列予測は、エネルギー消費予測、病気の伝染モニタリング、天気予報など、様々な実世界の応用において重要な役割を果たす。 既存のほとんどのメソッドは、分散デバイスから中央クラウドサーバに大量のデータを収集する、集中的なトレーニングパラダイムに依存しています。 本稿では,情報合成データを補助的知識キャリアとして生成することにより,データの均一性に対処する新しいフレームワークであるFed-TRENDを提案する。
  論文  参考訳（メタデータ） (2024-11-24T04:56:45Z)
• Retrieval Augmented Time Series Forecasting [19.71444850959715]
  我々は、時系列データの動的かつイベント駆動的な性質が、RAGを時系列予測の重要な構成要素にしていると論じる。 我々は、RAF(Retrieval Augmented Forecasting)と呼ばれる時系列予測のための原則付きRAGフレームワークを導入する。
  論文  参考訳（メタデータ） (2024-11-12T23:55:11Z)
• Data Augmentation for Multivariate Time Series Classification: An Experimental Study [1.5390962520179197]
  これらのデータセットのサイズは限られていますが、RocketとInceptionTimeモデルを使用して、13のデータセットのうち10の分類精度を向上しました。 これは、コンピュータビジョンで見られる進歩と並行して、効果的なモデルを訓練する上で、十分なデータの重要性を強調している。
  論文  参考訳（メタデータ） (2024-06-10T17:58:02Z)
• Stochastic Diffusion: A Diffusion Probabilistic Model for Stochastic Time Series Forecasting [8.232475807691255]
  本稿では,データ駆動型事前知識を各ステップで学習する新しい拡散(StochDiff)モデルを提案する。 学習された事前知識は、複雑な時間的ダイナミクスとデータ固有の不確実性を捉えるのに役立つ。
  論文  参考訳（メタデータ） (2024-06-05T00:13:38Z)
• Unified Training of Universal Time Series Forecasting Transformers [104.56318980466742]
  マスク型ユニバーサル時系列予測変換器(モイライ)について述べる。 Moiraiは、新たに導入された大規模オープンタイムシリーズアーカイブ(LOTSA)で訓練されており、9つのドメインで27億以上の観測が行われた。 Moiraiは、フルショットモデルと比較してゼロショットの予測器として、競争力や優れたパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2024-02-04T20:00:45Z)
• Data-Centric Long-Tailed Image Recognition [49.90107582624604]
  ロングテールモデルは高品質なデータに対する強い需要を示している。 データ中心のアプローチは、モデルパフォーマンスを改善するために、データの量と品質の両方を強化することを目的としています。 現在、情報強化の有効性を説明するメカニズムに関する研究が不足している。
  論文  参考訳（メタデータ） (2023-11-03T06:34:37Z)
• Large Models for Time Series and Spatio-Temporal Data: A Survey and Outlook [95.32949323258251]
  時系列データ、特に時系列データと時間時間データは、現実世界のアプリケーションで広く使われている。 大規模言語やその他の基礎モデルの最近の進歩は、時系列データマイニングや時間データマイニングでの使用の増加に拍車を掛けている。
  論文  参考訳（メタデータ） (2023-10-16T09:06:00Z)
• Lag-Llama: Towards Foundation Models for Probabilistic Time Series Forecasting [54.04430089029033]
  本稿では,デコーダのみの変換器アーキテクチャに基づく時系列予測のための汎用基礎モデルであるLag-Llamaを提案する。 Lag-Llamaは、複数のドメインからの多様な時系列データの大規模なコーパスで事前訓練され、強力なゼロショット一般化能力を示す。 このような未確認データセットの比較的小さな部分で微調整を行うと、Lag-Llamaは最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2023-10-12T12:29:32Z)
• TimeGPT-1 [1.2289361708127877]
  我々は、時系列の最初の基礎モデルであるTimeGPTを導入し、トレーニング中に見えない多様なデータセットの正確な予測を生成する。 我々は,既存の統計,機械学習,深層学習に対して事前学習したモデルを評価し,TGPTゼロショット推論が性能,効率,単純さに優れていることを示す。
  論文  参考訳（メタデータ） (2023-10-05T15:14:00Z)
• Improving the Accuracy of Global Forecasting Models using Time Series Data Augmentation [7.38079566297881]
  GFM(Global Forecasting Models)として知られる多くの時系列のセットでトレーニングされた予測モデルは、競争や実世界のアプリケーションを予測する上で有望な結果を示している。 本稿では,GFMモデルのベースライン精度を向上させるための,データ拡張に基づく新しい予測フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-08-06T13:52:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。