論文の概要: LTSM-Bundle: A Toolbox and Benchmark on Large Language Models for Time Series Forecasting

• arxiv url: http://arxiv.org/abs/2406.14045v2
• Date: Thu, 27 Feb 2025 23:12:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-03 13:39:04.992611
• Title: LTSM-Bundle: A Toolbox and Benchmark on Large Language Models for Time Series Forecasting
• Title（参考訳）: LTSM-Bundle: 時系列予測のための大規模言語モデルのためのツールボックスとベンチマーク
• Authors: Yu-Neng Chuang, Songchen Li, Jiayi Yuan, Guanchu Wang, Kwei-Herng Lai, Songyuan Sui, Leisheng Yu, Sirui Ding, Chia-Yuan Chang, Qiaoyu Tan, Daochen Zha, Xia Hu,
• Abstract要約: LTSM-Bundleは総合的なツールボックスであり、LTSMをトレーニングするためのベンチマークである。 複数の次元からLTSMをモジュール化し、ベンチマークし、プロンプト戦略、トークン化アプローチ、ベースモデルの選択、データ量、データセットの多様性を含む。 実験により、この組み合わせは最先端のLTSMや従来のTSF法と比較して、ゼロショットと少数ショットのパフォーマンスが優れていることが示された。
• 参考スコア（独自算出の注目度）: 69.33802286580786
• License:
• Abstract: Time Series Forecasting (TSF) has long been a challenge in time series analysis. Inspired by the success of Large Language Models (LLMs), researchers are now developing Large Time Series Models (LTSMs)-universal transformer-based models that use autoregressive prediction-to improve TSF. However, training LTSMs on heterogeneous time series data poses unique challenges, including diverse frequencies, dimensions, and patterns across datasets. Recent endeavors have studied and evaluated various design choices aimed at enhancing LTSM training and generalization capabilities. However, these design choices are typically studied and evaluated in isolation and are not benchmarked collectively. In this work, we introduce LTSM-Bundle, a comprehensive toolbox, and benchmark for training LTSMs, spanning pre-processing techniques, model configurations, and dataset configuration. It modularized and benchmarked LTSMs from multiple dimensions, encompassing prompting strategies, tokenization approaches, training paradigms, base model selection, data quantity, and dataset diversity. Furthermore, we combine the most effective design choices identified in our study. Empirical results demonstrate that this combination achieves superior zero-shot and few-shot performances compared to state-of-the-art LTSMs and traditional TSF methods on benchmark datasets.
• Abstract（参考訳）: Time Series Forecasting (TSF) は、時系列分析における長年の課題である。 LLM(Large Language Models)の成功に触発された研究者たちは、TSFを改善するために自己回帰予測を使用する、Large Time Series Models (LTSMs)-Universal Transformerベースのモデルを開発している。 しかし、ヘテロジニアス時系列データに対するLTSMのトレーニングは、さまざまな周波数、次元、データセット間のパターンなど、ユニークな課題を生んでいる。 近年、LTSMトレーニングと一般化能力の向上を目的とした様々な設計選択を研究・評価している。 しかしながら、これらの設計選択は典型的には独立して研究され、評価され、まとめてベンチマークされることはない。 本研究では,包括的ツールボックスであるLTSM-Bundleを導入し,LTSMのトレーニング,事前処理技術,モデル構成,データセット構成のベンチマークを行う。 複数の次元からLTSMをモジュール化し、ベンチマークし、プロンプト戦略、トークン化アプローチ、トレーニングパラダイム、ベースモデル選択、データ量、データセットの多様性を含む。 さらに,本研究では,最も効果的な設計選択を組み合わせている。 実験により、この組み合わせは、ベンチマークデータセット上での最先端LTSMや従来のTSF手法と比較して、優れたゼロショットと少数ショットのパフォーマンスが得られることを示した。

関連論文リスト

• Harnessing Vision Models for Time Series Analysis: A Survey [72.09716244582684]
  本研究は, 時系列解析におけるLLMよりも視覚モデルの方が優れていることを示す。 既存の方法の包括的かつ詳細な概要を提供し、詳細な分類学の双対的な見解を提供する。 このフレームワークに関わる前処理と後処理のステップにおける課題に対処する。
  論文  参考訳（メタデータ） (2025-02-13T00:42:11Z)
• Metadata Matters for Time Series: Informative Forecasting with Transformers [70.38241681764738]
  時系列予測のためのMetaTST(Metadata-informed Time Series Transformer)を提案する。 メタデータの非構造化の性質に取り組むため、MetaTSTは、事前に設計されたテンプレートによってそれらを自然言語に形式化する。 Transformerエンコーダは、メタデータ情報によるシーケンス表現を拡張するシリーズトークンとメタデータトークンの通信に使用される。
  論文  参考訳（メタデータ） (2024-10-04T11:37:55Z)
• Deep Time Series Models: A Comprehensive Survey and Benchmark [74.28364194333447]
  時系列データは、現実世界のシナリオにおいて非常に重要である。 近年、時系列コミュニティで顕著なブレークスルーが見られた。 多様な分析タスクのためのディープ時系列モデルの公正なベンチマークとして、時系列ライブラリ(TSLib)をリリースします。
  論文  参考訳（メタデータ） (2024-07-18T08:31:55Z)
• UniCL: A Universal Contrastive Learning Framework for Large Time Series Models [18.005358506435847]
  時系列分析は、金融から医療まで、さまざまな重要なアプリケーションにおいて重要な役割を果たす。 従来の教師付き学習手法は、まず各タスクにおける時系列データの広範なラベルを注釈付けする。 本稿では,時系列基礎モデルの事前学習を目的とした,普遍的でスケーラブルなコントラスト学習フレームワークUniCLを紹介する。
  論文  参考訳（メタデータ） (2024-05-17T07:47:11Z)
• MOMENT: A Family of Open Time-series Foundation Models [19.0845213853369]
  汎用時系列解析のためのオープンソース基盤モデルのファミリであるMOMENTを紹介する。 我々は、タイムシリーズパイル(Time series Pile)と呼ばれる公開時系列のコレクションをコンパイルし、時系列固有の課題に体系的に取り組みます。 我々は、様々なタスクやデータセットに関する時系列基礎モデルを、限られた監督設定で評価するためのベンチマークを設計するための最近の作業に基づいて構築する。
  論文  参考訳（メタデータ） (2024-02-06T10:48:46Z)
• Unified Training of Universal Time Series Forecasting Transformers [104.56318980466742]
  マスク型ユニバーサル時系列予測変換器(モイライ)について述べる。 Moiraiは、新たに導入された大規模オープンタイムシリーズアーカイブ(LOTSA)で訓練されており、9つのドメインで27億以上の観測が行われた。 Moiraiは、フルショットモデルと比較してゼロショットの予測器として、競争力や優れたパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2024-02-04T20:00:45Z)
• Timer: Generative Pre-trained Transformers Are Large Time Series Models [83.03091523806668]
  本稿では,大規模時系列モデル(LTSM)の早期開発を目的とした。 事前トレーニング中に、最大10億のタイムポイントを持つ大規模なデータセットをキュレートします。 多様なアプリケーションのニーズを満たすため,予測,計算,時系列の異常検出を統一的な生成タスクに変換する。
  論文  参考訳（メタデータ） (2024-02-04T06:55:55Z)
• TEMPO: Prompt-based Generative Pre-trained Transformer for Time Series Forecasting [24.834846119163885]
  本稿では,時系列表現を効果的に学習できる新しいフレームワークTEMPOを提案する。 TEMPOは、様々な領域のデータから現実世界の時間現象を動的にモデル化する機能を拡張する。
  論文  参考訳（メタデータ） (2023-10-08T00:02:25Z)
• Unified Long-Term Time-Series Forecasting Benchmark [0.6526824510982802]
  本稿では,時系列予測のための包括的データセットを提案する。 多様な動的システムと実生活記録から得られたデータセットのコレクションを組み込んだ。 多様なシナリオにおいて最も効果的なモデルを決定するために、古典的および最先端のモデルを用いて広範なベンチマーク分析を行う。 本研究は,これらのモデルの性能比較を興味深いものにし,モデルの有効性のデータセット依存性を強調した。
  論文  参考訳（メタデータ） (2023-09-27T18:59:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。