論文の概要: Foundation Models for Time Series: A Survey
- arxiv url: http://arxiv.org/abs/2504.04011v1
- Date: Sat, 05 Apr 2025 01:27:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-08 14:14:09.502372
- Title: Foundation Models for Time Series: A Survey
- Title(参考訳): 時系列の基礎モデル:調査
- Authors: Siva Rama Krishna Kottapalli, Karthik Hubli, Sandeep Chandrashekhara, Garima Jain, Sunayana Hubli, Gayathri Botla, Ramesh Doddaiah,
- Abstract要約: トランスフォーマーベースの基礎モデルは時系列解析において支配的なパラダイムとして現れてきた。
この調査は、いくつかの分野にまたがって分類する新しい分類法を導入している。
- 参考スコア(独自算出の注目度): 0.27835153780240135
- License:
- Abstract: Transformer-based foundation models have emerged as a dominant paradigm in time series analysis, offering unprecedented capabilities in tasks such as forecasting, anomaly detection, classification, trend analysis and many more time series analytical tasks. This survey provides a comprehensive overview of the current state of the art pre-trained foundation models, introducing a novel taxonomy to categorize them across several dimensions. Specifically, we classify models by their architecture design, distinguishing between those leveraging patch-based representations and those operating directly on raw sequences. The taxonomy further includes whether the models provide probabilistic or deterministic predictions, and whether they are designed to work with univariate time series or can handle multivariate time series out of the box. Additionally, the taxonomy encompasses model scale and complexity, highlighting differences between lightweight architectures and large-scale foundation models. A unique aspect of this survey is its categorization by the type of objective function employed during training phase. By synthesizing these perspectives, this survey serves as a resource for researchers and practitioners, providing insights into current trends and identifying promising directions for future research in transformer-based time series modeling.
- Abstract(参考訳): トランスフォーマーベースの基礎モデルは時系列解析において支配的なパラダイムとして現れており、予測、異常検出、分類、トレンド分析、さらに多くの時系列解析タスクにおいて前例のない機能を提供している。
この調査は、現在の最先端の事前訓練基盤モデルの概要を概観し、いくつかの側面にまたがって分類する新しい分類法を導入している。
具体的には、アーキテクチャ設計によってモデルを分類し、パッチベースの表現を利用するものと、生のシーケンスで直接動作するものとを区別する。
分類学は、モデルが確率的または決定論的予測を提供するか、また、単変量時系列を扱うように設計されているか、あるいはボックスから多変量時系列を扱うことができるかをさらに含んでいる。
さらに、分類は、軽量アーキテクチャと大規模ファンデーションモデルの違いを強調しながら、モデルスケールと複雑さを包含している。
この調査のユニークな側面は、トレーニングフェーズで使用される目的関数の種類による分類である。
これらの視点を合成することにより、この調査は研究者や実践者の資源となり、現在のトレンドについての洞察を提供し、トランスフォーマーベースの時系列モデリングにおける将来の研究の方向性を特定する。
関連論文リスト
- Harnessing Vision Models for Time Series Analysis: A Survey [72.09716244582684]
本研究は, 時系列解析におけるLLMよりも視覚モデルの方が優れていることを示す。
既存の方法の包括的かつ詳細な概要を提供し、詳細な分類学の双対的な見解を提供する。
このフレームワークに関わる前処理と後処理のステップにおける課題に対処する。
論文 参考訳(メタデータ) (2025-02-13T00:42:11Z) - VSFormer: Value and Shape-Aware Transformer with Prior-Enhanced Self-Attention for Multivariate Time Series Classification [47.92529531621406]
識別パターン(形状)と数値情報(値)の両方を組み込んだVSFormerを提案する。
さらに、教師付き情報から派生したクラス固有の事前情報を抽出し、位置エンコーディングを強化する。
30のUEAアーカイブデータセットに対する大規模な実験は、SOTAモデルと比較して、我々の手法の優れた性能を示す。
論文 参考訳(メタデータ) (2024-12-21T07:31:22Z) - A Comprehensive Survey of Time Series Forecasting: Architectural Diversity and Open Challenges [37.20655606514617]
時系列予測は、さまざまな分野における意思決定の重要な情報を提供する重要なタスクである。
アック、CNN、RNN、GNNといったディープラーニングアーキテクチャが開発され、時系列予測問題に応用されている。
長期的な依存関係を扱うのに優れているトランスフォーマーモデルは、時系列予測のための重要なアーキテクチャコンポーネントとなっている。
論文 参考訳(メタデータ) (2024-10-24T07:43:55Z) - Analyzing Deep Transformer Models for Time Series Forecasting via Manifold Learning [4.910937238451485]
トランスフォーマーモデルは、自然言語処理やコンピュータビジョンといった様々な領域において、一貫して顕著な成果を上げてきた。
これらのモデルをよりよく理解するための継続的な研究努力にもかかわらず、この分野はいまだに包括的な理解を欠いている。
画像やテキスト情報とは異なり、時系列データは解釈し分析することがより困難である。
論文 参考訳(メタデータ) (2024-10-17T17:32:35Z) - Deep Time Series Models: A Comprehensive Survey and Benchmark [74.28364194333447]
時系列データは、現実世界のシナリオにおいて非常に重要である。
近年、時系列コミュニティで顕著なブレークスルーが見られた。
多様な分析タスクのためのディープ時系列モデルの公正なベンチマークとして、時系列ライブラリ(TSLib)をリリースします。
論文 参考訳(メタデータ) (2024-07-18T08:31:55Z) - A Survey on Diffusion Models for Time Series and Spatio-Temporal Data [92.1255811066468]
時系列およびS時間データにおける拡散モデルの使用について概観し、それらをモデル、タスクタイプ、データモダリティ、実用的なアプリケーションドメインで分類する。
我々は拡散モデルを無条件型と条件付き型に分類し、時系列とS時間データを別々に議論する。
本調査は,医療,レコメンデーション,気候,エネルギー,オーディオ,交通など,さまざまな分野の応用を幅広くカバーしている。
論文 参考訳(メタデータ) (2024-04-29T17:19:40Z) - Analysis and modeling to forecast in time series: a systematic review [0.0]
本稿では,時系列解析とモデリングに特化した最先端の手法とモデルについて,最終予測をめざして検討する。
本総説は, 時系列分解, 定常試験, モデリング, 予測を網羅し, 全プロセスフローを包括的に把握することを目的としている。
論文 参考訳(メタデータ) (2021-03-31T23:48:46Z) - Model-Attentive Ensemble Learning for Sequence Modeling [86.4785354333566]
シーケンスモデリング(MAES)のためのモデル・アテンティブ・アンサンブル・ラーニングを提案する。
MAESは、異なるシーケンスダイナミクスの専門家を専門とし、予測を適応的に重み付けるために、注目ベースのゲーティングメカニズムを利用する時系列の専門家の混合物です。
MAESが時系列シフトを受けるデータセットの人気シーケンスモデルを大幅に上回ることを示す。
論文 参考訳(メタデータ) (2021-02-23T05:23:35Z) - A Survey on Principles, Models and Methods for Learning from Irregularly
Sampled Time Series [18.224344440110862]
不規則にサンプリングされた時系列データは、生物学、生態学、気候科学、天文学、健康など、多くの応用領域で自然に発生する。
まず、不規則なサンプル時系列から学習するアプローチが異なるいくつかの軸について述べる。
次に、モデリングプリミティブの軸に沿って整理された最近の文献を調査します。
論文 参考訳(メタデータ) (2020-11-30T23:41:47Z) - Improving the Reconstruction of Disentangled Representation Learners via Multi-Stage Modeling [54.94763543386523]
現在の自己エンコーダに基づく非絡み合い表現学習法は、(集合体)後部をペナルティ化し、潜伏因子の統計的独立を促進することで、非絡み合いを実現する。
本稿では,不整合因子をペナルティに基づく不整合表現学習法を用いて学習する,新しい多段階モデリング手法を提案する。
次に、低品質な再構成を、欠落した関連潜伏変数をモデル化するために訓練された別の深層生成モデルで改善する。
論文 参考訳(メタデータ) (2020-10-25T18:51:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。