論文の概要: Foundation Models and Fine-Tuning: Toward a New Generation of Models for Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2607.23146v1
- Date: Sat, 25 Jul 2026 10:55:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:15.002664
- Title: Foundation Models and Fine-Tuning: Toward a New Generation of Models for Time Series Forecasting
- Title(参考訳): 基礎モデルと微調整:時系列予測の新しい世代に向けて
- Abstract要約: ファンデーションモデルはゼロショット時系列予測のための有望なパラダイムとして登場した。
それらは、多種多様な時系列のコレクションで事前訓練され、点予測と確率予測の両方をサポートする一般化可能な表現を学ぶ。
このアプローチは、データセット固有のモデル設計と手動チューニングの必要性を軽減し、予測問題にまたがる統一されたソリューションを提供する。
- 参考スコア(独自算出の注目度): 26.28141834580785
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Inspired by recent breakthroughs in large language models for natural language processing, foundation models have emerged as a promising paradigm for zero-shot time series forecasting, enabling accurate predictions on datasets never seen during pre-training. Ranging from tens to hundreds of millions of parameters, these models are pre-trained on vast and diverse collections of time series, learning generalizable representations that support both point and probabilistic forecasting. This approach alleviates the need for dataset-specific model design and manual tuning, offering a unified solution across forecasting problems. In this work, we review the main architectures, pre-training strategies, and optimization methods underpinning these models. We further investigate post-pre-training fine-tuning of selected foundation models to enhance their performance on specific datasets. Our empirical results demonstrate that this step consistently improves forecasting accuracy over the zero-shot baseline.
- Abstract(参考訳): 自然言語処理のための大規模言語モデルの最近のブレークスルーに触発されて、ファンデーションモデルはゼロショット時系列予測の有望なパラダイムとして浮上し、事前トレーニング中に見たことのないデータセットの正確な予測を可能にした。
数億から数億のパラメータに分類すると、これらのモデルは多種多様な時系列のコレクションで事前訓練され、点予測と確率予測の両方をサポートする一般化可能な表現を学習する。
このアプローチは、データセット固有のモデル設計と手動チューニングの必要性を軽減し、予測問題にまたがる統一されたソリューションを提供する。
本稿では,これらのモデルを支える主要なアーキテクチャ,事前学習戦略,最適化手法について概説する。
さらに,選択した基礎モデルの事前学習による微調整を行い,特定のデータセットの性能向上を図る。
実験の結果、このステップはゼロショットベースラインでの予測精度を一貫して改善することが示された。
関連論文リスト
- Modèles de Fondation et Ajustement : Vers une Nouvelle Génération de Modèles pour la Prévision des Séries Temporelles [26.28141834580785]
ゼロショット時系列予測のための基礎モデルが開発されている。
これらのモデルは点予測と確率予測の両方に対して一般化可能な表現を学ぶ。
プレトレーニング後の微調整が特定のデータセットに与える影響について検討した。
論文 参考訳(メタデータ) (2025-11-27T18:19:20Z) - Pre-trained Forecasting Models: Strong Zero-Shot Feature Extractors for Time Series Classification [19.714904955821623]
予測モデルでは,分類に特化して事前訓練された最先端のモデルと一致するか,あるいは超えるような分類精度が得られることを示す。
これらの結果は,タスク固有の事前学習が必要であるという仮定に疑問を呈し,予測学習が汎用時系列基礎モデルの構築に強力な道筋を提供する可能性があることを示唆している。
論文 参考訳(メタデータ) (2025-10-30T17:55:23Z) - Estimating Time Series Foundation Model Transferability via In-Context Learning [74.65355820906355]
時系列基礎モデル(TSFM)は、大規模な事前訓練を通じて強力なゼロショット予測を提供する。
微調整は、公開データに制限のあるドメインのパフォーマンス向上に依然として不可欠である。
モデル選択をコンテキスト内学習問題として再キャストする転送可能性推定フレームワークであるTimeTicを紹介する。
論文 参考訳(メタデータ) (2025-09-28T07:07:13Z) - ARIES: Relation Assessment and Model Recommendation for Deep Time Series Forecasting [54.57031153712623]
ARIESは時系列特性とモデリング戦略の関係を評価するためのフレームワークである。
実世界の時系列に解釈可能な提案を提供することのできる,最初の深層予測モデルレコメンデータを提案する。
論文 参考訳(メタデータ) (2025-09-07T13:57:14Z) - ChronosX: Adapting Pretrained Time Series Models with Exogenous Variables [30.679739751673655]
本稿では,事前学習した時系列予測モデルに共変量を統合する新しい手法を提案する。
提案手法は,モジュールブロックによる事前学習予測モデルに共変量情報を組み込む。
本手法は,合成データと実データの両方の評価において,事前学習されたモデルに共変量情報を効果的に組み込むことで,既存のベースラインを上回ります。
論文 参考訳(メタデータ) (2025-03-15T12:34:19Z) - Enhancing Foundation Models for Time Series Forecasting via Wavelet-based Tokenization [74.3339999119713]
我々はウェーブレットベースのトークンーザを開発し、時間局所化周波数の空間でモデルが複雑な表現を直接学習できるようにする。
提案手法は,まず入力時系列をスケール・分解し,次に閾値を設定し,ウェーブレット係数を定量化し,最後に予測水平方向の係数を予測する自己回帰モデルを事前学習する。
論文 参考訳(メタデータ) (2024-12-06T18:22:59Z) - GIFT-Eval: A Benchmark For General Time Series Forecasting Model Evaluation [90.53485251837235]
時系列基礎モデルはゼロショット予測に優れ、明示的なトレーニングなしで多様なタスクを処理する。
GIFT-Evalは、多様なデータセットに対する評価を促進するための先駆的なベンチマークである。
GIFT-Evalには、144,000の時系列と17700万のデータポイントの23のデータセットが含まれている。
論文 参考訳(メタデータ) (2024-10-14T11:29:38Z) - ReAugment: Model Zoo-Guided RL for Few-Shot Time Series Augmentation and Forecasting [74.00765474305288]
本稿では,時系列データ拡張のための強化学習(RL)の試験的検討を行う。
我々の手法であるReAugmentは、トレーニングセットのどの部分が拡張されるべきか、どのように拡張を行うべきか、RLがプロセスにどのような利点をもたらすのか、という3つの重要な問題に取り組む。
論文 参考訳(メタデータ) (2024-09-10T07:34:19Z) - Predictive Churn with the Set of Good Models [61.00058053669447]
本稿では,予測的不整合という2つの無関係な概念の関連性について考察する。
予測多重性(英: predictive multiplicity)は、個々のサンプルに対して矛盾する予測を生成するモデルである。
2つ目の概念である予測チャーン(英: predictive churn)は、モデル更新前後の個々の予測の違いを調べるものである。
論文 参考訳(メタデータ) (2024-02-12T16:15:25Z) - Deep Non-Parametric Time Series Forecaster [19.800783133682955]
提案手法は, 予測分布のパラメトリック形式を仮定せず, 学習可能な戦略に従って実験分布からサンプリングして予測を生成する。
提案手法のグローバルバージョンを開発し,複数の時系列にまたがる情報を活用することで,サンプリング戦略を自動的に学習する。
論文 参考訳(メタデータ) (2023-12-22T12:46:30Z) - A decoder-only foundation model for time-series forecasting [23.824504640087753]
我々のモデルは,大規模時系列コーパス上でパッチ付きデコーダスタイルのアテンションモデルを事前学習することに基づいている。
予測履歴の長さ、予測長、時間的粒度の異なる範囲でうまく機能する。
論文 参考訳(メタデータ) (2023-10-14T17:01:37Z) - Lag-Llama: Towards Foundation Models for Probabilistic Time Series
Forecasting [54.04430089029033]
本稿では,デコーダのみの変換器アーキテクチャに基づく時系列予測のための汎用基礎モデルであるLag-Llamaを提案する。
Lag-Llamaは、複数のドメインからの多様な時系列データの大規模なコーパスで事前訓練され、強力なゼロショット一般化能力を示す。
このような未確認データセットの比較的小さな部分で微調整を行うと、Lag-Llamaは最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2023-10-12T12:29:32Z) - Investigating Ensemble Methods for Model Robustness Improvement of Text
Classifiers [66.36045164286854]
既存のバイアス機能を分析し、すべてのケースに最適なモデルが存在しないことを実証します。
適切なバイアスモデルを選択することで、より洗練されたモデル設計でベースラインよりもロバスト性が得られる。
論文 参考訳(メタデータ) (2022-10-28T17:52:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。