論文の概要: Enhancing Transformer-Based Foundation Models for Time Series Forecasting via Bagging, Boosting and Statistical Ensembles
- arxiv url: http://arxiv.org/abs/2508.16641v1
- Date: Mon, 18 Aug 2025 04:06:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-26 18:43:45.074881
- Title: Enhancing Transformer-Based Foundation Models for Time Series Forecasting via Bagging, Boosting and Statistical Ensembles
- Title(参考訳): Bagging, Boosting, Statistical Ensembles による時系列予測のためのトランスフォーマーベース基礎モデルの強化
- Authors: Dhruv D. Modi, Rong Pan,
- Abstract要約: 時系列基礎モデル(TSFM)は、時系列予測、異常検出、分類、計算のための強力な一般化とゼロショット能力を示している。
本稿では, 統計的およびアンサンブルに基づくエンハンスメント技術を用いて, 頑健さと精度を向上させる手法について検討する。
- 参考スコア(独自算出の注目度): 7.787518725874443
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Time series foundation models (TSFMs) such as Lag-Llama, TimeGPT, Chronos, MOMENT, UniTS, and TimesFM have shown strong generalization and zero-shot capabilities for time series forecasting, anomaly detection, classification, and imputation. Despite these advantages, their predictions still suffer from variance, domain-specific bias, and limited uncertainty quantification when deployed on real operational data. This paper investigates a suite of statistical and ensemble-based enhancement techniques, including bootstrap-based bagging, regression-based stacking, prediction interval construction, statistical residual modeling, and iterative error feedback, to improve robustness and accuracy. Using the Belgium Electricity Short-Term Load Forecasting dataset as a case study, we demonstrate that the proposed hybrids consistently outperform standalone foundation models across multiple horizons. Regression-based ensembles achieve the lowest mean squared error; bootstrap aggregation markedly reduces long-context errors; residual modeling corrects systematic bias; and the resulting prediction intervals achieve near nominal coverage with widths shrinking as context length increases. The results indicate that integrating statistical reasoning with modern foundation models yields measurable gains in accuracy, reliability, and interpretability for real-world time series applications.
- Abstract(参考訳): Lag-Llama、TimeGPT、Chronos、MOMENT、UniTS、TimeFMといった時系列基礎モデル(TSFM)は、時系列予測、異常検出、分類、計算のための強力な一般化とゼロショット機能を示している。
これらの利点にもかかわらず、これらの予測はいまだに分散、ドメイン固有のバイアス、実際の運用データにデプロイされた際の不確実性定量化に悩まされている。
本稿では,ブートストラップに基づくバッグング,回帰に基づく積み重ね,予測区間構築,統計的残差モデリング,反復的誤差フィードバックなど,統計的およびアンサンブルに基づく拡張手法について検討し,ロバスト性と精度の向上を図る。
ベルギー電力短期負荷予測データセットをケーススタディとして、提案したハイブリッドが複数の地平線をまたいだ独立基盤モデルより一貫して優れていることを示す。
回帰に基づくアンサンブルは最小平均2乗誤差を達成し、ブートストラップアグリゲーションは長期コンテキストエラーを著しく低減し、残差モデリングは系統的バイアスを補正し、その結果の予測間隔は、コンテキスト長が増加するにつれて幅が縮むことで、名目上の範囲に近いものとなる。
その結果, 統計的推論と基礎モデルの統合は, 実世界の時系列アプリケーションにおいて, 精度, 信頼性, 解釈可能性において測定可能な向上をもたらすことが示唆された。
関連論文リスト
- BayesTTA: Continual-Temporal Test-Time Adaptation for Vision-Language Models via Gaussian Discriminant Analysis [41.09181390655176]
CLIPのような視覚言語モデル(VLM)は、強いゼロショット認識を実現するが、実世界のシナリオに共通する時空間的な分散シフトの下で大幅に劣化する。
テスト分布が時間とともに徐々に変化するCT-TTA(textitContinal-Temporal Test-Time Adaptation)として、この実践的問題を定式化する。
我々は、時間的に一貫した予測を実行し、視覚表現を動的に調整する、ベイズ適応フレームワークであるtextitBayesTTAを提案する。
論文 参考訳(メタデータ) (2025-07-11T14:02:54Z) - Bridging the Last Mile of Prediction: Enhancing Time Series Forecasting with Conditional Guided Flow Matching [9.465542901469815]
Conditional Guided Flow Matching (CGFM) は、補助的な予測モデルから出力を統合することで、フローマッチングを拡張するモデルに依存しないフレームワークである。
CGFMは、歴史的データを条件とガイダンスの両方に取り入れ、一方の条件付きパスを使用し、アフィンパスを用いて経路空間を拡大する。
データセットとベースラインにわたる実験は、CGFMが常に最先端のモデルより優れており、予測が進んでいることを示している。
論文 参考訳(メタデータ) (2025-07-09T18:03:31Z) - BLAST: Balanced Sampling Time Series Corpus for Universal Forecasting Models [47.66064662912721]
本稿では,バランスの取れたサンプリング戦略を通じて,データの多様性を高めるための新しい事前学習コーパスを提案する。
BLTは、公開データセットからの321億の観測を取り入れ、時系列パターンを特徴付けるために、包括的な統計メトリクススイートを使用している。
本研究は, 予測タスクにおけるトレーニング効率とモデル性能の両面において, データの多様性が重要な役割を担っていることを明らかにする。
論文 参考訳(メタデータ) (2025-05-23T13:20:47Z) - Series-to-Series Diffusion Bridge Model [8.590453584544386]
既存の拡散法を包含する包括的フレームワークを提案する。
拡散に基づく新しい時系列予測モデルであるシリーズ・ツー・シリーズ拡散ブリッジモデル(mathrmS2DBM$)を提案する。
実験の結果,$mathrmS2DBM$はポイントツーポイント予測において優れた性能を示すことがわかった。
論文 参考訳(メタデータ) (2024-11-07T07:37:34Z) - When Rigidity Hurts: Soft Consistency Regularization for Probabilistic
Hierarchical Time Series Forecasting [69.30930115236228]
確率的階層的時系列予測は時系列予測の重要な変種である。
ほとんどの手法は点予測に焦点を絞っており、確率的確率分布を十分に調整していない。
ProFHiTは,階層全体の予測分布を共同でモデル化する完全確率的階層予測モデルである。
論文 参考訳(メタデータ) (2023-10-17T20:30:16Z) - When Rigidity Hurts: Soft Consistency Regularization for Probabilistic
Hierarchical Time Series Forecasting [69.30930115236228]
確率的階層的時系列予測は時系列予測の重要な変種である。
ほとんどの手法は点予測に焦点を絞っており、確率的確率分布を十分に調整していない。
ProFHiTは,階層全体の予測分布を共同でモデル化する完全確率的階層予測モデルである。
論文 参考訳(メタデータ) (2022-06-16T06:13:53Z) - TACTiS: Transformer-Attentional Copulas for Time Series [76.71406465526454]
時間変化量の推定は、医療や金融などの分野における意思決定の基本的な構成要素である。
本稿では,アテンションベースデコーダを用いて関節分布を推定する多元的手法を提案する。
本研究では,本モデルが実世界の複数のデータセットに対して最先端の予測を生成することを示す。
論文 参考訳(メタデータ) (2022-02-07T21:37:29Z) - Simultaneously Reconciled Quantile Forecasting of Hierarchically Related
Time Series [11.004159006784977]
本稿では,階層間の予測の整合性を維持するために,量子レグレッション損失を最適化するフレキシブル非線形モデルを提案する。
ここで導入された理論的枠組みは、下層の微分可微分損失関数を持つ任意の予測モデルに適用できる。
論文 参考訳(メタデータ) (2021-02-25T00:59:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。