論文の概要: Mamba time series forecasting with uncertainty propagation
- arxiv url: http://arxiv.org/abs/2503.10873v1
- Date: Thu, 13 Mar 2025 20:39:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-17 13:08:31.316059
- Title: Mamba time series forecasting with uncertainty propagation
- Title(参考訳): 不確実性伝播を用いたマンバ時系列予測
- Authors: Pedro Pessoa, Paul Campitelli, Douglas P. Shepherd, S. Banu Ozkan, Steve Pressé,
- Abstract要約: 電力消費のベンチマークでは、マンバの予測平均誤差は約8%である。
トラフィック占有率ベンチマークでは、平均誤差は18%に達する。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: State space models, such as Mamba, have recently garnered attention in time series forecasting due to their ability to capture sequence patterns. However, in electricity consumption benchmarks, Mamba forecasts exhibit a mean error of approximately 8\%. Similarly, in traffic occupancy benchmarks, the mean error reaches 18\%. This discrepancy leaves us to wonder whether the prediction is simply inaccurate or falls within error given spread in historical data. To address this limitation, we propose a method to quantify the predictive uncertainty of Mamba forecasts. Here, we propose a dual-network framework based on the Mamba architecture for probabilistic forecasting, where one network generates point forecasts while the other estimates predictive uncertainty by modeling variance. We abbreviate our tool, Mamba with probabilistic time series forecasting, as Mamba-ProbTSF and the code for its implementation is available on GitHub (https://github.com/PessoaP/Mamba-ProbTSF). Evaluating this approach on synthetic and real-world benchmark datasets, we find Kullback-Leibler divergence between the learned distributions and the data--which, in the limit of infinite data, should converge to zero if the model correctly captures the underlying probability distribution--reduced to the order of $10^{-3}$ for synthetic data and $10^{-1}$ for real-world benchmark, demonstrating its effectiveness. We find that in both the electricity consumption and traffic occupancy benchmark, the true trajectory stays within the predicted uncertainty interval at the two-sigma level about 95\% of the time. We end with a consideration of potential limitations, adjustments to improve performance, and considerations for applying this framework to processes for purely or largely stochastic dynamics where the stochastic changes accumulate, as observed for example in pure Brownian motion or molecular dynamics trajectories.
- Abstract(参考訳): Mambaのような状態空間モデルは、最近、シーケンスパターンをキャプチャする能力のために時系列予測において注目を集めている。
しかし、電力消費のベンチマークでは、マンバの予測平均誤差は約8\%である。
同様に、トラフィック占有ベンチマークでは、平均誤差は18 %に達する。
この不一致は、過去のデータに散らばって予測が単に不正確なのか、それとも誤りに陥るのかを疑問にさせる。
この制限に対処するため,マンバ予測の予測不確実性を定量化する手法を提案する。
本稿では、確率的予測のためのMambaアーキテクチャに基づくデュアルネットワークフレームワークを提案し、一方のネットワークは点予測を生成し、他方のネットワークは分散をモデル化して予測の不確実性を推定する。
Mamba-ProbTSFと実装のコードはGitHubで公開されている(https://github.com/PessoaP/Mamba-ProbTSF)。
合成および実世界のベンチマークデータセットに対するこのアプローチを評価すると、学習した分布とデータの間にクルバック・リーブラーのばらつきが生じる。無限のデータの範囲内で、モデルが基礎となる確率分布を正しく捉えた場合、モデルがゼロに収束し、合成データに対して10-3}$、実世界のベンチマークに対して10-3}$に還元され、その効果を示す。
その結果、電力消費と交通占有率のベンチマークでは、真の軌道は2シグマレベルの予測不確かさ間隔内に留まっていることがわかった。
我々は、潜在的な制限、性能改善のための調整、そして、純粋なブラウン運動や分子動力学の軌跡のように、確率的変化が蓄積する純粋あるいは大半確率的ダイナミクスのプロセスにこの枠組みを適用することを考える。
関連論文リスト
- Posterior Uncertainty Quantification in Neural Networks using Data Augmentation [3.9860047080844807]
深層アンサンブルは,既存の観測結果にのみ,将来のデータがサポートされることを前提として,基本的に不特定モデルクラスであることを示す。
一般的なデータ拡張手法を用いて,より現実的な予測分布を構築する手法であるMixupMPを提案する。
実験により,MixupMPは様々な画像分類データセットにおいて,優れた予測性能と不確かさの定量化を実現することが示された。
論文 参考訳(メタデータ) (2024-03-18T17:46:07Z) - From Reactive to Proactive Volatility Modeling with Hemisphere Neural Networks [0.0]
我々は,新しいニューラルネットワークアーキテクチャを用いて,マクロ経済密度予測のための最大推定値(MLE)を再活性化する。
ヘミスフィアニューラルネットワーク(HNN)は、可能時の主指標に基づく積極的なボラティリティ予測と、必要時の過去の予測誤差の大きさに基づく反応性ボラティリティ予測を提供する。
論文 参考訳(メタデータ) (2023-11-27T21:37:50Z) - When Rigidity Hurts: Soft Consistency Regularization for Probabilistic
Hierarchical Time Series Forecasting [69.30930115236228]
確率的階層的時系列予測は時系列予測の重要な変種である。
ほとんどの手法は点予測に焦点を絞っており、確率的確率分布を十分に調整していない。
ProFHiTは,階層全体の予測分布を共同でモデル化する完全確率的階層予測モデルである。
論文 参考訳(メタデータ) (2023-10-17T20:30:16Z) - When Rigidity Hurts: Soft Consistency Regularization for Probabilistic
Hierarchical Time Series Forecasting [69.30930115236228]
確率的階層的時系列予測は時系列予測の重要な変種である。
ほとんどの手法は点予測に焦点を絞っており、確率的確率分布を十分に調整していない。
ProFHiTは,階層全体の予測分布を共同でモデル化する完全確率的階層予測モデルである。
論文 参考訳(メタデータ) (2022-06-16T06:13:53Z) - Uncertainty estimation of pedestrian future trajectory using Bayesian
approximation [137.00426219455116]
動的トラフィックシナリオでは、決定論的予測に基づく計画は信頼できない。
著者らは、決定論的アプローチが捉えられない近似を用いて予測中の不確実性を定量化する。
将来の状態の不確実性に対する降雨重量と長期予測の影響について検討した。
論文 参考訳(メタデータ) (2022-05-04T04:23:38Z) - WeatherBench Probability: A benchmark dataset for probabilistic
medium-range weather forecasting along with deep learning baseline models [22.435002906710803]
WeatherBenchは、測地、温度、降水量の中距離天気予報のためのベンチマークデータセットである。
WeatherBench Probabilityはこれを確率的予測に拡張し、確立された確率的検証メトリクスのセットを追加する。
論文 参考訳(メタデータ) (2022-05-02T12:49:05Z) - Dense Uncertainty Estimation [62.23555922631451]
本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。
本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
論文 参考訳(メタデータ) (2021-10-13T01:23:48Z) - Learning Interpretable Deep State Space Model for Probabilistic Time
Series Forecasting [98.57851612518758]
確率的時系列予測は、その歴史に基づいて将来の分布を推定する。
本稿では,非線形エミッションモデルと遷移モデルとをネットワークによってパラメータ化した,確率的時系列予測のための深部状態空間モデルを提案する。
実験では,我々のモデルが正確かつ鋭い確率予測を生成することを示す。
論文 参考訳(メタデータ) (2021-01-31T06:49:33Z) - Uncertainty Intervals for Graph-based Spatio-Temporal Traffic Prediction [0.0]
本研究では,従来の時間ステップの測定値から密度を推定するよう訓練された時空間ニューラルネットワークを提案する。
この密度推定法はニューラルネットワークによって完全にパラメータ化され, 内部では近似値を用いない。
このアプローチは、モンテカルロドロップアウトのような推論中にサンプリングする必要なしに不確実性推定を生成する。
論文 参考訳(メタデータ) (2020-12-09T18:02:26Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。