論文の概要: DeRegiME: Deep Regime Mixtures for Probabilistic Forecasting under Distribution Shift
- arxiv url: http://arxiv.org/abs/2605.19231v1
- Date: Tue, 19 May 2026 01:04:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-20 15:03:09.053885
- Title: DeRegiME: Deep Regime Mixtures for Probabilistic Forecasting under Distribution Shift
- Title(参考訳): DeRegiME:分散シフト下での確率予測のためのディープレジーム混合
- Authors: Kieran Wood, Stefan Zohren, Stephen J. Roberts,
- Abstract要約: DeRegiMEは、直接マルチホライズン確率予測器である。
潜伏した不確実性体制と根底にある信号とを分離する。
各予測位置を学習された繰り返しレジームに割り当てる。
- 参考スコア(独自算出の注目度): 10.952188121974613
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce DeRegiME -- Deep Regime Mixture of Experts -- a direct multi-horizon probabilistic forecaster that separates latent uncertainty regimes from the underlying signal and softly assigns each forecast location to learned recurring regimes using a sparse variational Gaussian process (GP) whose nonstationary regime-mixing kernel and Student-t likelihood combine per-regime sub-kernels and noise processes via a shared gate. This yields a single sparse-GP posterior, not a mixture of GP experts. DeRegiME addresses a key limitation of neural forecasters: point forecasts discard residual uncertainty, and probabilistic heads -- whether single marginals, uninterpreted mixtures, quantile sets, or diffusion samples -- rarely expose the regime structure of the residual. Yet distribution shift in noisy heteroskedastic time series may be abrupt, gradual, or horizon-dependent and often appears in residual uncertainty rather than the conditional mean. DeRegiME yields an interpretable mean-residual-noise decomposition with a direct-sum feature-space representation that anchors regimes as clusters of residual similarity whose transitions surface as implicit changepoints. The effective number of regimes is pruned by the stick-breaking gate. We prove kernel validity and predictive-density propriety, and across ten benchmarks and three encoder grids DeRegiME improves negative log predictive density (NLPD) by 20.3% over the strongest encoder-matched baseline, a DeepAR/GluonTS-style dynamic Student-t head, with parallel gains on CRPS (3.0%) and MSE (4.7%). Improvements are consistent across all datasets, which span abrupt, gradual, and seasonal shifts.
- Abstract(参考訳): DeRegiME -- Deep Regime Mixture of Experts -- 潜時不確実な状態と基礎信号とを分離し、各予測位置を、非定常な状態混在カーネルと学生が共有ゲートを介してサブカーネルとノイズプロセスとを結合したスパース変分ガウスプロセス(GP)を用いて、学習された繰り返し状態にソフトに割り当てる、直接マルチホライズン確率予測器。
これは単一のスパースGP後部であり、GP専門家の混合ではない。
点予測は残留不確実性を捨て、確率的頭部 -- 単一限界、未解釈混合物、量子集合、拡散サンプル -- は、残留状態の構造を公開することは滅多にない。
しかし、ノイズの多いヘテロスケダスティック時系列の分布シフトは、突然、漸進的、あるいは地平線に依存し、条件平均よりも不確実性にしばしば現れる。
DeRegiMEは解釈可能な平均残差ノイズ分解と直接的な特徴空間表現を、遷移が暗黙的な変化点として表される残差類似性のクラスタとしてレジームを固定する。
有効数のレジームは、スティック破りのゲートによって刈り取られる。
DeRegiMEは10のベンチマークと3つのエンコーダグリッドで、最強のエンコーダマッチングベースラインであるDeepAR/GluonTSスタイルの動的学生tヘッド(CRPS(3.0%)とMSE(4.7%)に対して、負のログ予測密度(NLPD)を20.3%向上させる。
改善は、突然、段階的、季節的なシフトにまたがるすべてのデータセットで一貫性がある。
関連論文リスト
- PairDropGS: Paired Dropout-Induced Consistency Regularization for Sparse-View Gaussian Splatting [81.95709983545666]
ドロップアウトに基づくスパースビュー3DGS法は、トレーニング中にガウス原始体をランダムに抑制することで過度な適合を緩和する。
PairDropGS, Paired Dropout-induced Consistency Regularization framework for sparse-view Gaussian splattingを提案する。
PairDropGSはトレーニングの安定性が向上し、既存のドロップアウトベースの3DGS手法よりも再現性が高いことが、広く使用されているスパースビューベンチマークで実証された。
論文 参考訳(メタデータ) (2026-05-12T13:00:39Z) - Doubly Stochastic Mean-Shift Clustering [1.4299355089723902]
提案するDouubly Mean-Shift(DSMS)は,トラジェクトリだけでなく,カーネル帯域幅自体にもランダム性を導入する新しい拡張である。
このランダム化された帯域幅ポリシーは暗黙の正規化機構として機能し、収束理論結果を提供する。
論文 参考訳(メタデータ) (2026-02-17T07:02:05Z) - Generalizing GNNs with Tokenized Mixture of Experts [75.8310720413187]
安定性の向上には,変化に敏感な特徴への依存を低減し,既約最悪の一般化フロアを残す必要があることを示す。
本研究では,STEM-GNNを提案する。STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN。
9つのノード、リンク、グラフのベンチマークで、STEM-GNNはより強力な3方向バランスを実現し、クリアグラフ上での競争力を維持しながら、次数/ホモフィリーシフトや特徴/エッジの破損に対する堅牢性を改善している。
論文 参考訳(メタデータ) (2026-02-09T22:48:30Z) - Perfect Clustering for Sparse Directed Stochastic Block Models [1.3464152928754485]
スパース指向SBMにおけるコミュニティ検出のための非スペクトル2段階手法を提案する。
提案手法はまず,非対称設定に適した近傍平滑化スキームを用いて有向確率行列を推定する。
提案手法は,有向スペクトル法とスコア法が劣化した状況下で確実に動作可能であることを示す。
論文 参考訳(メタデータ) (2026-01-23T03:53:20Z) - TimeGMM: Single-Pass Probabilistic Forecasting via Adaptive Gaussian Mixture Models with Reversible Normalization [23.69545884322676]
TimeGMMは、単一のフォワードパスで複雑な将来の分布をキャプチャする新しいフレームワークである。
最先端の手法を一貫して上回り、CRPSでは22.48%、NMAEでは21.23%の最大改善を実現している。
論文 参考訳(メタデータ) (2026-01-18T07:02:13Z) - Marginalization Consistent Probabilistic Forecasting of Irregular Time Series via Mixture of Separable flows [4.489135297410294]
不規則な時系列における目標の連立分布の確率論的予測モデルは、機械学習においてあまり研究されていない分野である。
MOSES(Marginalization Consistent Mixture of Separable Flows)は,複数の潜伏ガウス過程と分離可能なユニ-正規性フローの混合をパラメタライズするモデルである。
4つのデータセットの実験では、MOSESは正確な結合予測と限界予測の両方を達成し、他の余分化の基線を全て上回り、ProFITiをわずかに下回っただけで、余分分布の予測では圧倒的に優れていることが示されている。
論文 参考訳(メタデータ) (2024-06-11T13:28:43Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - A general framework for multi-step ahead adaptive conformal
heteroscedastic time series forecasting [0.0]
本稿では,適応アンサンブルバッチ多出力多出力共形量子化回帰(AEnbMIMOCQR)と呼ばれる新しいモデル非依存アルゴリズムを提案する。
これにより、予測者は、固定された特定された誤発見率に対して、分布のない方法で、複数段階の事前予測間隔を生成できる。
本手法は, 整合予測の原理に基づいているが, データの分割は不要であり, データの交換ができない場合でも, ほぼ正確なカバレッジを提供する。
論文 参考訳(メタデータ) (2022-07-28T16:40:26Z) - Exact Recovery in the General Hypergraph Stochastic Block Model [92.28929858529679]
本稿では,d-uniform hypergraph block model(d-HSBM)の正確な回復の基本的な限界について検討する。
精度の高いしきい値が存在し、正確な回復がしきい値の上に達成でき、その下には不可能であることを示す。
論文 参考訳(メタデータ) (2021-05-11T03:39:08Z) - Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
帰納バイアスは 経験的に過剰フィットを防げる中心的存在です
この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。
我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
論文 参考訳(メタデータ) (2021-03-23T17:15:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。