論文の概要: Bayesian Transformer for Probabilistic Load Forecasting in Smart Grids

• arxiv url: http://arxiv.org/abs/2603.07899v1
• Date: Mon, 09 Mar 2026 02:39:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-10 15:13:15.35058
• Title: Bayesian Transformer for Probabilistic Load Forecasting in Smart Grids
• Title（参考訳）: スマートグリッドにおける確率的負荷予測のためのベイズ変換器
• Authors: Sajib Debnath, Md. Uzzal Mia,
• Abstract要約: 本研究では,3つの相補的不確実性機構をPatchTSTバックボーンに統合したベイズ変圧器フレームワークを提案する。 7段階のマルチクエンタリーピンボールロス予測ヘッドと、訓練後の等音波回帰キャリブレーションにより、鋭く、ほぼ一意にカバーされた予測間隔が生成される。 主要なベンチマーク(PJM, H=24h)では、BTは0.0289のCRPSを達成し、Deep Ensemblesより7.4%、決定論的LSTMより29.9%改善した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The reliable operation of modern power grids requires probabilistic load forecasts with well-calibrated uncertainty estimates. However, existing deep learning models produce overconfident point predictions that fail catastrophically under extreme weather distributional shifts. This study proposes a Bayesian Transformer (BT) framework that integrates three complementary uncertainty mechanisms into a PatchTST backbone: Monte Carlo Dropout for epistemic parameter uncertainty, variational feed-forward layers with log-uniform weight priors, and stochastic attention with learnable Gaussian noise perturbations on pre-softmax logits, representing, to the best of our knowledge, the first application of Bayesian attention to probabilistic load forecasting. A seven-level multi-quantile pinball-loss prediction head and post-training isotonic regression calibration produce sharp, near-nominally covered prediction intervals. Evaluation of five grid datasets (PJM, ERCOT, ENTSO-E Germany, France, and Great Britain) augmented with NOAA covariates across 24, 48, and 168-hour horizons demonstrates state-of-the-art performance. On the primary benchmark (PJM, H=24h), BT achieves a CRPS of 0.0289, improving 7.4% over Deep Ensembles and 29.9% over the deterministic LSTM, with 90.4% PICP at the 90% nominal level and the narrowest prediction intervals (4,960 MW) among all probabilistic baselines. During heat-wave and cold snap events, BT maintained 89.6% and 90.1% PICP respectively, versus 64.7% and 67.2% for the deterministic LSTM, confirming that Bayesian epistemic uncertainty naturally widens intervals for out-of-distribution inputs. Calibration remained stable across all horizons (89.8-90.4% PICP), while ablation confirmed that each component contributed a distinct value. The calibrated outputs directly support risk-based reserve sizing, stochastic unit commitment, and demand response activation.
• Abstract（参考訳）: 現代の電力網の信頼性の高い運用には、よく校正された不確実性推定を伴う確率的負荷予測が必要である。 しかし、既存のディープラーニングモデルは、極度の気象分布シフトの下で破滅的に失敗する過信点予測を生成する。 本研究では,3つの相補的不確実性機構をPatchTSTバックボーンに統合したベイズ変圧器(BT)フレームワークを提案する。 7段階のマルチクエンタリーピンボールロス予測ヘッドと、訓練後の等音波回帰キャリブレーションにより、鋭く、ほぼ一意にカバーされた予測間隔が生成される。 5つのグリッドデータセット(PJM, ERCOT, ENTSO-E Germany, France, Great Britain)をNOAA共変量で24時間48時間168時間の水平線で評価すると、最先端の性能を示す。 主要なベンチマーク(PJM, H=24h)では、BTは0.0289のCRPSを達成し、Deep Ensemblesよりも7.4%、決定論的LSTMより29.9%向上し、9.4%のPICPが90%、予測間隔は4,960 MWである。 熱波とコールドスナップイベントの間、BTはそれぞれ89.6%と90.1%のPICPを維持したが、決定論的LSTMでは64.7%と67.2%であり、ベイズ病がアウト・オブ・ディストリビューションの入力に対して自然に間隔を広げていることが確認された。 キャリブレーションはすべての地平線(89.8-90.4% PICP)で安定であり、アブレーションは各成分が異なる値であることを確認した。 キャリブレーションされた出力は、リスクベースのリザーブサイズ、確率単位のコミットメント、要求応答の活性化を直接サポートする。

関連論文リスト

• Activation Outliers in Transformer Quantization: Reproduction, Statistical Analysis, and Deployment Tradeoffs [0.0]
  変圧器のポストトレーニング量子化(PTQ)は、構造化されたアクティベーションアウトリアによる精度の低下に悩まされていることが知られている。 本稿では,QNLIで微調整されたBERTベースにおける再現可能な経験的再現と,その現象のシステムレベルの拡張について述べる。
  論文  参考訳（メタデータ） (2026-03-04T17:26:29Z)
• Variational Inference for Bayesian MIDAS Regression [0.0]
  線形重みパラメータージネーションを用いた回帰のための座標アセント変分推論 (CAVI) アルゴリズムを開発した。 CAVIは、107xから1,772xのスピードアップを達成しつつ、ブロックギブスサンプリングベンチマークとほぼ同一の後方手段を生成する。 重み関数パラメータは、すべてのcon gurationに対して優れたキャリブレーション(カバーは92%以上)を維持している。
  論文  参考訳（メタデータ） (2026-02-23T08:51:26Z)
• Uncertainty-Aware Deep Learning Framework for Remaining Useful Life Prediction in Turbofan Engines with Learned Aleatoric Uncertainty [0.0]
  本研究は,確率論的モデリングにより,アレータリックな不確実性を直接学習する,新しい不確実性を考慮したディープラーニングフレームワークを提案する。 本フレームワークは,RMSEが5.14,6.89,5.27,7.16で,ブレークスルークリティカルゾーン性能(RUL=30サイクル)を達成する。 学習された不確実性は95パーセントの信頼区間を提供し、カバー範囲は93.5パーセントから95.2%までであり、リスク対応のメンテナンススケジュールを可能にしている。
  論文  参考訳（メタデータ） (2025-11-24T13:53:31Z)
• Bridging the Gap Between Bayesian Deep Learning and Ensemble Weather Forecasts [100.26854618129039]
  天気予報は、大気のカオス的な性質によって根本的に挑戦されている。 ベイジアンディープラーニング(BDL)の最近の進歩は、有望だがしばしば非接続な代替手段を提供する。 気象予報のための統合型BDLフレームワークにより,これらのパラダイムを橋渡しする。
  論文  参考訳（メタデータ） (2025-11-18T07:49:52Z)
• Agentic World Modeling for 6G: Near-Real-Time Generative State-Space Reasoning [70.56067503630486]
  第6世代(6G)インテリジェンスは、流動的なトークン予測ではなく、想像と選択の能力を校正している、と我々は主張する。 We showed that WM-MS3M cuts mean absolute error (MAE) by 1.69% vs MS3M with 32% less parameters and similar latency, and achieve a 35-80% lower root mean squared error (RMSE) than attention/hybrid baselines with 2.3-4.1x faster inference。
  論文  参考訳（メタデータ） (2025-11-04T17:22:22Z)
• SPADE-S: A Sparsity-Robust Foundational Forecaster [31.818058575031888]
  SPADE-Sは、マグニチュードとスパシティベースの体系的バイアスを著しく低減し、全体的な予測精度を向上させる頑健な予測アーキテクチャである。 本研究では,SPADE-Sが予測精度を最大15%向上できることを示す。
  論文  参考訳（メタデータ） (2025-07-24T19:30:24Z)
• When Rigidity Hurts: Soft Consistency Regularization for Probabilistic Hierarchical Time Series Forecasting [69.30930115236228]
  確率的階層的時系列予測は時系列予測の重要な変種である。 ほとんどの手法は点予測に焦点を絞っており、確率的確率分布を十分に調整していない。 ProFHiTは,階層全体の予測分布を共同でモデル化する完全確率的階層予測モデルである。
  論文  参考訳（メタデータ） (2023-10-17T20:30:16Z)
• When Rigidity Hurts: Soft Consistency Regularization for Probabilistic Hierarchical Time Series Forecasting [69.30930115236228]
  確率的階層的時系列予測は時系列予測の重要な変種である。 ほとんどの手法は点予測に焦点を絞っており、確率的確率分布を十分に調整していない。 ProFHiTは,階層全体の予測分布を共同でモデル化する完全確率的階層予測モデルである。
  論文  参考訳（メタデータ） (2022-06-16T06:13:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。