論文の概要: Aggregating distribution forecasts from deep ensembles

• arxiv url: http://arxiv.org/abs/2204.02291v2
• Date: Fri, 08 Nov 2024 15:58:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-11 18:11:18.690400
• Title: Aggregating distribution forecasts from deep ensembles
• Title（参考訳）: 深層アンサンブルからの集合分布予測
• Authors: Benedikt Schulz, Lutz Köhler, Sebastian Lerch,
• Abstract要約: 本稿では,ディープアンサンブルのための一般的な量子集約フレームワークを提案する。 深層アンサンブルからの予測分布を組み合わせることで,予測性能を大幅に向上できることを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: The importance of accurately quantifying forecast uncertainty has motivated much recent research on probabilistic forecasting. In particular, a variety of deep learning approaches has been proposed, with forecast distributions obtained as output of neural networks. These neural network-based methods are often used in the form of an ensemble, e.g., based on multiple model runs from different random initializations or more sophisticated ensembling strategies such as dropout, resulting in a collection of forecast distributions that need to be aggregated into a final probabilistic prediction. With the aim of consolidating findings from the machine learning literature on ensemble methods and the statistical literature on forecast combination, we address the question of how to aggregate distribution forecasts based on such `deep ensembles'. Using theoretical arguments and a comprehensive analysis on twelve benchmark data sets, we systematically compare probability- and quantile-based aggregation methods for three neural network-based approaches with different forecast distribution types as output. Our results show that combining forecast distributions from deep ensembles can substantially improve the predictive performance. We propose a general quantile aggregation framework for deep ensembles that allows for corrections of systematic deficiencies and performs well in a variety of settings, often superior compared to a linear combination of the forecast densities. Finally, we investigate the effects of the ensemble size and derive recommendations of aggregating distribution forecasts from deep ensembles in practice.
• Abstract（参考訳）: 予測の不確実性を正確に定量化することの重要性は、確率予測に関する最近の研究を動機付けている。 特に、ニューラルネットワークの出力として予測分布が得られた様々なディープラーニングアプローチが提案されている。 これらのニューラルネットワークベースの手法は、異なるランダム初期化から実行される複数のモデルに基づくアンサンブルや、ドロップアウトのようなより洗練されたアンサンブル戦略によって、最終的な確率的予測に集約される必要がある予測分布の収集など、しばしば使用される。 このような「深層アンサンブル」に基づいて分布予測をどのように集約するかという問題に対して,機械学習文献のアンサンブル法と予測組み合わせに関する統計文献の統合をめざして検討する。 提案手法は,12のベンチマークデータセットに関する理論的議論と包括的分析を用いて,予測分布型が異なる3つのニューラルネットワークに基づく手法の確率的および量子的アグリゲーション手法を出力として体系的に比較する。 以上の結果から,深層アンサンブルからの予測分布を組み合わせることにより,予測性能が大幅に向上することが示唆された。 本研究では,システム的欠陥の補正を可能にするディープアンサンブルのための一般的な量子集約フレームワークを提案する。 最後に,アンサンブルサイズの影響について検討し,実際のディープアンサンブルから分布予測を集約する手法を提案する。

関連論文リスト

• When Rigidity Hurts: Soft Consistency Regularization for Probabilistic Hierarchical Time Series Forecasting [69.30930115236228]
  確率的階層的時系列予測は時系列予測の重要な変種である。 ほとんどの手法は点予測に焦点を絞っており、確率的確率分布を十分に調整していない。 ProFHiTは,階層全体の予測分布を共同でモデル化する完全確率的階層予測モデルである。
  論文  参考訳（メタデータ） (2023-10-17T20:30:16Z)
• Postprocessing of Ensemble Weather Forecasts Using Permutation-invariant Neural Networks [0.0]
  予測アンサンブルを未順序メンバー予測の集合として扱うネットワークを提案する。 キャリブレーションとシャープネスの観点から,得られた予測分布の質を評価する。 以上の結果から,関連する情報の大部分は,ある程度の自由度に含まれていることが示唆された。
  論文  参考訳（メタデータ） (2023-09-08T17:20:51Z)
• Distributionally Robust Machine Learning with Multi-source Data [6.383451076043423]
  対象分布のクラスに対する説明分散に関する逆報酬を最適化するために,群分布に頑健な予測モデルを導入する。 従来の経験的リスク最小化と比較して,提案した頑健な予測モデルでは,分布シフトを伴う対象集団の予測精度が向上する。 ランダムな森林とニューラルネットワークをベースラーニングアルゴリズムとして用いたシミュレーションおよび実データに対して,提案したグループ分散ロバストな手法の性能を示す。
  論文  参考訳（メタデータ） (2023-09-05T13:19:40Z)
• Structured Radial Basis Function Network: Modelling Diversity for Multiple Hypotheses Prediction [51.82628081279621]
  多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。 構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。 この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
  論文  参考訳（メタデータ） (2023-09-02T01:27:53Z)
• When Rigidity Hurts: Soft Consistency Regularization for Probabilistic Hierarchical Time Series Forecasting [69.30930115236228]
  確率的階層的時系列予測は時系列予測の重要な変種である。 ほとんどの手法は点予測に焦点を絞っており、確率的確率分布を十分に調整していない。 ProFHiTは,階層全体の予測分布を共同でモデル化する完全確率的階層予測モデルである。
  論文  参考訳（メタデータ） (2022-06-16T06:13:53Z)
• Forecast combinations: an over 50-year review [16.590353808305245]
  予報の組み合わせは予報コミュニティで著しく繁栄している。 本稿では,予測組み合わせに関する文献を概観する。 様々な手法の可能性と限界について議論し、これらのアイデアが時間とともにどのように発展してきたかを明らかにする。
  論文  参考訳（メタデータ） (2022-05-09T12:14:02Z)
• A Top-Down Approach to Hierarchically Coherent Probabilistic Forecasting [21.023456590248827]
  注意に基づく新しいRNNモデルを用いて、各親予測が任意の時点において、その子ノード間で分割される割合の分布を学習する。 結果の予測はトップダウンで計算され、自然にコヒーレントである。
  論文  参考訳（メタデータ） (2022-04-21T21:32:28Z)
• Distributional Gradient Boosting Machines [77.34726150561087]
  私たちのフレームワークはXGBoostとLightGBMをベースにしています。 我々は,このフレームワークが最先端の予測精度を実現することを示す。
  論文  参考訳（メタデータ） (2022-04-02T06:32:19Z)
• Learning Structured Gaussians to Approximate Deep Ensembles [10.055143995729415]
  本稿では,スパース構造多変量ガウシアンを用いて,高密度画像予測タスクのための閉形式近似器を提案する。 正規分布における予測の不確かさと構造的相関を、サンプリング単独で暗黙的にではなく、明示的に捉える。 単分子深度推定におけるアプローチの利点を実証し,本手法の利点が同等の定量的性能で得られることを示す。
  論文  参考訳（メタデータ） (2022-03-29T12:34:43Z)
• Probabilistic electric load forecasting through Bayesian Mixture Density Networks [70.50488907591463]
  確率的負荷予測(PLF)は、スマートエネルギーグリッドの効率的な管理に必要な拡張ツールチェーンの重要なコンポーネントです。 ベイジアン混合密度ネットワークを枠とした新しいPLFアプローチを提案する。 後方分布の信頼性と計算にスケーラブルな推定を行うため,平均場変動推定と深層アンサンブルを統合した。
  論文  参考訳（メタデータ） (2020-12-23T16:21:34Z)
• Video Prediction via Example Guidance [156.08546987158616]
  ビデオ予測タスクでは、将来のコンテンツとダイナミクスのマルチモーダルな性質を捉えることが大きな課題である。 本研究では,有効な将来状態の予測を効果的に行うための,シンプルで効果的なフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-07-03T14:57:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。