論文の概要: Prediction intervals for Deep Neural Networks
- arxiv url: http://arxiv.org/abs/2010.04044v2
- Date: Thu, 13 May 2021 09:16:19 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-09 11:49:57.287651
- Title: Prediction intervals for Deep Neural Networks
- Title(参考訳): ディープニューラルネットワークの予測間隔
- Authors: Tullio Mancini, Hector Calvo-Pardo, and Jose Olmo
- Abstract要約: ニューラルネットワークのアンサンブルを構築するために,もともとランダム林向けに開発されたランダム化木法を適用した。
アンサンブルで導入された超ランダム性は、予測のばらつきを減少させ、サンプル外の精度で利得を得る。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The aim of this paper is to propose a suitable method for constructing
prediction intervals for the output of neural network models. To do this, we
adapt the extremely randomized trees method originally developed for random
forests to construct ensembles of neural networks. The extra-randomness
introduced in the ensemble reduces the variance of the predictions and yields
gains in out-of-sample accuracy. An extensive Monte Carlo simulation exercise
shows the good performance of this novel method for constructing prediction
intervals in terms of coverage probability and mean square prediction error.
This approach is superior to state-of-the-art methods extant in the literature
such as the widely used MC dropout and bootstrap procedures. The out-of-sample
accuracy of the novel algorithm is further evaluated using experimental
settings already adopted in the literature.
- Abstract(参考訳): 本稿では,ニューラルネットワークモデルの出力に対する予測区間を構築するための適切な手法を提案する。
そこで本研究では,ランダム林を対象とした超ランダム化木手法を応用し,ニューラルネットワークのアンサンブルを構築する。
アンサンブルに導入された超ランダム性は予測のばらつきを減少させ、サンプルの精度が向上する。
モンテカルロの広範囲なシミュレーション実験により,この予測間隔を範囲確率と平均2乗予測誤差で構築する手法の優れた性能を示す。
このアプローチは、広く使われているMCドロップアウトやブートストラップ手順などの文献で使われている最先端の手法よりも優れている。
論文ですでに採用されている実験的な設定を用いて,新しいアルゴリズムのサンプル外精度を更に評価する。
関連論文リスト
- Uncertainty Quantification via Stable Distribution Propagation [60.065272548502]
本稿では,ニューラルネットワークによる安定確率分布の伝播手法を提案する。
提案手法は局所線形化に基づいており,ReLU非線型性に対する全変動距離の近似値として最適であることを示す。
論文 参考訳(メタデータ) (2024-02-13T09:40:19Z) - Confidence estimation of classification based on the distribution of the
neural network output layer [4.529188601556233]
現実の世界における予測モデルの適用を防ぐための最も一般的な問題の1つは一般化の欠如である。
ニューラルネットワーク分類モデルにより生成された特定の予測の不確かさを推定する新しい手法を提案する。
提案手法は,この予測に対応するロジット値の分布に基づいて,特定の予測の信頼性を推定する。
論文 参考訳(メタデータ) (2022-10-14T12:32:50Z) - Scalable computation of prediction intervals for neural networks via
matrix sketching [79.44177623781043]
既存の不確実性推定アルゴリズムでは、モデルアーキテクチャとトレーニング手順を変更する必要がある。
本研究では、与えられたトレーニングされたニューラルネットワークに適用し、近似予測間隔を生成できる新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-05-06T13:18:31Z) - NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural
Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。
種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文 参考訳(メタデータ) (2022-02-07T12:30:45Z) - Dense Uncertainty Estimation [62.23555922631451]
本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。
本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
論文 参考訳(メタデータ) (2021-10-13T01:23:48Z) - Rapid Risk Minimization with Bayesian Models Through Deep Learning
Approximation [9.93116974480156]
本稿では,ベイズモデル (BM) とニューラルネットワーク (NN) を組み合わせて,予測を最小限のリスクで行う手法を提案する。
私たちのアプローチは、BMのデータ効率と解釈可能性とNNの速度を組み合わせます。
テストデータセットに無視できる損失がある標準手法よりも、リスク最小限の予測をはるかに高速に達成する。
論文 参考訳(メタデータ) (2021-03-29T15:08:25Z) - Sampling-free Variational Inference for Neural Networks with
Multiplicative Activation Noise [51.080620762639434]
サンプリングフリー変動推論のための後方近似のより効率的なパラメータ化を提案する。
提案手法は,標準回帰問題に対する競合的な結果をもたらし,大規模画像分類タスクに適している。
論文 参考訳(メタデータ) (2021-03-15T16:16:18Z) - Robust and integrative Bayesian neural networks for likelihood-free
parameter inference [0.0]
要約統計を学習するための最先端のニューラルネットワークベースの手法は、シミュレーションベースの確率自由パラメータ推論に有望な結果をもたらした。
本研究では,ベイズニューラルネットワークを用いて要約統計学を学習し,カテゴリー分布を用いて後部密度を直接推定する頑健な統合手法を提案する。
論文 参考訳(メタデータ) (2021-02-12T13:45:23Z) - Improving Maximum Likelihood Training for Text Generation with Density
Ratio Estimation [51.091890311312085]
本稿では,テキスト生成で遭遇する大規模なサンプル空間において,効率よく安定な自動回帰シーケンス生成モデルのトレーニング手法を提案する。
本手法は,品質と多様性の両面で,最大類似度推定や他の最先端シーケンス生成モデルよりも安定に優れている。
論文 参考訳(メタデータ) (2020-07-12T15:31:24Z) - Conformal Prediction Intervals for Neural Networks Using Cross
Validation [0.0]
ニューラルネットワークは、教師付き学習問題に対処するために使用される最も強力な非線形モデルの一つである。
ニューラルネットワークの予測区間を$k$-foldのクロスバリデーションに基づいて構築するための$k$-fold予測区間法を提案する。
論文 参考訳(メタデータ) (2020-06-30T16:23:28Z) - Ensemble methods for neural network-based weather forecasts [0.0]
我々は,決定論的ニューラルネットワーク天気予報システムをアンサンブル予測システムに変換することを目指している。
ランダムな初期摂動、ニューラルネットワークの再学習、ネットワークにおけるランダムなドロップアウトの使用、特異ベクトル分解による初期摂動の生成の4つの方法をテストする。
論文 参考訳(メタデータ) (2020-02-13T09:28:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。