論文の概要: A Benchmark on Uncertainty Quantification for Deep Learning Prognostics
- arxiv url: http://arxiv.org/abs/2302.04730v1
- Date: Thu, 9 Feb 2023 16:12:47 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-10 15:16:29.523070
- Title: A Benchmark on Uncertainty Quantification for Deep Learning Prognostics
- Title（参考訳）: 深層学習予測における不確実性定量化のベンチマーク
- Authors: Luis Basora, Arthur Viens, Manuel Arias Chao, Xavier Olive
- Abstract要約: 診断学的な深層学習のための不確実性定量化の分野における最新の発展のいくつかを評価する。
これには、ベイズニューラルネットワーク(BNN)の最先端の変分推論アルゴリズムや、モンテカルロ・ドロップアウト(MCD)、ディープアンサンブル(DE)、ヘテロセダスティックニューラルネットワーク(HNN)などの一般的な代替品が含まれる。
この手法の性能は、NASA NCMAPSSの航空機エンジン用データセットのサブセットで評価される。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reliable uncertainty quantification on RUL prediction is crucial for
informative decision-making in predictive maintenance. In this context, we
assess some of the latest developments in the field of uncertainty
quantification for prognostics deep learning. This includes the
state-of-the-art variational inference algorithms for Bayesian neural networks
(BNN) as well as popular alternatives such as Monte Carlo Dropout (MCD), deep
ensembles (DE) and heteroscedastic neural networks (HNN). All the inference
techniques share the same inception deep learning architecture as a functional
model. We performed hyperparameter search to optimize the main variational and
learning parameters of the algorithms. The performance of the methods is
evaluated on a subset of the large NASA NCMAPSS dataset for aircraft engines.
The assessment includes RUL prediction accuracy, the quality of predictive
uncertainty, and the possibility to break down the total predictive uncertainty
into its aleatoric and epistemic parts. The results show no method clearly
outperforms the others in all the situations. Although all methods are close in
terms of accuracy, we find differences in the way they estimate uncertainty.
Thus, DE and MCD generally provide more conservative predictive uncertainty
than BNN. Surprisingly, HNN can achieve strong results without the added
training complexity and extra parameters of the BNN. For tasks like active
learning where a separation of epistemic and aleatoric uncertainty is required,
radial BNN and MCD seem the best options.
- Abstract（参考訳）: RUL予測に対する信頼性の高い不確実性定量化は、予測保守における情報的意思決定に不可欠である。
この文脈では,先天的深層学習における不確実性定量化の分野における最近の進歩について検討する。
これには、ベイジアンニューラルネットワーク(BNN)の最先端の変分推論アルゴリズムや、モンテカルロ・ドロップアウト(MCD)、ディープアンサンブル(DE)、ヘテロセダスティックニューラルネットワーク(HNN)などの一般的な代替品が含まれる。
すべての推論手法は、関数型モデルと同じ創発的なディープラーニングアーキテクチャを共有します。
アルゴリズムの主な変動パラメータと学習パラメータを最適化するためにハイパーパラメータ探索を行った。
この手法の性能は、航空機エンジン用の大きなnasa ncmapssデータセットのサブセットで評価される。
この評価には、RUL予測精度、予測不確実性の品質、および予測不確実性全体のアレターおよびてんかん部位に分解する可能性が含まれる。
結果は,すべての状況において,他の方法よりも明らかに優れていないことを示している。
全ての手法は精度では近いが、不確実性を推定する方法には違いがある。
したがって、DECとMCDは一般的にBNNよりも保守的な予測の不確実性をもたらす。
驚くべきことに、HNNはトレーニングの複雑さやBNNの余分なパラメータを追加せずに、強力な結果を得ることができる。
認識論的不確実性の分離が必要なアクティブラーニングのようなタスクでは、ラジアルbnnとmcdが最適である。
関連論文リスト
- Learning Solutions of Stochastic Optimization Problems with Bayesian Neural Networks [4.202961704179733]
多くの実世界の設定において、これらのパラメータのいくつかは未知または不確かである。
最近の研究は、利用可能なコンテキスト特徴を用いて未知のパラメータの値を予測することに焦点を当てている。
本稿では、不確実性ニューラルネットワーク(BNN)をモデル化し、この不確実性を数学的解法に伝達する新しい枠組みを提案する。
論文 参考訳（メタデータ） (2024-06-05T09:11:46Z) - Uncertainty Quantification in Multivariable Regression for Material Property Prediction with Bayesian Neural Networks [37.69303106863453]
物理インフォームドBNNにおける不確実性定量化(UQ)のアプローチを提案する。
本稿では, 鋼のクリープ破断寿命を予測するためのケーススタディを提案する。
クリープ寿命予測の最も有望なフレームワークは、マルコフ・チェイン・モンテカルロによるネットワークパラメータの後方分布の近似に基づくBNNである。
論文 参考訳（メタデータ） (2023-11-04T19:40:16Z) - Density Regression and Uncertainty Quantification with Bayesian Deep
Noise Neural Networks [4.376565880192482]
ディープニューラルネットワーク(DNN)モデルは、幅広い教師付き学習アプリケーションにおいて最先端の予測精度を達成した。
DNN予測の不確実性を正確に定量化することは、依然として難しい課題である。
本稿では,ベイジアンディープノイズニューラルネットワーク (B-DeepNoise) を提案する。ベイジアンDNNは,ランダムノイズ変数をすべての隠蔽層に拡張することにより,標準ベイジアンDNNを一般化する。
予測精度,不確実性定量化精度,不確実性定量化効率の点で優れた性能を示した。
論文 参考訳（メタデータ） (2022-06-12T02:47:29Z) - The Unreasonable Effectiveness of Deep Evidential Regression [72.30888739450343]
不確実性を考慮した回帰ベースニューラルネットワーク(NN)による新しいアプローチは、従来の決定論的手法や典型的なベイズ的NNよりも有望であることを示している。
我々は、理論的欠点を詳述し、合成および実世界のデータセットのパフォーマンスを分析し、Deep Evidential Regressionが正確な不確実性ではなく定量化であることを示す。
論文 参考訳（メタデータ） (2022-05-20T10:10:32Z) - NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural
Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。
種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文 参考訳（メタデータ） (2022-02-07T12:30:45Z) - Robustification of Online Graph Exploration Methods [59.50307752165016]
我々は、古典的で有名なオンライングラフ探索問題の学習強化版について研究する。
本稿では,予測をよく知られたNearest Neighbor(NN)アルゴリズムに自然に統合するアルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-12-10T10:02:31Z) - Dense Uncertainty Estimation [62.23555922631451]
本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。
本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
論文 参考訳（メタデータ） (2021-10-13T01:23:48Z) - Probabilistic Neighbourhood Component Analysis: Sample Efficient
Uncertainty Estimation in Deep Learning [25.8227937350516]
トレーニングデータの量が少ない場合,最先端のBNNとDeep Ensembleモデルの不確実性推定能力は著しく低下することを示す。
サンプル効率の高い非パラメトリックkNN手法の確率的一般化を提案する。
我々のアプローチは、深いkNNがその予測において根底にある不確かさを正確に定量化することを可能にする。
論文 参考訳（メタデータ） (2020-07-18T21:36:31Z) - Revisiting One-vs-All Classifiers for Predictive Uncertainty and
Out-of-Distribution Detection in Neural Networks [22.34227625637843]
識別型分類器における確率のパラメトリゼーションが不確実性推定に与える影響について検討する。
画像分類タスクのキャリブレーションを改善するために, 1-vs-all の定式化が可能であることを示す。
論文 参考訳（メタデータ） (2020-07-10T01:55:02Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳（メタデータ） (2020-06-26T13:50:19Z) - Frequentist Uncertainty in Recurrent Neural Networks via Blockwise
Influence Functions [121.10450359856242]
リカレントニューラルネットワーク(RNN)は、シーケンシャルおよび時系列データのモデリングに有効である。
RNNにおける既存の不確実性定量化のアプローチは、主にベイズ法に基づいている。
a)モデルトレーニングに干渉せず、その精度を損なうことなく、(b)任意のRNNアーキテクチャに適用し、(c)推定不確かさ間隔に関する理論的カバレッジ保証を提供する。
論文 参考訳（メタデータ） (2020-06-20T22:45:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。