論文の概要: Optimal Uncertainty-guided Neural Network Training
- arxiv url: http://arxiv.org/abs/1912.12761v1
- Date: Mon, 30 Dec 2019 00:03:28 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-17 02:07:11.693210
- Title: Optimal Uncertainty-guided Neural Network Training
- Title(参考訳): 最適不確実性誘導ニューラルネットワークトレーニング
- Authors: H M Dipu Kabir, Abbas Khosravi, Abdollah Kavousi-Fard, Saeid
Nahavandi, Dipti Srinivasan
- Abstract要約: 最適PIを構築するためにNNを開発するために,高度にカスタマイズ可能なスムーズなコスト関数を提案する。
提案手法は,PIの品質の変動を低減し,トレーニングを加速し,収束確率を99.2%から99.8%に向上させる。
- 参考スコア(独自算出の注目度): 14.768115786212187
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: The neural network (NN)-based direct uncertainty quantification (UQ) methods
have achieved the state of the art performance since the first inauguration,
known as the lower-upper-bound estimation (LUBE) method. However,
currently-available cost functions for uncertainty guided NN training are not
always converging and all converged NNs are not generating optimized prediction
intervals (PIs). Moreover, several groups have proposed different quality
criteria for PIs. These raise a question about their relative effectiveness.
Most of the existing cost functions of uncertainty guided NN training are not
customizable and the convergence of training is uncertain. Therefore, in this
paper, we propose a highly customizable smooth cost function for developing NNs
to construct optimal PIs. The optimized average width of PIs, PI-failure
distances and the PI coverage probability (PICP) are computed for the test
dataset. The performance of the proposed method is examined for the wind power
generation and the electricity demand data. Results show that the proposed
method reduces variation in the quality of PIs, accelerates the training, and
improves convergence probability from 99.2% to 99.8%.
- Abstract(参考訳): ニューラルネットワーク(NN)に基づく直接不確実性定量化(UQ)法は、Low-upper-bound Estimation(LUBE)法として知られる最初の開始以来、技術パフォーマンスの状態を達成している。
しかし、現在利用可能な不確実性NNトレーニングのコスト関数は必ずしも収束せず、すべての収束NNは最適化予測間隔(PI)を生成していない。
さらに、いくつかのグループがPIの異なる品質基準を提案している。
これらは相対的有効性に関する疑問を提起する。
不確実性誘導NNトレーニングの既存のコスト関数のほとんどはカスタマイズ可能ではなく、トレーニングの収束性は不確実である。
そこで本稿では,NNを最適に構築するためのスムーズなコスト関数を提案する。
テストデータセットに対して、PIの最適化平均幅、PI欠陥距離、PICP(PI coverage probability)を算出する。
風力発電および電力需要データについて,提案手法の性能について検討した。
提案手法は,PIの品質の変動を低減し,トレーニングを加速し,収束確率を99.2%から99.8%に向上させる。
関連論文リスト
- RoPINN: Region Optimized Physics-Informed Neural Networks [66.38369833561039]
物理インフォームドニューラルネットワーク(PINN)は偏微分方程式(PDE)の解法として広く応用されている。
本稿では,地域最適化としての新たな訓練パラダイムを提案し,理論的に検討する。
実践的なトレーニングアルゴリズムであるRerea Optimized PINN(RoPINN)は、この新しいパラダイムからシームレスに派生している。
論文 参考訳(メタデータ) (2024-05-23T09:45:57Z) - Conformalized Physics-Informed Neural Networks [0.8437187555622164]
本稿では,C-PINN(Conformalized PINN)を導入し,PINNの不確実性を定量化する。
C-PINNは、共形予測の枠組みを利用して、PINNの不確実性を定量化する。
論文 参考訳(メタデータ) (2024-05-13T18:45:25Z) - A Benchmark on Uncertainty Quantification for Deep Learning Prognostics [0.0]
診断学的な深層学習のための不確実性定量化の分野における最新の発展のいくつかを評価する。
これには、ベイズニューラルネットワーク(BNN)の最先端の変分推論アルゴリズムや、モンテカルロ・ドロップアウト(MCD)、ディープアンサンブル(DE)、ヘテロセダスティックニューラルネットワーク(HNN)などの一般的な代替品が含まれる。
この手法の性能は、NASA NCMAPSSの航空機エンジン用データセットのサブセットで評価される。
論文 参考訳(メタデータ) (2023-02-09T16:12:47Z) - Failure-informed adaptive sampling for PINNs [5.723850818203907]
物理学インフォームドニューラルネットワーク(PINN)は、幅広い領域でPDEを解決する効果的な手法として登場した。
しかし、最近の研究では、異なるサンプリング手順でPINNの性能が劇的に変化することが示されている。
本稿では,信頼度分析の視点から,故障インフォームドPINNという適応的手法を提案する。
論文 参考訳(メタデータ) (2022-10-01T13:34:41Z) - Revisiting PINNs: Generative Adversarial Physics-informed Neural
Networks and Point-weighting Method [70.19159220248805]
物理インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)を数値的に解くためのディープラーニングフレームワークを提供する
本稿では,GA機構とPINNの構造を統合したGA-PINNを提案する。
本稿では,Adaboost法の重み付け戦略からヒントを得て,PINNのトレーニング効率を向上させるためのPW法を提案する。
論文 参考訳(メタデータ) (2022-05-18T06:50:44Z) - Comparative Analysis of Interval Reachability for Robust Implicit and
Feedforward Neural Networks [64.23331120621118]
我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。
INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。
提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
論文 参考訳(メタデータ) (2022-04-01T03:31:27Z) - NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural
Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。
種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文 参考訳(メタデータ) (2022-02-07T12:30:45Z) - The Benefit of the Doubt: Uncertainty Aware Sensing for Edge Computing
Platforms [10.86298377998459]
組込みエッジシステム上に展開されたNNにおける予測不確実性推定のための効率的なフレームワークを提案する。
フレームワークは1つのフォワードパスのみに基づいて予測の不確実性を提供するために、ゼロから構築されている。
提案手法は, 堅牢かつ正確な不確実性推定だけでなく, システム性能の点で最先端の手法よりも優れている。
論文 参考訳(メタデータ) (2021-02-11T11:44:32Z) - Amortized Conditional Normalized Maximum Likelihood: Reliable Out of
Distribution Uncertainty Estimation [99.92568326314667]
本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。
提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。
我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
論文 参考訳(メタデータ) (2020-11-05T08:04:34Z) - Revisiting One-vs-All Classifiers for Predictive Uncertainty and
Out-of-Distribution Detection in Neural Networks [22.34227625637843]
識別型分類器における確率のパラメトリゼーションが不確実性推定に与える影響について検討する。
画像分類タスクのキャリブレーションを改善するために, 1-vs-all の定式化が可能であることを示す。
論文 参考訳(メタデータ) (2020-07-10T01:55:02Z) - Frequentist Uncertainty in Recurrent Neural Networks via Blockwise
Influence Functions [121.10450359856242]
リカレントニューラルネットワーク(RNN)は、シーケンシャルおよび時系列データのモデリングに有効である。
RNNにおける既存の不確実性定量化のアプローチは、主にベイズ法に基づいている。
a)モデルトレーニングに干渉せず、その精度を損なうことなく、(b)任意のRNNアーキテクチャに適用し、(c)推定不確かさ間隔に関する理論的カバレッジ保証を提供する。
論文 参考訳(メタデータ) (2020-06-20T22:45:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。