論文の概要: Towards Reliable Uncertainty Quantification via Deep Ensembles in
Multi-output Regression Task
- arxiv url: http://arxiv.org/abs/2303.16210v4
- Date: Fri, 24 Nov 2023 03:56:54 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-28 04:30:51.342444
- Title: Towards Reliable Uncertainty Quantification via Deep Ensembles in
Multi-output Regression Task
- Title（参考訳）: 多出力回帰タスクにおけるディープアンサンブルによる信頼性不確実性定量化に向けて
- Authors: Sunwoong Yang, Kwanjung Yee
- Abstract要約: 本研究は,多出力回帰タスクにおいて,近似ベイズ推論であるディープアンサンブルアプローチについて検討することを目的とする。
増大する不確実性の過小評価の傾向を初めて観察する。
本稿では,その不確実性定量化性能を向上させるために,ポストホックキャリブレーション法を適用したディープアンサンブルフレームワークを提案する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This study aims to comprehensively investigate the deep ensemble approach, an
approximate Bayesian inference, in the multi-output regression task for
predicting the aerodynamic performance of a missile configuration. To this end,
the effect of the number of neural networks used in the ensemble, which has
been blindly adopted in previous studies, is scrutinized. As a result, an
obvious trend towards underestimation of uncertainty as it increases is
observed for the first time, and in this context, we propose the deep ensemble
framework that applies the post-hoc calibration method to improve its
uncertainty quantification performance. It is compared with Gaussian process
regression and is shown to have superior performance in terms of regression
accuracy ($\uparrow55\sim56\%$), reliability of estimated uncertainty
($\uparrow38\sim77\%$), and training efficiency ($\uparrow78\%$). Finally, the
potential impact of the suggested framework on the Bayesian optimization is
briefly examined, indicating that deep ensemble without calibration may lead to
unintended exploratory behavior. This UQ framework can be seamlessly applied
and extended to any regression task, as no special assumptions have been made
for the specific problem used in this study.
- Abstract（参考訳）: 本研究では,ミサイル配置の空力性能を予測するマルチアウトプット回帰タスクにおいて,近似ベイズ推定法であるディープアンサンブル法を包括的に検討することを目的とした。
この目的のために、従来の研究で盲目的に採用されてきたアンサンブルで使用されるニューラルネットワークの数の影響を精査する。
その結果,不確実性の過小評価の傾向を初めて観測し,その不確実性定量化性能を向上させるためにポストホックキャリブレーション法を適用したディープアンサンブルフレームワークを提案する。
ガウス過程の回帰と比較すると、回帰精度(\uparrow55\sim56\%$)、推定不確実性の信頼性(\uparrow38\sim77\%$)、訓練効率(\uparrow78\%$)の点で優れた性能を示す。
最後に,提案フレームワークがベイズ最適化に与える影響について概説し,キャリブレーションのない深層アンサンブルが意図しない探索行動を引き起こす可能性を示唆した。
このuqフレームワークは,特定の問題に対して特別な仮定がなされていないため,任意の回帰タスクにシームレスに適用および拡張することができる。
関連論文リスト
- Calibrated Probabilistic Forecasts for Arbitrary Sequences [58.54729945445505]
実際のデータストリームは、分散シフトやフィードバックループ、敵アクターによって予測不可能に変化する可能性がある。
データがどのように進化するかに関わらず、有効な不確実性推定を保証するための予測フレームワークを提案する。
論文 参考訳（メタデータ） (2024-09-27T21:46:42Z) - Model-Based Epistemic Variance of Values for Risk-Aware Policy Optimization [59.758009422067]
モデルベース強化学習における累積報酬に対する不確実性を定量化する問題を考察する。
我々は、解が値の真後分散に収束する新しい不確実性ベルマン方程式(UBE)を提案する。
本稿では,リスク・サーキングとリスク・アバース・ポリシー最適化のいずれにも適用可能な汎用ポリシー最適化アルゴリズムQ-Uncertainty Soft Actor-Critic (QU-SAC)を導入する。
論文 参考訳（メタデータ） (2023-12-07T15:55:58Z) - Discretization-Induced Dirichlet Posterior for Robust Uncertainty
Quantification on Regression [17.49026509916207]
不確実性定量化は、現実世界のアプリケーションにディープニューラルネットワーク(DNN)をデプロイするために重要である。
視覚回帰タスクでは、現在のAuxUE設計は、主にアレタリック不確実性推定に採用されている。
回帰タスクにおけるより堅牢な不確実性定量化のための一般化されたAuxUEスキームを提案する。
論文 参考訳（メタデータ） (2023-08-17T15:54:11Z) - Deep Anti-Regularized Ensembles provide reliable out-of-distribution
uncertainty quantification [4.750521042508541]
深層アンサンブルは、しばしばトレーニングドメインの外で過度に信頼された見積を返す。
トレーニングデータに適合する大きな重みを持つネットワークの集合は、これらの2つの目的を満たす可能性が高いことを示す。
提案手法の理論的枠組みを導出し,提案手法を「水充填問題」とみなすことができることを示す。
論文 参考訳（メタデータ） (2023-04-08T15:25:12Z) - Toward Robust Uncertainty Estimation with Random Activation Functions [3.0586855806896045]
本稿では,ランダムアクティベーション関数(RAF)アンサンブルを用いた不確実性定量化手法を提案する。
RAF アンサンブルは、合成データセットと実世界のデータセットの両方において、最先端のアンサンブル不確実性定量化手法より優れている。
論文 参考訳（メタデータ） (2023-02-28T13:17:56Z) - Model-Based Uncertainty in Value Functions [89.31922008981735]
MDP上の分布によって引き起こされる値の分散を特徴付けることに重点を置いている。
従来の作業は、いわゆる不確実性ベルマン方程式を解くことで、値よりも後方の分散を境界にしている。
我々は、解が値の真後分散に収束する新しい不確実性ベルマン方程式を提案する。
論文 参考訳（メタデータ） (2023-02-24T09:18:27Z) - Sample Efficient Deep Reinforcement Learning via Uncertainty Estimation [12.415463205960156]
モデルフリー深部強化学習(RL)アルゴリズムでは、ノイズ値推定を用いて政策評価と最適化を監督し、サンプル効率を損なう。
RLで発生するノイズ管理における不確実性の原因を系統的に分析する。
本稿では,2つの相補的不確実性推定手法がQ値と環境の両方を考慮し,ノイズ管理の負の影響を緩和する手法を提案する。
論文 参考訳（メタデータ） (2022-01-05T15:46:06Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳（メタデータ） (2021-08-25T21:30:27Z) - Uncertainty Prediction for Deep Sequential Regression Using Meta Models [4.189643331553922]
本稿では、対称および非対称な不確実性推定を生成できるフレキシブルな手法について述べる。
静止性については仮定せず、漂流シナリオと非漂流シナリオの両方で競争ベースラインを上回っている。
論文 参考訳（メタデータ） (2020-07-02T19:27:17Z) - Efficient Ensemble Model Generation for Uncertainty Estimation with
Bayesian Approximation in Segmentation [74.06904875527556]
アンサンブルセグメンテーションモデルを構築するための汎用的で効率的なセグメンテーションフレームワークを提案する。
提案手法では,層選択法を用いて効率よくアンサンブルモデルを生成することができる。
また,新たな画素単位の不確実性損失を考案し,予測性能を向上する。
論文 参考訳（メタデータ） (2020-05-21T16:08:38Z) - Being Bayesian, Even Just a Bit, Fixes Overconfidence in ReLU Networks [65.24701908364383]
我々は、ReLUネットワーク上の不確実性に対する十分条件が「少しベイズ校正される」ことを示す。
さらに,これらの知見を,共通深部ReLUネットワークとLaplace近似を用いた各種標準実験により実証的に検証した。
論文 参考訳（メタデータ） (2020-02-24T08:52:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。