論文の概要: Posterior Annealing: Fast Calibrated Uncertainty for Regression
- arxiv url: http://arxiv.org/abs/2302.11012v1
- Date: Tue, 21 Feb 2023 21:24:35 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-23 17:01:51.540951
- Title: Posterior Annealing: Fast Calibrated Uncertainty for Regression
- Title(参考訳): Posterior Annealing: 回帰に対する高速校正不確かさ
- Authors: Uddeshya Upadhyay, Jae Myung Kim, Cordelia Schmidt, Bernhard
Sch\"olkopf, Zeynep Akata
- Abstract要約: 本研究は回帰タスクに対する高速な校正不確実性推定手法を提案する。
深い回帰モデルの収束を一貫して改善し、ポストホックキャリブレーションフェーズなしでキャリブレーションの不確実性をもたらす。
このアプローチは,多層パーセプトロン,1D/2D畳み込みネットワーク,グラフニューラルネットワークなど,さまざまなネットワークアーキテクチャに一般化可能である。
- 参考スコア(独自算出の注目度): 39.382916579076344
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Bayesian deep learning approaches that allow uncertainty estimation for
regression problems often converge slowly and yield poorly calibrated
uncertainty estimates that can not be effectively used for quantification.
Recently proposed post hoc calibration techniques are seldom applicable to
regression problems and often add overhead to an already slow model training
phase. This work presents a fast calibrated uncertainty estimation method for
regression tasks, called posterior annealing, that consistently improves the
convergence of deep regression models and yields calibrated uncertainty without
any post hoc calibration phase. Unlike previous methods for calibrated
uncertainty in regression that focus only on low-dimensional regression
problems, our method works well on a wide spectrum of regression problems. Our
empirical analysis shows that our approach is generalizable to various network
architectures including, multilayer perceptrons, 1D/2D convolutional networks,
and graph neural networks, on five vastly diverse tasks, i.e., chaotic particle
trajectory denoising, physical property prediction of molecules using 3D
atomistic representation, natural image super-resolution, and medical image
translation using MRI images.
- Abstract(参考訳): 回帰問題に対する不確実性推定を可能にするベイズ深層学習のアプローチは、しばしばゆっくりと収束し、定量化に効果的に利用できない不確実性推定が不十分である。
最近提案されたポストホック校正技術は回帰問題にはほとんど適用されず、しばしば既に遅いモデルトレーニングフェーズにオーバーヘッドを加える。
本研究は, 深い回帰モデルの収束を一貫して改善し, ポストホックキャリブレーションフェーズを必要とせずにキャリブレーションの不確実性を与える, 回帰課題に対する高速キャリブレーション不確実性推定法を提案する。
低次元回帰問題のみに焦点を当てた回帰の不確かさを校正する従来の手法とは異なり、本手法は幅広い回帰問題に適用できる。
実験により,3次元原子構造表現を用いた分子の物理的特性予測,自然画像の超解像,MRI画像を用いた医用画像変換など,多層パーセプトロン,1D/2D畳み込みネットワーク,グラフニューラルネットワークの5つのタスクにおいて,我々のアプローチが一般化可能であることが示された。
関連論文リスト
- Non-Asymptotic Uncertainty Quantification in High-Dimensional Learning [5.318766629972959]
不確かさの定量化は多くの高次元回帰や学習問題において決定的だが難しい課題である。
我々は、古典的回帰アプローチとニューラルネットワークの両方に適用可能な、回帰におけるUQのための新しいデータ駆動アプローチを開発した。
論文 参考訳(メタデータ) (2024-07-18T16:42:10Z) - HypUC: Hyperfine Uncertainty Calibration with Gradient-boosted
Corrections for Reliable Regression on Imbalanced Electrocardiograms [3.482894964998886]
本稿では,医療時系列における不均衡確率回帰の枠組みであるHypUCを提案する。
HypUCは数百万の患者から収集された、多様で現実世界のECGデータセットで評価されている。
論文 参考訳(メタデータ) (2023-11-23T06:17:31Z) - Beta quantile regression for robust estimation of uncertainty in the
presence of outliers [1.6377726761463862]
量子回帰(Quantile Regression)は、ディープニューラルネットワークにおけるアレタリック不確実性を推定するために用いられる。
本稿では、頑健な分散の概念を取り入れた量子レグレッションのためのロバストな解を提案する。
論文 参考訳(メタデータ) (2023-09-14T01:18:57Z) - The Unreasonable Effectiveness of Deep Evidential Regression [72.30888739450343]
不確実性を考慮した回帰ベースニューラルネットワーク(NN)による新しいアプローチは、従来の決定論的手法や典型的なベイズ的NNよりも有望であることを示している。
我々は、理論的欠点を詳述し、合成および実世界のデータセットのパフォーマンスを分析し、Deep Evidential Regressionが正確な不確実性ではなく定量化であることを示す。
論文 参考訳(メタデータ) (2022-05-20T10:10:32Z) - Image-to-Image Regression with Distribution-Free Uncertainty
Quantification and Applications in Imaging [88.20869695803631]
真値を含むことが保証される各画素の周囲の不確実な間隔を導出する方法を示す。
画像から画像への回帰を3つのタスクで評価する。
論文 参考訳(メタデータ) (2022-02-10T18:59:56Z) - Regression Bugs Are In Your Model! Measuring, Reducing and Analyzing
Regressions In NLP Model Updates [68.09049111171862]
この研究は、NLPモデル更新における回帰エラーの定量化、低減、分析に重点を置いている。
回帰フリーモデル更新を制約付き最適化問題に定式化する。
モデルアンサンブルが回帰を減らす方法を実証的に分析します。
論文 参考訳(メタデータ) (2021-05-07T03:33:00Z) - Recalibration of Aleatoric and Epistemic Regression Uncertainty in
Medical Imaging [2.126171264016785]
回帰における不確実性は、信頼できない予測の堅牢な拒絶や、分布外サンプルの検出を可能にする。
sigma $ scalingは予測の不確実性を確実に再調整することができる。
論文 参考訳(メタデータ) (2021-04-26T07:18:58Z) - Bayesian Uncertainty Estimation of Learned Variational MRI
Reconstruction [63.202627467245584]
我々は,モデル不連続な不確かさを定量化するベイズ変分フレームワークを提案する。
提案手法はMRIのアンダーサンプを用いた再建術の術後成績を示す。
論文 参考訳(メタデータ) (2021-02-12T18:08:14Z) - Calibrated Reliable Regression using Maximum Mean Discrepancy [45.45024203912822]
現代のディープニューラルネットワークは依然として信頼できない予測の不確実性を生んでいる。
本稿では、回帰タスクにおいて、よく校正された予測を得ることを懸念する。
非自明な実データセットに対する実験により,本手法は高い校正と鋭い予測間隔を生成できることが示された。
論文 参考訳(メタデータ) (2020-06-18T03:38:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。