論文の概要: Likelihood Annealing: Fast Calibrated Uncertainty for Regression

• arxiv url: http://arxiv.org/abs/2302.11012v2
• Date: Sun, 2 Jul 2023 13:01:05 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-04 14:31:39.086593
• Title: Likelihood Annealing: Fast Calibrated Uncertainty for Regression
• Title（参考訳）: Likelihood Annealing: 回帰に対する高速キャリブレーションの不確実性
• Authors: Uddeshya Upadhyay, Jae Myung Kim, Cordelia Schmidt, Bernhard Sch\"olkopf, Zeynep Akata
• Abstract要約: この研究は、Likelihood Annealingと呼ばれる回帰タスクに対する高速な校正不確実性推定手法を提案する。 低次元回帰問題にのみ焦点をあてる従来の回帰の不確実性を校正する手法とは異なり、本手法は高次元回帰を含む幅広い回帰問題に対してうまく機能する。
• 参考スコア（独自算出の注目度）: 39.382916579076344
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent advances in deep learning have shown that uncertainty estimation is becoming increasingly important in applications such as medical imaging, natural language processing, and autonomous systems. However, accurately quantifying uncertainty remains a challenging problem, especially in regression tasks where the output space is continuous. Deep learning approaches that allow uncertainty estimation for regression problems often converge slowly and yield poorly calibrated uncertainty estimates that can not be effectively used for quantification. Recently proposed post hoc calibration techniques are seldom applicable to regression problems and often add overhead to an already slow model training phase. This work presents a fast calibrated uncertainty estimation method for regression tasks called Likelihood Annealing, that consistently improves the convergence of deep regression models and yields calibrated uncertainty without any post hoc calibration phase. Unlike previous methods for calibrated uncertainty in regression that focus only on low-dimensional regression problems, our method works well on a broad spectrum of regression problems, including high-dimensional regression.Our empirical analysis shows that our approach is generalizable to various network architectures, including multilayer perceptrons, 1D/2D convolutional networks, and graph neural networks, on five vastly diverse tasks, i.e., chaotic particle trajectory denoising, physical property prediction of molecules using 3D atomistic representation, natural image super-resolution, and medical image translation using MRI.
• Abstract（参考訳）: 近年,医療画像,自然言語処理,自律システムなどの応用において,不確実性評価がますます重要になりつつあることが,ディープラーニングの進歩によって示されている。 しかし、特に出力空間が連続的な回帰タスクでは、不確実性を正確に定量化することは難しい問題である。 回帰問題に対する不確実性推定を可能にするディープラーニングアプローチは、しばしば緩やかに収束し、定量化に効果的に利用できない不確実性推定の校正が不十分である。 最近提案されたポストホック校正技術は回帰問題にはほとんど適用されず、しばしば既に遅いモデルトレーニングフェーズにオーバーヘッドを加える。 本研究は,高次回帰モデルの収束を一貫して改善し,ポストホックキャリブレーションフェーズを必要とせずに不確かさを校正する,回帰課題に対する高速校正不確実性推定法を提案する。 Unlike previous methods for calibrated uncertainty in regression that focus only on low-dimensional regression problems, our method works well on a broad spectrum of regression problems, including high-dimensional regression.Our empirical analysis shows that our approach is generalizable to various network architectures, including multilayer perceptrons, 1D/2D convolutional networks, and graph neural networks, on five vastly diverse tasks, i.e., chaotic particle trajectory denoising, physical property prediction of molecules using 3D atomistic representation, natural image super-resolution, and medical image translation using MRI.

関連論文リスト

• Non-Asymptotic Uncertainty Quantification in High-Dimensional Learning [5.318766629972959]
  不確かさの定量化は多くの高次元回帰や学習問題において決定的だが難しい課題である。 我々は、古典的回帰アプローチとニューラルネットワークの両方に適用可能な、回帰におけるUQのための新しいデータ駆動アプローチを開発した。
  論文  参考訳（メタデータ） (2024-07-18T16:42:10Z)
• HypUC: Hyperfine Uncertainty Calibration with Gradient-boosted Corrections for Reliable Regression on Imbalanced Electrocardiograms [3.482894964998886]
  本稿では,医療時系列における不均衡確率回帰の枠組みであるHypUCを提案する。 HypUCは数百万の患者から収集された、多様で現実世界のECGデータセットで評価されている。
  論文  参考訳（メタデータ） (2023-11-23T06:17:31Z)
• Beta quantile regression for robust estimation of uncertainty in the presence of outliers [1.6377726761463862]
  量子回帰(Quantile Regression)は、ディープニューラルネットワークにおけるアレタリック不確実性を推定するために用いられる。 本稿では、頑健な分散の概念を取り入れた量子レグレッションのためのロバストな解を提案する。
  論文  参考訳（メタデータ） (2023-09-14T01:18:57Z)
• The Unreasonable Effectiveness of Deep Evidential Regression [72.30888739450343]
  不確実性を考慮した回帰ベースニューラルネットワーク(NN)による新しいアプローチは、従来の決定論的手法や典型的なベイズ的NNよりも有望であることを示している。 我々は、理論的欠点を詳述し、合成および実世界のデータセットのパフォーマンスを分析し、Deep Evidential Regressionが正確な不確実性ではなく定量化であることを示す。
  論文  参考訳（メタデータ） (2022-05-20T10:10:32Z)
• Image-to-Image Regression with Distribution-Free Uncertainty Quantification and Applications in Imaging [88.20869695803631]
  真値を含むことが保証される各画素の周囲の不確実な間隔を導出する方法を示す。 画像から画像への回帰を3つのタスクで評価する。
  論文  参考訳（メタデータ） (2022-02-10T18:59:56Z)
• Regression Bugs Are In Your Model! Measuring, Reducing and Analyzing Regressions In NLP Model Updates [68.09049111171862]
  この研究は、NLPモデル更新における回帰エラーの定量化、低減、分析に重点を置いている。 回帰フリーモデル更新を制約付き最適化問題に定式化する。 モデルアンサンブルが回帰を減らす方法を実証的に分析します。
  論文  参考訳（メタデータ） (2021-05-07T03:33:00Z)
• Recalibration of Aleatoric and Epistemic Regression Uncertainty in Medical Imaging [2.126171264016785]
  回帰における不確実性は、信頼できない予測の堅牢な拒絶や、分布外サンプルの検出を可能にする。 sigma $ scalingは予測の不確実性を確実に再調整することができる。
  論文  参考訳（メタデータ） (2021-04-26T07:18:58Z)
• Bayesian Uncertainty Estimation of Learned Variational MRI Reconstruction [63.202627467245584]
  我々は,モデル不連続な不確かさを定量化するベイズ変分フレームワークを提案する。 提案手法はMRIのアンダーサンプを用いた再建術の術後成績を示す。
  論文  参考訳（メタデータ） (2021-02-12T18:08:14Z)
• Calibrated Reliable Regression using Maximum Mean Discrepancy [45.45024203912822]
  現代のディープニューラルネットワークは依然として信頼できない予測の不確実性を生んでいる。 本稿では、回帰タスクにおいて、よく校正された予測を得ることを懸念する。 非自明な実データセットに対する実験により,本手法は高い校正と鋭い予測間隔を生成できることが示された。
  論文  参考訳（メタデータ） (2020-06-18T03:38:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。