論文の概要: $\Delta$-UQ: Accurate Uncertainty Quantification via Anchor
Marginalization
- arxiv url: http://arxiv.org/abs/2110.02197v1
- Date: Tue, 5 Oct 2021 17:44:31 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-06 14:45:31.243395
- Title: $\Delta$-UQ: Accurate Uncertainty Quantification via Anchor
Marginalization
- Title(参考訳): $\Delta$-UQ: Anchor Marginalizationによる不確かさの正確な定量化
- Authors: Rushil Anirudh and Jayaraman J. Thiagarajan
- Abstract要約: 予測モデルにおけるアンカーの概念を用いた新規で汎用的な不確実性推定器であるDelta$UQを提案する。
この不確実性は、入力データの不適切なサンプリングと固有のノイズと深く結びついているので、あらゆるシステムにおける完全な不確実性を評価することができる。
- 参考スコア(独自算出の注目度): 40.581619201120716
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present $\Delta$-UQ -- a novel, general-purpose uncertainty estimator
using the concept of anchoring in predictive models. Anchoring works by first
transforming the input into a tuple consisting of an anchor point drawn from a
prior distribution, and a combination of the input sample with the anchor using
a pretext encoding scheme. This encoding is such that the original input can be
perfectly recovered from the tuple -- regardless of the choice of the anchor.
Therefore, any predictive model should be able to predict the target response
from the tuple alone (since it implicitly represents the input). Moreover, by
varying the anchors for a fixed sample, we can estimate uncertainty in the
prediction even using only a single predictive model. We find this uncertainty
is deeply connected to improper sampling of the input data, and inherent noise,
enabling us to estimate the total uncertainty in any system. With extensive
empirical studies on a variety of use-cases, we demonstrate that $\Delta$-UQ
outperforms several competitive baselines. Specifically, we study model
fitting, sequential model optimization, model based inversion in the regression
setting and out of distribution detection, & calibration under distribution
shifts for classification.
- Abstract(参考訳): 予測モデルにおけるアンカーの概念を用いた新しい汎用不確実性推定器である$\Delta$-UQを提案する。
アンカリングは、まず入力を、事前分布から引き出されたアンカ点と、入力サンプルとアンカとの組み合わせからなるタプルに、プリテキスト符号化方式を用いて変換する。
このエンコーディングは、アンカーの選択にかかわらず、元の入力がタプルから完全に復元されるようにしている。
したがって、任意の予測モデルは(暗黙的に入力を表すため)タプルのみからターゲット応答を予測できるべきである。
さらに,固定標本に対するアンカーを変化させることで,単一の予測モデルのみを用いても予測の不確かさを推定できる。
この不確かさは入力データの不適切なサンプリングや固有のノイズと深く関連しており、システム全体の不確かさを推定することができる。
様々なユースケースに関する広範な実証的研究により、$\Delta$-UQ がいくつかの競争的ベースラインより優れていることを示す。
具体的には, モデルフィッティング, 逐次モデル最適化, 回帰設定におけるモデルベースインバージョン, 分布検出のアウト, 分布シフトによるキャリブレーションについて検討した。
関連論文リスト
- Rejection via Learning Density Ratios [50.91522897152437]
拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。
そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。
私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
論文 参考訳(メタデータ) (2024-05-29T01:32:17Z) - Conformalization of Sparse Generalized Linear Models [2.1485350418225244]
等角予測法は、任意の有限サンプルサイズに対して有効である$y_n+1$の信頼セットを推定する。
魅力的ではあるが、そのような集合の計算は多くの回帰問題において計算不可能である。
経路追従アルゴリズムが共形予測集合を正確に近似する方法を示す。
論文 参考訳(メタデータ) (2023-07-11T08:36:12Z) - A probabilistic, data-driven closure model for RANS simulations with aleatoric, model uncertainty [1.8416014644193066]
本稿では,レノルズ平均Navier-Stokes (RANS) シミュレーションのためのデータ駆動閉包モデルを提案する。
パラメトリック閉包が不十分な問題領域内の領域を特定するために,完全ベイズ的定式化と余剰誘導先行法を組み合わせて提案する。
論文 参考訳(メタデータ) (2023-07-05T16:53:31Z) - Robust Outlier Rejection for 3D Registration with Variational Bayes [70.98659381852787]
我々は、ロバストアライメントのための新しい変分非局所ネットワークベース外乱除去フレームワークを開発した。
そこで本稿では, 投票に基づく不整合探索手法を提案し, 変換推定のための高品質な仮説的不整合をクラスタリングする。
論文 参考訳(メタデータ) (2023-04-04T03:48:56Z) - Estimating Regression Predictive Distributions with Sample Networks [17.935136717050543]
モデル不確実性に対する一般的なアプローチは、パラメトリック分布を選択し、最大推定を用いてデータに適合させることである。
選択されたパラメトリック形式は、データ生成分布に不適合であり、信頼できない不確実性推定をもたらす。
出力分布にパラメトリック形式を指定することを避けるため,不確実性をモデル化するためのフレキシブルでスケーラブルなアーキテクチャであるSampleNetを提案する。
論文 参考訳(メタデータ) (2022-11-24T17:23:29Z) - Anomaly Attribution with Likelihood Compensation [14.99385222547436]
本稿では,ブラックボックス回帰モデルの異常予測を説明するタスクについて述べる。
期待値からのモデル偏差が与えられた場合、各入力変数の責任スコアを推測する。
私たちの知る限りでは、これは真の価値ある異常なモデル偏差に対する責任スコアを計算する最初の原則化されたフレームワークです。
論文 参考訳(メタデータ) (2022-08-23T02:00:20Z) - Training on Test Data with Bayesian Adaptation for Covariate Shift [96.3250517412545]
ディープニューラルネットワークは、信頼できない不確実性推定で不正確な予測を行うことが多い。
分布シフトの下でのラベルなし入力とモデルパラメータとの明確に定義された関係を提供するベイズモデルを導出する。
本手法は精度と不確実性の両方を向上することを示す。
論文 参考訳(メタデータ) (2021-09-27T01:09:08Z) - Autoencoding Variational Autoencoder [56.05008520271406]
我々は,この行動が学習表現に与える影響と,自己整合性の概念を導入することでそれを修正する結果について検討する。
自己整合性アプローチで訓練されたエンコーダは、敵攻撃による入力の摂動に対して頑健な(無神経な)表現につながることを示す。
論文 参考訳(メタデータ) (2020-12-07T14:16:14Z) - Probabilistic Anchor Assignment with IoU Prediction for Object Detection [9.703212439661097]
オブジェクト検出では、どのアンカーを正または負のサンプルとして割り当てるか、すなわちアンカー代入(アンカー代入)がモデルの性能に大きく影響を与えるコアプロシージャとして明らかにされている。
本稿では,モデルの学習状況に応じて,アンカーを正と負のサンプルに適応的に分離する新しいアンカー代入戦略を提案する。
論文 参考訳(メタデータ) (2020-07-16T04:26:57Z) - SUMO: Unbiased Estimation of Log Marginal Probability for Latent
Variable Models [80.22609163316459]
無限級数のランダム化トランケーションに基づく潜在変数モデルに対して、ログ境界確率の非バイアス推定器とその勾配を導入する。
推定器を用いてトレーニングしたモデルは、同じ平均計算コストに対して、標準的な重要度サンプリングに基づくアプローチよりも優れたテストセット確率を与えることを示す。
論文 参考訳(メタデータ) (2020-04-01T11:49:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。