論文の概要: Maximum Likelihood Uncertainty Estimation: Robustness to Outliers
- arxiv url: http://arxiv.org/abs/2202.03870v1
- Date: Thu, 3 Feb 2022 10:41:34 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-13 22:29:59.544457
- Title: Maximum Likelihood Uncertainty Estimation: Robustness to Outliers
- Title(参考訳): 最大確率不確実性推定:外れ値に対するロバスト性
- Authors: Deebul S. Nair, Nico Hochgeschwender, Miguel A. Olivares-Mendez
- Abstract要約: トレーニングデータのアウトレーヤやノイズラベルは、劣化したパフォーマンスと不確実性の誤った推定をもたらす。
そこで本研究では,オフレイアに対するロバスト性を改善するために,重み付き分布を用いることを提案する。
- 参考スコア(独自算出の注目度): 3.673994921516517
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: We benchmark the robustness of maximum likelihood based uncertainty
estimation methods to outliers in training data for regression tasks. Outliers
or noisy labels in training data results in degraded performances as well as
incorrect estimation of uncertainty. We propose the use of a heavy-tailed
distribution (Laplace distribution) to improve the robustness to outliers. This
property is evaluated using standard regression benchmarks and on a
high-dimensional regression task of monocular depth estimation, both containing
outliers. In particular, heavy-tailed distribution based maximum likelihood
provides better uncertainty estimates, better separation in uncertainty for
out-of-distribution data, as well as better detection of adversarial attacks in
the presence of outliers.
- Abstract(参考訳): 回帰タスクのトレーニングデータにおいて,最大確率に基づく不確実性推定手法のロバスト性を評価する。
トレーニングデータのアウトレーヤやノイズラベルは、劣化したパフォーマンスと不確実性の誤った推定をもたらす。
そこで本研究では,外れ値に対するロバスト性を改善するために,重み付き分布(ラプラス分布)を用いることを提案する。
この特性は, 標準回帰ベンチマークと, 単分子深度推定の高次元回帰タスクを用いて評価される。
特に、ヘビーテール分布に基づく最大確率は、より良い不確実性推定、分布外データに対する不確実性分離の改善、異常値の存在下での逆攻撃の検出の改善をもたらす。
関連論文リスト
- Provably Reliable Conformal Prediction Sets in the Presence of Data Poisoning [53.42244686183879]
コンフォーマル予測は、モデルに依存しない、分布のない不確実性定量化を提供する。
しかし、敵が訓練データと校正データを操作した場合の毒殺攻撃では、共形予測は信頼性が低い。
信頼性予測セット (RPS): 汚染下での信頼性保証を証明可能な共形予測セットを構築するための最初の効率的な方法を提案する。
論文 参考訳(メタデータ) (2024-10-13T15:37:11Z) - Beyond the Norms: Detecting Prediction Errors in Regression Models [26.178065248948773]
本稿では,回帰アルゴリズムにおける信頼できない振る舞いを検出するという課題に取り組む。
回帰器の出力が特定の不一致(または誤り)を超えた場合、回帰における不確実性の概念を導入する。
複数の回帰タスクに対する誤り検出の実証的改善を示す。
論文 参考訳(メタデータ) (2024-06-11T05:51:44Z) - How Reliable is Your Regression Model's Uncertainty Under Real-World
Distribution Shifts? [46.05502630457458]
本研究では,異なるタイプの分散シフトを伴う8つの画像ベース回帰データセットのベンチマークを提案する。
分散シフトがない場合、メソッドは十分に校正されているが、ベンチマークデータセットの多くに非常に自信が持たれていることが分かっています。
論文 参考訳(メタデータ) (2023-02-07T18:54:39Z) - Robust Variable Selection and Estimation Via Adaptive Elastic Net
S-Estimators for Linear Regression [0.0]
同時変数選択と係数推定のための新しい頑健な正規化推定器を提案する。
適応PENSEは、残基のスケールに関する事前の知識のないオラクル特性を持つ。
シミュレーションおよび実データ集合に関する数値的研究は、広範囲な設定において優れた有限サンプル性能を示す。
論文 参考訳(メタデータ) (2021-07-07T16:04:08Z) - Scalable Marginal Likelihood Estimation for Model Selection in Deep
Learning [78.83598532168256]
階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。
本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
論文 参考訳(メタデータ) (2021-04-11T09:50:24Z) - Learning Probabilistic Ordinal Embeddings for Uncertainty-Aware
Regression [91.3373131262391]
不確かさが唯一の確実性である。
伝統的に、直接回帰定式化を考慮し、ある確率分布の族に出力空間を変更することによって不確実性をモデル化する。
現在のレグレッション技術における不確実性をモデル化する方法は、未解決の問題である。
論文 参考訳(メタデータ) (2021-03-25T06:56:09Z) - Estimating and Evaluating Regression Predictive Uncertainty in Deep
Object Detectors [9.273998041238224]
負の対数確率(nll)を持つトレーニング分散ネットワークは、高いエントロピー予測分布をもたらす可能性がある。
我々は,エネルギースコアを非局所的適切なスコアリングルールとして使用し,トレーニングに使用すると,エネルギースコアがより校正され,エントロピーの予測分布が低くなることを示す。
論文 参考訳(メタデータ) (2021-01-13T12:53:54Z) - The Aleatoric Uncertainty Estimation Using a Separate Formulation with
Virtual Residuals [51.71066839337174]
既存の手法では、ターゲット推定における誤差を定量化できるが、過小評価する傾向がある。
本稿では,信号とその不確かさを推定するための新たな分離可能な定式化を提案し,オーバーフィッティングの影響を回避した。
提案手法は信号および不確実性推定のための最先端技術より優れていることを示す。
論文 参考訳(メタデータ) (2020-11-03T12:11:27Z) - Outlier Robust Mean Estimation with Subgaussian Rates via Stability [46.03021473600576]
本研究では,ロバストなアウトリール高次元平均推定問題について検討する。
外乱平均推定のために, ガウス平均を用いた第1次計算効率を得る。
論文 参考訳(メタデータ) (2020-07-30T17:33:03Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z) - $\gamma$-ABC: Outlier-Robust Approximate Bayesian Computation Based on a
Robust Divergence Estimator [95.71091446753414]
最寄りの$gamma$-divergence推定器をデータ差分尺度として用いることを提案する。
本手法は既存の不一致対策よりも高いロバスト性を実現する。
論文 参考訳(メタデータ) (2020-06-13T06:09:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。