論文の概要: Escaping the Sample Trap: Fast and Accurate Epistemic Uncertainty
Estimation with Pairwise-Distance Estimators
- arxiv url: http://arxiv.org/abs/2308.13498v2
- Date: Mon, 2 Oct 2023 15:46:18 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-03 13:23:33.899493
- Title: Escaping the Sample Trap: Fast and Accurate Epistemic Uncertainty
Estimation with Pairwise-Distance Estimators
- Title（参考訳）: Pairwise-Distance Estimator を用いた迅速かつ正確なてんかん不確かさ推定
- Authors: Lucas Berry, David Meger
- Abstract要約: 機械学習では、モデル予測の不確実性を評価する能力は、意思決定、安全クリティカルなアプリケーション、モデル一般化可能性に不可欠である。
本研究は,ペアワイズ距離推定器(PaiDEs)を用いたアンサンブルモデルに対する新しい不確実性推定手法を提案する。
これらの推定器は、モデルコンポーネント間のペアワイズ距離を利用してエントロピー上のバウンダリを確立する。
- 参考スコア（独自算出の注目度）: 21.098866735156207
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In machine learning, the ability to assess uncertainty in model predictions
is crucial for decision-making, safety-critical applications, and model
generalizability. This work introduces a novel approach for epistemic
uncertainty estimation for ensemble models using pairwise-distance estimators
(PaiDEs). These estimators utilize the pairwise-distance between model
components to establish bounds on entropy, which are then used as estimates for
information-based criterion. Unlike recent deep learning methods for epistemic
uncertainty estimation, which rely on sample-based Monte Carlo estimators,
PaiDEs are able to estimate epistemic uncertainty up to 100 times faster, over
a larger input space (up to 100 times) and perform more accurately in higher
dimensions. To validate our approach, we conducted a series of experiments
commonly used to evaluate epistemic uncertainty estimation: 1D sinusoidal data,
$\textit{Pendulum-v0}$, $\textit{Hopper-v2}$, $\textit{Ant-v2}$ and
$\textit{Humanoid-v2}$. For each experimental setting, an Active Learning
framework was applied to demonstrate the advantages of PaiDEs for epistemic
uncertainty estimation.
- Abstract（参考訳）: 機械学習では、モデル予測の不確実性を評価する能力は、意思決定、安全クリティカルなアプリケーション、モデル一般化可能性に不可欠である。
本研究は,ペアワイズ距離推定器(PaiDEs)を用いたアンサンブルモデルに対する新しい不確実性推定手法を提案する。
これらの推定器は、モデルコンポーネント間のペアワイズ距離を利用してエントロピーの境界を確立する。
最近のディープラーニング手法である、サンプルベースのモンテカルロ推定値に依存する認識不確実性推定とは異なり、payesは、より大きな入力空間(最大100倍)よりも100倍早く認識不確実性を推定し、より高い次元でより正確に実行することができる。
1d sinusoidal data, $\textit{pendulum-v0}$, $\textit{hopper-v2}$, $\textit{ant-v2}$, $\textit{humanoid-v2}$, $\textit{humanoid-v2}$。
各実験環境において, 心的不確実性評価のためのPaiDEの利点を示すために, アクティブラーニングフレームワークを適用した。
関連論文リスト
- Bayesian Estimate of Mean Proper Scores for Diversity-Enhanced Active
Learning [6.704927458661697]
期待されている損失削減(ELR)は、分類誤差の低減と、同じフレームワークに適合するより一般的なコストのベイズ推定に焦点を当てている。
本研究では,平均値スコア(BEMPS)のベイズ推定を行い,厳密なスコアの増加を推定する。
我々は,BEMPSが頑健な獲得関数とよく校正された分類器を出力し,他の試験よりも一貫して優れていることを示す。
論文 参考訳（メタデータ） (2023-12-15T11:02:17Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳（メタデータ） (2022-09-16T19:15:50Z) - HyperImpute: Generalized Iterative Imputation with Automatic Model
Selection [77.86861638371926]
カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。
既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
論文 参考訳（メタデータ） (2022-06-15T19:10:35Z) - Functional Ensemble Distillation [18.34081591772928]
本研究では,効率的なモデルを用いて,アンサンブルの予測を最もよく蒸留する方法を検討する。
混合増量方式による簡易増量方式による蒸留モデルの学習により, 性能が著しく向上することが判明した。
論文 参考訳（メタデータ） (2022-06-05T14:07:17Z) - Dynamic Iterative Refinement for Efficient 3D Hand Pose Estimation [87.54604263202941]
本稿では,従来の推定値の修正に部分的レイヤを反復的に活用する,小さなディープニューラルネットワークを提案する。
学習したゲーティング基準を用いて、ウェイトシェアリングループから抜け出すかどうかを判断し、モデルにサンプルごとの適応を可能にする。
提案手法は,広く使用されているベンチマークの精度と効率の両面から,最先端の2D/3Dハンドポーズ推定手法より一貫して優れている。
論文 参考訳（メタデータ） (2021-11-11T23:31:34Z) - Scalable Personalised Item Ranking through Parametric Density Estimation [53.44830012414444]
暗黙のフィードバックから学ぶことは、一流問題の難しい性質のために困難です。
ほとんどの従来の方法は、一級問題に対処するためにペアワイズランキングアプローチとネガティブサンプラーを使用します。
本論文では,ポイントワイズと同等の収束速度を実現する学習対ランクアプローチを提案する。
論文 参考訳（メタデータ） (2021-05-11T03:38:16Z) - A bandit-learning approach to multifidelity approximation [7.960229223744695]
マルチファイデリティ近似は、科学計算とシミュレーションにおいて重要な技術である。
異なる忠実度のデータを利用して正確な推定を行うためのバンディットラーニング手法を紹介します。
論文 参考訳（メタデータ） (2021-03-29T05:29:35Z) - Efficient Ensemble Model Generation for Uncertainty Estimation with
Bayesian Approximation in Segmentation [74.06904875527556]
アンサンブルセグメンテーションモデルを構築するための汎用的で効率的なセグメンテーションフレームワークを提案する。
提案手法では,層選択法を用いて効率よくアンサンブルモデルを生成することができる。
また,新たな画素単位の不確実性損失を考案し,予測性能を向上する。
論文 参考訳（メタデータ） (2020-05-21T16:08:38Z) - Causal Modeling with Stochastic Confounders [11.881081802491183]
この作業は、共同設立者との因果推論を拡張します。
本稿では,ランダムな入力空間を持つ表現子定理に基づく因果推論のための変分推定手法を提案する。
論文 参考訳（メタデータ） (2020-04-24T00:34:44Z) - Machine learning for causal inference: on the use of cross-fit
estimators [77.34726150561087]
より優れた統計特性を得るために、二重ローバストなクロスフィット推定器が提案されている。
平均因果効果(ACE)に対する複数の推定器の性能評価のためのシミュレーション研究を行った。
機械学習で使用する場合、二重確率のクロスフィット推定器は、バイアス、分散、信頼区間のカバレッジで他のすべての推定器よりも大幅に優れていた。
論文 参考訳（メタデータ） (2020-04-21T23:09:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。