#### 論文の概要: The Implicit Delta Method

• arxiv url: http://arxiv.org/abs/2211.06457v1
• Date: Fri, 11 Nov 2022 19:34:17 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-15 16:26:39.559075
• Title: The Implicit Delta Method
• Title（参考訳）: 暗黙的デルタ法
• Authors: Nathan Kallus and James McInerney
• Abstract要約: 本稿では,不確実性のトレーニング損失を無限に正規化することで機能する,暗黙のデルタ法を提案する。 有限差分により無限小変化が近似された場合でも, 正則化による評価の変化は評価推定器の分散に一定であることを示す。
• 参考スコア（独自算出の注目度）: 61.36121543728134
• Abstract: Epistemic uncertainty quantification is a crucial part of drawing credible conclusions from predictive models, whether concerned about the prediction at a given point or any downstream evaluation that uses the model as input. When the predictive model is simple and its evaluation differentiable, this task is solved by the delta method, where we propagate the asymptotically-normal uncertainty in the predictive model through the evaluation to compute standard errors and Wald confidence intervals. However, this becomes difficult when the model and/or evaluation becomes more complex. Remedies include the bootstrap, but it can be computationally infeasible when training the model even once is costly. In this paper, we propose an alternative, the implicit delta method, which works by infinitesimally regularizing the training loss of the predictive model to automatically assess downstream uncertainty. We show that the change in the evaluation due to regularization is consistent for the asymptotic variance of the evaluation estimator, even when the infinitesimal change is approximated by a finite difference. This provides both a reliable quantification of uncertainty in terms of standard errors as well as permits the construction of calibrated confidence intervals. We discuss connections to other approaches to uncertainty quantification, both Bayesian and frequentist, and demonstrate our approach empirically.
• Abstract（参考訳）: 疫学的な不確実性定量化は、ある時点における予測や、そのモデルを入力として使用する下流評価に関して、予測モデルから信頼できる結論を引き出す上で重要な部分である。 予測モデルが単純で,その評価が微分可能である場合,この課題はデルタ法によって解決され,予測モデルにおける漸近的に異常な不確かさが標準誤差とウォルド信頼区間の計算によって伝達される。 しかし、モデルや評価がより複雑になると、これは難しくなります。 修正にはブートストラップが含まれるが、一度トレーニングしても計算は不可能であり、コストがかかる。 本稿では,予測モデルのトレーニング損失を無限に正規化し,下流の不確実性を自動的に評価する手法である暗黙デルタ法を提案する。 有限差分により無限小変化が近似された場合でも, 正規化による評価の変化は, 評価推定器の漸近変動に一致していることを示す。 これにより、標準誤差の観点からの不確実性の信頼できる定量化と、校正された信頼区間の構築が可能になる。 我々はベイズ派と頻繁派の両方の不確実性定量化への他のアプローチとのつながりを議論し、経験的にそのアプローチを実証する。

#### 関連論文リスト

• Efficient Normalized Conformal Prediction and Uncertainty Quantification for Anti-Cancer Drug Sensitivity Prediction with Deep Regression Forests [0.0]
予測間隔で機械学習モデルをペアリングするための有望な方法として、コンフォーマル予測が登場した。 本研究では,深部回帰林から得られた分散度を算出し,各試料の不確かさを推定する手法を提案する。
論文  参考訳（メタデータ） (2024-02-21T19:09:53Z)
• Selective Nonparametric Regression via Testing [54.20569354303575]
本研究では,所定の点における条件分散の値に関する仮説を検証し,留置手順を開発する。 既存の手法とは異なり、提案手法は分散自体の値だけでなく、対応する分散予測器の不確実性についても考慮することができる。
論文  参考訳（メタデータ） (2023-09-28T13:04:11Z)
• Reliable Multimodal Trajectory Prediction via Error Aligned Uncertainty Optimization [11.456242421204298]
よく校正されたモデルでは、不確実性推定はモデル誤差と完全に相関する。 本稿では,モデル誤差に整合した品質不確実性推定を導出するための,新しい誤差整合不確実性最適化手法を提案する。 本研究では, 平均変位誤差を1.69%, 4.69%, モデル誤差との不確実性相関を17.22%, 19.13%, ピアソン相関係数で定量化することにより, 平均変位誤差を1.69%, 4.69%改善することを示した。
論文  参考訳（メタデータ） (2022-12-09T12:33:26Z)
• Rigorous Assessment of Model Inference Accuracy using Language Cardinality [5.584832154027001]
我々は,統計的推定を決定論的精度尺度に置き換えることで,モデル精度評価におけるバイアスと不確実性を最小化する体系的アプローチを開発する。 我々は、最先端の推論ツールによって推定されるモデルの精度を評価することによって、我々のアプローチの一貫性と適用性を実験的に実証した。
論文  参考訳（メタデータ） (2022-11-29T21:03:26Z)
• Reliability-Aware Prediction via Uncertainty Learning for Person Image Retrieval [51.83967175585896]
UALは、データ不確実性とモデル不確実性を同時に考慮し、信頼性に配慮した予測を提供することを目的としている。 データ不確実性はサンプル固有のノイズを捕捉する」一方、モデル不確実性はサンプルの予測に対するモデルの信頼を表現している。
論文  参考訳（メタデータ） (2022-10-24T17:53:20Z)
• Uncertainty Quantification for Traffic Forecasting: A Unified Approach [21.556559649467328]
不確実性は時系列予測タスクに不可欠な考慮事項である。 本研究では,交通予測の不確かさの定量化に焦点をあてる。 STUQ(Deep S-Temporal Uncertainity Quantification)を開発した。
論文  参考訳（メタデータ） (2022-08-11T15:21:53Z)
• Dense Uncertainty Estimation via an Ensemble-based Conditional Latent Variable Model [68.34559610536614]
我々は、アレータリック不確実性はデータの固有の特性であり、偏見のないオラクルモデルでのみ正確に推定できると論じる。 そこで本研究では,軌道不確実性推定のためのオラクルモデルを近似するために,列車時の新しいサンプリングと選択戦略を提案する。 以上の結果から,提案手法は精度の高い決定論的結果と確実な不確実性推定の両方を達成できることが示唆された。
論文  参考訳（メタデータ） (2021-11-22T08:54:10Z)
• Dense Uncertainty Estimation [62.23555922631451]
本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。 本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
論文  参考訳（メタデータ） (2021-10-13T01:23:48Z)
• Training on Test Data with Bayesian Adaptation for Covariate Shift [96.3250517412545]
ディープニューラルネットワークは、信頼できない不確実性推定で不正確な予測を行うことが多い。 分布シフトの下でのラベルなし入力とモデルパラメータとの明確に定義された関係を提供するベイズモデルを導出する。 本手法は精度と不確実性の両方を向上することを示す。
論文  参考訳（メタデータ） (2021-09-27T01:09:08Z)