論文の概要: Uncertainty estimation under model misspecification in neural network regression

• arxiv url: http://arxiv.org/abs/2111.11763v1
• Date: Tue, 23 Nov 2021 10:18:41 GMT
• ステータス: 処理完了
• システム内更新日: 2021-11-24 14:13:01.066784
• Title: Uncertainty estimation under model misspecification in neural network regression
• Title（参考訳）: ニューラルネットワーク回帰におけるモデルミス種別の不確かさ推定
• Authors: Maria R. Cervera, Rafael D\"atwyler, Francesco D'Angelo, Hamza Keurti, Benjamin F. Grewe, Christian Henning
• Abstract要約: モデル選択が不確実性評価に与える影響について検討する。 モデルミスセグメンテーションでは,アレータリック不確実性は適切に捉えられていない。
• 参考スコア（独自算出の注目度）: 3.2622301272834524
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Although neural networks are powerful function approximators, the underlying modelling assumptions ultimately define the likelihood and thus the hypothesis class they are parameterizing. In classification, these assumptions are minimal as the commonly employed softmax is capable of representing any categorical distribution. In regression, however, restrictive assumptions on the type of continuous distribution to be realized are typically placed, like the dominant choice of training via mean-squared error and its underlying Gaussianity assumption. Recently, modelling advances allow to be agnostic to the type of continuous distribution to be modelled, granting regression the flexibility of classification models. While past studies stress the benefit of such flexible regression models in terms of performance, here we study the effect of the model choice on uncertainty estimation. We highlight that under model misspecification, aleatoric uncertainty is not properly captured, and that a Bayesian treatment of a misspecified model leads to unreliable epistemic uncertainty estimates. Overall, our study provides an overview on how modelling choices in regression may influence uncertainty estimation and thus any downstream decision making process.
• Abstract（参考訳）: ニューラルネットワークは強力な関数近似器であるが、基礎となるモデリング仮定は究極的には可能性を定義し、従って仮説クラスはパラメータ化される。 分類において、これらの仮定は、一般的に用いられるソフトマックスが任意のカテゴリー分布を表すことができるため、最小限である。 しかし回帰では、通常、平均二乗誤差によるトレーニングの選択やその基礎となるガウス性仮定のように、実現すべき連続分布の種類に関する制限的な仮定が設定される。 近年、モデリングの進歩により、連続分布のタイプをモデル化できないようになり、回帰は分類モデルの柔軟性を与える。 過去の研究では、このようなフレキシブル回帰モデルの利点を性能の観点から強調する一方で、モデル選択が不確実性評価に与える影響について検討する。 我々は,モデルの誤特定の下では,アレテータの不確実性は適切に捉えられず,不特定モデルのベイズ的扱いは不信頼な認識的不確実性推定につながることを強調する。 全体として、回帰における選択のモデル化が不確実性推定や下流の意思決定プロセスにどのように影響するかについて概説する。

関連論文リスト

• Conformalized Selective Regression [2.3964255330849356]
  共形予測を利用した選択回帰手法を提案する。 提案手法は, 選択回帰に適合し, 複数の最先端ベースラインに対して有利であることを示す。
  論文  参考訳（メタデータ） (2024-02-26T04:43:50Z)
• Selective Nonparametric Regression via Testing [54.20569354303575]
  本研究では,所定の点における条件分散の値に関する仮説を検証し,留置手順を開発する。 既存の手法とは異なり、提案手法は分散自体の値だけでなく、対応する分散予測器の不確実性についても考慮することができる。
  論文  参考訳（メタデータ） (2023-09-28T13:04:11Z)
• Deep Evidential Learning for Bayesian Quantile Regression [3.6294895527930504]
  1つの決定論的フォワードパスモデルから正確な不確実性を推定することが望ましい。 本稿では,ガウス的仮定を使わずに連続目標分布の量子化を推定できるディープベイズ量子回帰モデルを提案する。
  論文  参考訳（メタデータ） (2023-08-21T11:42:16Z)
• Performative Prediction with Neural Networks [24.880495520422]
  パフォーマンス予測は、予測するデータに影響を与えるモデルを学習するためのフレームワークである。 繰り返しリスク最小化法を用いて、性能的に安定な分類器を見つけるための標準収束結果は、データの分布がモデルのパラメータに連続であることを仮定する。 この研究では、データ分布はモデルの予測に関してリプシッツ連続であると仮定する。
  論文  参考訳（メタデータ） (2023-04-14T01:12:48Z)
• The Implicit Delta Method [61.36121543728134]
  本稿では,不確実性のトレーニング損失を無限に正規化することで機能する,暗黙のデルタ法を提案する。 有限差分により無限小変化が近似された場合でも, 正則化による評価の変化は評価推定器の分散に一定であることを示す。
  論文  参考訳（メタデータ） (2022-11-11T19:34:17Z)
• Dense Uncertainty Estimation via an Ensemble-based Conditional Latent Variable Model [68.34559610536614]
  我々は、アレータリック不確実性はデータの固有の特性であり、偏見のないオラクルモデルでのみ正確に推定できると論じる。 そこで本研究では,軌道不確実性推定のためのオラクルモデルを近似するために,列車時の新しいサンプリングと選択戦略を提案する。 以上の結果から,提案手法は精度の高い決定論的結果と確実な不確実性推定の両方を達成できることが示唆された。
  論文  参考訳（メタデータ） (2021-11-22T08:54:10Z)
• Dense Uncertainty Estimation [62.23555922631451]
  本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。 本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
  論文  参考訳（メタデータ） (2021-10-13T01:23:48Z)
• Learning Probabilistic Ordinal Embeddings for Uncertainty-Aware Regression [91.3373131262391]
  不確かさが唯一の確実性である。 伝統的に、直接回帰定式化を考慮し、ある確率分布の族に出力空間を変更することによって不確実性をモデル化する。 現在のレグレッション技術における不確実性をモデル化する方法は、未解決の問題である。
  論文  参考訳（メタデータ） (2021-03-25T06:56:09Z)
• Decision-Making with Auto-Encoding Variational Bayes [71.44735417472043]
  変分分布とは異なる後部近似を用いて意思決定を行うことが示唆された。 これらの理論的な結果から,最適モデルに関するいくつかの近似的提案を学習することを提案する。 おもちゃの例に加えて,単細胞RNAシークエンシングのケーススタディも紹介する。
  論文  参考訳（メタデータ） (2020-02-17T19:23:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。