論文の概要: Introducing an Improved Information-Theoretic Measure of Predictive Uncertainty

• arxiv url: http://arxiv.org/abs/2311.08309v1
• Date: Tue, 14 Nov 2023 16:55:12 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-15 13:12:26.329450
• Title: Introducing an Improved Information-Theoretic Measure of Predictive Uncertainty
• Title（参考訳）: 情報理論の改良による予測不確かさの計測
• Authors: Kajetan Schweighofer and Lukas Aichberger and Mykyta Ielanskyi and Sepp Hochreiter
• Abstract要約: 予測の不確実性は、ベイズ平均(BMA)予測分布のエントロピーによってよく測定される。 これらの制限を克服するために理論的に根ざした尺度を導入する。 提案手法は, 制御された合成タスクにおいて, より合理的に振る舞う。
• 参考スコア（独自算出の注目度）: 6.3398383724486544
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Applying a machine learning model for decision-making in the real world requires to distinguish what the model knows from what it does not. A critical factor in assessing the knowledge of a model is to quantify its predictive uncertainty. Predictive uncertainty is commonly measured by the entropy of the Bayesian model average (BMA) predictive distribution. Yet, the properness of this current measure of predictive uncertainty was recently questioned. We provide new insights regarding those limitations. Our analyses show that the current measure erroneously assumes that the BMA predictive distribution is equivalent to the predictive distribution of the true model that generated the dataset. Consequently, we introduce a theoretically grounded measure to overcome these limitations. We experimentally verify the benefits of our introduced measure of predictive uncertainty. We find that our introduced measure behaves more reasonably in controlled synthetic tasks. Moreover, our evaluations on ImageNet demonstrate that our introduced measure is advantageous in real-world applications utilizing predictive uncertainty.
• Abstract（参考訳）: 実世界で意思決定のために機械学習モデルを適用するには、モデルが知っているものと知らないものとを区別する必要がある。 モデルの知識を評価する上で重要な要因は、その予測の不確かさを定量化することである。 予測の不確実性は、ベイズ平均(BMA)予測分布のエントロピーによってよく測定される。 しかし、この予測の不確かさの現在の尺度の妥当性が最近疑問視された。 これらの制限に関する新たな洞察を提供する。 解析の結果、BMA予測分布はデータセットを生成する真のモデルの予測分布に等しいと誤って仮定していることがわかった。 その結果,これらの限界を克服する理論的根拠を持つ尺度が導入された。 導入した予測の不確実性尺度の利点を実験的に検証した。 提案手法は, 制御された合成タスクにおいて, より合理的に振舞う。 さらに,本手法は,予測不確実性を利用した実世界のアプリケーションにおいて有効であることを示す。

関連論文リスト

• On Information-Theoretic Measures of Predictive Uncertainty [5.8034373350518775]
  その重要性にも拘わらず、予測の不確実性の正しい測定に関するコンセンサスはいまだに解明されていない。 提案手法は, 予測の不確かさを, (I) 予測モデル (II) 真の予測分布の近似の2つの要因により分類する。 本研究では, 誤分類検出, 選択的予測, アウト・オブ・ディストリビューション検出など, 典型的な不確実性推定設定において, これらの指標を実証的に評価する。
  論文  参考訳（メタデータ） (2024-10-14T17:52:18Z)
• Model-agnostic variable importance for predictive uncertainty: an entropy-based approach [1.912429179274357]
  既存の説明可能性の手法が不確実性を考慮したモデルにどのように拡張できるかを示す。 我々は、不確実性の原因とモデル性能への影響の両方を理解するために、これらのアプローチの有用性を実証する。
  論文  参考訳（メタデータ） (2023-10-19T15:51:23Z)
• Model-free generalized fiducial inference [0.0]
  本稿では,不正確な確率的予測推定のためのモデルフリー統計フレームワークの提案と開発を行う。 このフレームワークは、タイプ1エラーの有限サンプル制御を提供する予測セットの形式での不確実性定量化を促進する。 モデルフリー不正確なフレームワークに対する正確な確率近似の理論的および経験的特性について考察する。
  論文  参考訳（メタデータ） (2023-07-24T01:58:48Z)
• Quantifying Deep Learning Model Uncertainty in Conformal Prediction [1.4685355149711297]
  コンフォーマル予測(Conformal Prediction)は、モデルの不確実性を表現するための有望なフレームワークである。 本稿では,最先端CP手法とその理論的基礎について考察する。
  論文  参考訳（メタデータ） (2023-06-01T16:37:50Z)
• The Implicit Delta Method [61.36121543728134]
  本稿では,不確実性のトレーニング損失を無限に正規化することで機能する,暗黙のデルタ法を提案する。 有限差分により無限小変化が近似された場合でも, 正則化による評価の変化は評価推定器の分散に一定であることを示す。
  論文  参考訳（メタデータ） (2022-11-11T19:34:17Z)
• Uncertainty estimation of pedestrian future trajectory using Bayesian approximation [137.00426219455116]
  動的トラフィックシナリオでは、決定論的予測に基づく計画は信頼できない。 著者らは、決定論的アプローチが捉えられない近似を用いて予測中の不確実性を定量化する。 将来の状態の不確実性に対する降雨重量と長期予測の影響について検討した。
  論文  参考訳（メタデータ） (2022-05-04T04:23:38Z)
• Dense Uncertainty Estimation via an Ensemble-based Conditional Latent Variable Model [68.34559610536614]
  我々は、アレータリック不確実性はデータの固有の特性であり、偏見のないオラクルモデルでのみ正確に推定できると論じる。 そこで本研究では,軌道不確実性推定のためのオラクルモデルを近似するために,列車時の新しいサンプリングと選択戦略を提案する。 以上の結果から,提案手法は精度の高い決定論的結果と確実な不確実性推定の両方を達成できることが示唆された。
  論文  参考訳（メタデータ） (2021-11-22T08:54:10Z)
• Dense Uncertainty Estimation [62.23555922631451]
  本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。 本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
  論文  参考訳（メタデータ） (2021-10-13T01:23:48Z)
• Loss Estimators Improve Model Generalization [36.520569284970456]
  予測モデルと並行して損失推定器を訓練し,対照訓練目標を用いて予測の不確実性を直接推定する。 モデル一般化における損失推定器の影響を,その分布データに対する忠実度と,トレーニング中に見つからない分布サンプルや新しいクラスの検出能力の両方の観点から示す。
  論文  参考訳（メタデータ） (2021-03-05T16:35:10Z)
• DEUP: Direct Epistemic Uncertainty Prediction [56.087230230128185]
  認識の不確実性は、学習者の知識の欠如によるサンプル外の予測エラーの一部である。 一般化誤差の予測を学習し, aleatoric uncertaintyの推定を減算することで, 認識的不確かさを直接推定する原理的アプローチを提案する。
  論文  参考訳（メタデータ） (2021-02-16T23:50:35Z)
• Learning to Predict Error for MRI Reconstruction [67.76632988696943]
  提案手法による予測の不確実性は予測誤差と強く相関しないことを示す。 本稿では,2段階の予測誤差の目標ラベルと大小を推定する新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-02-13T15:55:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。