Fugu-MT 論文翻訳(概要): Credal Wrapper of Model Averaging for Uncertainty Estimation on Out-Of-Distribution Detection

論文の概要: Credal Wrapper of Model Averaging for Uncertainty Estimation on Out-Of-Distribution Detection

arxiv url: http://arxiv.org/abs/2405.15047v1
Date: Thu, 23 May 2024 20:51:22 GMT
ステータス: 処理完了
システム内更新日: 2024-05-27 19:07:30.302599
Title: Credal Wrapper of Model Averaging for Uncertainty Estimation on Out-Of-Distribution Detection
Title（参考訳）: 外部分布検出における不確かさ推定のためのモデル平均化の致命的ラッパー
Authors: Kaizheng Wang, Fabio Cuzzolin, Keivan Shariatmadar, David Moens, Hans Hallez,
Abstract要約: 本稿では,ベイズニューラルネットワーク(BNN)と深層アンサンブルのモデル平均化のクレダルセット表現を定式化するための,クレダルラッパー(redal wrapper)と呼ばれる革新的なアプローチを提案する。 BNNや深層アンサンブルから導かれる単一分布の有限個の集合が与えられた場合、提案手法はクラスごとの上層と下層の確率境界を抽出する。提案手法は,BNNおよび深層アンサンブルベースラインと比較して,不確実性推定において優れた性能を示す。
参考スコア（独自算出の注目度）: 5.19656787424626
License: http://creativecommons.org/licenses/by/4.0/
Abstract: This paper presents an innovative approach, called credal wrapper, to formulating a credal set representation of model averaging for Bayesian neural networks (BNNs) and deep ensembles, capable of improving uncertainty estimation in classification tasks. Given a finite collection of single distributions derived from BNNs or deep ensembles, the proposed approach extracts an upper and a lower probability bound per class, acknowledging the epistemic uncertainty due to the availability of a limited amount of sampled predictive distributions. Such probability intervals over classes can be mapped on a convex set of probabilities (a 'credal set') from which, in turn, a unique prediction can be obtained using a transformation called 'intersection probability transformation'. In this article, we conduct extensive experiments on multiple out-of-distribution (OOD) detection benchmarks, encompassing various dataset pairs (CIFAR10/100 vs SVHN/Tiny-ImageNet, CIFAR10 vs CIFAR10-C, CIFAR100 vs CIFAR100-C and ImageNet vs ImageNet-O) and using different network architectures (such as VGG16, Res18/50, EfficientNet B2, and ViT Base). Compared to BNN and deep ensemble baselines, the proposed credal representation methodology exhibits superior performance in uncertainty estimation and achieves lower expected calibration error on OOD samples.
Abstract（参考訳）: 本稿では,ベイズニューラルネットワーク(BNN)と深層アンサンブルのモデル平均化のクレダルセット表現を定式化し,分類作業における不確実性評価を改善するために,クレダルラッパー(redal wrapper)と呼ばれる革新的なアプローチを提案する。提案手法は,BNNや深層アンサンブルから得られる単一分布の有限個のコレクションから,クラスごとの上限値と低い確率を抽出し,限られた量のサンプル予測分布が利用できることによるてんかんの不確実性を認識する。このようなクラス上の確率区間は、凸集合の確率(「クレダル集合」)にマッピングでき、そこから「断続確率変換」と呼ばれる変換を用いて独自の予測が得られる。本稿では、複数のアウト・オブ・ディストリビューション(OOD)検出ベンチマークについて、さまざまなデータセットペア(CIFAR10/100 vs SVHN/Tiny-ImageNet, CIFAR10 vs CIFAR10-C, CIFAR100-C and ImageNet vs ImageNet-O)を包含し、異なるネットワークアーキテクチャ(VGG16, Res18/50, EfficientNet B2, ViT Base)を用いて、広範な実験を行う。 BNNや深層アンサンブルのベースラインと比較して,提案手法は不確実性推定において優れた性能を示し,OOD試料のキャリブレーション誤差を低くする。

関連論文リスト

A framework for benchmarking class-out-of-distribution detection and its application to ImageNet [15.929238800072195]
本稿では,画像分類器のクラスアウト・オブ・ディストリビューション・インスタンス検出能力のベンチマークを行う新しいフレームワークを提案する。我々はこの手法をImageNetに適用し、ImageNet-1k分類器として525の事前訓練と公開を行った。
論文参考訳（メタデータ） (2023-02-23T09:57:48Z)
What Can We Learn From The Selective Prediction And Uncertainty Estimation Performance Of 523 Imagenet Classifiers [15.929238800072195]
本稿では,既存の523の事前学習深層画像ネット分類器の選択的予測と不確実性評価性能について述べる。蒸留法に基づくトレーニング体制は、他のトレーニング方式よりも常により良い不確実性推定を導出することを発見した。例えば、ImageNetでは前例のない99%のトップ1選択精度を47%で発見しました。
論文参考訳（メタデータ） (2023-02-23T09:25:28Z)
NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文参考訳（メタデータ） (2022-02-07T12:30:45Z)
PDC-Net+: Enhanced Probabilistic Dense Correspondence Network [161.76275845530964]
高度確率密度対応ネットワーク(PDC-Net+)は、精度の高い高密度対応を推定できる。我々は、堅牢で一般化可能な不確実性予測に適したアーキテクチャと強化されたトレーニング戦略を開発する。提案手法は,複数の挑戦的幾何マッチングと光学的フローデータセットに対して,最先端の結果を得る。
論文参考訳（メタデータ） (2021-09-28T17:56:41Z)
Structured DropConnect for Uncertainty Inference in Image Classification [19.22497677849603]
本稿では,ディープニューラルネットワークの出力をディリクレ分布によってモデル化する構造化DropConnect (SDC) フレームワークを提案する。提案したSDCは、特定の一般化能力と研究の展望を持つ異なるネットワーク構造に適応している。
論文参考訳（メタデータ） (2021-06-16T08:31:14Z)
Trusted Multi-View Classification [76.73585034192894]
本稿では,信頼された多視点分類と呼ばれる新しい多視点分類手法を提案する。さまざまなビューをエビデンスレベルで動的に統合することで、マルチビュー学習のための新しいパラダイムを提供する。提案アルゴリズムは,分類信頼性とロバスト性の両方を促進するために,複数のビューを併用する。
論文参考訳（メタデータ） (2021-02-03T13:30:26Z)
Probabilistic electric load forecasting through Bayesian Mixture Density Networks [70.50488907591463]
確率的負荷予測(PLF)は、スマートエネルギーグリッドの効率的な管理に必要な拡張ツールチェーンの重要なコンポーネントです。ベイジアン混合密度ネットワークを枠とした新しいPLFアプローチを提案する。後方分布の信頼性と計算にスケーラブルな推定を行うため,平均場変動推定と深層アンサンブルを統合した。
論文参考訳（メタデータ） (2020-12-23T16:21:34Z)
Revisiting One-vs-All Classifiers for Predictive Uncertainty and Out-of-Distribution Detection in Neural Networks [22.34227625637843]
識別型分類器における確率のパラメトリゼーションが不確実性推定に与える影響について検討する。画像分類タスクのキャリブレーションを改善するために, 1-vs-all の定式化が可能であることを示す。
論文参考訳（メタデータ） (2020-07-10T01:55:02Z)
Diversity inducing Information Bottleneck in Model Ensembles [73.80615604822435]
本稿では,予測の多様性を奨励することで,ニューラルネットワークの効果的なアンサンブルを生成する問題をターゲットにする。そこで本研究では,潜伏変数の学習における逆損失の多様性を明示的に最適化し,マルチモーダルデータのモデリングに必要な出力予測の多様性を得る。最も競争力のあるベースラインと比較して、データ分布の変化の下で、分類精度が大幅に向上した。
論文参考訳（メタデータ） (2020-03-10T03:10:41Z)
Uncertainty Estimation Using a Single Deep Deterministic Neural Network [66.26231423824089]
本稿では,1回のフォワードパスで,テスト時に分布データポイントの発見と拒否が可能な決定論的ディープモデルを訓練する手法を提案する。我々は,新しい損失関数とセントロイド更新方式を用いて,これらをスケールトレーニングし,ソフトマックスモデルの精度に適合させる。
論文参考訳（メタデータ） (2020-03-04T12:27:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。