論文の概要: Pitfalls of In-Domain Uncertainty Estimation and Ensembling in Deep
Learning
- arxiv url: http://arxiv.org/abs/2002.06470v4
- Date: Sun, 18 Jul 2021 16:17:28 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-31 23:02:52.684487
- Title: Pitfalls of In-Domain Uncertainty Estimation and Ensembling in Deep
Learning
- Title(参考訳): 深層学習における内部不確かさ推定と組込みの落とし穴
- Authors: Arsenii Ashukha, Alexander Lyzhov, Dmitry Molchanov, Dmitry Vetrov
- Abstract要約: 本研究では,画像分類における領域内不確実性に着目した。
そこで本研究では,ディープアンサンブル等価スコア(DEE)を導入する。
- 参考スコア(独自算出の注目度): 70.72363097550483
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Uncertainty estimation and ensembling methods go hand-in-hand. Uncertainty
estimation is one of the main benchmarks for assessment of ensembling
performance. At the same time, deep learning ensembles have provided
state-of-the-art results in uncertainty estimation. In this work, we focus on
in-domain uncertainty for image classification. We explore the standards for
its quantification and point out pitfalls of existing metrics. Avoiding these
pitfalls, we perform a broad study of different ensembling techniques. To
provide more insight in this study, we introduce the deep ensemble equivalent
score (DEE) and show that many sophisticated ensembling techniques are
equivalent to an ensemble of only few independently trained networks in terms
of test performance.
- Abstract(参考訳): 不確実性推定とアンサンブル手法は相反する。
不確実性推定は、センシング性能を評価するための主要なベンチマークの1つである。
同時に、ディープラーニングアンサンブルは、不確実性推定において最先端の結果を提供する。
本研究では,画像分類における領域内不確実性に着目した。
その定量化の基準を探り、既存のメトリクスの落とし穴を指摘します。
これらの落とし穴を回避し,様々なセンシング手法を幅広く研究する。
そこで本研究では,ディープアンサンブル等価スコア (DEE) を導入し,多くの高度なアンサンブル技術が,テスト性能の点で独立に訓練された少数のネットワークのアンサンブルと等価であることを示す。
関連論文リスト
- Post-hoc Probabilistic Vision-Language Models [51.12284891724463]
視覚言語モデル(VLM)は、分類、検索、生成タスクにおいて顕著な成功を収めている。
追加トレーニングを必要としないVLMにおけるポストホック不確実性評価を提案する。
この結果から,大規模モデルの安全性クリティカルな応用が期待できることがわかった。
論文 参考訳(メタデータ) (2024-12-08T18:16:13Z) - A Comparative Study on Multi-task Uncertainty Quantification in Semantic Segmentation and Monocular Depth Estimation [9.52671061354338]
我々はモンテカルロ・ドロップアウト,ディープ・サブ・アンサンブル,ディープ・アンサンブルを共同セグメンテーションと単眼深度推定のために評価した。
ディープアンサンブル(Deep Ensembles)は、特にドメイン外のシナリオにおいて、好まれる選択肢として際立っている。
我々は、画素を確実または不確実と分類するために、異なる不確実性しきい値を採用することの影響を強調した。
論文 参考訳(メタデータ) (2024-05-27T12:12:26Z) - Uncertainty Estimation in Instance Segmentation with Star-convex Shapes [4.197316670989004]
ディープニューラルネットワークベースのアルゴリズムは、しばしば不確実な信頼レベルを持つ誤った予測を示す。
本研究は,星形インスタンスの位置で空間的確実性を推定することの課題に対処する。
本研究は、個別の確実性スコアに対する分数的確実性推定を組み合わせることが効果的な戦略であることを示す。
論文 参考訳(メタデータ) (2023-09-19T10:49:33Z) - Uncertainty Estimation by Fisher Information-based Evidential Deep
Learning [61.94125052118442]
不確実性推定は、ディープラーニングを実用アプリケーションで信頼できるものにする鍵となる要素である。
漁業情報に基づくエビデンシャルディープラーニング(mathcalI$-EDL)を提案する。
特に,各サンプルが有する証拠の情報量を測定するためにFisher Information Matrix (FIM)を導入し,目的的損失項を動的に重み付けし,不確実なクラスの表現学習に集中させる。
論文 参考訳(メタデータ) (2023-03-03T16:12:59Z) - What is Flagged in Uncertainty Quantification? Latent Density Models for
Uncertainty Categorization [68.15353480798244]
不確実性定量化(UQ)は、信頼できる機械学習モデルを作成する上で不可欠である。
近年、疑わしい事例にフラグを立てるUQ手法が急上昇している。
分類タスクにおけるUQ手法によってフラグ付けされた不確実な例を分類する枠組みを提案する。
論文 参考訳(メタデータ) (2022-07-11T19:47:00Z) - Which models are innately best at uncertainty estimation? [15.929238800072195]
ディープニューラルネットワークは、リスクに敏感なタスクにデプロイされる場合、不確実性推定機構を備える必要がある。
本稿では,深層建築とその訓練体制との関係について,その選択予測と不確実性推定性能について検討する。
論文 参考訳(メタデータ) (2022-06-05T11:15:35Z) - Cross-Domain Similarity Learning for Face Recognition in Unseen Domains [90.35908506994365]
本研究では,cdt(cross-domain triplet, クロスドメイントリプレット)の損失を推測する新しいクロスドメインメトリック学習損失法を提案する。
CDT損失は、一つのドメインからコンパクトな特徴クラスタを強制することによって意味論的に意味のある特徴の学習を促進する。
本手法では,トレーニング中,注意深いハードペアサンプルマイニングおよびフィルタリング戦略は必要としない。
論文 参考訳(メタデータ) (2021-03-12T19:48:01Z) - Probabilistic Deep Learning for Instance Segmentation [9.62543698736491]
提案手法は,提案不要なインスタンスセグメンテーションモデルにおけるモデル独立不確実性推定値を得るための汎用的な手法である。
本手法は,BBBC010 C. elegansデータセットを用いて評価し,競合性能を示す。
論文 参考訳(メタデータ) (2020-08-24T19:51:48Z) - On the uncertainty of self-supervised monocular depth estimation [52.13311094743952]
単眼深度推定のための自己監督的パラダイムは、基礎的な真理アノテーションを全く必要としないため、非常に魅力的である。
我々は,このタスクの不確かさを推定する方法と,これが深さ精度にどのように影響するかを初めて検討する。
自己教師型アプローチに特化して設計された,斬新な手法を提案する。
論文 参考訳(メタデータ) (2020-05-13T09:00:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。