論文の概要: DUDES: Deep Uncertainty Distillation using Ensembles for Semantic
Segmentation
- arxiv url: http://arxiv.org/abs/2303.09843v1
- Date: Fri, 17 Mar 2023 08:56:27 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-20 15:13:39.931394
- Title: DUDES: Deep Uncertainty Distillation using Ensembles for Semantic
Segmentation
- Title(参考訳): DUDES: セマンティックセグメンテーションのためのアンサンブルを用いた深部不確かさ蒸留
- Authors: Steven Landgraf, Kira Wursthorn, Markus Hillemann, Markus Ulrich
- Abstract要約: 予測の不確実性の定量化は、そのようなアプリケーションにディープニューラルネットワークを使用するための、有望な取り組みである。
本稿では,アンサンブルを用いた深部不確実性蒸留(DuDES)と呼ばれる,効率的かつ確実な不確実性評価手法を提案する。
DUDESはディープ・アンサンブル(Deep Ensemble)による学生-教師の蒸留を適用し、予測の不確かさを1つの前方パスで正確に推定する。
- 参考スコア(独自算出の注目度): 11.099838952805325
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep neural networks lack interpretability and tend to be overconfident,
which poses a serious problem in safety-critical applications like autonomous
driving, medical imaging, or machine vision tasks with high demands on
reliability. Quantifying the predictive uncertainty is a promising endeavour to
open up the use of deep neural networks for such applications. Unfortunately,
current available methods are computationally expensive. In this work, we
present a novel approach for efficient and reliable uncertainty estimation
which we call Deep Uncertainty Distillation using Ensembles for Segmentation
(DUDES). DUDES applies student-teacher distillation with a Deep Ensemble to
accurately approximate predictive uncertainties with a single forward pass
while maintaining simplicity and adaptability. Experimentally, DUDES accurately
captures predictive uncertainties without sacrificing performance on the
segmentation task and indicates impressive capabilities of identifying wrongly
classified pixels and out-of-domain samples on the Cityscapes dataset. With
DUDES, we manage to simultaneously simplify and outperform previous work on
Deep Ensemble-based Uncertainty Distillation.
- Abstract(参考訳): ディープニューラルネットワークは解釈可能性に欠け、過信される傾向があるため、自律運転、医療画像撮影、マシンビジョンタスクといった安全クリティカルなアプリケーションにおいて、信頼性の要求の高い深刻な問題を引き起こす。
予測の不確実性の定量化は、そのようなアプリケーションにディープニューラルネットワークを使用するための、有望な取り組みである。
残念ながら、現在の利用可能なメソッドは計算コストが高い。
本研究では, 分節化(dudes)のためのアンサンブルを用いた深部不確実性蒸留と呼ぶ, 効率的で信頼性の高い不確実性推定手法を提案する。
DUDESは、学生と教師の蒸留をディープ・アンサンブルで適用し、単純さと適応性を維持しながら、単一の前方通過で予測の不確実性を正確に推定する。
実験的に、DUDESはセグメンテーションタスクのパフォーマンスを犠牲にすることなく予測の不確かさを正確に把握し、Cityscapesデータセット上の間違った分類されたピクセルと外部サンプルを識別する印象的な能力を示す。
DUDESでは、Deep Ensembleベースの不確かさ蒸留に関する以前の作業の簡素化と性能の向上を実現しています。
関連論文リスト
- Generative Edge Detection with Stable Diffusion [52.870631376660924]
エッジ検出は一般的に、主に識別法によって対処されるピクセルレベルの分類問題と見なされる。
本稿では、事前学習した安定拡散モデルのポテンシャルを十分に活用して、GED(Generative Edge Detector)という新しい手法を提案する。
複数のデータセットに対して広範な実験を行い、競争性能を達成する。
論文 参考訳(メタデータ) (2024-10-04T01:52:23Z) - Uncertainty Estimation by Fisher Information-based Evidential Deep
Learning [61.94125052118442]
不確実性推定は、ディープラーニングを実用アプリケーションで信頼できるものにする鍵となる要素である。
漁業情報に基づくエビデンシャルディープラーニング(mathcalI$-EDL)を提案する。
特に,各サンプルが有する証拠の情報量を測定するためにFisher Information Matrix (FIM)を導入し,目的的損失項を動的に重み付けし,不確実なクラスの表現学習に集中させる。
論文 参考訳(メタデータ) (2023-03-03T16:12:59Z) - ZigZag: Universal Sampling-free Uncertainty Estimation Through Two-Step Inference [54.17205151960878]
汎用的でデプロイが容易なサンプリング不要のアプローチを導入します。
我々は,最先端手法と同等の信頼性のある不確実性推定を,計算コストを著しく低減した形で生成する。
論文 参考訳(メタデータ) (2022-11-21T13:23:09Z) - Uncertainty-aware LiDAR Panoptic Segmentation [21.89063036529791]
本稿では,LiDAR点雲を用いた不確実性を考慮したパノプティックセグメンテーションの課題を解決するための新しいアプローチを提案する。
提案するEvLPSNetネットワークは,この課題をサンプリング不要で効率的に解決する最初の方法である。
我々は、最先端のパン光学セグメンテーションネットワークとサンプリング不要不確実性推定技術を組み合わせた、いくつかの強力なベースラインを提供する。
論文 参考訳(メタデータ) (2022-10-10T07:54:57Z) - Latent Discriminant deterministic Uncertainty [11.257956169255193]
高精度なセマンティックセグメンテーションのためのスケーラブルで効果的な決定論的不確実性手法(DUM)を提案する。
提案手法は,不確実性予測のための最先端技術であるDeep Ensemblesに対して,画像分類,深度セグメンテーション,単分子推定タスクにおいて競合する結果を得る。
論文 参考訳(メタデータ) (2022-07-20T18:18:40Z) - Training Uncertainty-Aware Classifiers with Conformalized Deep Learning [7.837881800517111]
ディープニューラルネットワークは、データ内の隠れパターンを検出し、それらを活用して予測する強力なツールであるが、不確実性を理解するように設計されていない。
我々は予測力を犠牲にすることなく、より信頼性の高い不確実性推定を導出できる新しいトレーニングアルゴリズムを開発した。
論文 参考訳(メタデータ) (2022-05-12T05:08:10Z) - On Efficient Uncertainty Estimation for Resource-Constrained Mobile
Applications [0.0]
予測の不確実性は、モデル予測を補完し、下流タスクの機能を改善します。
Axolotlフレームワークを用いてモンテカルロ・ドロップアウト(MCDO)モデルを構築することでこの問題に対処する。
我々は,(1)CIFAR10データセットを用いた多クラス分類タスク,(2)より複雑な人体セグメンテーションタスクについて実験を行った。
論文 参考訳(メタデータ) (2021-11-11T22:24:15Z) - CertainNet: Sampling-free Uncertainty Estimation for Object Detection [65.28989536741658]
ニューラルネットワークの不確実性を推定することは、安全クリティカルな設定において基本的な役割を果たす。
本研究では,オブジェクト検出のための新しいサンプリング不要不確実性推定法を提案する。
私たちはそれをCertainNetと呼び、各出力信号に対して、オブジェクト性、クラス、位置、サイズという、別の不確実性を提供するのは、これが初めてです。
論文 参考訳(メタデータ) (2021-10-04T17:59:31Z) - Learning Uncertainty For Safety-Oriented Semantic Segmentation In
Autonomous Driving [77.39239190539871]
自律運転における安全クリティカル画像セグメンテーションを実現するために、不確実性推定をどのように活用できるかを示す。
相似性関数によって測定された不一致予測に基づく新しい不確実性尺度を導入する。
本研究では,提案手法が競合手法よりも推論時間において計算集約性が低いことを示す。
論文 参考訳(メタデータ) (2021-05-28T09:23:05Z) - Uncertainty-Aware Deep Calibrated Salient Object Detection [74.58153220370527]
既存のディープニューラルネットワークに基づくサルエントオブジェクト検出(SOD)手法は主に高いネットワーク精度の追求に重点を置いている。
これらの手法は、信頼不均衡問題として知られるネットワーク精度と予測信頼の間のギャップを見落としている。
我々は,不確実性を考慮した深部SODネットワークを導入し,深部SODネットワークの過信を防止するための2つの戦略を提案する。
論文 参考訳(メタデータ) (2020-12-10T23:28:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。