論文の概要: Real-Time Uncertainty Estimation in Computer Vision via
Uncertainty-Aware Distribution Distillation
- arxiv url: http://arxiv.org/abs/2007.15857v2
- Date: Fri, 6 Nov 2020 03:52:54 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-04 05:46:05.035002
- Title: Real-Time Uncertainty Estimation in Computer Vision via
Uncertainty-Aware Distribution Distillation
- Title(参考訳): 不確実性認識分布蒸留によるコンピュータビジョンのリアルタイム不確実性推定
- Authors: Yichen Shen, Zhilu Zhang, Mert R. Sabuncu, Lin Sun
- Abstract要約: 本研究では,事前学習したドロップアウトモデルの条件付き予測分布を学習するための,簡易かつ簡便な蒸留法を提案する。
提案手法の有効性を,意味的セグメンテーションと深さ推定の両方で実証的に検証した。
- 参考スコア(独自算出の注目度): 18.712408359052667
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Calibrated estimates of uncertainty are critical for many real-world computer
vision applications of deep learning. While there are several widely-used
uncertainty estimation methods, dropout inference stands out for its simplicity
and efficacy. This technique, however, requires multiple forward passes through
the network during inference and therefore can be too resource-intensive to be
deployed in real-time applications. We propose a simple, easy-to-optimize
distillation method for learning the conditional predictive distribution of a
pre-trained dropout model for fast, sample-free uncertainty estimation in
computer vision tasks. We empirically test the effectiveness of the proposed
method on both semantic segmentation and depth estimation tasks and demonstrate
our method can significantly reduce the inference time, enabling real-time
uncertainty quantification, while achieving improved quality of both the
uncertainty estimates and predictive performance over the regular dropout
model.
- Abstract(参考訳): 不確実性を校正した推定は、ディープラーニングの現実世界の多くのコンピュータビジョンアプリケーションにとって重要である。
広く使われている不確実性推定手法はいくつか存在するが、ドロップアウト推論はその単純さと有効性が際立っている。
しかしながら、このテクニックは推論中にネットワークを複数のフォワードパスする必要があるため、リアルタイムアプリケーションでデプロイするにはリソース集約的すぎる可能性がある。
コンピュータビジョンタスクにおける高速でサンプル不要な不確実性推定のための,事前学習したドロップアウトモデルの条件付き予測分布を学習するための,簡便かつ簡便な蒸留法を提案する。
本研究では,提案手法が意味的セグメンテーションと深度推定の両方に与える影響を実証的に検証し,提案手法が推論時間を大幅に短縮し,実時間不確実性定量化を可能にするとともに,不確実性推定と予測性能を通常のドロップアウトモデルよりも向上させることを実証した。
関連論文リスト
- Confidence Intervals and Simultaneous Confidence Bands Based on Deep Learning [0.36832029288386137]
本手法は, 適用された最適化アルゴリズムに固有の雑音からデータの不確実性を正しく解き放つことのできる, 有効な非パラメトリックブートストラップ法である。
提案したアドホック法は、トレーニングプロセスに干渉することなく、ディープニューラルネットワークに容易に統合できる。
論文 参考訳(メタデータ) (2024-06-20T05:51:37Z) - Uncertainty Estimation by Fisher Information-based Evidential Deep
Learning [61.94125052118442]
不確実性推定は、ディープラーニングを実用アプリケーションで信頼できるものにする鍵となる要素である。
漁業情報に基づくエビデンシャルディープラーニング(mathcalI$-EDL)を提案する。
特に,各サンプルが有する証拠の情報量を測定するためにFisher Information Matrix (FIM)を導入し,目的的損失項を動的に重み付けし,不確実なクラスの表現学習に集中させる。
論文 参考訳(メタデータ) (2023-03-03T16:12:59Z) - Adapting to Continuous Covariate Shift via Online Density Ratio Estimation [64.8027122329609]
分散シフトへの対処は、現代の機械学習における中心的な課題の1つだ。
歴史的情報を適切に再利用するオンライン手法を提案する。
我々の密度比推定法は, ダイナミックなリセットバウンドを楽しむことにより, 良好に動作できることが証明された。
論文 参考訳(メタデータ) (2023-02-06T04:03:33Z) - Post-hoc Uncertainty Learning using a Dirichlet Meta-Model [28.522673618527417]
本研究では,不確実性定量化能力の優れた事前学習モデルを構築するための新しいベイズメタモデルを提案する。
提案手法は追加のトレーニングデータを必要としないため,不確かさの定量化に十分な柔軟性がある。
提案するメタモデルアプローチの柔軟性と,これらのアプリケーションに対する優れた経験的性能を実証する。
論文 参考訳(メタデータ) (2022-12-14T17:34:11Z) - On the Practicality of Deterministic Epistemic Uncertainty [106.06571981780591]
決定論的不確実性法(DUM)は,分布外データの検出において高い性能を達成する。
DUMが十分に校正されており、現実のアプリケーションにシームレスにスケールできるかどうかは不明だ。
論文 参考訳(メタデータ) (2021-07-01T17:59:07Z) - Learning Uncertainty For Safety-Oriented Semantic Segmentation In
Autonomous Driving [77.39239190539871]
自律運転における安全クリティカル画像セグメンテーションを実現するために、不確実性推定をどのように活用できるかを示す。
相似性関数によって測定された不一致予測に基づく新しい不確実性尺度を導入する。
本研究では,提案手法が競合手法よりも推論時間において計算集約性が低いことを示す。
論文 参考訳(メタデータ) (2021-05-28T09:23:05Z) - Quantifying Uncertainty in Deep Spatiotemporal Forecasting [67.77102283276409]
本稿では,正規格子法とグラフ法という2種類の予測問題について述べる。
我々はベイジアンおよび頻繁な視点からUQ法を解析し、統計的決定理論を通じて統一的な枠組みを提示する。
実際の道路ネットワークのトラフィック、疫病、空気質予測タスクに関する広範な実験を通じて、異なるUQ手法の統計計算トレードオフを明らかにする。
論文 参考訳(メタデータ) (2021-05-25T14:35:46Z) - The Benefit of the Doubt: Uncertainty Aware Sensing for Edge Computing
Platforms [10.86298377998459]
組込みエッジシステム上に展開されたNNにおける予測不確実性推定のための効率的なフレームワークを提案する。
フレームワークは1つのフォワードパスのみに基づいて予測の不確実性を提供するために、ゼロから構築されている。
提案手法は, 堅牢かつ正確な不確実性推定だけでなく, システム性能の点で最先端の手法よりも優れている。
論文 参考訳(メタデータ) (2021-02-11T11:44:32Z) - Uncertainty Estimation and Calibration with Finite-State Probabilistic
RNNs [29.84563789289183]
不確かさの定量化は、信頼性と信頼性のある機械学習システムを構築するために不可欠である。
本稿では、リカレントニューラルネットワーク(RNN)における離散状態遷移による不確実性の推定を提案する。
モデルの不確実性は、繰り返し状態遷移分布からサンプリングするたびに、予測を数回実行することで定量化することができる。
論文 参考訳(メタデータ) (2020-11-24T10:35:28Z) - Multi-Loss Sub-Ensembles for Accurate Classification with Uncertainty
Estimation [1.2891210250935146]
本稿では,ディープニューラルネットワーク(DNN)の高精度な不確実性推定手法を提案する。
我々は,Deep-Sub-Ensembles法によって提案される利点を利用して,推定時間を比較的低く保つ。
その結果,いくつかの不確実性対策における分類課題と競争結果の精度が向上した。
論文 参考訳(メタデータ) (2020-10-05T10:59:11Z) - On the uncertainty of self-supervised monocular depth estimation [52.13311094743952]
単眼深度推定のための自己監督的パラダイムは、基礎的な真理アノテーションを全く必要としないため、非常に魅力的である。
我々は,このタスクの不確かさを推定する方法と,これが深さ精度にどのように影響するかを初めて検討する。
自己教師型アプローチに特化して設計された,斬新な手法を提案する。
論文 参考訳(メタデータ) (2020-05-13T09:00:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。