論文の概要: The Benefit of the Doubt: Uncertainty Aware Sensing for Edge Computing
Platforms
- arxiv url: http://arxiv.org/abs/2102.05956v1
- Date: Thu, 11 Feb 2021 11:44:32 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-12 14:20:00.776026
- Title: The Benefit of the Doubt: Uncertainty Aware Sensing for Edge Computing
Platforms
- Title（参考訳）: Doubtのメリット:エッジコンピューティングプラットフォームに対する不確実な認識
- Authors: Lorena Qendro, Jagmohan Chauhan, Alberto Gil C. P. Ramos, Cecilia
Mascolo
- Abstract要約: 組込みエッジシステム上に展開されたNNにおける予測不確実性推定のための効率的なフレームワークを提案する。
フレームワークは1つのフォワードパスのみに基づいて予測の不確実性を提供するために、ゼロから構築されている。
提案手法は, 堅牢かつ正確な不確実性推定だけでなく, システム性能の点で最先端の手法よりも優れている。
- 参考スコア（独自算出の注目度）: 10.86298377998459
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural networks (NNs) lack measures of "reliability" estimation that would
enable reasoning over their predictions. Despite the vital importance,
especially in areas of human well-being and health, state-of-the-art
uncertainty estimation techniques are computationally expensive when applied to
resource-constrained devices. We propose an efficient framework for predictive
uncertainty estimation in NNs deployed on embedded edge systems with no need
for fine-tuning or re-training strategies. To meet the energy and latency
requirements of these embedded platforms the framework is built from the ground
up to provide predictive uncertainty based only on one forward pass and a
negligible amount of additional matrix multiplications with theoretically
proven correctness. Our aim is to enable already trained deep learning models
to generate uncertainty estimates on resource-limited devices at inference time
focusing on classification tasks. This framework is founded on theoretical
developments casting dropout training as approximate inference in Bayesian NNs.
Our layerwise distribution approximation to the convolution layer cascades
through the network, providing uncertainty estimates in one single run which
ensures minimal overhead, especially compared with uncertainty techniques that
require multiple forwards passes and an equal linear rise in energy and latency
requirements making them unsuitable in practice. We demonstrate that it yields
better performance and flexibility over previous work based on multilayer
perceptrons to obtain uncertainty estimates. Our evaluation with mobile
applications datasets shows that our approach not only obtains robust and
accurate uncertainty estimations but also outperforms state-of-the-art methods
in terms of systems performance, reducing energy consumption (up to 28x),
keeping the memory overhead at a minimum while still improving accuracy (up to
16%).
- Abstract（参考訳）: ニューラルネットワーク(NN)は、予測の推論を可能にする「信頼性」推定の尺度を欠いている。
特にヒトの健康と健康の分野において重要なことにもかかわらず、資源制約されたデバイスに適用した場合、最先端の不確実性推定技術は計算コストがかかる。
本稿では,組み込みエッジシステム上に配置されたnnsにおける予測不確実性推定のための効率的なフレームワークを提案する。
これらの組込みプラットフォームのエネルギーとレイテンシの要求を満たすため、このフレームワークは1つの前方パスと理論的に証明された正確性を持つ追加の行列乗算に基づいて予測の不確実性を提供するために、ゼロから構築されている。
私たちの目標は、すでに訓練されたディープラーニングモデルを使用して、分類タスクに焦点を当てた推論時にリソース制限されたデバイスで不確実性推定を生成することです。
この枠組みはベイジアンnnsにおける近似推論としてドロップアウトトレーニングを鋳造する理論的発展に基づいている。
ネットワークを介して畳み込み層のカスケードに階層分布を近似し、特に複数のフォワードパスを必要とする不確実性技術と同等なエネルギーと遅延要求の線形増加を要求されるため、実際は不適当であるのに対して、単一実行時の不確実性推定を最小限に抑える。
多層パーセプトロンに基づく従来の作業よりも性能と柔軟性が向上し,不確実性推定が得られることを実証した。
モバイルアプリケーションデータを用いた評価の結果,本手法はロバストで正確な不確かさを推定するだけでなく,システム性能や消費電力(最大28倍)の削減,メモリオーバヘッドの最小維持,精度向上(最大16%)といった最先端手法よりも優れていることが示された。
関連論文リスト
- Uncertainty Calibration with Energy Based Instance-wise Scaling in the Wild Dataset [23.155946032377052]
エネルギーモデルに基づく新しいインスタンスワイドキャリブレーション手法を提案する。
本手法は,ソフトマックス信頼性スコアの代わりにエネルギースコアを組み込むことにより,不確実性を考慮した適応的な検討を可能にする。
実験では,提案手法はスペクトル間のロバストな性能を一貫して維持することを示した。
論文 参考訳（メタデータ） (2024-07-17T06:14:55Z) - On Measuring Calibration of Discrete Probabilistic Neural Networks [3.120856767382004]
高次元確率分布を最大極大で適合させるニューラルネットワークの訓練は、不確実性定量化の有効な方法となっている。
expected Error (ECE) や Negative Log Likelihood (NLL) といった従来のメトリクスには制限がある。
本稿では,これらのバイアスや仮定を伴わずにキャリブレーションの誤差を測定するために,条件付きカーネル平均埋め込みを用いた新しい手法を提案する。
論文 参考訳（メタデータ） (2024-05-20T23:30:07Z) - Adaptive Uncertainty Estimation via High-Dimensional Testing on Latent
Representations [28.875819909902244]
不確実性推定は、訓練されたディープニューラルネットワークの信頼性を評価することを目的としている。
既存の不確実性推定アプローチは、低次元分布仮定に依存している。
本研究では,不確実性推定のためのデータ適応型高次元仮説テストを用いた新しいフレームワークを提案する。
論文 参考訳（メタデータ） (2023-10-25T12:22:18Z) - Lightweight, Uncertainty-Aware Conformalized Visual Odometry [2.429910016019183]
データ駆動型ビジュアルオドメトリー(VO)は、自律エッジロボティクスにとって重要なサブルーチンである。
昆虫スケールドローンや外科ロボットのような最先端ロボットデバイスは、VOの予測の不確実性を推定する計算的に効率的な枠組みを欠いている。
本稿では,共形推論(CI)を利用してVOの不確実な帯域を抽出する,新しい,軽量で統計的に堅牢なフレームワークを提案する。
論文 参考訳（メタデータ） (2023-03-03T20:37:55Z) - Uncertainty Estimation by Fisher Information-based Evidential Deep
Learning [61.94125052118442]
不確実性推定は、ディープラーニングを実用アプリケーションで信頼できるものにする鍵となる要素である。
漁業情報に基づくエビデンシャルディープラーニング(mathcalI$-EDL)を提案する。
特に,各サンプルが有する証拠の情報量を測定するためにFisher Information Matrix (FIM)を導入し,目的的損失項を動的に重み付けし,不確実なクラスの表現学習に集中させる。
論文 参考訳（メタデータ） (2023-03-03T16:12:59Z) - Fast Uncertainty Estimates in Deep Learning Interatomic Potentials [0.0]
本研究では,単一ニューラルネットワークを用いて,アンサンブルを必要とせずに予測不確実性を推定する手法を提案する。
本研究では,不確実性の推定値の品質が深層アンサンブルから得られた値と一致することを示す。
論文 参考訳（メタデータ） (2022-11-17T20:13:39Z) - Interpretable Self-Aware Neural Networks for Robust Trajectory
Prediction [50.79827516897913]
本稿では,意味概念間で不確実性を分散する軌道予測のための解釈可能なパラダイムを提案する。
実世界の自動運転データに対する我々のアプローチを検証し、最先端のベースラインよりも優れた性能を示す。
論文 参考訳（メタデータ） (2022-11-16T06:28:20Z) - The Unreasonable Effectiveness of Deep Evidential Regression [72.30888739450343]
不確実性を考慮した回帰ベースニューラルネットワーク(NN)による新しいアプローチは、従来の決定論的手法や典型的なベイズ的NNよりも有望であることを示している。
我々は、理論的欠点を詳述し、合成および実世界のデータセットのパフォーマンスを分析し、Deep Evidential Regressionが正確な不確実性ではなく定量化であることを示す。
論文 参考訳（メタデータ） (2022-05-20T10:10:32Z) - NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural
Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。
種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文 参考訳（メタデータ） (2022-02-07T12:30:45Z) - Dense Uncertainty Estimation [62.23555922631451]
本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。
本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
論文 参考訳（メタデータ） (2021-10-13T01:23:48Z) - On the Practicality of Deterministic Epistemic Uncertainty [106.06571981780591]
決定論的不確実性法(DUM)は,分布外データの検出において高い性能を達成する。
DUMが十分に校正されており、現実のアプリケーションにシームレスにスケールできるかどうかは不明だ。
論文 参考訳（メタデータ） (2021-07-01T17:59:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。