論文の概要: A Survey on Uncertainty Quantification Methods for Deep Learning
- arxiv url: http://arxiv.org/abs/2302.13425v6
- Date: Mon, 20 Jan 2025 00:39:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-22 14:18:11.666672
- Title: A Survey on Uncertainty Quantification Methods for Deep Learning
- Title（参考訳）: 深層学習における不確実性定量化手法の検討
- Authors: Wenchong He, Zhe Jiang, Tingsong Xiao, Zelin Xu, Yukun Li,
- Abstract要約: 不確かさ定量化(UQ)は、予測精度以上のDNN予測の信頼性を推定することを目的としている。
本稿では,DNNに対するUQ手法の系統分類を,不確実性源の種類に基づいて提案する。
我々は、我々のUQ方法論の分類が、異なる機械学習問題におけるUQ手法の選択を導くのにどのように役立つかを示す。
- 参考スコア（独自算出の注目度）: 7.102893202197349
- License:
- Abstract: Deep neural networks (DNNs) have achieved tremendous success in making accurate predictions for computer vision, natural language processing, as well as science and engineering domains. However, it is also well-recognized that DNNs sometimes make unexpected, incorrect, but overconfident predictions. This can cause serious consequences in high-stake applications, such as autonomous driving, medical diagnosis, and disaster response. Uncertainty quantification (UQ) aims to estimate the confidence of DNN predictions beyond prediction accuracy. In recent years, many UQ methods have been developed for DNNs. It is of great practical value to systematically categorize these UQ methods and compare their advantages and disadvantages. However, existing surveys mostly focus on categorizing UQ methodologies from a neural network architecture perspective or a Bayesian perspective and ignore the source of uncertainty that each methodology can incorporate, making it difficult to select an appropriate UQ method in practice. To fill the gap, this paper presents a systematic taxonomy of UQ methods for DNNs based on the types of uncertainty sources (data uncertainty versus model uncertainty). We summarize the advantages and disadvantages of methods in each category. We show how our taxonomy of UQ methodologies can potentially help guide the choice of UQ method in different machine learning problems (e.g., active learning, robustness, and reinforcement learning). We also identify current research gaps and propose several future research directions.
- Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、コンピュータビジョン、自然言語処理、科学と工学の領域の正確な予測に成功している。
しかし、DNNが予期せぬ、誤った、しかし自信過剰な予測をすることもあることもよく認識されている。
これは、自律運転、医療診断、災害対応など、高度な応用において深刻な結果をもたらす可能性がある。
不確かさ定量化(UQ)は、予測精度以上のDNN予測の信頼性を推定することを目的としている。
近年,DNN向けに多くのUQ手法が開発されている。
これらのUQ手法を体系的に分類し、それらの利点と欠点を比較することは、非常に実践的な価値である。
しかしながら、既存の調査は主に、ニューラルネットワークアーキテクチャの観点からUQ方法論を分類すること、あるいはベイズ的な視点から分類することに焦点を当て、各方法論が組み込むことのできる不確実性の源を無視し、実際に適切なUQメソッドを選択するのが困難である。
このギャップを埋めるために,不確実性源の種類(データ不確実性とモデル不確実性)に基づいて,DNNのUQ手法の系統的な分類法を提案する。
各カテゴリーにおける手法の長所と短所をまとめた。
我々は、我々のUQ方法論の分類が、異なる機械学習問題(例えば、アクティブラーニング、堅牢性、強化学習)におけるUQ手法の選択を導くのにどのように役立つかを示す。
また,現在の研究ギャップを特定し,今後の研究方向性を提案する。
関連論文リスト
- Uncertainty Quantification for Forward and Inverse Problems of PDEs via
Latent Global Evolution [110.99891169486366]
本稿では,効率的かつ高精度な不確実性定量化を深層学習に基づく代理モデルに統合する手法を提案する。
本手法は,フォワード問題と逆問題の両方に対して,堅牢かつ効率的な不確実性定量化機能を備えたディープラーニングに基づく代理モデルを提案する。
提案手法は, 長期予測を含むシナリオに適合し, 拡張された自己回帰ロールアウトに対する不確かさの伝播に優れる。
論文 参考訳（メタデータ） (2024-02-13T11:22:59Z) - Online Algorithms with Uncertainty-Quantified Predictions [11.951228732915936]
オンラインアルゴリズムの設計における不確実性定量化予測を最適に活用する問題について検討する。
特に,スキーレンタルとオンライン検索の2つの古典的オンライン問題について検討した。
我々は、UQ予測を完全に活用するために、アルゴリズム設計への非自明な修正が必要であることを実証する。
論文 参考訳（メタデータ） (2023-10-17T20:09:41Z) - Uncertainty in Natural Language Processing: Sources, Quantification, and
Applications [56.130945359053776]
NLP分野における不確実性関連作業の総合的なレビューを行う。
まず、自然言語の不確実性の原因を、入力、システム、出力の3つのタイプに分類する。
我々は,NLPにおける不確実性推定の課題について論じ,今後の方向性について論じる。
論文 参考訳（メタデータ） (2023-06-05T06:46:53Z) - Uncertainty Quantification in Machine Learning for Engineering Design
and Health Prognostics: A Tutorial [12.570694576213244]
不確実性定量化(英: Uncertainty Quantification、UQ)は、より原則化された意思決定につながるような安全保証の不可欠な層として機能する。
このチュートリアルは、ニューラルネットワークに特に焦点をあてたMLモデルの新たなUQメソッドに関する、包括的なレンズを提供する。
工学設計と健康診断における課題解決におけるMLモデルのUQの役割について論じる。
論文 参考訳（メタデータ） (2023-05-07T03:12:03Z) - Interpretable Self-Aware Neural Networks for Robust Trajectory
Prediction [50.79827516897913]
本稿では,意味概念間で不確実性を分散する軌道予測のための解釈可能なパラダイムを提案する。
実世界の自動運転データに対する我々のアプローチを検証し、最先端のベースラインよりも優れた性能を示す。
論文 参考訳（メタデータ） (2022-11-16T06:28:20Z) - Uncertainty Quantification in Neural Differential Equations [3.291910356217187]
不確実性定量化(UQ)は、収集された観測と不確実なドメイン知識に基づいて信頼できる予測を行うのに役立つ。
我々は、DECソリューションの予測不確実性を得るために、最先端のUQ手法をいくつか適用する。
論文 参考訳（メタデータ） (2021-11-08T00:09:39Z) - MURAL: Meta-Learning Uncertainty-Aware Rewards for Outcome-Driven
Reinforcement Learning [65.52675802289775]
本研究では,不確かさを意識した分類器が,強化学習の難しさを解消できることを示す。
正規化最大度(NML)分布の計算法を提案する。
得られたアルゴリズムは、カウントベースの探索法と、報酬関数を学習するための先行アルゴリズムの両方に多くの興味深い関係を持つことを示す。
論文 参考訳（メタデータ） (2021-07-15T08:19:57Z) - A Review of Uncertainty Quantification in Deep Learning: Techniques,
Applications and Challenges [76.20963684020145]
不確実性定量化(UQ)は、最適化と意思決定プロセスの両方において不確実性の低減に重要な役割を果たしている。
ビザレ近似とアンサンブル学習技術は、文学において最も広く使われている2つのUQ手法である。
本研究は, 深層学習におけるUQ手法の最近の進歩を概観し, 強化学習におけるこれらの手法の適用について検討する。
論文 参考訳（メタデータ） (2020-11-12T06:41:05Z) - Boosting Deep Neural Networks with Geometrical Prior Knowledge: A Survey [77.99182201815763]
ディープニューラルネットワーク(DNN)は多くの異なる問題設定において最先端の結果を達成する。
DNNはしばしばブラックボックスシステムとして扱われ、評価と検証が複雑になる。
コンピュータビジョンタスクにおける畳み込みニューラルネットワーク(CNN)の成功に触発された、有望な分野のひとつは、対称幾何学的変換に関する知識を取り入れることである。
論文 参考訳（メタデータ） (2020-06-30T14:56:05Z) - Uncertainty Quantification Using Neural Networks for Molecular Property
Prediction [33.34534208450156]
複数の相補的な性能指標を用いて,5つのベンチマークデータセット上で複数の手法を体系的に評価した。
テストしたどのメソッドも他のどのメソッドよりも絶対的に優れているわけではなく、複数のデータセットにまたがって特に信頼性の高いエラーランキングを生成するものもありません。
我々は,既存の技術が他とよく関係しているように見えるものについて,実践的な勧告で結論付けている。
論文 参考訳（メタデータ） (2020-05-20T13:31:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。