論文の概要: Multimodal Neural Processes for Uncertainty Estimation
- arxiv url: http://arxiv.org/abs/2304.01518v1
- Date: Tue, 4 Apr 2023 04:03:48 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-05 15:11:56.395657
- Title: Multimodal Neural Processes for Uncertainty Estimation
- Title(参考訳): 不確実性推定のためのマルチモーダルニューラルプロセス
- Authors: Myong Chol Jung, He Zhao, Joanna Dipnall, Belinda Gabbe, Lan Du
- Abstract要約: 本稿では,マルチモーダル・ニューラル・プロセスを用いたマルチモーダル不確実性推定のためのNPファミリーの新しいモデルを提案する。
本研究では,分類誤差によって更新された動的コンテキストメモリ,マルチモーダル表現を集約するマルチモーダルベイズアグリゲーション機構,キャリブレーションされた予測のための新しいアテンション機構を開発する。
広汎な実験的評価において,本手法は,ノイズサンプルに対して頑健であり,領域外検出に信頼性のある,最先端のマルチモーダル不確実性推定性能を実現する。
- 参考スコア(独自算出の注目度): 5.868139834982011
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural processes (NPs) have brought the representation power of parametric
deep neural networks and the reliable uncertainty estimation of non-parametric
Gaussian processes together. Although recent development of NPs has shown
success in both regression and classification, how to adapt NPs to multimodal
data has not be carefully studied. For the first time, we propose a new model
of NP family for multimodal uncertainty estimation, namely Multimodal Neural
Processes. In a holistic and principled way, we develop a dynamic context
memory updated by the classification error, a multimodal Bayesian aggregation
mechanism to aggregate multimodal representations, and a new attention
mechanism for calibrated predictions. In extensive empirical evaluation, our
method achieves the state-of-the-art multimodal uncertainty estimation
performance, showing its appealing ability of being robust against noisy
samples and reliable in out-of-domain detection.
- Abstract(参考訳): ニューラルプロセス(nps)は、パラメトリック深層ニューラルネットワークの表現力と、非パラメトリックガウス過程の信頼性の高い不確実性推定をもたらす。
近年のNPsは回帰と分類の両方で成功したが、NPsをマルチモーダルデータに適用する方法は慎重に研究されていない。
本稿では,マルチモーダル・ニューラル・プロセスを用いたマルチモーダル不確実性推定のためのNPファミリーの新しいモデルを提案する。
包括的かつ原理的な方法で、分類誤差によって更新される動的コンテキストメモリ、マルチモーダル表現を集約するマルチモーダルベイズ集約機構、キャリブレーション予測のための新しい注意機構を開発する。
広汎な実験的評価において,本手法は,ノイズサンプルに対して頑健であり,領域外検出に信頼性のある,最先端のマルチモーダル不確実性推定性能を実現する。
関連論文リスト
- One step closer to unbiased aleatoric uncertainty estimation [71.55174353766289]
そこで本研究では,観測データのアクティブデノイズ化による新しい推定手法を提案する。
幅広い実験を行うことで,提案手法が標準手法よりも実際のデータ不確実性にはるかに近い近似を与えることを示す。
論文 参考訳(メタデータ) (2023-12-16T14:59:11Z) - Uncertainty in Natural Language Processing: Sources, Quantification, and
Applications [56.130945359053776]
NLP分野における不確実性関連作業の総合的なレビューを行う。
まず、自然言語の不確実性の原因を、入力、システム、出力の3つのタイプに分類する。
我々は,NLPにおける不確実性推定の課題について論じ,今後の方向性について論じる。
論文 参考訳(メタデータ) (2023-06-05T06:46:53Z) - Uncertainty Estimation by Fisher Information-based Evidential Deep
Learning [61.94125052118442]
不確実性推定は、ディープラーニングを実用アプリケーションで信頼できるものにする鍵となる要素である。
漁業情報に基づくエビデンシャルディープラーニング(mathcalI$-EDL)を提案する。
特に,各サンプルが有する証拠の情報量を測定するためにFisher Information Matrix (FIM)を導入し,目的的損失項を動的に重み付けし,不確実なクラスの表現学習に集中させる。
論文 参考訳(メタデータ) (2023-03-03T16:12:59Z) - Uncertainty-aware Multi-modal Learning via Cross-modal Random Network
Prediction [22.786774541083652]
クロスモーダルランダムネットワーク予測(CRNP)による特徴密度の測定により不確かさを推定する不確実性認識型マルチモーダル学習器を提案する。
CRNPは、安定したトレーニングプロセスを持ちながら、異なる予測タスク間の変換にほとんど適応を必要としないように設計されている。
論文 参考訳(メタデータ) (2022-07-22T03:00:10Z) - The Unreasonable Effectiveness of Deep Evidential Regression [72.30888739450343]
不確実性を考慮した回帰ベースニューラルネットワーク(NN)による新しいアプローチは、従来の決定論的手法や典型的なベイズ的NNよりも有望であることを示している。
我々は、理論的欠点を詳述し、合成および実世界のデータセットのパフォーマンスを分析し、Deep Evidential Regressionが正確な不確実性ではなく定量化であることを示す。
論文 参考訳(メタデータ) (2022-05-20T10:10:32Z) - NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural
Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。
種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文 参考訳(メタデータ) (2022-02-07T12:30:45Z) - Trustworthy Multimodal Regression with Mixture of Normal-inverse Gamma
Distributions [91.63716984911278]
このアルゴリズムは、異なるモードの適応的統合の原理における不確かさを効率的に推定し、信頼できる回帰結果を生成する。
実世界のデータと実世界のデータの両方に対する実験結果から,多モード回帰タスクにおける本手法の有効性と信頼性が示された。
論文 参考訳(メタデータ) (2021-11-11T14:28:12Z) - Interval Deep Learning for Uncertainty Quantification in Safety
Applications [0.0]
現在のディープニューラルネットワーク(DNN)は、重要な入力データの不確実性を定量化し伝播する暗黙のメカニズムを持っていない。
本稿では、間隔解析を用いて入力とパラメータの不確かさを定量化できる勾配法を最適化したDNNを提案する。
本研究では,Deep Interval Neural Network (DINN) が不確定な入力データから正確な有界推定を生成できることを示した。
論文 参考訳(メタデータ) (2021-05-13T17:21:33Z) - Multivariate Density Estimation with Deep Neural Mixture Models [0.0]
ディープニューラルネットワーク(DNN)は密度推定にはほとんど適用されていない。
本稿では,ニューラルミクチャー密度(NMM)に関するこれまでの研究を拡張した。
深部NMM(Deep NMM)を推定するための最大形アルゴリズム(ML)が配される。
DNMMを通して任意の精度でモデル化できる確率密度関数のクラスが正式に定義される。
論文 参考訳(メタデータ) (2020-12-06T23:03:48Z) - Multi-Loss Sub-Ensembles for Accurate Classification with Uncertainty
Estimation [1.2891210250935146]
本稿では,ディープニューラルネットワーク(DNN)の高精度な不確実性推定手法を提案する。
我々は,Deep-Sub-Ensembles法によって提案される利点を利用して,推定時間を比較的低く保つ。
その結果,いくつかの不確実性対策における分類課題と競争結果の精度が向上した。
論文 参考訳(メタデータ) (2020-10-05T10:59:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。