論文の概要: Uncertainty Propagation through Trained Deep Neural Networks Using
Factor Graphs
- arxiv url: http://arxiv.org/abs/2312.05946v1
- Date: Sun, 10 Dec 2023 17:26:27 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-12 17:50:40.134948
- Title: Uncertainty Propagation through Trained Deep Neural Networks Using
Factor Graphs
- Title(参考訳): 因子グラフを用いた訓練深層ニューラルネットワークによる不確かさ伝播
- Authors: Angel Daruna, Yunye Gong, Abhinav Rajvanshi, Han-Pang Chiu, Yi Yao
- Abstract要約: 不確実性伝播は、入力不確かさをネットワーク予測に伝播させることにより、アレタリック不確かさを推定しようとする。
深層ニューラルネットワーク内の複雑な情報の流れに触発され,因子グラフを用いた非線形最適化問題として不確実性伝播を仮定して新しい手法を開発した。
- 参考スコア(独自算出の注目度): 4.704825771757308
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Predictive uncertainty estimation remains a challenging problem precluding
the use of deep neural networks as subsystems within safety-critical
applications. Aleatoric uncertainty is a component of predictive uncertainty
that cannot be reduced through model improvements. Uncertainty propagation
seeks to estimate aleatoric uncertainty by propagating input uncertainties to
network predictions. Existing uncertainty propagation techniques use one-way
information flows, propagating uncertainties layer-by-layer or across the
entire neural network while relying either on sampling or analytical techniques
for propagation. Motivated by the complex information flows within deep neural
networks (e.g. skip connections), we developed and evaluated a novel approach
by posing uncertainty propagation as a non-linear optimization problem using
factor graphs. We observed statistically significant improvements in
performance over prior work when using factor graphs across most of our
experiments that included three datasets and two neural network architectures.
Our implementation balances the benefits of sampling and analytical propagation
techniques, which we believe, is a key factor in achieving performance
improvements.
- Abstract(参考訳): 予測の不確実性推定は、安全クリティカルなアプリケーションにおけるディープニューラルネットワークのサブシステムとしての使用を前提とした、依然として難しい問題である。
不確実性は予測の不確実性の構成要素であり、モデルの改善によって低減できない。
不確実性伝播は、入力の不確実性をネットワーク予測に伝播させることで、アリーアティック不確実性の推定を試みる。
既存の不確実性伝播技術では、一方向の情報フローを使用し、層間またはニューラルネットワーク全体にわたって不確実性が伝播する。
深層ニューラルネットワーク内の複雑な情報フロー(スキップ接続など)に動機付け,不確実性伝播を係数グラフを用いた非線形最適化問題として用いた新しい手法を開発し,評価した。
3つのデータセットと2つのニューラルネットワークアーキテクチャを含む、ほとんどの実験でファクタグラフを使用する場合、以前の作業よりも、統計的に大幅なパフォーマンス改善が見られた。
我々の実装はサンプリングと解析的伝播技術の利点のバランスをとっており、これは性能改善の鍵となる要素であると考えている。
関連論文リスト
- An Analytic Solution to Covariance Propagation in Neural Networks [10.013553984400488]
本稿では,ニューラルネットワークの入出力分布を正確に特徴付けるために,サンプルフリーモーメント伝搬法を提案する。
この手法の鍵となる有効性は、非線形活性化関数を通した確率変数の共分散に対する解析解である。
学習ニューラルネットワークの入力出力分布を分析し,ベイズニューラルネットワークを訓練する実験において,提案手法の適用性およびメリットを示す。
論文 参考訳(メタデータ) (2024-03-24T14:08:24Z) - Tractable Function-Space Variational Inference in Bayesian Neural
Networks [72.97620734290139]
ニューラルネットワークの予測不確かさを推定するための一般的なアプローチは、ネットワークパラメータに対する事前分布を定義することである。
本稿では,事前情報を組み込むスケーラブルな関数空間変動推論手法を提案する。
提案手法は,様々な予測タスクにおいて,最先端の不確実性評価と予測性能をもたらすことを示す。
論文 参考訳(メタデータ) (2023-12-28T18:33:26Z) - Cycle Consistency-based Uncertainty Quantification of Neural Networks in
Inverse Imaging Problems [10.992084413881592]
ディープニューラルネットワークの多くの応用には不確実性推定が不可欠である。
サイクル整合性に基づく逆問題に使用されるディープニューラルネットワークに対する不確実性定量化手法を示す。
論文 参考訳(メタデータ) (2023-05-22T09:23:18Z) - Variational Voxel Pseudo Image Tracking [127.46919555100543]
不確実性推定は、ロボット工学や自律運転といった重要な問題にとって重要なタスクである。
本稿では,3次元物体追跡のためのVoxel Pseudo Image Tracking (VPIT) の変分ニューラルネットワークによるバージョンを提案する。
論文 参考訳(メタデータ) (2023-02-12T13:34:50Z) - Learning Uncertainty with Artificial Neural Networks for Improved
Predictive Process Monitoring [0.114219428942199]
学習可能な不確実性には、トレーニングデータ不足によるモデル不確実性と、ノイズによる観察不確実性がある。
我々の貢献は、これらの不確実性の概念を予測プロセス監視タスクに適用し、不確実性に基づくモデルをトレーニングし、残りの時間と結果を予測することである。
論文 参考訳(メタデータ) (2022-06-13T17:05:27Z) - The Unreasonable Effectiveness of Deep Evidential Regression [72.30888739450343]
不確実性を考慮した回帰ベースニューラルネットワーク(NN)による新しいアプローチは、従来の決定論的手法や典型的なベイズ的NNよりも有望であることを示している。
我々は、理論的欠点を詳述し、合成および実世界のデータセットのパフォーマンスを分析し、Deep Evidential Regressionが正確な不確実性ではなく定量化であることを示す。
論文 参考訳(メタデータ) (2022-05-20T10:10:32Z) - NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural
Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。
種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文 参考訳(メタデータ) (2022-02-07T12:30:45Z) - Multivariate Deep Evidential Regression [77.34726150561087]
不確実性を認識するニューラルネットワークによる新しいアプローチは、従来の決定論的手法よりも有望である。
本稿では,レグレッションベースニューラルネットワークからアレータ性およびてんかん性不確かさを抽出する手法を提案する。
論文 参考訳(メタデータ) (2021-04-13T12:20:18Z) - Improving Uncertainty Calibration via Prior Augmented Data [56.88185136509654]
ニューラルネットワークは、普遍関数近似器として機能することで、複雑なデータ分布から学習することに成功した。
彼らはしばしば予測に自信過剰であり、不正確で誤った確率的予測に繋がる。
本稿では,モデルが不当に過信である特徴空間の領域を探索し,それらの予測のエントロピーをラベルの以前の分布に対して条件的に高める手法を提案する。
論文 参考訳(メタデータ) (2021-02-22T07:02:37Z) - Deep Bayesian Gaussian Processes for Uncertainty Estimation in
Electronic Health Records [30.65770563934045]
我々はディープ・ベイズ学習フレームワークの特徴とディープ・カーネル・ラーニングを融合させ、より包括的な不確実性推定に両手法の強みを活用する。
我々は,不均衡なデータセットにおけるマイノリティクラスにおいて,過度に信頼された予測を行うことに対して,我々の手法はより感受性が低いことを示す。
論文 参考訳(メタデータ) (2020-03-23T10:36:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。