論文の概要: Uncertainty Quantification With Noise Injection in Neural Networks: A Bayesian Perspective

• arxiv url: http://arxiv.org/abs/2501.12314v1
• Date: Tue, 21 Jan 2025 17:28:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-22 14:25:21.445803
• Title: Uncertainty Quantification With Noise Injection in Neural Networks: A Bayesian Perspective
• Title（参考訳）: ニューラルネットワークにおけるノイズ注入による不確かさの定量化:ベイズ的視点
• Authors: Xueqiong Yuan, Jipeng Li, Ercan Engin Kuruoglu,
• Abstract要約: ベイズの観点からノイズ注入と不確実性定量化の関連性を確立する。 本稿では,モンテカルロノイズ注入法(MCNI)を提案する。 本手法は,ベースラインモデルよりも優れた性能を示す。
• 参考スコア（独自算出の注目度）: 1.6044444452278062
• License:
• Abstract: Model uncertainty quantification involves measuring and evaluating the uncertainty linked to a model's predictions, helping assess their reliability and confidence. Noise injection is a technique used to enhance the robustness of neural networks by introducing randomness. In this paper, we establish a connection between noise injection and uncertainty quantification from a Bayesian standpoint. We theoretically demonstrate that injecting noise into the weights of a neural network is equivalent to Bayesian inference on a deep Gaussian process. Consequently, we introduce a Monte Carlo Noise Injection (MCNI) method, which involves injecting noise into the parameters during training and performing multiple forward propagations during inference to estimate the uncertainty of the prediction. Through simulation and experiments on regression and classification tasks, our method demonstrates superior performance compared to the baseline model.
• Abstract（参考訳）: モデルの不確実性定量化は、モデルの予測に関連する不確実性を測定し、評価することを含み、モデルの信頼性と信頼性を評価するのに役立つ。 ノイズ注入は、ランダム性を導入することでニューラルネットワークの堅牢性を高める技術である。 本稿では,ベイズの観点からノイズ注入と不確実性定量化の関連性を確立する。 理論的には、ニューラルネットワークの重みにノイズを注入することは、深いガウス過程におけるベイズ推定と等価である。 その結果,モンテカルロノイズインジェクション(MCNI)法は,トレーニング中にパラメータにノイズを注入し,推論中に複数の前方伝搬を行い,予測の不確かさを推定する。 回帰および分類タスクのシミュレーションと実験により,本手法はベースラインモデルよりも優れた性能を示す。

関連論文リスト

• Tractable Function-Space Variational Inference in Bayesian Neural Networks [72.97620734290139]
  ニューラルネットワークの予測不確かさを推定するための一般的なアプローチは、ネットワークパラメータに対する事前分布を定義することである。 本稿では,事前情報を組み込むスケーラブルな関数空間変動推論手法を提案する。 提案手法は,様々な予測タスクにおいて,最先端の不確実性評価と予測性能をもたらすことを示す。
  論文  参考訳（メタデータ） (2023-12-28T18:33:26Z)
• Integrating Uncertainty into Neural Network-based Speech Enhancement [27.868722093985006]
  時間周波数領域における監視されたマスキングアプローチは、ディープニューラルネットワークを使用して乗法マスクを推定し、クリーンな音声を抽出することを目的としている。 これにより、信頼性の保証や尺度を使わずに、各入力に対する単一の見積もりが導かれる。 クリーン音声推定における不確実性モデリングの利点について検討する。
  論文  参考訳（メタデータ） (2023-05-15T15:55:12Z)
• Neural State-Space Models: Empirical Evaluation of Uncertainty Quantification [0.0]
  本稿では,ニューラル状態空間モデルを用いたシステム同定のための不確実性定量化に関する予備的結果を示す。 ベイズ確率的設定で学習問題をフレーム化し、ニューラルネットワークの重みと出力の後方分布を求める。 後部に基づいて,出力の信頼区間を構築し,潜在的に危険なアウト・オブ・ディストリビューション体制下でモデルの使用を効果的に診断できるサプライズ指標を定義する。
  論文  参考訳（メタデータ） (2023-04-13T08:57:33Z)
• Uncertainty Estimation in Deep Speech Enhancement Using Complex Gaussian Mixture Models [19.442685015494316]
  単一チャンネルのディープ音声強調手法は、その精度を測らずにクリーン音声を抽出するために単一の乗法マスクを推定することが多い。 本稿では,ニューラルネットワークによる音声強調におけるクリーン音声推定に伴う不確かさの定量化を提案する。
  論文  参考訳（メタデータ） (2022-12-09T13:03:09Z)
• Variational Neural Networks [88.24021148516319]
  本稿では,変分ニューラルネットワーク(VNN)と呼ばれるニューラルネットワークにおける不確実性推定手法を提案する。 VNNは、学習可能なサブレイヤで入力を変換することで、レイヤの出力分布のパラメータを生成する。 不確実性評価実験において、VNNはモンテカルロ・ドロップアウトやベイズ・バイ・バックプロパゲーション法よりも優れた不確実性が得られることを示す。
  論文  参考訳（メタデータ） (2022-07-04T15:41:02Z)
• Density Regression and Uncertainty Quantification with Bayesian Deep Noise Neural Networks [4.376565880192482]
  ディープニューラルネットワーク(DNN)モデルは、幅広い教師付き学習アプリケーションにおいて最先端の予測精度を達成した。 DNN予測の不確実性を正確に定量化することは、依然として難しい課題である。 本稿では,ベイジアンディープノイズニューラルネットワーク (B-DeepNoise) を提案する。ベイジアンDNNは,ランダムノイズ変数をすべての隠蔽層に拡張することにより,標準ベイジアンDNNを一般化する。 予測精度,不確実性定量化精度,不確実性定量化効率の点で優れた性能を示した。
  論文  参考訳（メタデータ） (2022-06-12T02:47:29Z)
• NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural Networks [151.03112356092575]
  本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。 種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
  論文  参考訳（メタデータ） (2022-02-07T12:30:45Z)
• Dense Uncertainty Estimation [62.23555922631451]
  本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。 本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
  論文  参考訳（メタデータ） (2021-10-13T01:23:48Z)
• Sampling-free Variational Inference for Neural Networks with Multiplicative Activation Noise [51.080620762639434]
  サンプリングフリー変動推論のための後方近似のより効率的なパラメータ化を提案する。 提案手法は,標準回帰問題に対する競合的な結果をもたらし,大規模画像分類タスクに適している。
  論文  参考訳（メタデータ） (2021-03-15T16:16:18Z)
• Leveraging Global Parameters for Flow-based Neural Posterior Estimation [90.21090932619695]
  実験観測に基づくモデルのパラメータを推定することは、科学的方法の中心である。 特に困難な設定は、モデルが強く不確定であるとき、すなわち、パラメータの異なるセットが同一の観測をもたらすときである。 本稿では,グローバルパラメータを共有する観測の補助的セットによって伝達される付加情報を利用して,その不確定性を破る手法を提案する。
  論文  参考訳（メタデータ） (2021-02-12T12:23:13Z)
• A deep-learning based Bayesian approach to seismic imaging and uncertainty quantification [0.4588028371034407]
  不確実性は、不条件の逆問題を扱う際に必須である。 未知の知識を正確に符号化する事前分布を定式化することは、しばしば不可能である。 本稿では,無作為な畳み込みニューラルネットワークの機能形式を,前もって暗黙的な構造として利用することを提案する。
  論文  参考訳（メタデータ） (2020-01-13T23:46:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。