論文の概要: Uncertainty quantification in neural network classifiers -- a local linear approach

• arxiv url: http://arxiv.org/abs/2303.07114v1
• Date: Fri, 10 Mar 2023 10:38:24 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-14 14:51:07.705972
• Title: Uncertainty quantification in neural network classifiers -- a local linear approach
• Title（参考訳）: ニューラルネットワーク分類器の不確かさ定量化 - 局所線形アプローチ
• Authors: Magnus Malmstr\"om, Isaac Skog, Daniel Axehill, Fredrik Gustafsson
• Abstract要約: 本稿では,異なるクラスの確率質量関数(PMF)を推定する手法を提案する。 分類段階では、学習したNNパラメータの共分散を伝播するために別の局所線形アプローチが用いられる。 これにより、 (i) PMFを推定し、 (ii) 推定PMFの共分散を計算し、 (iii) 複数の分類器の適切なリスク評価と融合を行う。
• 参考スコア（独自算出の注目度）: 4.352544339111997
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Classifiers based on neural networks (NN) often lack a measure of uncertainty in the predicted class. We propose a method to estimate the probability mass function (PMF) of the different classes, as well as the covariance of the estimated PMF. First, a local linear approach is used during the training phase to recursively compute the covariance of the parameters in the NN. Secondly, in the classification phase another local linear approach is used to propagate the covariance of the learned NN parameters to the uncertainty in the output of the last layer of the NN. This allows for an efficient Monte Carlo (MC) approach for: (i) estimating the PMF; (ii) calculating the covariance of the estimated PMF; and (iii) proper risk assessment and fusion of multiple classifiers. Two classical image classification tasks, i.e., MNIST, and CFAR10, are used to demonstrate the efficiency the proposed method.
• Abstract（参考訳）: ニューラルネットワーク(nn)に基づく分類器は、予測されたクラスにおける不確実性の尺度を欠くことが多い。 本稿では,異なるクラスの確率質量関数(PMF)と推定されたPMFの共分散を推定する手法を提案する。 まず、NNにおけるパラメータの共分散を再帰的に計算するために、トレーニングフェーズ中に局所線形アプローチが使用される。 第二に、分類段階では、学習したNNパラメータの共分散をNNの最終層の出力の不確実性に伝播するために、別の局所線形アプローチが用いられる。 これにより、効率的なモンテカルロ(MC)アプローチが可能になる。 (i)PMFの推定 (ii)推定pmfの共分散を計算すること、 (iii)複数の分類器の適切なリスク評価と融合。 MNISTとCFAR10という2つの古典的画像分類タスクを用いて,提案手法の有効性を実証する。

関連論文リスト

• Markovian Flow Matching: Accelerating MCMC with Continuous Normalizing Flows [2.2530496464901106]
  連続正規化フロー(CNF)は、ニューラルネットワークを用いて前記経路を生成するベクトル場をモデル化することにより、基準分布と目標分布の間の確率経路を学習する。 近年,Lipman et al. (2022) は生成モデルにおけるCNFsの簡易かつ安価な学習法であるフローマッチング (FM) を導入した。 本稿では,この手法をマルコフサンプリング法をFM目標評価に応用し,学習したCNFを用いてモンテカルロサンプリングを改善することにより,確率的推論に再利用する。
  論文  参考訳（メタデータ） (2024-05-23T10:08:19Z)
• Uncertainty Quantification via Stable Distribution Propagation [60.065272548502]
  本稿では,ニューラルネットワークによる安定確率分布の伝播手法を提案する。 提案手法は局所線形化に基づいており,ReLU非線型性に対する全変動距離の近似値として最適であることを示す。
  論文  参考訳（メタデータ） (2024-02-13T09:40:19Z)
• kNN Algorithm for Conditional Mean and Variance Estimation with Automated Uncertainty Quantification and Variable Selection [8.429136647141487]
  我々は従来の非パラメトリックkNNモデルのスケーラビリティと適応性を相乗化するkNNベースの回帰手法を提案する。 本手法は,確率応答変数の条件平均と分散を正確に推定することに焦点を当てる。 2つのケーススタディで示されているように、特に生体医学的応用において顕著である。
  論文  参考訳（メタデータ） (2024-02-02T18:54:18Z)
• Bias-Reduced Neural Networks for Parameter Estimation in Quantitative MRI [0.13654846342364307]
  ニューラルネットワーク(NN)に基づく定量的MRIパラメータ推定器を開発した。
  論文  参考訳（メタデータ） (2023-11-13T20:41:48Z)
• An interpretable neural network-based non-proportional odds model for ordinal regression [3.0277213703725767]
  本研究では,直交回帰のための解釈可能なニューラルネットワークに基づく非局所奇数モデル(N$3$POM)を提案する。 N$3$POMは、正規回帰に対する従来のアプローチとはいくつかの点で異なる。
  論文  参考訳（メタデータ） (2023-03-31T06:40:27Z)
• Supervised Class-pairwise NMF for Data Representation and Classification [2.7320863258816512]
  非負行列分解(NMF)に基づく手法は、特定のタスクにモデルを適応させるためにコスト関数に新しい用語を追加する。 NMF法は、因子化行列を推定するための教師なしアプローチを採用する。
  論文  参考訳（メタデータ） (2022-09-28T04:33:03Z)
• NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural Networks [151.03112356092575]
  本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。 種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
  論文  参考訳（メタデータ） (2022-02-07T12:30:45Z)
• Sampling-free Variational Inference for Neural Networks with Multiplicative Activation Noise [51.080620762639434]
  サンプリングフリー変動推論のための後方近似のより効率的なパラメータ化を提案する。 提案手法は,標準回帰問題に対する競合的な結果をもたらし,大規模画像分類タスクに適している。
  論文  参考訳（メタデータ） (2021-03-15T16:16:18Z)
• Amortized Conditional Normalized Maximum Likelihood: Reliable Out of Distribution Uncertainty Estimation [99.92568326314667]
  本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。 提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。 我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
  論文  参考訳（メタデータ） (2020-11-05T08:04:34Z)
• Improving predictions of Bayesian neural nets via local linearization [79.21517734364093]
  ガウス・ニュートン近似は基礎となるベイズニューラルネットワーク(BNN)の局所線形化として理解されるべきである。 この線形化モデルを後部推論に使用するので、元のモデルではなく、この修正モデルを使用することも予測すべきである。 この修正された予測を"GLM predictive"と呼び、Laplace近似の共通不適合問題を効果的に解決することを示す。
  論文  参考訳（メタデータ） (2020-08-19T12:35:55Z)
• Provably Efficient Neural Estimation of Structural Equation Model: An Adversarial Approach [144.21892195917758]
  一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。 線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。 提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
  論文  参考訳（メタデータ） (2020-07-02T17:55:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。