論文の概要: Uncertainty Quantification in CNN Through the Bootstrap of Convex Neural Networks
- arxiv url: http://arxiv.org/abs/2604.11833v1
- Date: Sat, 11 Apr 2026 23:04:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-15 19:11:32.012237
- Title: Uncertainty Quantification in CNN Through the Bootstrap of Convex Neural Networks
- Title(参考訳): 凸ニューラルネットワークのブートストラップによるCNNの不確かさの定量化
- Authors: Hongfei Du, Emre Barut, Fang Jin,
- Abstract要約: 本稿では,予測の不確実性を推定するためのブートストラップに基づく新しいフレームワークを提案する。
我々のアプローチは、競合他社よりも計算負荷が大幅に少ない。
提案手法は,他のベースラインCNNと比較して,はるかに優れた性能を示す。
- 参考スコア(独自算出の注目度): 4.372199042180551
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Despite the popularity of Convolutional Neural Networks (CNN), the problem of uncertainty quantification (UQ) of CNN has been largely overlooked. Lack of efficient UQ tools severely limits the application of CNN in certain areas, such as medicine, where prediction uncertainty is critically important. Among the few existing UQ approaches that have been proposed for deep learning, none of them has theoretical consistency that can guarantee the uncertainty quality. To address this issue, we propose a novel bootstrap based framework for the estimation of prediction uncertainty. The inference procedure we use relies on convexified neural networks to establish the theoretical consistency of bootstrap. Our approach has a significantly less computational load than its competitors, as it relies on warm-starts at each bootstrap that avoids refitting the model from scratch. We further explore a novel transfer learning method so our framework can work on arbitrary neural networks. We experimentally demonstrate our approach has a much better performance compared to other baseline CNNs and state-of-the-art methods on various image datasets.
- Abstract(参考訳): 畳み込みニューラルネットワーク(CNN)の人気にもかかわらず、CNNの不確実性定量化(UQ)の問題はほとんど見過ごされてきた。
効率的なUQツールの欠如は、予測の不確実性が極めて重要である医学などの特定の分野におけるCNNの適用を著しく制限する。
ディープラーニングのために提案されている数少ない既存のUQアプローチの中で、不確実性の品質を保証する理論的な一貫性は存在しない。
そこで本研究では,予測の不確実性を推定するためのブートストラップに基づく新しいフレームワークを提案する。
私たちが使用している推論手順は、ブートストラップの理論的一貫性を確立するために、凸化されたニューラルネットワークに依存しています。
当社のアプローチは,各ブートストラップにおけるウォームスタートに依存するため,スクラッチからモデルの再適合を回避するため,競合に比べて計算負荷が大幅に少ない。
さらに、任意のニューラルネットワークでフレームワークを動作させるために、新しいトランスファー学習法についても検討する。
提案手法は,他のベースラインCNNや画像データセットの最先端手法と比較して,はるかに優れた性能を示す。
関連論文リスト
- Bayesian Topological Convolutional Neural Nets [0.5985483103102681]
畳み込みニューラルネットワーク(CNN)は、画像データ処理における主要なワークホースとして確立されている。
本稿では,位相認識学習とベイズサンプリングの相互作用を促進する新しいベイズトポロジカルCNNを提案する。
ベンチマーク画像分類データセットのモデルを評価し、従来のCNN、ベイズニューラルネットワーク(BNN)、トポロジカルCNNよりも優れていることを示す。
論文 参考訳(メタデータ) (2025-10-13T17:57:43Z) - LinSATNet: The Positive Linear Satisfiability Neural Networks [116.65291739666303]
本稿では,ニューラルネットワークに人気の高い正の線形満足度を導入する方法について検討する。
本稿では,古典的なシンクホーンアルゴリズムを拡張し,複数の辺分布の集合を共同で符号化する,最初の微分可能満足層を提案する。
論文 参考訳(メタデータ) (2024-07-18T22:05:21Z) - A Simple Approach to Improve Single-Model Deep Uncertainty via
Distance-Awareness [33.09831377640498]
本研究では,1つの決定論的表現に基づく1つのネットワークの不確実性向上手法について検討する。
本稿では,現代のDNNにおける距離認識能力を向上させる簡易な手法として,スペクトル正規化ニューラルガウス過程(SNGP)を提案する。
ビジョンと言語理解のベンチマークスイートでは、SNGPは予測、キャリブレーション、ドメイン外検出において、他の単一モデルアプローチよりも優れている。
論文 参考訳(メタデータ) (2022-05-01T05:46:13Z) - Comparative Analysis of Interval Reachability for Robust Implicit and
Feedforward Neural Networks [64.23331120621118]
我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。
INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。
提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
論文 参考訳(メタデータ) (2022-04-01T03:31:27Z) - NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural
Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。
種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文 参考訳(メタデータ) (2022-02-07T12:30:45Z) - A Kernel-Expanded Stochastic Neural Network [10.837308632004644]
ディープニューラルネットワークは、トレーニングにおいて、しばしばローカルな最小限に閉じ込められる。
新しいカーネル拡張ニューラルネットワーク(K-StoNet)モデルは、潜在変数モデルとしてネットワークを再構成する。
モデルは命令正規化最適化(IRO)アルゴリズムを用いて容易に訓練することができる。
論文 参考訳(メタデータ) (2022-01-14T06:42:42Z) - Training Quantized Deep Neural Networks via Cooperative Coevolution [27.967480639403796]
本稿では,ディープニューラルネットワーク(DNN)の定量化手法を提案する。
協調的共進化の枠組みでは,分布推定アルゴリズムを用いて低ビット重みの探索を行う。
実験の結果,Cifar-10データセット上で4ビットのResNet-20を,精度を犠牲にすることなくトレーニングできることがわかった。
論文 参考訳(メタデータ) (2021-12-23T09:13:13Z) - Why Lottery Ticket Wins? A Theoretical Perspective of Sample Complexity
on Pruned Neural Networks [79.74580058178594]
目的関数の幾何学的構造を解析することにより、刈り取られたニューラルネットワークを訓練する性能を解析する。
本稿では,ニューラルネットワークモデルがプルーニングされるにつれて,一般化が保証された望ましいモデル近傍の凸領域が大きくなることを示す。
論文 参考訳(メタデータ) (2021-10-12T01:11:07Z) - Neural Architecture Dilation for Adversarial Robustness [56.18555072877193]
畳み込みニューラルネットワークの欠点は、敵の攻撃に弱いことである。
本稿では, 良好な精度を有する背骨CNNの対角的堅牢性を向上させることを目的とする。
最小限の計算オーバーヘッドの下では、拡張アーキテクチャはバックボーンCNNの標準的な性能と親和性が期待できる。
論文 参考訳(メタデータ) (2021-08-16T03:58:00Z) - Epistemic Neural Networks [25.762699400341972]
原則として、アンサンブルに基づくアプローチは効果的な共同予測をもたらす。
しかし、大規模なアンサンブルを訓練する際の計算コストは禁じられる可能性がある。
従来のニューラルネットワークを補完するアーキテクチャであるEpinetを紹介します。
論文 参考訳(メタデータ) (2021-07-19T14:37:57Z) - Approximation and Non-parametric Estimation of ResNet-type Convolutional
Neural Networks [52.972605601174955]
本稿では,ResNet型CNNが重要な関数クラスにおいて最小誤差率を達成可能であることを示す。
Barron と H'older のクラスに対する前述のタイプの CNN の近似と推定誤差率を導出する。
論文 参考訳(メタデータ) (2019-03-24T19:42:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。