論文の概要: Fast and reliable uncertainty quantification with neural network ensembles for industrial image classification

• arxiv url: http://arxiv.org/abs/2403.10182v4
• Date: Thu, 05 Dec 2024 14:30:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-06 11:19:18.663445
• Title: Fast and reliable uncertainty quantification with neural network ensembles for industrial image classification
• Title（参考訳）: 産業画像分類のためのニューラルネットワークアンサンブルを用いた高速かつ確実な不確実性定量化
• Authors: Arthur Thuy, Dries F. Benoit,
• Abstract要約: ニューラルネットワーク(NN)を用いた画像分類は、産業プロセスで広く使われている。 NNは、アウト・オブ・ディストリビューション(OOD)データに直面すると、確実だが誤った予測をする傾向がある。 複数の独立したNNで構成されたディープアンサンブルは、強い性能を示すことが示されているが、計算コストが高い。 本研究では,産業プロセスの画像分類における効率的なNNアンサンブルの予測と不確実性について検討した。
• 参考スコア（独自算出の注目度）: 1.104960878651584
• License:
• Abstract: Image classification with neural networks (NNs) is widely used in industrial processes, situations where the model likely encounters unknown objects during deployment, i.e., out-of-distribution (OOD) data. Worryingly, NNs tend to make confident yet incorrect predictions when confronted with OOD data. To increase the models' reliability, they should quantify the uncertainty in their own predictions, communicating when the output should (not) be trusted. Deep ensembles, composed of multiple independent NNs, have been shown to perform strongly but are computationally expensive. Recent research has proposed more efficient NN ensembles, namely the snapshot, batch, and multi-input multi-output ensemble. This study investigates the predictive and uncertainty performance of efficient NN ensembles in the context of image classification for industrial processes. It is the first to provide a comprehensive comparison and it proposes a novel Diversity Quality metric to quantify the ensembles' performance on the in-distribution and OOD sets in one single metric. The results highlight the batch ensemble as a cost-effective and competitive alternative to the deep ensemble. It matches the deep ensemble in both uncertainty and accuracy while exhibiting considerable savings in training time, test time, and memory storage.
• Abstract（参考訳）: ニューラルネットワーク(NN)による画像分類は、モデルが展開中に未知のオブジェクトに遭遇する可能性のある状況、すなわちアウト・オブ・ディストリビューション(OOD)データで広く使われている。 残念なことに、NNはOODデータに直面すると、自信はあるが誤った予測をする傾向がある。 モデルの信頼性を高めるために、彼らは自分たちの予測の不確実性を定量化し、いつ出力が信頼されるべきでないかを伝える必要がある。 複数の独立したNNで構成されたディープアンサンブルは、強い性能を示すことが示されているが、計算コストが高い。 最近の研究では、より効率的なNNアンサンブル、すなわちスナップショット、バッチ、マルチインプットマルチアウトプットアンサンブルが提案されている。 本研究では,産業プロセスの画像分類における効率的なNNアンサンブルの予測と不確実性について検討した。 総合的な比較を初めて提供し、単一メトリックにおける分布内およびOODセット上でのアンサンブルのパフォーマンスを定量化する新しい多様性品質指標を提案する。 その結果、バッチアンサンブルは、ディープアンサンブルのコスト効率と競争力のある代替品として強調された。 これは、不確実性と正確性の両方において深いアンサンブルと一致し、トレーニング時間、テスト時間、メモリストレージにかなりの節約をもたらす。

関連論文リスト

• CreINNs: Credal-Set Interval Neural Networks for Uncertainty Estimation in Classification Tasks [4.904199965391026]
  本研究は,Credal-Set Interval Neural Networks (CreINNs) と呼ばれる新しい手法を提案する。 CreINNは、単一の確率値ではなく、各クラスに制限された上限と低い確率を予測するように設計されている。 標準的なマルチクラスおよびバイナリ分類タスクの実験は、提案したCreINNsが、不確実性推定の優れた品質または同等の品質を達成できることを実証している。
  論文  参考訳（メタデータ） (2024-01-10T10:04:49Z)
• Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
  ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。 我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。 我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
  論文  参考訳（メタデータ） (2023-10-02T03:25:32Z)
• Improving Uncertainty Quantification of Variance Networks by Tree-Structured Learning [10.566352737844369]
  本研究では,不確実性に基づいて特徴空間を複数の領域に分割する木構造局所ニューラルネットワークモデルを提案する。 提案したUncertainty-Splitting Neural Regression Tree (USNRT)は、新しいスプリッティング基準を採用している。 USNRTやそのアンサンブルは、分散を伴う不確実性を定量化するための最近の一般的な手法と比較して、優れた性能を示している。
  論文  参考訳（メタデータ） (2022-12-24T05:25:09Z)
• Batch-Ensemble Stochastic Neural Networks for Out-of-Distribution Detection [55.028065567756066]
  Out-of-Distribution(OOD)検出は、機械学習モデルを現実世界のアプリケーションにデプロイすることの重要性から、マシンラーニングコミュニティから注目を集めている。 本稿では,特徴量の分布をモデル化した不確実な定量化手法を提案する。 バッチアンサンブルニューラルネットワーク(BE-SNN)の構築と機能崩壊問題の克服を目的として,効率的なアンサンブル機構,すなわちバッチアンサンブルを組み込んだ。 We show that BE-SNNs yield superior performance on the Two-Moons dataset, the FashionMNIST vs MNIST dataset, FashionM。
  論文  参考訳（メタデータ） (2022-06-26T16:00:22Z)
• Comparative Analysis of Interval Reachability for Robust Implicit and Feedforward Neural Networks [64.23331120621118]
  我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。 INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。 提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
  論文  参考訳（メタデータ） (2022-04-01T03:31:27Z)
• Multidimensional Uncertainty-Aware Evidential Neural Networks [21.716045815385268]
  非可逆性(OOD)検出問題を解決するために、WGAN-ENN(WENN)と呼ばれる新しい不確実性認識NNを提案する。 我々は、Wasserstein Generative Adrial Network(WGAN)とENNを組み合わせて、あるクラスの事前知識でモデルを共同で訓練するハイブリッドアプローチを採用した。 WENNによる不確実性の推定は、OODサンプルと境界サンプルを有意に区別するのに役立つことを実証した。
  論文  参考訳（メタデータ） (2020-12-26T04:28:56Z)
• Learn what you can't learn: Regularized Ensembles for Transductive Out-of-distribution Detection [76.39067237772286]
  ニューラルネットワークの現在のアウト・オブ・ディストリビューション(OOD)検出アルゴリズムは,様々なOOD検出シナリオにおいて不満足な結果をもたらすことを示す。 本稿では,テストデータのバッチを観察した後に検出方法を調整することで,このような「ハード」なOODシナリオがいかに有用かを検討する。 本稿では,テストデータと正規化に人工ラベリング手法を用いて,テストバッチ内のOODサンプルに対してのみ矛盾予測を生成するモデルのアンサンブルを求める手法を提案する。
  論文  参考訳（メタデータ） (2020-12-10T16:55:13Z)
• Probing Predictions on OOD Images via Nearest Categories [97.055916832257]
  ニューラルネットワークが未確認のクラスや破損したイメージから画像を分類する際のアウト・オブ・ディストリビューション(OOD)予測挙動について検討する。 我々は、トレーニングセットにおいて、最も近い隣人と同じラベルで分類されたOOD入力の分数を計算するため、新しい測度、最も近いカテゴリ一般化(NCG)を導入する。 我々は、OODデータがロバストネス半径よりも遥かに遠くにある場合でも、ロバストネットワークは自然訓練よりも一貫してNCG精度が高いことを発見した。
  論文  参考訳（メタデータ） (2020-11-17T07:42:27Z)
• Multi-Loss Sub-Ensembles for Accurate Classification with Uncertainty Estimation [1.2891210250935146]
  本稿では,ディープニューラルネットワーク(DNN)の高精度な不確実性推定手法を提案する。 我々は,Deep-Sub-Ensembles法によって提案される利点を利用して,推定時間を比較的低く保つ。 その結果,いくつかの不確実性対策における分類課題と競争結果の精度が向上した。
  論文  参考訳（メタデータ） (2020-10-05T10:59:11Z)
• Diversity inducing Information Bottleneck in Model Ensembles [73.80615604822435]
  本稿では,予測の多様性を奨励することで,ニューラルネットワークの効果的なアンサンブルを生成する問題をターゲットにする。 そこで本研究では,潜伏変数の学習における逆損失の多様性を明示的に最適化し,マルチモーダルデータのモデリングに必要な出力予測の多様性を得る。 最も競争力のあるベースラインと比較して、データ分布の変化の下で、分類精度が大幅に向上した。
  論文  参考訳（メタデータ） (2020-03-10T03:10:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。