論文の概要: Explorations of the Softmax Space: Knowing When the Neural Network Doesn't Know

• arxiv url: http://arxiv.org/abs/2502.00456v2
• Date: Wed, 30 Apr 2025 17:19:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-02 19:15:52.252024
• Title: Explorations of the Softmax Space: Knowing When the Neural Network Doesn't Know
• Title（参考訳）: ソフトマックスの宇宙探査:ニューラルネットワークが知らないときを知る
• Authors: Daniel Sikar, Artur d'Avila Garcez, Tillman Weyde,
• Abstract要約: 本稿では,ニューラルネットワークの予測に対する信頼度を計測するための新しい手法を提案する。 高い精度でトレーニングされたネットワークは、信頼度が低いべき特定の出力を持つ可能性があると確認する。 精度評価において,全ての正しい予測に対する平均ソフトマックス出力として計算されたセントロイドのクラスタが適切なプロキシとして有効であることを示す。
• 参考スコア（独自算出の注目度）: 2.6626950367610394
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Ensuring the reliability of automated decision-making based on neural networks will be crucial as Artificial Intelligence systems are deployed more widely in critical situations. This paper proposes a new approach for measuring confidence in the predictions of any neural network that relies on the predictions of a softmax layer. We identify that a high-accuracy trained network may have certain outputs for which there should be low confidence. In such cases, decisions should be deferred and it is more appropriate for the network to provide a \textit{not known} answer to a corresponding classification task. Our approach clusters the vectors in the softmax layer to measure distances between cluster centroids and network outputs. We show that a cluster with centroid calculated simply as the mean softmax output for all correct predictions can serve as a suitable proxy in the evaluation of confidence. Defining a distance threshold for a class as the smallest distance from an incorrect prediction to the given class centroid offers a simple approach to adding \textit{not known} answers to any network classification falling outside of the threshold. We evaluate the approach on the MNIST and CIFAR-10 datasets using a Convolutional Neural Network and a Vision Transformer, respectively. The results show that our approach is consistent across datasets and network models, and indicate that the proposed distance metric can offer an efficient way of determining when automated predictions are acceptable and when they should be deferred to human operators.
• Abstract（参考訳）: ニューラルネットワークに基づく自動意思決定の信頼性を保証することが重要である。 本稿では,ソフトマックス層の予測に依存するニューラルネットワークの予測に対する信頼度を計測するための新しい手法を提案する。 高い精度でトレーニングされたネットワークは、信頼度が低いべき特定の出力を持つ可能性があると確認する。 このような場合、決定は延期され、ネットワークが対応する分類タスクに対して \textit{not known} 回答を提供するのがより適切である。 我々のアプローチでは,ソフトマックス層内のベクトルをクラスタ化して,クラスタセントロイドとネットワーク出力間の距離を測定する。 精度評価において,全ての正しい予測に対する平均ソフトマックス出力として計算されたセントロイドのクラスタが適切なプロキシとして有効であることを示す。 クラスに対する距離閾値を、不正確な予測から与えられたクラスセントロイドへの最小距離として定義することは、しきい値の外にある任意のネットワーク分類に \textit{not known} 回答を追加するための単純なアプローチを提供する。 我々は,畳み込みニューラルネットワークと視覚変換器を用いて,MNISTとCIFAR-10データセットのアプローチを評価する。 その結果,提案手法はデータセットやネットワークモデル間で一貫性があり,提案手法は自動予測がいつ受け入れられるか,いつ人間のオペレータに延期されるべきかを効率的に判断できることを示した。

関連論文リスト

• When to Accept Automated Predictions and When to Defer to Human Judgment? [1.9922905420195367]
  我々は、トレーニングされたニューラルネットワークの出力がどのように変化するかをクラスタリングを用いて分析し、出力とクラスセントロイド間の距離を測定する。 本稿では,分布変化による予測の信頼度を評価する指標として,この距離を提案する。
  論文  参考訳（メタデータ） (2024-07-10T16:45:52Z)
• Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
  ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。 我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。 我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
  論文  参考訳（メタデータ） (2023-10-02T03:25:32Z)
• UPNet: Uncertainty-based Picking Deep Learning Network for Robust First Break Picking [6.380128763476294]
  第一破砕(FB)ピッキングは地下速度モデルの決定において重要な側面である。 この処理を高速化するために、ディープニューラルネットワーク(DNN)が提案されている。 本稿では、FB選択タスクに不確実性定量化を導入し、UPNetと呼ばれる新しい不確実性に基づくディープラーニングネットワークを提案する。
  論文  参考訳（メタデータ） (2023-05-23T08:13:09Z)
• Semantic Strengthening of Neuro-Symbolic Learning [85.6195120593625]
  ニューロシンボリックアプローチは一般に確率論的目的のファジィ近似を利用する。 トラクタブル回路において,これを効率的に計算する方法を示す。 我々は,Warcraftにおける最小コストパスの予測,最小コスト完全マッチングの予測,スドクパズルの解法という3つの課題に対して,アプローチを検証した。
  論文  参考訳（メタデータ） (2023-02-28T00:04:22Z)
• Confidence estimation of classification based on the distribution of the neural network output layer [4.529188601556233]
  現実の世界における予測モデルの適用を防ぐための最も一般的な問題の1つは一般化の欠如である。 ニューラルネットワーク分類モデルにより生成された特定の予測の不確かさを推定する新しい手法を提案する。 提案手法は,この予測に対応するロジット値の分布に基づいて,特定の予測の信頼性を推定する。
  論文  参考訳（メタデータ） (2022-10-14T12:32:50Z)
• BayesNetCNN: incorporating uncertainty in neural networks for image-based classification tasks [0.29005223064604074]
  本稿では,標準的なニューラルネットワークをベイズニューラルネットワークに変換する手法を提案する。 本研究では,各前方パスにおいて,元のものと類似した異なるネットワークをサンプリングすることにより,予測のばらつきを推定する。 我々は、アルツハイマー病患者の脳画像の大きなコホートを用いて、我々のモデルを検証した。
  論文  参考訳（メタデータ） (2022-09-27T01:07:19Z)
• Robust-by-Design Classification via Unitary-Gradient Neural Networks [66.17379946402859]
  安全クリティカルシステムにおけるニューラルネットワークの使用には、敵攻撃が存在するため、安全で堅牢なモデルが必要である。 任意の入力 x の最小逆摂動を知るか、または同値に、分類境界から x の距離は、分類ロバスト性を評価し、証明可能な予測を与える。 Unitary-Gradient Neural Networkと呼ばれる新しいネットワークアーキテクチャが紹介される。 実験結果から,提案アーキテクチャは符号付き距離を近似し,単一の推論コストでxのオンライン分類が可能であることがわかった。
  論文  参考訳（メタデータ） (2022-09-09T13:34:51Z)
• NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural Networks [151.03112356092575]
  本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。 種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
  論文  参考訳（メタデータ） (2022-02-07T12:30:45Z)
• Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
  実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。 本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。 本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
  論文  参考訳（メタデータ） (2022-01-11T23:01:12Z)
• CertainNet: Sampling-free Uncertainty Estimation for Object Detection [65.28989536741658]
  ニューラルネットワークの不確実性を推定することは、安全クリティカルな設定において基本的な役割を果たす。 本研究では,オブジェクト検出のための新しいサンプリング不要不確実性推定法を提案する。 私たちはそれをCertainNetと呼び、各出力信号に対して、オブジェクト性、クラス、位置、サイズという、別の不確実性を提供するのは、これが初めてです。
  論文  参考訳（メタデータ） (2021-10-04T17:59:31Z)
• Uncertainty Estimation and Sample Selection for Crowd Counting [87.29137075538213]
  予測された密度マップに関連する不確実性値とともに,群衆密度マップを予測できる画像に基づく群集カウント手法を提案する。 既存のクラウドカウント手法に比べて,提案手法の重要な利点は,予測の不確かさを定量化できることである。 サンプル選択戦略は、ソースドメイン上でトレーニングされたカウントネットワークをターゲットドメインに適応させるために必要なラベル付きデータの量を劇的に削減することを示す。
  論文  参考訳（メタデータ） (2020-09-30T03:40:07Z)
• Uncertainty Estimation Using a Single Deep Deterministic Neural Network [66.26231423824089]
  本稿では,1回のフォワードパスで,テスト時に分布データポイントの発見と拒否が可能な決定論的ディープモデルを訓練する手法を提案する。 我々は,新しい損失関数とセントロイド更新方式を用いて,これらをスケールトレーニングし,ソフトマックスモデルの精度に適合させる。
  論文  参考訳（メタデータ） (2020-03-04T12:27:36Z)
• Meta-Learned Confidence for Few-shot Learning [60.6086305523402]
  数ショットのメトリックベースのアプローチのための一般的なトランスダクティブ推論手法は、最も確実なクエリ例の平均で、各クラスのプロトタイプを更新することである。 本稿では,各クエリの信頼度をメタラーニングして,ラベルのないクエリに最適な重みを割り当てる手法を提案する。 4つのベンチマークデータセットに対してメタ学習の信頼度で、少数ショットの学習モデルを検証した。
  論文  参考訳（メタデータ） (2020-02-27T10:22:17Z)
• Fine-grained Uncertainty Modeling in Neural Networks [0.0]
  本稿では,ニューラルネットワークにおける分布外点検出のための新しい手法を提案する。 我々の手法は、NNの過度な判断を正し、外れ点を検知し、上位2つの予測の間で重要な点が不確実であるときに「私は知らない」と言うことを学習する。 副作用として, 本手法は, 追加訓練を必要とせず, 敵の攻撃を防ぐのに有効である。
  論文  参考訳（メタデータ） (2020-02-11T05:06:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。