論文の概要: Improving Model Accuracy for Imbalanced Image Classification Tasks by Adding a Final Batch Normalization Layer: An Empirical Study

• arxiv url: http://arxiv.org/abs/2011.06319v1
• Date: Thu, 12 Nov 2020 11:27:40 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-26 06:40:17.774226
• Title: Improving Model Accuracy for Imbalanced Image Classification Tasks by Adding a Final Batch Normalization Layer: An Empirical Study
• Title（参考訳）: 最終バッチ正規化層の追加による不均衡画像分類タスクのモデル精度向上に関する実証的研究
• Authors: Veysel Kocaman, Ofer M. Shir, Thomas B\"ack
• Abstract要約: 農業や医療分野の複雑な分類問題には、ディープラーニング(DL)が必要である。 DLは、実際には少数層よりも多数派を優先し、その結果、ターゲットとする早期の表示の不正確な検出に苦しむ。 最新のCNNアーキテクチャでは,出力層の前にBN層を追加することで,少数クラスに対するトレーニング時間とテスト誤差の最小化にかなりの影響があることが示されている。
• 参考スコア（独自算出の注目度）: 2.9005223064604078
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Some real-world domains, such as Agriculture and Healthcare, comprise early-stage disease indications whose recording constitutes a rare event, and yet, whose precise detection at that stage is critical. In this type of highly imbalanced classification problems, which encompass complex features, deep learning (DL) is much needed because of its strong detection capabilities. At the same time, DL is observed in practice to favor majority over minority classes and consequently suffer from inaccurate detection of the targeted early-stage indications. To simulate such scenarios, we artificially generate skewness (99% vs. 1%) for certain plant types out of the PlantVillage dataset as a basis for classification of scarce visual cues through transfer learning. By randomly and unevenly picking healthy and unhealthy samples from certain plant types to form a training set, we consider a base experiment as fine-tuning ResNet34 and VGG19 architectures and then testing the model performance on a balanced dataset of healthy and unhealthy images. We empirically observe that the initial F1 test score jumps from 0.29 to 0.95 for the minority class upon adding a final Batch Normalization (BN) layer just before the output layer in VGG19. We demonstrate that utilizing an additional BN layer before the output layer in modern CNN architectures has a considerable impact in terms of minimizing the training time and testing error for minority classes in highly imbalanced data sets. Moreover, when the final BN is employed, minimizing the loss function may not be the best way to assure a high F1 test score for minority classes in such problems. That is, the network might perform better even if it is not confident enough while making a prediction; leading to another discussion about why softmax output is not a good uncertainty measure for DL models.
• Abstract（参考訳）: 農業や医療などの現実の領域では、記録が稀な出来事を構成する早期の病気の徴候が存在しているが、その段階での正確な検出は極めて重要である。 複雑な特徴を包含する高不均衡な分類問題では,検出能力の強い深層学習(DL)が不可欠である。 同時に、DLは少数層よりも多数派を優先し、その結果、ターゲットとした早期の表示の不正確な検出に悩まされる。 このようなシナリオをシミュレートするために,トランスファー・ラーニングによる視覚手がかり不足の分類の基盤として,植物群落データセットから特定の植物タイプに対して,人工的にスキューネス(99%対1%)を生成する。 特定の植物タイプから健康で不健康なサンプルをランダムに抽出してトレーニングセットを形成することにより、ベース実験を微調整されたresnet34とvgg19アーキテクチャと考え、健康で不健康な画像のバランスのとれたデータセット上でモデルパフォーマンスをテストします。 VGG19の出力層直前に最終バッチ正規化(BN)層を追加すると、初期F1テストスコアがマイノリティクラスでは0.29から0.95に上昇する。 最新のCNNアーキテクチャでは,出力層の前にBN層を追加することで,少数クラスに対するトレーニング時間とテスト誤差の最小化にかなりの影響があることを実証する。 さらに、最後のBNを用いる場合、損失関数を最小化することは、そのような問題におけるマイノリティクラスに対する高いF1テストスコアを保証する最善の方法ではないかもしれない。 つまり、予測をしている間に十分な信頼性が得られなくても、ネットワークの性能が向上する可能性がある。

関連論文リスト

• Quantifying the Prediction Uncertainty of Machine Learning Models for Individual Data [2.1248439796866228]
  本研究では,線形回帰とニューラルネットワークに対するpNMLの学習可能性について検討する。 pNMLは様々なタスクにおけるこれらのモデルの性能と堅牢性を向上させることができることを示す。
  論文  参考訳（メタデータ） (2024-12-10T13:58:19Z)
• Bridging Precision and Confidence: A Train-Time Loss for Calibrating Object Detection [58.789823426981044]
  本稿では,境界ボックスのクラス信頼度を予測精度に合わせることを目的とした,新たな補助損失定式化を提案する。 その結果,列車の走行時間損失はキャリブレーション基準を超過し,キャリブレーション誤差を低減させることがわかった。
  論文  参考訳（メタデータ） (2023-03-25T08:56:21Z)
• Proposal Distribution Calibration for Few-Shot Object Detection [65.19808035019031]
  few-shot object detection (FSOD)では、重度のサンプル不均衡を軽減するために、2段階の訓練パラダイムが広く採用されている。 残念ながら、極端なデータ不足は、提案の分布バイアスを増大させ、RoIヘッドが新しいクラスに進化するのを妨げます。 本稿では,RoIヘッドのローカライゼーションと分類能力を高めるために,単純かつ効果的な提案分布キャリブレーション(PDC)手法を提案する。
  論文  参考訳（メタデータ） (2022-12-15T05:09:11Z)
• Adaptive Distribution Calibration for Few-Shot Learning with Hierarchical Optimal Transport [78.9167477093745]
  本稿では,新しいサンプルとベースクラス間の適応重み行列を学習し,新しい分布校正法を提案する。 標準ベンチマーク実験の結果,提案したプラグ・アンド・プレイモデルの方が競合する手法より優れていることが示された。
  論文  参考訳（メタデータ） (2022-10-09T02:32:57Z)
• Imbalanced Nodes Classification for Graph Neural Networks Based on Valuable Sample Mining [9.156427521259195]
  不均衡問題に対する従来のアルゴリズムレベルのアプローチに基づいて、新たな損失関数FD-Lossを再構成する。 我々の損失関数は、ノード分類タスクの既存の手法と比較して、サンプルノードの不均衡を効果的に解決し、分類精度を4%向上させることができる。
  論文  参考訳（メタデータ） (2022-09-18T09:22:32Z)
• Prototype-Anchored Learning for Learning with Imperfect Annotations [83.7763875464011]
  不完全な注釈付きデータセットからバイアスのない分類モデルを学ぶことは困難である。 本稿では,様々な学習に基づく分類手法に容易に組み込むことができるプロトタイプ・アンコレッド学習法を提案する。 我々は,PALがクラス不均衡学習および耐雑音学習に与える影響を,合成および実世界のデータセットに関する広範な実験により検証した。
  論文  参考訳（メタデータ） (2022-06-23T10:25:37Z)
• The Unreasonable Effectiveness of the Final Batch Normalization Layer [0.0]
  初期の病気の徴候は、農業や医療といった現実世界の領域ではほとんど記録されていない。 本研究では,Cocamanらによる2020年の研究を拡張し,ソフトマックス出力層の前に配置されたBN層が,高不均衡な画像分類問題にかなりの影響を及ぼすことを示した。
  論文  参考訳（メタデータ） (2021-09-18T21:19:31Z)
• Cross-Site Severity Assessment of COVID-19 from CT Images via Domain Adaptation [64.59521853145368]
  CT画像によるコロナウイルス病2019(COVID-19)の早期かつ正確な重症度評価は,集中治療単位のイベント推定に有効である。 ラベル付きデータを拡張し、分類モデルの一般化能力を向上させるためには、複数のサイトからデータを集約する必要がある。 この課題は、軽度の感染症と重度の感染症の集団不均衡、部位間のドメイン分布の相違、不均一な特徴の存在など、いくつかの課題に直面する。
  論文  参考訳（メタデータ） (2021-09-08T07:56:51Z)
• Imbalanced Image Classification with Complement Cross Entropy [10.35173901214638]
  不正なクラスにおける出力スコアをほとんど無視するクロスエントロピーの研究を行う。 本研究は,不規則なクラスにおける予測確率が不均衡画像分類の予測精度を向上させることを明らかにする。 提案された損失により、基底真理クラスは他のクラスをソフトマックス確率で圧倒する。
  論文  参考訳（メタデータ） (2020-09-04T13:46:24Z)
• Identifying and Compensating for Feature Deviation in Imbalanced Deep Learning [59.65752299209042]
  このようなシナリオ下でのConvNetの学習について検討する。 私たちは、ConvNetがマイナーなクラスにかなり適合していることに気づきました。 クラス依存型温度トレーニング(CDT)のConvNetの導入を提案する。
  論文  参考訳（メタデータ） (2020-01-06T03:52:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。