論文の概要: On the Impact of Class Imbalance on the Learning Dynamics of Deep Neural Networks:An Intuitive Insight
- arxiv url: http://arxiv.org/abs/2605.24908v1
- Date: Sun, 24 May 2026 07:18:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-26 19:50:18.503592
- Title: On the Impact of Class Imbalance on the Learning Dynamics of Deep Neural Networks:An Intuitive Insight
- Title（参考訳）: ディープニューラルネットワークの学習ダイナミクスに及ぼすクラス不均衡の影響:直観的考察
- Authors: Ismail B. Mustapha, Shafaatunnur Hasan, Sunday O. Olatunji, Hatem S. Y. Nabus,
- Abstract要約: ディープニューラルネットワーク(DNN)のクラス不均衡は、近年研究の注目が急速に高まっているのを目撃している。
本研究は,授業の不均衡がDNNの学習力学に与える影響を系統的に検討する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Class imbalance in deep neural networks (DNNs) has witnessed a rapid increase in research attention in recent years. However, the varying accounts of the reasons behind the poor performance of DNN on imbalance data in pertinent literature shows that little is known about how this agelong phenomenon impacts the performance of DNNs. A better understanding of this problem is crucial to developing effective DNN-based imbalance methods. Thus, this study systematically investigates the impact of class imbalance on the learning dynamics of DNN by monitoring the learning pattern of DNN models on both the majority and minority classes of datasets of varying imbalance ratios. Experimental findings shows that as against learning from balanced datasets where DNN learns the classes similarly, class imbalance has severe deteriorating impact on the performance of DNN, driving the model to underfit the minority class samples in the early training epochs while simultaneously learning only the majority class. Although DNN ultimately learns the minority samples, learning in this manner only results in learnt minority representations that are non-generalizable at test phase because they are merely overfitted to keep the overall training loss as low as possible.
- Abstract（参考訳）: ディープニューラルネットワーク(DNN)のクラス不均衡は、近年研究の注目が急速に高まっているのを目撃している。
しかし、DNNの不均衡データに対する不均衡の背景にある諸要因については、この高齢化現象がDNNの性能に与える影響についてはほとんど分かっていない。
この問題をよりよく理解することは、効果的なDNNベースの不均衡手法を開発する上で重要である。
そこで本研究では,DNNモデルの学習パターンをモニタリングすることで,クラス不均衡がDNNの学習力学に与える影響を系統的に検討する。
実験結果から,DNNが同様に授業を学習するバランスの取れたデータセットからの学習と異なり,クラス不均衡はDNNのパフォーマンスに深刻な低下をもたらし,初等教育におけるマイノリティクラスサンプルの不足をモデルに促し,同時に過半数クラスのみを学習したことが示唆された。
DNNは最終的にマイノリティサンプルを学習するが、この方法での学習は、テストフェーズで一般化不可能なマイノリティ表現を学習するだけである。
関連論文リスト
- Why Loss Re-weighting Works If You Stop Early: Training Dynamics of Unconstrained Features [34.88156871518115]
本稿では,この現象を透過的に実証し解析するための小型モデル(SSM)を提案する。
一方、SSMは、バニラ経験的リスク最小化が、訓練の早い段階でマイノリティよりも多数派を区別することを優先的に学んでいることを明らかにしている。
対照的に、再重み付けはバランスの取れた学習力学を復元し、多数派とマイノリティの両方に関連する特徴の同時学習を可能にする。
論文 参考訳（メタデータ） (2026-01-17T11:26:53Z) - Causal inference through multi-stage learning and doubly robust deep neural networks [10.021381302215062]
ディープニューラルネットワーク(DNN)は、大規模教師付き学習問題において顕著な経験的性能を示した。
本研究は、複雑な因果推論タスクの幅広い範囲にわたるDNNの適用について検討する。
論文 参考訳（メタデータ） (2024-07-11T14:47:44Z) - Simplifying Neural Network Training Under Class Imbalance [77.39968702907817]
実世界のデータセットは、しばしば高いクラス不均衡であり、ディープラーニングモデルのパフォーマンスに悪影響を及ぼす可能性がある。
クラス不均衡下でのニューラルネットワークのトレーニングに関する研究の大部分は、特殊な損失関数、サンプリング技術、または2段階のトレーニング手順に焦点を当てている。
バッチサイズやデータ拡張,ラベルの平滑化といった,標準的なディープラーニングパイプラインの既存のコンポーネントを単にチューニングするだけで,そのような特殊なクラス不均衡な手法を使わずに,最先端のパフォーマンスを達成できることを実証する。
論文 参考訳（メタデータ） (2023-12-05T05:52:44Z) - Transferability of coVariance Neural Networks and Application to
Interpretable Brain Age Prediction using Anatomical Features [119.45320143101381]
グラフ畳み込みネットワーク(GCN)は、トポロジー駆動のグラフ畳み込み演算を利用して、推論タスクのためにグラフをまたいだ情報を結合する。
我々は、共分散行列をグラフとして、共分散ニューラルネットワーク(VNN)の形でGCNを研究した。
VNNは、GCNからスケールフリーなデータ処理アーキテクチャを継承し、ここでは、共分散行列が極限オブジェクトに収束するデータセットに対して、VNNが性能の転送可能性を示すことを示す。
論文 参考訳（メタデータ） (2023-05-02T22:15:54Z) - Neural Additive Models for Location Scale and Shape: A Framework for
Interpretable Neural Regression Beyond the Mean [1.0923877073891446]
ディープニューラルネットワーク(DNN)は、様々なタスクで非常に効果的であることが証明されている。
この成功にもかかわらず、DNNの内部構造はしばしば透明ではない。
この解釈可能性の欠如は、本質的に解釈可能なニューラルネットワークの研究の増加につながった。
論文 参考訳（メタデータ） (2023-01-27T17:06:13Z) - Analyzing the Effects of Handling Data Imbalance on Learned Features
from Medical Images by Looking Into the Models [50.537859423741644]
不均衡なデータセットでモデルをトレーニングすることは、学習問題にユニークな課題をもたらす可能性がある。
ニューラルネットワークの内部ユニットを深く調べて、データの不均衡処理が学習した機能にどのように影響するかを観察します。
論文 参考訳（メタデータ） (2022-04-04T09:38:38Z) - Neuromorphic Data Augmentation for Training Spiking Neural Networks [10.303676184878896]
イベントベースデータセットに対するニューロモルフィックデータ拡張(NDA)を提案する。
NDAはSNNトレーニングを著しく安定化し、トレーニングとテストパフォーマンスの一般化ギャップを小さくする。
SNNにおける教師なしコントラスト学習の実現可能性を示す。
論文 参考訳（メタデータ） (2022-03-11T18:17:19Z) - Shift-Robust GNNs: Overcoming the Limitations of Localized Graph
Training data [52.771780951404565]
Shift-Robust GNN (SR-GNN) は、バイアス付きトレーニングデータとグラフの真の推論分布の分布差を考慮に入れた設計である。
SR-GNNが他のGNNベースラインを精度良く上回り、バイアス付きトレーニングデータから生じる負の効果の少なくとも40%を排除していることを示す。
論文 参考訳（メタデータ） (2021-08-02T18:00:38Z) - S2-BNN: Bridging the Gap Between Self-Supervised Real and 1-bit Neural
Networks via Guided Distribution Calibration [74.5509794733707]
本研究では, 実数値から, 最終予測分布上のバイナリネットワークへの誘導型学習パラダイムを提案する。
提案手法は,bnn上で5.515%の絶対利得で,単純なコントラスト学習ベースラインを向上できる。
提案手法は、単純なコントラスト学習ベースラインよりも大幅に改善され、多くの主流教師付きBNN手法に匹敵する。
論文 参考訳（メタデータ） (2021-02-17T18:59:28Z) - Spiking Neural Networks with Single-Spike Temporal-Coded Neurons for
Network Intrusion Detection [6.980076213134383]
スパイキングニューラルネット(SNN)は、その強い生物楽観性と高いエネルギー効率のために興味深い。
しかし、その性能は従来のディープニューラルネットワーク(DNN)よりもはるかに遅れている。
論文 参考訳（メタデータ） (2020-10-15T14:46:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。