論文の概要: RSG: A Simple but Effective Module for Learning Imbalanced Datasets
- arxiv url: http://arxiv.org/abs/2106.09859v1
- Date: Fri, 18 Jun 2021 01:10:27 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-22 01:27:19.261859
- Title: RSG: A Simple but Effective Module for Learning Imbalanced Datasets
- Title(参考訳): rsg:不均衡データセットを学習するためのシンプルで効果的なモジュール
- Authors: Jianfeng Wang, Thomas Lukasiewicz, Xiaolin Hu, Jianfei Cai, Zhenghua
Xu
- Abstract要約: 本稿では,レアクラスのサンプル生成装置(RSG)を提案し,トレーニング中にレアクラスのサンプルを新たに生成する。
RSGは、様々な種類の畳み込みニューラルネットワークに容易に組み込むことができるため、使いやすく、非常に多用途である。
RSGを用いたIm Balanced CIFAR, ImageNet-LT, iNaturalist 2018の競争結果を得た。
- 参考スコア(独自算出の注目度): 99.77194308426606
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Imbalanced datasets widely exist in practice and area great challenge for
training deep neural models with agood generalization on infrequent classes. In
this work, wepropose a new rare-class sample generator (RSG) to solvethis
problem. RSG aims to generate some new samplesfor rare classes during training,
and it has in particularthe following advantages: (1) it is convenient to use
andhighly versatile, because it can be easily integrated intoany kind of
convolutional neural network, and it works wellwhen combined with different
loss functions, and (2) it isonly used during the training phase, and
therefore, no ad-ditional burden is imposed on deep neural networks duringthe
testing phase. In extensive experimental evaluations, weverify the
effectiveness of RSG. Furthermore, by leveragingRSG, we obtain competitive
results on Imbalanced CIFARand new state-of-the-art results on Places-LT,
ImageNet-LT, and iNaturalist 2018. The source code is available at
https://github.com/Jianf-Wang/RSG.
- Abstract(参考訳): 不均衡なデータセットは実践的に広く存在し、希少なクラスでの優れた一般化を伴うディープニューラルネットワークのトレーニングには大きな課題がある。
本研究では,この問題を解決するために,新しいレアクラスサンプルジェネレータ(RSG)を提案する。
rsgは、トレーニング中にレアクラスのための新たなサンプルの生成を目標としており、特に、(1)あらゆる種類の畳み込みニューラルネットワークに容易に統合でき、異なる損失関数と組み合わせるとうまく機能し、(2)トレーニング段階でのみ使用されるため、テストフェーズ中にディープニューラルネットワークに副次的負担が課されないという利点がある。
実験的評価では,RSGの有効性を検証した。
さらに、RSGを活用して、不均衡なCIFARとPlaces-LT、ImageNet-LT、iNaturalist 2018の新たな最先端結果の競合結果を得る。
ソースコードはhttps://github.com/Jianf-Wang/RSGで入手できる。
関連論文リスト
- A Coefficient Makes SVRG Effective [55.104068027239656]
SVRG (Variance Reduced Gradient) は理論的に説得力のある最適化手法である。
本研究では,実世界のニューラルネットワークを最適化するSVRGの可能性を示す。
分析の結果,より深いネットワークでは,SVRGの分散低減項の強度は,トレーニングが進むにつれて小さくなり,低下することが明らかとなった。
論文 参考訳(メタデータ) (2023-11-09T18:47:44Z) - Hybrid Graph Neural Networks for Few-Shot Learning [85.93495480949079]
グラフニューラルネットワーク(GNN)は、数発の学習問題に対処するために使用されている。
帰納的設定の下では、既存のGNNベースのメソッドは競争力が少ない。
本稿では2つのGNN(インスタンスGNNとプロトタイプGNN)からなる新しいハイブリッドGNNモデルを提案する。
論文 参考訳(メタデータ) (2021-12-13T10:20:15Z) - Class Balancing GAN with a Classifier in the Loop [58.29090045399214]
本稿では,GANを学習するための理論的動機付けクラスバランス正則化器を提案する。
我々の正規化器は、訓練済みの分類器からの知識を利用して、データセット内のすべてのクラスのバランスの取れた学習を確実にします。
複数のデータセットにまたがる既存手法よりも優れた性能を達成し,長期分布の学習表現における正規化器の有用性を実証する。
論文 参考訳(メタデータ) (2021-06-17T11:41:30Z) - Self-Damaging Contrastive Learning [92.34124578823977]
ラベルのないデータは一般に不均衡であり、長い尾の分布を示す。
本稿では,クラスを知らずに表現学習を自動的にバランスをとるための,自己学習コントラスト学習という原則的枠組みを提案する。
実験の結果,SDCLRは全体としての精度だけでなく,バランス性も著しく向上することがわかった。
論文 参考訳(メタデータ) (2021-06-06T00:04:49Z) - Constrained Optimization for Training Deep Neural Networks Under Class
Imbalance [9.557146081524008]
ROC曲線の下で最大領域を強制するために、既存の損失関数で使用できる新しい制約を紹介します。
CIFAR10と社内医療画像データセットを用いた画像分類アプリケーションの実験結果を提示する。
論文 参考訳(メタデータ) (2021-02-21T09:49:36Z) - Training Sparse Neural Networks using Compressed Sensing [13.84396596420605]
本研究では,プレニングとトレーニングを1ステップに組み合わせた圧縮センシングに基づく新しい手法の開発と試験を行う。
具体的には、トレーニング中の重みを適応的に重み付けした$ell1$のペナルティを利用して、スパースニューラルネットワークをトレーニングするために、正規化二重平均化(RDA)アルゴリズムの一般化と組み合わせる。
論文 参考訳(メタデータ) (2020-08-21T19:35:54Z) - Imbalanced Data Learning by Minority Class Augmentation using Capsule
Adversarial Networks [31.073558420480964]
本稿では,2つの同時手法を合体させて,不均衡な画像のバランスを回復する手法を提案する。
我々のモデルでは、生成的および識別的ネットワークは、新しい競争力のあるゲームをする。
カプセルGANの合体は、畳み込みGANと比較して非常に少ないパラメータで重なり合うクラスを認識するのに効果的である。
論文 参考訳(メタデータ) (2020-04-05T12:36:06Z) - Equalization Loss for Long-Tailed Object Recognition [109.91045951333835]
最先端のオブジェクト検出手法は、大きな語彙と長い尾を持つデータセットでは依然として不十分である。
そこで本稿では,長期的希少なカテゴリーの課題に対処するために,同化損失という,シンプルだが効果的な損失を提案する。
LVISベンチマークでは,レアおよび共通カテゴリのAP利得が4.1%,レアおよび共通カテゴリが4.8%である。
論文 参考訳(メタデータ) (2020-03-11T09:14:53Z) - AL2: Progressive Activation Loss for Learning General Representations in
Classification Neural Networks [12.14537824884951]
本稿では,トレーニング中のアクティベーションの規模を段階的に罰する新たな正規化手法を提案する。
本手法が一般化に与える影響をラベルランダム化試験と累積アブレーションを用いて解析した。
論文 参考訳(メタデータ) (2020-03-07T18:38:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。