論文の概要: Mini-batch Sampling Strategies for Long-Tailed Image Classification: An Empirical Study on CIFAR-100-LT
- arxiv url: http://arxiv.org/abs/2609.16365v1
- Date: Mon, 14 Sep 2026 21:28:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 14:56:08.245771
- Title: Mini-batch Sampling Strategies for Long-Tailed Image Classification: An Empirical Study on CIFAR-100-LT
- Title(参考訳): 長期画像分類のためのミニバッチサンプリング戦略:CIFAR-100-LTの実証的研究
- Abstract要約: 実世界のデータセットは長い尾のクラス分布を示すことが多く、いくつかのヘッドクラスは多数のトレーニングサンプルを含むが、多くのテールクラスはわずかしか持たない。
長期画像分類のための4つのミニバッチサンプリング戦略の理論的および実証的な比較を行った。
CIFAR-100-LT上のResNet-32を3つの不均衡比(rho = 10, 50, 100)で制御条件下で評価する。
- 参考スコア(独自算出の注目度): 14.948061712083865
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Real-world datasets often exhibit long-tailed class distributions, where a few head classes contain a large number of training samples while a large number of tail classes have only a few. The composition of each mini-batch, determined by the sampling strategy, governs which classes contribute to the stochastic gradient estimate, and therefore affects convergence behaviour and generalisation across the whole class spectrum. We provide a systematic theoretical and empirical comparison of four mini-batch sampling strategies for long-tailed image classification: uniform instance sampling, class-balanced sampling, square-root sampling, and progressively balanced sampling. We place all four in a unified bias-variance framework describing their effect on gradient estimation, which exposes the tension between unbiased optimisation of the empirical loss and fair representation of rare classes. We then evaluate them under controlled conditions using ResNet-32 on CIFAR-100-LT at three imbalance ratios (rho = 10, 50, 100), with every strategy sharing the same long-tailed subsets and initialisation within a seed. Progressive sampling improves tail-class accuracy by 25% relative to the uniform baseline at rho = 100 (13.5% versus 10.8%), consistently across all three seeds, while its overall accuracy is not distinguishable from that of uniform sampling given the seed-to-seed variation (40.0% versus 39.7%); the tail-class gain, not the overall gain, is the robust effect. At rho = 100, class-balanced sampling degrades accuracy on every class group, including the tail classes it is designed to help, which we attribute to overfitting caused by extreme oversampling of scarce data; at rho = 50 this failure is confined to head and medium classes. These results indicate that when rebalancing is applied during training matters as much as how much rebalancing is applied.
- Abstract(参考訳): 実世界のデータセットは長い尾のクラス分布を示すことが多く、いくつかのヘッドクラスは多数のトレーニングサンプルを含むが、多くのテールクラスはわずかしか持たない。
サンプリング戦略によって決定される各ミニバッチの構成は、どのクラスが確率勾配推定に寄与するかを制御し、したがってクラススペクトル全体の収束挙動と一般化に影響を与える。
本研究では,長期画像分類のための4つのミニバッチサンプリング戦略(一様インスタンスサンプリング,クラスバランスサンプリング,平方根サンプリング,段階バランスサンプリング)の体系的および実証的比較を行った。
これら4つ全てを、経験的損失の偏りのない最適化と稀なクラスの公正な表現の間の緊張を露呈する勾配推定に対する効果を示す統一バイアス分散フレームワークに配置する。
次に,CIFAR-100-LT上のResNet-32を3つの不均衡比(rho = 10, 50, 100)で制御条件下で評価した。
プログレッシブサンプリングは、Rho = 100(13.5%対10.8%)の均一基数と比較して、尾クラスの精度を25%向上させるが、種子から種子までの変化(40.0%対39.7%)を考えると、全体的な精度は区別できない。
rho = 100では、クラスのバランスの取れたサンプリングは、それが役立つように設計されたテールクラスを含むすべてのクラスグループの精度を低下させます。
以上の結果から, トレーニング中に再バランスが適用された場合, 再バランスがどの程度適用されたかが示唆された。
関連論文リスト
- Disentangling Sampling from Training Budget in Class-Imbalanced CT Body Composition Segmentation [0.05319453183808007]
授業不均衡は医療画像のセグメンテーションにおける基本的な課題であり、稀な授業を犠牲にして、しばしば授業が訓練を支配している。
我々は、クラスバランスの取れたバッチ構築を教師付き環境で促進するために、数ショット学習からのエピソードサンプリングを採用する。
SAROSデータセットの210スキャンから得られた9つの筋肉および脂肪組織における無作為および重み付きサンプリングに対するエピソードサンプリングを比較した。
論文 参考訳(メタデータ) (2026-05-19T19:01:05Z) - Gradient-Aware Logit Adjustment Loss for Long-tailed Classifier [30.931850375858573]
実世界の環境では、データは長い尾の分布に従い、ヘッドクラスはテールクラスよりもはるかに多くのトレーニングサンプルを含む。
本稿では、最適化プロセスのバランスをとるために、累積勾配に基づいてロジットを調整するグラディエント・アウェア・ロジット調整(GALA)の損失を提案する。
提案手法は,一般的なロングテール認識ベンチマークデータセットにおいて,48.5%,41.4%,73.3%のTop-1精度を実現する。
論文 参考訳(メタデータ) (2024-03-14T02:21:01Z) - BaCon: Boosting Imbalanced Semi-supervised Learning via Balanced Feature-Level Contrastive Learning [0.9160375060389779]
クラス不均衡半教師学習(CISSL)では、信頼できない擬似ラベルによって引き起こされるバイアスは、不均衡なデータ分布によって悪化させることができる。
提案手法は、よく設計されたコントラスト的な方法で、インスタンスの表現の分布を直接正規化する。
提案手法は, CIFAR10-LT, CIFAR100-LT, STL10-LT, SVHN-LTデータセットの包括的実験により有効性を示す。
論文 参考訳(メタデータ) (2024-03-04T06:43:16Z) - Intra-class Adaptive Augmentation with Neighbor Correction for Deep
Metric Learning [99.14132861655223]
深層学習のためのクラス内適応拡張(IAA)フレームワークを提案する。
クラスごとのクラス内変動を合理的に推定し, 適応型合成試料を生成し, 硬質試料の採掘を支援する。
本手法は,検索性能の最先端手法を3%~6%向上させる。
論文 参考訳(メタデータ) (2022-11-29T14:52:38Z) - Learnable Distribution Calibration for Few-Shot Class-Incremental
Learning [122.2241120474278]
FSCIL(Few-shot class-incremental Learning)は、古いクラス分布を記憶し、少数のトレーニングサンプルから新しいクラス分布を推定するという課題に直面している。
本稿では,これら2つの課題を統一フレームワークを用いて体系的に解決することを目的とした,学習可能な分布校正手法を提案する。
論文 参考訳(メタデータ) (2022-10-01T09:40:26Z) - Learning to Re-weight Examples with Optimal Transport for Imbalanced
Classification [74.62203971625173]
不均衡データは、ディープラーニングに基づく分類モデルに課題をもたらす。
不均衡なデータを扱うための最も広く使われているアプローチの1つは、再重み付けである。
本稿では,分布の観点からの最適輸送(OT)に基づく新しい再重み付け手法を提案する。
論文 参考訳(メタデータ) (2022-08-05T01:23:54Z) - Relieving Long-tailed Instance Segmentation via Pairwise Class Balance [85.53585498649252]
長い尾のインスタンスセグメンテーションは、クラス間のトレーニングサンプルの極端な不均衡のために難しいタスクである。
尾のついたものに対して、(大多数のサンプルを含む)ヘッドクラスの深刻なバイアスを引き起こす。
そこで本研究では,学習中の予測嗜好を蓄積するために,学習中に更新される混乱行列上に構築された新しいPairwise Class Balance(PCB)手法を提案する。
論文 参考訳(メタデータ) (2022-01-08T07:48:36Z) - PLM: Partial Label Masking for Imbalanced Multi-label Classification [59.68444804243782]
長いラベルの分布を持つ実世界のデータセットで訓練されたニューラルネットワークは、頻繁なクラスに偏りがあり、頻繁なクラスでは不十分である。
本稿では,この比率を利用したPLM(Partial Label Masking)を提案する。
本手法は,マルチラベル (MultiMNIST と MSCOCO) とシングルラベル (CIFAR-10 と CIFAR-100) の2つの画像分類データセットにおいて,既存の手法と比較して高い性能を実現する。
論文 参考訳(メタデータ) (2021-05-22T18:07:56Z) - Semantically-Conditioned Negative Samples for Efficient Contrastive
Learning [22.631763991832862]
負のサンプリングはクラス境界に関する情報をほとんど提供しない。
効率的な負サンプリングのための3つの新しい手法を提案する。
CIFAR-10, CIFAR-100, Tiny-ImageNet-200 で行った実験は, 一貫した性能向上を示した。
論文 参考訳(メタデータ) (2021-02-12T16:26:52Z) - Solving Long-tailed Recognition with Deep Realistic Taxonomic Classifier [68.38233199030908]
ロングテール認識は、現実世界のシナリオにおける自然な非一様分散データに取り組む。
モダンは人口密度の高いクラスではうまく機能するが、そのパフォーマンスはテールクラスでは著しく低下する。
Deep-RTCは、リアリズムと階層的予測を組み合わせたロングテール問題の新しい解法として提案されている。
論文 参考訳(メタデータ) (2020-07-20T05:57:42Z) - Imbalanced Data Learning by Minority Class Augmentation using Capsule
Adversarial Networks [31.073558420480964]
本稿では,2つの同時手法を合体させて,不均衡な画像のバランスを回復する手法を提案する。
我々のモデルでは、生成的および識別的ネットワークは、新しい競争力のあるゲームをする。
カプセルGANの合体は、畳み込みGANと比較して非常に少ないパラメータで重なり合うクラスを認識するのに効果的である。
論文 参考訳(メタデータ) (2020-04-05T12:36:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。