論文の概要: A Tale of Two Classes: Adapting Supervised Contrastive Learning to Binary Imbalanced Datasets

• arxiv url: http://arxiv.org/abs/2503.17024v1
• Date: Fri, 21 Mar 2025 10:34:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-24 14:57:55.079043
• Title: A Tale of Two Classes: Adapting Supervised Contrastive Learning to Binary Imbalanced Datasets
• Title（参考訳）: 2つのクラスの物語:教師付きコントラスト学習を二元的不均衡データセットに適用する
• Authors: David Mildenberger, Paul Hager, Daniel Rueckert, Martin J Menten,
• Abstract要約: 教師付きコントラスト学習(SupCon)は、バランスの取れたデータセットの分類において、標準的なクロスエントロピー損失の強力な代替手段であることが証明されている。 SupConのパフォーマンスはクラス不均衡の増加に伴って低下する。 本稿では,二元不均衡データセットに適した2つの教師付きコントラスト学習戦略を提案する。
• 参考スコア（独自算出の注目度）: 9.413178499853156
• License:
• Abstract: Supervised contrastive learning (SupCon) has proven to be a powerful alternative to the standard cross-entropy loss for classification of multi-class balanced datasets. However, it struggles to learn well-conditioned representations of datasets with long-tailed class distributions. This problem is potentially exacerbated for binary imbalanced distributions, which are commonly encountered during many real-world problems such as medical diagnosis. In experiments on seven binary datasets of natural and medical images, we show that the performance of SupCon decreases with increasing class imbalance. To substantiate these findings, we introduce two novel metrics that evaluate the quality of the learned representation space. By measuring the class distribution in local neighborhoods, we are able to uncover structural deficiencies of the representation space that classical metrics cannot detect. Informed by these insights, we propose two new supervised contrastive learning strategies tailored to binary imbalanced datasets that improve the structure of the representation space and increase downstream classification accuracy over standard SupCon by up to 35%. We make our code available.
• Abstract（参考訳）: Supervised contrastive learning (SupCon)は、マルチクラスのバランスの取れたデータセットの分類において、標準的なクロスエントロピー損失の強力な代替手段であることが証明されている。 しかし、長い尾のクラス分布を持つデータセットのよく調和した表現を学ぶのに苦労している。 この問題は、医療診断などの現実世界の多くの問題でよく見られる二元不均衡分布に対して、さらに悪化する可能性がある。 自然画像と医用画像のバイナリデータセットを実験した結果,SupConの性能はクラス不均衡の増加とともに低下することがわかった。 これらの知見を裏付けるために,学習された表現空間の質を評価する2つの新しい指標を導入する。 局所的近傍におけるクラス分布を測定することにより、古典的メトリクスが検出できない表現空間の構造的欠陥を明らかにすることができる。 これらの知見により、表現空間の構造を改善し、標準SupConよりも下流の分類精度を最大35%向上させる二進不均衡データセットに適した2つの教師付きコントラスト学習戦略を提案する。 コードを利用可能にしています。

関連論文リスト

• Uncertainty-guided Boundary Learning for Imbalanced Social Event Detection [64.4350027428928]
  本研究では,不均衡なイベント検出タスクのための不確実性誘導型クラス不均衡学習フレームワークを提案する。 我々のモデルは、ほとんど全てのクラス、特に不確実なクラスにおいて、社会イベントの表現と分類タスクを大幅に改善する。
  論文  参考訳（メタデータ） (2023-10-30T03:32:04Z)
• Neural Collapse Terminus: A Unified Solution for Class Incremental Learning and Its Variants [166.916517335816]
  本稿では,3つの課題における不整合ジレンマに対する統一解を提案する。 ラベル空間全体の最大等角的クラス間分離を有する固定構造である神経崩壊終端を提案する。 本手法は,データ不均衡やデータ不足にかかわらず,神経崩壊最適度を漸進的に保持する。
  論文  参考訳（メタデータ） (2023-08-03T13:09:59Z)
• Inducing Neural Collapse in Deep Long-tailed Learning [13.242721780822848]
  クラス不均衡データの高品質な表現を学習するための2つの明示的な特徴正規化項を提案する。 提案された正規化により、ニューラル崩壊現象はクラス不均衡分布の下に現れる。 本手法は, 実装が容易で, 有効であり, 既存のほとんどの方法に組み込むことができる。
  論文  参考訳（メタデータ） (2023-02-24T05:07:05Z)
• Constructing Balance from Imbalance for Long-tailed Image Recognition [50.6210415377178]
  多数派(頭)クラスと少数派(尾)クラスの不均衡は、データ駆動のディープニューラルネットワークを著しく歪ませる。 従来の手法では、データ分散、特徴空間、モデル設計の観点からデータ不均衡に対処していた。 ラベル空間を段階的に調整し,ヘッドクラスとテールクラスを分割することで,簡潔なパラダイムを提案する。 提案モデルでは,特徴評価手法も提供し,長期的特徴学習の道を開く。
  論文  参考訳（メタデータ） (2022-08-04T10:22:24Z)
• A Reduction to Binary Approach for Debiasing Multiclass Datasets [12.885756277367443]
  R2Bが最適性およびバイアス保証を満たすことを証明し、2つの基準線を越えれば改善につながることを実証的に証明する。 これらの結論は、社会科学、コンピュータビジョン、医療からの合成および実世界のデータセット上で検証される。
  論文  参考訳（メタデータ） (2022-05-31T15:11:41Z)
• Neighborhood Contrastive Learning for Novel Class Discovery [79.14767688903028]
  我々は,クラスタリング性能に重要な識別表現を学習するために,Neighborhood Contrastive Learningという新しいフレームワークを構築した。 これらの2つの成分がクラスタリング性能に大きく寄与し、我々のモデルが最先端の手法よりも大きなマージンで優れていることを実験的に実証した。
  論文  参考訳（メタデータ） (2021-06-20T17:34:55Z)
• Semi-supervised Long-tailed Recognition using Alternate Sampling [95.93760490301395]
  ロングテール認識の主な課題は、データ分布の不均衡とテールクラスにおけるサンプル不足である。 半教師付き長尾認識という新しい認識設定を提案する。 2つのデータセットで、他の競合方法よりも大幅な精度向上を実証します。
  論文  参考訳（メタデータ） (2021-05-01T00:43:38Z)
• Analyzing Overfitting under Class Imbalance in Neural Networks for Image Segmentation [19.259574003403998]
  画像分割では、ニューラルネットワークは小さな構造物の前景サンプルに過剰に適合する可能性がある。 本研究では,ネットワークの動作を検査することにより,クラス不均衡下でのオーバーフィッティング問題に対する新たな知見を提供する。
  論文  参考訳（メタデータ） (2021-02-20T14:57:58Z)
• Long-Tailed Recognition Using Class-Balanced Experts [128.73438243408393]
  本稿では,多様な分類器の強度を組み合わせたクラスバランスの専門家のアンサンブルを提案する。 私たちのクラスバランスの専門家のアンサンブルは、最先端に近い結果に到達し、長い尾の認識のための2つのベンチマークで新たな最先端のアンサンブルを確立します。
  論文  参考訳（メタデータ） (2020-04-07T20:57:44Z)
• Imbalanced Data Learning by Minority Class Augmentation using Capsule Adversarial Networks [31.073558420480964]
  本稿では,2つの同時手法を合体させて,不均衡な画像のバランスを回復する手法を提案する。 我々のモデルでは、生成的および識別的ネットワークは、新しい競争力のあるゲームをする。 カプセルGANの合体は、畳み込みGANと比較して非常に少ないパラメータで重なり合うクラスを認識するのに効果的である。
  論文  参考訳（メタデータ） (2020-04-05T12:36:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。