論文の概要: Label-Aware Distribution Calibration for Long-tailed Classification
- arxiv url: http://arxiv.org/abs/2111.04901v1
- Date: Tue, 9 Nov 2021 01:38:35 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-10 22:53:17.176374
- Title: Label-Aware Distribution Calibration for Long-tailed Classification
- Title(参考訳): 長期分類のためのラベル認識分布校正
- Authors: Chaozheng Wang, Shuzheng Gao, Cuiyun Gao, Pengyun Wang, Wenjie Pei,
Lujia Pan, Zenglin Xu
- Abstract要約: 末尾クラスの分布を校正するためのラベル認識型LADC手法を提案する。
画像とテキストの長い尾のデータセットの実験は、LADCが既存の手法よりも大幅に優れていることを示した。
- 参考スコア(独自算出の注目度): 25.588323749920324
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Real-world data usually present long-tailed distributions. Training on
imbalanced data tends to render neural networks perform well on head classes
while much worse on tail classes. The severe sparseness of training instances
for the tail classes is the main challenge, which results in biased
distribution estimation during training. Plenty of efforts have been devoted to
ameliorating the challenge, including data re-sampling and synthesizing new
training instances for tail classes. However, no prior research has exploited
the transferable knowledge from head classes to tail classes for calibrating
the distribution of tail classes. In this paper, we suppose that tail classes
can be enriched by similar head classes and propose a novel distribution
calibration approach named as label-Aware Distribution Calibration LADC. LADC
transfers the statistics from relevant head classes to infer the distribution
of tail classes. Sampling from calibrated distribution further facilitates
re-balancing the classifier. Experiments on both image and text long-tailed
datasets demonstrate that LADC significantly outperforms existing methods.The
visualization also shows that LADC provides a more accurate distribution
estimation.
- Abstract(参考訳): 現実世界のデータは通常、ロングテール分布を示す。
不均衡なデータのトレーニングは、ニューラルネットワークがヘッドクラスでうまく機能する一方で、テールクラスでははるかに悪化する傾向にある。
テールクラスのトレーニングインスタンスの厳密なスパース性は、トレーニング中に偏りのある分布推定をもたらす主な課題である。
データの再サンプリングやテールクラスの新しいトレーニングインスタンスの合成など、多くの努力が課題の改善に費やされている。
しかし、テールクラスの分布を校正するために、ヘッドクラスからテールクラスへ移行可能な知識を利用した先行研究は行われていない。
本稿では,類似のヘッドクラスによってテールクラスを豊かにすることができると仮定し,ラベル・アウェア分布校正 LADC という新しい分布校正手法を提案する。
LADCは関連するヘッドクラスから統計を転送し、テールクラスの分布を推測する。
校正分布からのサンプリングはさらに、分類器の再バランスを容易にする。
画像とテキストのロングテールデータセットによる実験では、LADCが既存の手法よりも大幅に優れており、可視化により、LADCがより正確な分布推定を提供することを示す。
関連論文リスト
- Continuous Contrastive Learning for Long-Tailed Semi-Supervised Recognition [50.61991746981703]
現在の最先端のLTSSLアプローチは、大規模な未ラベルデータに対して高品質な擬似ラベルに依存している。
本稿では,長期学習における様々な提案を統一する新しい確率的枠組みを提案する。
我々は、信頼度とスムーズな擬似ラベルを用いて、我々のフレームワークをラベルなしデータに拡張する、連続的コントラスト学習手法であるCCLを導入する。
論文 参考訳(メタデータ) (2024-10-08T15:06:10Z) - Dual Compensation Residual Networks for Class Imbalanced Learning [98.35401757647749]
そこで本研究では,尾と頭の両方に適合する2次元補償残差ネットワークを提案する。
オーバーフィッティングを引き起こす重要な要因は、トレーニングとテールクラスのテストデータの間に深刻な特徴ドリフトがあることである。
また,不適合問題を軽減するためにResidual Balanced Multi-Proxies分類器を提案する。
論文 参考訳(メタデータ) (2023-08-25T04:06:30Z) - Adjusting Logit in Gaussian Form for Long-Tailed Visual Recognition [37.62659619941791]
特徴レベルの観点から、長い尾の視覚認識の問題について検討する。
2つの新しいロジット調整法が提案され,計算オーバーヘッドの緩やかなモデル性能が向上した。
ベンチマークデータセットを用いて行った実験は,提案手法の最先端手法よりも優れた性能を示す。
論文 参考訳(メタデータ) (2023-05-18T02:06:06Z) - Transfer Knowledge from Head to Tail: Uncertainty Calibration under
Long-tailed Distribution [24.734851889816206]
現在の校正技術は、異なるクラスを均等に扱い、暗黙的にトレーニングデータの分布が均衡していると仮定している。
テールクラスのサンプルの重みを推定し,知識伝達に基づくキャリブレーション手法を提案する。
論文 参考訳(メタデータ) (2023-04-13T13:48:18Z) - When Noisy Labels Meet Long Tail Dilemmas: A Representation Calibration
Method [40.25499257944916]
実世界のデータセットは騒々しくラベル付けされ、クラス不均衡である。
本稿では,表現キャリブレーション手法RCALを提案する。
我々は,表現キャリブレーションの有効性を論じるために理論的結果を得る。
論文 参考訳(メタデータ) (2022-11-20T11:36:48Z) - Learnable Distribution Calibration for Few-Shot Class-Incremental
Learning [122.2241120474278]
FSCIL(Few-shot class-incremental Learning)は、古いクラス分布を記憶し、少数のトレーニングサンプルから新しいクラス分布を推定するという課題に直面している。
本稿では,これら2つの課題を統一フレームワークを用いて体系的に解決することを目的とした,学習可能な分布校正手法を提案する。
論文 参考訳(メタデータ) (2022-10-01T09:40:26Z) - Learning Muti-expert Distribution Calibration for Long-tailed Video
Classification [88.12433458277168]
2レベル分布情報に基づくエンドツーエンドのマルチエキスパート分布校正手法を提案する。
この2段階の分布情報をモデル化することで、モデルはヘッドクラスとテールクラスを考慮できる。
本手法は,長編ビデオ分類作業における最先端性能を実現する。
論文 参考訳(メタデータ) (2022-05-22T09:52:34Z) - Calibrating Class Activation Maps for Long-Tailed Visual Recognition [60.77124328049557]
本稿では,CNNの長期分布からネットワーク学習を改善するための2つの効果的な修正を提案する。
まず,ネットワーク分類器の学習と予測を改善するために,CAMC (Class Activation Map) モジュールを提案する。
第2に,長期化問題における表現学習における正規化分類器の利用について検討する。
論文 参考訳(メタデータ) (2021-08-29T05:45:03Z) - Distributional Robustness Loss for Long-tail Learning [20.800627115140465]
現実世界のデータはしばしばアンバランスで長尾ですが、深いモデルは頻繁なクラスの存在下でまれなクラスを認識するのに苦労します。
ディープネットワークの特徴抽出器部分は,このバイアスに大きく悩まされていることを示す。
モデルが頭と尾の両方のクラスで高品質の表現を学ぶことを奨励するロバストネス理論に基づく新しい損失を提案します。
論文 参考訳(メタデータ) (2021-04-07T11:34:04Z) - Long-tailed Recognition by Routing Diverse Distribution-Aware Experts [64.71102030006422]
我々は、RoutIng Diverse Experts (RIDE) と呼ばれる新しい長い尾の分類器を提案する。
複数の専門家とのモデルの分散を減らし、分布を考慮した多様性損失によるモデルバイアスを減らし、動的専門家ルーティングモジュールによる計算コストを削減します。
RIDEは、CIFAR100-LT、ImageNet-LT、iNaturalist 2018ベンチマークで最先端を5%から7%上回っている。
論文 参考訳(メタデータ) (2020-10-05T06:53:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。