論文の概要: Propheter: Prophetic Teacher Guided Long-Tailed Distribution Learning
- arxiv url: http://arxiv.org/abs/2304.04135v2
- Date: Mon, 25 Sep 2023 08:28:27 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-27 03:21:48.299243
- Title: Propheter: Prophetic Teacher Guided Long-Tailed Distribution Learning
- Title(参考訳): 預言者:長大な流通学習を指導する予言教師
- Authors: Wenxiang Xu, Yongcheng Jing, Linyun Zhou, Wenqi Huang, Lechao Cheng,
Zunlei Feng, Mingli Song
- Abstract要約: 本稿では,より深いネットワークの学習を外部の事前知識で導くことによってボトルネックを突破する,革新的なロングテール学習パラダイムを提案する。
提案された予言的パラダイムは、長い尾のデータセットにおける限られたクラス知識の挑戦に対する有望な解決策として機能する。
- 参考スコア(独自算出の注目度): 44.947984354108094
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The problem of deep long-tailed learning, a prevalent challenge in the realm
of generic visual recognition, persists in a multitude of real-world
applications. To tackle the heavily-skewed dataset issue in long-tailed
classification, prior efforts have sought to augment existing deep models with
the elaborate class-balancing strategies, such as class rebalancing, data
augmentation, and module improvement. Despite the encouraging performance, the
limited class knowledge of the tailed classes in the training dataset still
bottlenecks the performance of the existing deep models. In this paper, we
propose an innovative long-tailed learning paradigm that breaks the bottleneck
by guiding the learning of deep networks with external prior knowledge. This is
specifically achieved by devising an elaborated ``prophetic'' teacher, termed
as ``Propheter'', that aims to learn the potential class distributions. The
target long-tailed prediction model is then optimized under the instruction of
the well-trained ``Propheter'', such that the distributions of different
classes are as distinguishable as possible from each other. Experiments on
eight long-tailed benchmarks across three architectures demonstrate that the
proposed prophetic paradigm acts as a promising solution to the challenge of
limited class knowledge in long-tailed datasets. The developed code is publicly
available at \url{https://github.com/tcmyxc/propheter}.
- Abstract(参考訳): 汎用視覚認識の分野で一般的な課題である深層ロングテール学習の問題は、多くの実世界のアプリケーションで続いている。
ロングテール分類における厳密なデータセット問題に取り組むために、以前の取り組みは、クラスリバランス、データ拡張、モジュールの改善など、精巧なクラスバランス戦略で既存の深層モデルを強化することを目指してきた。
優れたパフォーマンスにもかかわらず、トレーニングデータセット内の尾行クラスに関する限られたクラス知識は、まだ既存のディープモデルのパフォーマンスをボトルネックにしている。
本稿では,深層ネットワークの学習を外部の事前知識で導くことによってボトルネックを解消する,革新的な長尾学習パラダイムを提案する。
これは特に、潜在的なクラス分布を学習することを目的とした、'`Propheter''と呼ばれる、精巧な ``prohetic'' の教師を考案することで達成される。
対象のロングテール予測モデルは、訓練された ``propheter''' の指示に基づいて最適化され、異なるクラスの分布を可能な限り区別することができる。
3つのアーキテクチャにわたる8つのロングテールのベンチマーク実験は、提案された予言パラダイムが、ロングテールのデータセットにおける限られたクラス知識の課題に対する有望な解決策として機能することを示しています。
開発コードは \url{https://github.com/tcmyxc/propheter} で公開されている。
関連論文リスト
- Granularity Matters in Long-Tail Learning [62.30734737735273]
より粒度の細かいデータセットは、データの不均衡の影響を受けにくい傾向があります。
既存のクラスと視覚的に類似したオープンセット補助クラスを導入し、頭と尾の両方の表現学習を強化することを目的とした。
補助授業の圧倒的な存在がトレーニングを混乱させるのを防ぐために,近隣のサイレンシング障害を導入する。
論文 参考訳(メタデータ) (2024-10-21T13:06:21Z) - TaE: Task-aware Expandable Representation for Long Tail Class Incremental Learning [42.630413950957795]
本稿では,各タスクから多様な表現を学習するための新しいタスク対応拡張(TaE)フレームワークを提案する。
TaEは最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2024-02-08T16:37:04Z) - Robust Feature Learning and Global Variance-Driven Classifier Alignment
for Long-Tail Class Incremental Learning [20.267257778779992]
本稿では,長期クラスインクリメンタルラーニングの強化を目的とした2段階フレームワークを提案する。
本研究は,ロングテールクラスインクリメンタルラーニングにおいて,テールクラスの表現不足がもたらす課題に対処する。
提案するフレームワークは,任意のクラスインクリメンタル学習メソッドをモジュールとしてシームレスに統合することができる。
論文 参考訳(メタデータ) (2023-11-02T13:28:53Z) - Learning to Jump: Thinning and Thickening Latent Counts for Generative
Modeling [69.60713300418467]
ジャンプの学習は、様々な種類のデータの生成モデリングのための一般的なレシピである。
ジャンプの学習が、デノゼの学習と相容れないパフォーマンスを期待される場合と、より良いパフォーマンスを期待される場合を実証する。
論文 参考訳(メタデータ) (2023-05-28T05:38:28Z) - Deep networks for system identification: a Survey [56.34005280792013]
システム識別は、入力出力データから動的システムの数学的記述を学習する。
同定されたモデルの主な目的は、以前の観測から新しいデータを予測することである。
我々は、フィードフォワード、畳み込み、リカレントネットワークなどの文献で一般的に採用されているアーキテクチャについて論じる。
論文 参考訳(メタデータ) (2023-01-30T12:38:31Z) - Plausible Counterfactuals: Auditing Deep Learning Classifiers with
Realistic Adversarial Examples [84.8370546614042]
ディープラーニングモデルのブラックボックスの性質は、彼らがデータから何を学ぶかについて、未回答の疑問を提起している。
GAN(Generative Adversarial Network)とマルチオブジェクトは、監査されたモデルに妥当な攻撃を与えるために使用される。
その実用性は人間の顔の分類タスクの中で示され、提案されたフレームワークの潜在的可能性を明らかにしている。
論文 参考訳(メタデータ) (2020-03-25T11:08:56Z) - Learning From Multiple Experts: Self-paced Knowledge Distillation for
Long-tailed Classification [106.08067870620218]
我々は,LFME(Learning From Multiple Experts)と呼ばれる自己評価型知識蒸留フレームワークを提案する。
提案するLFMEフレームワークは,複数の'Experts'からの知識を集約して,統一された学生モデルを学ぶ。
提案手法は,最先端の手法に比べて優れた性能が得られることを示す。
論文 参考訳(メタデータ) (2020-01-06T12:57:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。