論文の概要: Class-Incremental Learning with Generative Classifiers
- arxiv url: http://arxiv.org/abs/2104.10093v1
- Date: Tue, 20 Apr 2021 16:26:14 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-21 13:56:39.057306
- Title: Class-Incremental Learning with Generative Classifiers
- Title(参考訳): 生成型分類器を用いたクラス増分学習
- Authors: Gido M. van de Ven, Zhe Li, Andreas S. Tolias
- Abstract要約: 本稿では,クラス増分学習のための新しい戦略を提案する。
本提案は,p(x|y)p(y) として分解された合同分布 p(x,y) を学習し,ベイズ則を用いた分類を行うことである。
ここでは,各学習クラスに対して,変分オートエンコーダをトレーニングすることで,この戦略を実証する。
- 参考スコア(独自算出の注目度): 6.570917734205559
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Incrementally training deep neural networks to recognize new classes is a
challenging problem. Most existing class-incremental learning methods store
data or use generative replay, both of which have drawbacks, while
'rehearsal-free' alternatives such as parameter regularization or
bias-correction methods do not consistently achieve high performance. Here, we
put forward a new strategy for class-incremental learning: generative
classification. Rather than directly learning the conditional distribution
p(y|x), our proposal is to learn the joint distribution p(x,y), factorized as
p(x|y)p(y), and to perform classification using Bayes' rule. As a
proof-of-principle, here we implement this strategy by training a variational
autoencoder for each class to be learned and by using importance sampling to
estimate the likelihoods p(x|y). This simple approach performs very well on a
diverse set of continual learning benchmarks, outperforming generative replay
and other existing baselines that do not store data.
- Abstract(参考訳): 新しいクラスを認識するためにディープニューラルネットワークを漸進的に訓練することは難しい問題だ。
既存のクラスインクリメンタル学習法はデータを保存するか,あるいは生成リプレイを使用するが,パラメータの正規化やバイアス修正といった'リハーサルフリー'な代替手段は,一貫してハイパフォーマンスを実現していない。
ここでは、クラス増分学習の新しい戦略として、生成的分類を提案する。
条件分布 p(y|x) を直接学習するのではなく、p(x|y)p(y) として分解された合同分布 p(x,y) を学習し、ベイズ則を用いた分類を行う。
原則の証明として,学習すべきクラスごとに変分オートエンコーダを訓練し,p(x|y)の確率を推定するために重要サンプリングを用いることにより,この戦略を実践する。
このシンプルなアプローチは、さまざまな連続学習ベンチマークで非常にうまく動作し、生成リプレイや他のデータを保存していない既存のベースラインよりも優れています。
関連論文リスト
- Achieving More with Less: A Tensor-Optimization-Powered Ensemble Method [53.170053108447455]
アンサンブル学習(英: Ensemble learning)は、弱い学習者を利用して強力な学習者を生み出す方法である。
我々は、マージンの概念を活かした滑らかで凸な目的関数を設計し、強力な学習者がより差別的になるようにした。
そして、我々のアルゴリズムを、多数のデータセットの10倍の大きさのランダムな森林や他の古典的な手法と比較する。
論文 参考訳(メタデータ) (2024-08-06T03:42:38Z) - Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple
Logits Retargeting Approach [102.0769560460338]
我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。
提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
論文 参考訳(メタデータ) (2024-03-01T03:27:08Z) - A Hard-to-Beat Baseline for Training-free CLIP-based Adaptation [121.0693322732454]
対照的に、CLIP(Contrastive Language- Image Pretraining)はその目覚ましいゼロショット能力で人気を集めている。
近年の研究では、下流タスクにおけるCLIPの性能を高めるための効率的な微調整手法の開発に焦点が当てられている。
従来のアルゴリズムであるガウス判別分析(GDA)を再検討し,CLIPの下流分類に適用する。
論文 参考訳(メタデータ) (2024-02-06T15:45:27Z) - Few-Shot Class-Incremental Learning via Training-Free Prototype
Calibration [67.69532794049445]
既存のメソッドでは、新しいクラスのサンプルをベースクラスに誤分類する傾向があり、新しいクラスのパフォーマンスが低下する。
我々は,新しいクラスの識別性を高めるため,簡易かつ効果的なトレーニング-フレア・カロブラシアン (TEEN) 戦略を提案する。
論文 参考訳(メタデータ) (2023-12-08T18:24:08Z) - RanPAC: Random Projections and Pre-trained Models for Continual Learning [59.07316955610658]
継続学習(CL)は、古いタスクを忘れずに、非定常データストリームで異なるタスク(分類など)を学習することを目的としている。
本稿では,事前学習モデルを用いたCLの簡潔かつ効果的なアプローチを提案する。
論文 参考訳(メタデータ) (2023-07-05T12:49:02Z) - Bypassing Logits Bias in Online Class-Incremental Learning with a
Generative Framework [15.345043222622158]
我々は、時間とともに新しいクラスが出現するオンラインのクラス増分学習環境に焦点を当てる。
既存のほとんどのメソッドは、ソフトマックス分類器を使ったリプレイベースである。
特徴空間に基づく新しい生成フレームワークを提案する。
論文 参考訳(メタデータ) (2022-05-19T06:54:20Z) - Few-Shot Incremental Learning with Continually Evolved Classifiers [46.278573301326276]
Few-shot Class-Incremental Learning(FSCIL)は、いくつかのデータポイントから新しい概念を継続的に学習できる機械学習アルゴリズムの設計を目指している。
難点は、新しいクラスからの限られたデータが、重大な過度な問題を引き起こすだけでなく、破滅的な忘れの問題も悪化させることにある。
我々は,適応のための分類器間のコンテキスト情報を伝達するグラフモデルを用いた連続進化型cif(cec)を提案する。
論文 参考訳(メタデータ) (2021-04-07T10:54:51Z) - Class-incremental Learning using a Sequence of Partial Implicitly
Regularized Classifiers [0.0]
クラス増分学習では、トレーニングデータ全体にアクセスすることなく、複数のクラスを順次学習することが目的である。
CIFAR100データセットの実験では、提案手法がSOTAの性能を大きなマージンで向上させることが示された。
論文 参考訳(メタデータ) (2021-04-04T10:02:45Z) - ClaRe: Practical Class Incremental Learning By Remembering Previous
Class Representations [9.530976792843495]
クラスインクリメンタル学習(cil)は、新しい概念を完全に学習する傾向があるが、古いデータのパフォーマンスと正確性を犠牲にしない。
ClaReは、各インクリメントで学んだクラスの表現を覚えておくことで、CILの効率的なソリューションです。
ClaReは、以前に学習したクラスの分布から多様なインスタンスを生成するため、従来の方法よりも優れた一般化がある。
論文 参考訳(メタデータ) (2021-03-29T10:39:42Z) - Fast Few-Shot Classification by Few-Iteration Meta-Learning [173.32497326674775]
数ショット分類のための高速な最適化に基づくメタラーニング手法を提案する。
我々の戦略はメタ学習において学習すべき基礎学習者の目的の重要な側面を可能にする。
我々は、我々のアプローチの速度と効果を実証し、総合的な実験分析を行う。
論文 参考訳(メタデータ) (2020-10-01T15:59:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。