Fugu-MT 論文翻訳(概要): CLOSER: Towards Better Representation Learning for Few-Shot Class-Incremental Learning

論文の概要: CLOSER: Towards Better Representation Learning for Few-Shot Class-Incremental Learning

arxiv url: http://arxiv.org/abs/2410.05627v1
Date: Tue, 8 Oct 2024 02:23:16 GMT
ステータス: 処理完了
システム内更新日: 2024-11-01 17:38:51.396189
Title: CLOSER: Towards Better Representation Learning for Few-Shot Class-Incremental Learning
Title（参考訳）: CLOSER:Few-Shot Class-Incremental Learningのための表現学習の改善を目指して
Authors: Junghun Oh, Sungyong Baik, Kyoung Mu Lee,
Abstract要約: FSCIL(Few-shot class-incremental Learning)は、過剰適合や忘れなど、いくつかの課題に直面している。 FSCILの独特な課題に取り組むため、ベースクラスでの表現学習に重点を置いている。より制限された機能空間内で機能の拡散を確保することで、学習された表現が、伝達可能性と識別可能性のバランスを良くすることが可能になることが分かりました。
参考スコア（独自算出の注目度）: 52.63674911541416
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Aiming to incrementally learn new classes with only few samples while preserving the knowledge of base (old) classes, few-shot class-incremental learning (FSCIL) faces several challenges, such as overfitting and catastrophic forgetting. Such a challenging problem is often tackled by fixing a feature extractor trained on base classes to reduce the adverse effects of overfitting and forgetting. Under such formulation, our primary focus is representation learning on base classes to tackle the unique challenge of FSCIL: simultaneously achieving the transferability and the discriminability of the learned representation. Building upon the recent efforts for enhancing transferability, such as promoting the spread of features, we find that trying to secure the spread of features within a more confined feature space enables the learned representation to strike a better balance between transferability and discriminability. Thus, in stark contrast to prior beliefs that the inter-class distance should be maximized, we claim that the closer different classes are, the better for FSCIL. The empirical results and analysis from the perspective of information bottleneck theory justify our simple yet seemingly counter-intuitive representation learning method, raising research questions and suggesting alternative research directions. The code is available at https://github.com/JungHunOh/CLOSER_ECCV2024.
Abstract（参考訳）: 基本クラス(旧クラス)の知識を保ちながら、少数のサンプルで新しいクラスを漸進的に学習することを目的として、クラス増分学習(FSCIL)は、過度な適合や破滅的な忘れ込みなど、いくつかの課題に直面している。このような困難な問題は、オーバーフィッティングや忘れることによる有害な影響を減らすために、ベースクラスで訓練された特徴抽出器を修正することで解決されることが多い。このような定式化の下では、FSCILの独特な課題、同時に学習表現の伝達可能性と識別可能性を達成するために、ベースクラスでの表現学習に重点を置いている。機能の普及促進など,近年の伝達可能性向上の取り組みに基づき,より制限された特徴空間内での機能拡充を確保することで,学習された表現が伝達可能性と識別可能性のバランスを良くすることを示す。したがって、クラス間距離を最大化すべきという以前の信念とは対照的に、より近いクラスは FSCIL の方が優れていると主張する。情報ボトルネック理論の観点からの実証的な結果と分析は、我々の単純で一見直観に反する表現学習法を正当化し、研究の疑問を提起し、代替研究の方向性を提案する。コードはhttps://github.com/JungHunOh/CLOSER_ECCV2024で公開されている。

関連論文リスト

Covariance-based Space Regularization for Few-shot Class Incremental Learning [25.435192867105552]
FSCIL(Few-shot Class Incremental Learning)では,ラベル付きデータに制限のあるクラスを継続的に学習する必要がある。インクリメンタルセッションにおける限られたデータのため、モデルは新しいクラスを過度に適合させ、ベースクラスの破滅的な忘れを苦しむ傾向にある。最近の進歩は、基本クラス分布を制約し、新しいクラスの識別的表現を学習するプロトタイプベースのアプローチに頼っている。
論文参考訳（メタデータ） (2024-11-02T08:03:04Z)
BECLR: Batch Enhanced Contrastive Few-Shot Learning [1.450405446885067]
教師なしの少数ショット学習は、トレーニング時にアノテーションへの依存を捨てることで、このギャップを埋めようとしている。本稿では,高度に分離可能な潜在表現空間を促進するために,新しい動的クラスタ mEmory (DyCE) モジュールを提案する。そして、数ショットの推論段階でサンプルバイアスの問題に取り組みます。
論文参考訳（メタデータ） (2024-02-04T10:52:43Z)
Learning Common Rationale to Improve Self-Supervised Representation for Fine-Grained Visual Recognition Problems [61.11799513362704]
我々は、インスタンスやクラスでよく見られる差別的手がかりを識別するための、追加のスクリーニングメカニズムの学習を提案する。 SSL目標から誘導されるGradCAMを単純に利用することで、共通な有理性検出器が学習可能であることを示す。
論文参考訳（メタデータ） (2023-03-03T02:07:40Z)
When Do Curricula Work in Federated Learning? [56.88941905240137]
カリキュラム学習は非IID性を大幅に軽減する。クライアント間でデータ配布を多様化すればするほど、学習の恩恵を受けるようになる。本稿では,クライアントの現実的格差を生かした新しいクライアント選択手法を提案する。
論文参考訳（メタデータ） (2022-12-24T11:02:35Z)
PatchMix Augmentation to Identify Causal Features in Few-shot Learning [55.64873998196191]
少ないショット学習は、十分なカテゴリをラベル付けしたデータに基づいて学習した知識を、少ない既知の情報を持つ新しいカテゴリに転送することを目的としている。我々はPatchMixと呼ばれる新しいデータ拡張戦略を提案し、この急激な依存関係を壊すことができる。このような拡張メカニズムが,既存のメカニズムと異なり,因果的特徴を識別可能であることを示す。
論文参考訳（メタデータ） (2022-11-29T08:41:29Z)
Mitigating Forgetting in Online Continual Learning via Contrasting Semantically Distinct Augmentations [22.289830907729705]
オンライン連続学習(OCL)は、非定常データストリームからモデル学習を可能とし、新たな知識を継続的に獲得し、学習した知識を維持することを目的としている。主な課題は、"破滅的な忘れる"問題、すなわち、新しい知識を学習しながら学習した知識を十分に記憶できないことにある。
論文参考訳（メタデータ） (2022-11-10T05:29:43Z)
Long-tail Recognition via Compositional Knowledge Transfer [60.03764547406601]
末尾クラスの少数ショット問題に対処する長尾認識のための新しい戦略を導入する。我々の目標は、情報に富んだ共通クラスから得られた知識を、意味的に類似しているがデータに富む稀なクラスに伝達することである。実験結果から,本手法は稀なクラスにおいて,堅牢な共通クラス性能を維持しつつ,大幅な性能向上を達成できることが示唆された。
論文参考訳（メタデータ） (2021-12-13T15:48:59Z)
Essentials for Class Incremental Learning [43.306374557919646]
CIFAR-100とImageNetのクラスインクリメンタルな学習結果は、アプローチをシンプルに保ちながら、最先端の成果を大きなマージンで改善します。
論文参考訳（メタデータ） (2021-02-18T18:01:06Z)
Spatial Contrastive Learning for Few-Shot Classification [9.66840768820136]
局所的識別性およびクラス非依存性の特徴を学習するための新しい注意に基づく空間コントラスト目標を提案する。実験により,提案手法は最先端手法よりも優れた性能を示した。
論文参考訳（メタデータ） (2020-12-26T23:39:41Z)
Few-Shot Class-Incremental Learning [68.75462849428196]
本稿では,FSCIL問題に焦点をあてる。 FSCIL は CNN モデルに対して,学習済みのクラスを忘れることなく,ラベル付きサンプルのごく少数から新たなクラスを漸進的に学習することを求めている。我々は,異なるクラスで形成される特徴多様体のトポロジーを学習し,保存するニューラルネットワーク(NG)ネットワークを用いて,知識を表現する。
論文参考訳（メタデータ） (2020-04-23T03:38:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。