論文の概要: Revisiting Prototype Rehearsal for Exemplar-Free Continual Learning: Manifold-Aware Boundary Sampling with Adaptive Class-Balanced Loss

• arxiv url: http://arxiv.org/abs/2606.05695v1
• Date: Thu, 04 Jun 2026 04:27:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-05 22:39:44.555589
• Title: Revisiting Prototype Rehearsal for Exemplar-Free Continual Learning: Manifold-Aware Boundary Sampling with Adaptive Class-Balanced Loss
• Title（参考訳）: 初歩的連続学習のための原型リハーサルの再検討:適応型クラスベース損失を用いたマニフォールド対応境界サンプリング
• Authors: Hongye Xu, Bartosz Krawczyk,
• Abstract要約: Exemplar-free class-incremental learning (EFCIL) は、生データを保存することなく、時間とともに新しいクラスを取得することを目的としている。 歴史的に、プロトタイプのリハーサルは破滅的な忘れを減らそうとする一般的な戦略であった。 進化する特徴空間のプロトタイプを明確に認識する最近のドリフト補償法は、プロトタイプベースのリハーサルを一貫して上回っている。
• 参考スコア（独自算出の注目度）: 6.63181149575886
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Exemplar-free class-incremental learning (EFCIL) aims to acquire new classes over time without storing raw data. Historically, prototype rehearsal, which samples around stored class prototypes and mixes them with current-task data, has been a popular strategy to reduce catastrophic forgetting. However, recent drift-compensation methods that explicitly realign prototypes in the evolving feature space consistently outperform prototype-based rehearsal, raising the question of whether rehearsal itself is fundamentally limited. We argue that the performance gap stems not from the idea of prototype rehearsal per se, but from how it is typically instantiated: existing approaches treat prototypes as isolated class summaries that ignore information from nearby enemy classes, and fail to correct the emerging class imbalance between a handful of synthetic old-class samples and hundreds of real instances from newly introduced classes. Building on this hypothesis, we revisit prototype rehearsal and propose a manifold-aware variant that restores its competitiveness in EFCIL. First, we introduce Constrained Expansive Over-Sampling, which interpolates each old-class prototype toward its nearest enemy features from new classes, generating boundary-aware rehearsal samples that better follow the underlying data manifold while preserving inter-class separation. Second, we design an Adaptive Class-Balanced loss that performs time-based class weighting, amplifying gradients from older prototypes when they are most informative and gradually annealing their influence as richer supervision from later tasks accumulates. Together, these components turn prototype rehearsal into a drift-resilient, imbalance-aware mechanism that closes, and often reverses, the gap to recent drift-compensation methods, achieving state-of-the-art performance across multiple EFCIL benchmarks.
• Abstract（参考訳）: Exemplar-free class-incremental learning (EFCIL) は、生データを保存することなく、時間とともに新しいクラスを取得することを目的としている。 歴史的に、記憶されているクラスのプロトタイプをサンプリングし、それらを現在のタスクデータと混ぜるプロトタイプリハーサルは、破滅的な忘れを減らそうとする一般的な戦略だった。 しかし、進化する特徴空間のプロトタイプを明確に認識する最近のドリフト補償法は、常にプロトタイプベースのリハーサルよりも優れており、リハーサル自体が根本的に制限されているかどうかという疑問が提起されている。 既存のアプローチでは、プロトタイプを独立したクラスサマリーとして扱い、近隣の敵クラスの情報を無視し、少数の合成古クラスのサンプルと新しく導入されたクラスの数百の実例の間の新興クラスの不均衡を修正することができません。 この仮説に基づいてプロトタイプのリハーサルを再検討し、EFCILにおけるその競争力を回復する多様体対応の変種を提案する。 まず、制約付き拡張オーバーサンプリング(Constrained Expansive Over-Sampling)を導入する。これは、各旧クラスのプロトタイプを、新しいクラスから最も近い敵機能に向けて補間し、クラス間の分離を保ちながら、基礎となるデータ多様体をより良く追従する境界対応リハーサルサンプルを生成する。 第2に、時間に基づくクラス重み付けを行う適応型クラスベース損失を設計し、最も情報に富んだ古いプロトタイプからの勾配を増幅し、後続のタスクからよりリッチな監視が蓄積されるにつれて、その影響を徐々に和らげる。 これらのコンポーネントは、プロトタイプのリハーサルを、複数のEFCILベンチマークで最先端のパフォーマンスを達成するために、最近のドリフト補償手法とのギャップを閉じ、しばしば逆転する、ドリフト耐性で非バランスなメカニズムに変える。

関連論文リスト

• MoTiC: Momentum Tightness and Contrast for Few-Shot Class-Incremental Learning [20.22260611239967]
  FSCIL(Few-Shot Class-Incremental Learning)は、古いクラス知識を維持しながらサンプル不足から新しいクラスを学ぶという2つの課題と競合しなければならない。 新クラスのプロトタイプは、極端なデータ不足のためにかなりの推定バイアスを被り、一方、ベースクラスのプロトタイプは十分なデータから恩恵を受ける。 ベイズ解析による新クラスの先行データと旧クラスの統計値との整合性は分散を減少させ,プロトタイプの精度を向上することを示す。
  論文  参考訳（メタデータ） (2025-09-24T00:41:40Z)
• Resurrecting Old Classes with New Data for Exemplar-Free Continual Learning [13.264972882846966]
  継続的な学習方法は破滅的な忘れ込みに苦しむことが知られている。 既存のexemplar-freeメソッドは、通常、最初のタスクがその後のタスクよりもかなり大きい設定で評価される。 本稿では, 従来のモデル埋め込み空間において, 組込みが旧型プロトタイプに近いように, 現在のサンプルを逆向きに摂動させることを提案する。 次に,従来のモデルから新しいモデルへの埋め込み空間のドリフトを摂動画像を用いて推定し,それに応じてプロトタイプを補償する。
  論文  参考訳（メタデータ） (2024-05-29T13:31:42Z)
• Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple Logits Retargeting Approach [102.0769560460338]
  我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。 提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
  論文  参考訳（メタデータ） (2024-03-01T03:27:08Z)
• Decoupled Prototype Learning for Reliable Test-Time Adaptation [50.779896759106784]
  テスト時間適応(TTA)は、推論中にトレーニング済みのソースモデルをターゲットドメインに継続的に適応させるタスクである。 1つの一般的なアプローチは、推定擬似ラベルによるクロスエントロピー損失を伴う微調整モデルである。 本研究は, 各試料の分類誤差を最小化することで, クロスエントロピー損失の脆弱性がラベルノイズを引き起こすことを明らかにした。 本稿では,プロトタイプ中心の損失計算を特徴とする新しいDPL法を提案する。
  論文  参考訳（メタデータ） (2024-01-15T03:33:39Z)
• RanPAC: Random Projections and Pre-trained Models for Continual Learning [59.07316955610658]
  継続学習(CL)は、古いタスクを忘れずに、非定常データストリームで異なるタスク(分類など)を学習することを目的としている。 本稿では,事前学習モデルを用いたCLの簡潔かつ効果的なアプローチを提案する。
  論文  参考訳（メタデータ） (2023-07-05T12:49:02Z)
• Prototype-Sample Relation Distillation: Towards Replay-Free Continual Learning [14.462797749666992]
  本稿では,表現とクラスプロトタイプを共同で学習するための総合的なアプローチを提案する。 本稿では,新しいタスクデータと比較して,クラスプロトタイプの相対的類似性を維持することを制約する新しい蒸留損失を提案する。 この手法はタスクインクリメンタル設定における最先端性能を得る。
  論文  参考訳（メタデータ） (2023-03-26T16:35:45Z)
• Incremental Prototype Prompt-tuning with Pre-trained Representation for Class Incremental Learning [4.717066668969749]
  クラスインクリメンタルな学習は多くの注目を集めていますが、既存のほとんどの研究は、表現モデルを継続的に微調整しています。 我々は、事前学習パラダイムを用いて、固定されたセマンティックリッチな事前学習表現モデルに基づいて、新しい視覚概念を逐次学習する。 我々の手法は、多くのマージンを持つ他の最先端手法よりも一貫して優れています。
  論文  参考訳（メタデータ） (2022-04-07T12:49:14Z)
• Contrastive Prototype Learning with Augmented Embeddings for Few-Shot Learning [58.2091760793799]
  拡張埋め込み(CPLAE)モデルを用いた新しいコントラスト型プロトタイプ学習を提案する。 クラスプロトタイプをアンカーとして、CPLは、同じクラスのクエリサンプルを、異なるクラスのサンプルを、さらに遠くに引き出すことを目的としている。 いくつかのベンチマークによる大規模な実験により,提案したCPLAEが新たな最先端を実現することが示された。
  論文  参考訳（メタデータ） (2021-01-23T13:22:44Z)
• Few-shot Action Recognition with Prototype-centered Attentive Learning [88.10852114988829]
  2つの新しい構成要素からなるプロトタイプ中心型注意学習(pal)モデル。 まず,従来のクエリ中心学習目標を補完するために,プロトタイプ中心のコントラスト学習損失を導入する。 第二に、PALは注意深いハイブリッド学習機構を統合しており、アウトレーヤの負の影響を最小限に抑えることができる。
  論文  参考訳（メタデータ） (2021-01-20T11:48:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。