論文の概要: AnaCP: Toward Upper-Bound Continual Learning via Analytic Contrastive Projection

• arxiv url: http://arxiv.org/abs/2511.13880v1
• Date: Mon, 17 Nov 2025 19:56:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-19 16:23:52.772777
• Title: AnaCP: Toward Upper-Bound Continual Learning via Analytic Contrastive Projection
• Title（参考訳）: AnaCP:Analytic Contrastive Projectionによる上界連続学習に向けて
• Authors: Saleh Momeni, Changnan Xiao, Bing Liu,
• Abstract要約: 本稿では,CIL(Class-Incremental Learning)の問題について考察する。 事前訓練モデル(PTM)を使わない従来のCIL法は、破滅的忘れ(CF)に苦しむ 本稿では,AnaCPを提案する。AnaCPは解析的分類器の効率を保ちつつ,段階的特徴適応を実現し,勾配に基づく学習を行なわない新しい手法である。
• 参考スコア（独自算出の注目度）: 11.750791465488438
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper studies the problem of class-incremental learning (CIL), a core setting within continual learning where a model learns a sequence of tasks, each containing a distinct set of classes. Traditional CIL methods, which do not leverage pre-trained models (PTMs), suffer from catastrophic forgetting (CF) due to the need to incrementally learn both feature representations and the classifier. The integration of PTMs into CIL has recently led to efficient approaches that treat the PTM as a fixed feature extractor combined with analytic classifiers, achieving state-of-the-art performance. However, they still face a major limitation: the inability to continually adapt feature representations to best suit the CIL tasks, leading to suboptimal performance. To address this, we propose AnaCP (Analytic Contrastive Projection), a novel method that preserves the efficiency of analytic classifiers while enabling incremental feature adaptation without gradient-based training, thereby eliminating the CF caused by gradient updates. Our experiments show that AnaCP not only outperforms existing baselines but also achieves the accuracy level of joint training, which is regarded as the upper bound of CIL.
• Abstract（参考訳）: 本稿では,モデルがタスク列を学習する連続学習における中核的な設定であるクラス増分学習(CIL)の問題について検討する。 事前訓練されたモデル(PTM)を使わない従来のCIL法は、特徴表現と分類器の両方を漸進的に学習する必要があるため、破滅的な忘れ(CF)に苦しむ。 CILへのPTMの統合は、最近、PTMを解析分類器と組み合わせた固定特徴抽出器として扱い、最先端の性能を達成するための効率的なアプローチへと導いてきた。 しかし、それらは依然として大きな制限に直面している。CILタスクに最も適するように、機能の表現を継続的に適応できないことで、サブ最適パフォーマンスがもたらされる。 そこで我々はAnaCP(Analytic Contrastive Projection)を提案する。AnaCP(Analytic Contrastive Projection)は,解析的分類器の効率を保ちつつ,勾配に基づくトレーニングを伴わずに漸進的な特徴適応を実現し,勾配更新によるCFを除去する手法である。 実験の結果,AnaCPは既存のベースラインを上回るだけでなく,CILの上限である関節トレーニングの精度も向上していることがわかった。

関連論文リスト

• SLCA++: Unleash the Power of Sequential Fine-tuning for Continual Learning with Pre-training [68.7896349660824]
  本稿では,Seq FTのレンズからの進行オーバーフィッティング問題を詳細に解析する。 過度に高速な表現学習と偏りのある分類層がこの問題を構成することを考慮し、先進的なSlow Learner with Alignment(S++)フレームワークを導入する。 提案手法は,バックボーンパラメータの学習率を選択的に減少させるスローラーナーと,ポストホック方式で不規則な分類層を整列させるアライメントを含む。
  論文  参考訳（メタデータ） (2024-08-15T17:50:07Z)
• Calibrating Multi-modal Representations: A Pursuit of Group Robustness without Annotations [19.800907485589402]
  CLIPのような微調整済みの視覚言語モデルは、さまざまな下流タスクで成功している。 これらの調整されたモデルは高度に専門化され、実際の展開の実用性が制限される傾向にある。 微調整CLIPのための軽量表現校正法を提案する。
  論文  参考訳（メタデータ） (2024-03-12T01:47:17Z)
• Test-Time Training for Semantic Segmentation with Output Contrastive Loss [12.535720010867538]
  ディープラーニングベースのセグメンテーションモデルは、公開ベンチマークで印象的なパフォーマンスを達成したが、目に見えない環境にうまく一般化することは、依然として大きな課題である。 本稿では、適応過程を安定させるために、頑健で一般化された表現を学習する能力で知られるコントラストロス(OCL)を紹介する。 本手法は,テスト領域データに対するドメイン適応法を用いて事前学習したモデルに適用した場合においても優れ,そのレジリエンスと適応性を示す。
  論文  参考訳（メタデータ） (2023-11-14T03:13:47Z)
• Enhancing Plasticity for First Session Adaptation Continual Learning [20.62749699589017]
  クラスインクリメンタルラーニング(PLASTIC)における塑性強化テスト時間適応の導入 PLASTICはモデル安定性を維持しながら可塑性をCILに再蓄積する。 従来型と最先端のPTMベースのCILアプローチを一貫して上回ります。
  論文  参考訳（メタデータ） (2023-10-17T13:06:39Z)
• RanPAC: Random Projections and Pre-trained Models for Continual Learning [59.07316955610658]
  継続学習(CL)は、古いタスクを忘れずに、非定常データストリームで異なるタスク(分類など)を学習することを目的としている。 本稿では,事前学習モデルを用いたCLの簡潔かつ効果的なアプローチを提案する。
  論文  参考訳（メタデータ） (2023-07-05T12:49:02Z)
• SLCA: Slow Learner with Classifier Alignment for Continual Learning on a Pre-trained Model [73.80068155830708]
  予備学習モデル(CLPM)を用いた連続学習のための広範囲な解析法を提案する。 Slow Learner with Alignment (SLCA) というシンプルなアプローチを提案する。 さまざまなシナリオにおいて、私たちの提案はCLPMの大幅な改善を提供します。
  論文  参考訳（メタデータ） (2023-03-09T08:57:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。