論文の概要: Non-Forgetting Knowledge Allocation with Bi-level Competition for Class-Incremental Learning

• arxiv url: http://arxiv.org/abs/2605.29592v1
• Date: Thu, 28 May 2026 08:34:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-30 02:45:56.075018
• Title: Non-Forgetting Knowledge Allocation with Bi-level Competition for Class-Incremental Learning
• Title（参考訳）: クラスインクリメンタル学習のための二段階コンペティションを用いた非予測的知識配分
• Authors: Xiang Tan, Run He, Yawen Cui, Mengchen Zhao, Yan Wu, Tianyi Chen, Huiping Zhuang, Xiaonan Luo, Guanbin Li,
• Abstract要約: 事前学習モデル(PTM)を用いたクラスインクリメンタルラーニング(CIL)は、古い知識を忘れずに、PTMを新しいカテゴリに順次適応させることを目的としている。 既存のアダプタベースの手法は、主に異なるタスク固有のアダプタを介してモデルを訓練する。 両レベルコンペティション(NoFA-BC)を用いたノンフォッティングアロケーションを提案する。
• 参考スコア（独自算出の注目度）: 86.93181780690372
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Class-Incremental Learning (CIL) with pre-trained models (PTMs) aims to sequentially adapt PTMs to new categories without forgetting old knowledge. Built upon PTMs, existing adapter-based methods mainly train models via distinct task-specific adapters, and present a uniform knowledge allocation for each adapter during inference. However, this allocation mechanism ignores the nature of task discrepancy and leads to suboptimal utilization of adapters. Also, under CIL constraint, an allocator is prone to forgetting when tasks evolve. To address these issues, we propose a Non-Forgetting Allocation with Bi-Level Competition (NoFA-BC). NoFA-BC constructs a non-forgetting allocator (NFA) by transforming the allocator training into a recursive least-squares problem and achieves an allocator equivalent to that trained with all data. Based on the NFA, a Bi-Level Competition (BLC) including an intra-task level Winner-Takes-All (WTA) mechanism and inter-task Last-Ones-Fall (LOF) elimination is proposed to provide better allocation of adapter knowledge. WTA extracts the most significant logit within a task to represent the adapter's contribution and LOF suppresses the irrelevant adapters. With BLC, participation ratio of each adapter can be tailored for each input. Moreover, a Stability Enhancement (SE) process is incorporated to further improve the performance of old tasks.
• Abstract（参考訳）: 事前学習モデル(PTM)を用いたクラスインクリメンタルラーニング(CIL)は、古い知識を忘れずに、PTMを新しいカテゴリに順次適応させることを目的としている。 PTMに基づいて構築された既存のアダプタベースの手法は、主に個別のタスク固有のアダプタを介してモデルをトレーニングし、推論中に各アダプタに対して一様に知識割り当てを示す。 しかし、このアロケーション機構はタスクの不一致の性質を無視し、アダプタの最適部分の利用につながる。 また、CIL制約の下では、アロケータはタスクがいつ進化するかを忘れがちである。 これらの問題に対処するため、我々はNoFA-BC(No-Forgetting Allocation with Bi-Level Competition)を提案する。 NoFA-BCは、アロケータトレーニングを再帰的最小二乗問題に変換することにより、非鍛造アロケータ(NFA)を構築し、全てのデータで訓練されたアロケータと同等のアロケータを実現する。 NFAに基づいて、タスク内レベルWinner-Takes-All(WTA)機構とタスク間Last-Ones-Fall(LOF)除去を含むバイレベルコンペティション(BLC)を提案し、アダプタ知識のより良いアロケーションを提供する。 WTAは、アダプタのコントリビューションを表すタスク内で最も重要なロジットを抽出し、LOFは無関係なアダプタを抑圧する。 BLCでは、各アダプタの参加比率を入力ごとに調整できる。 さらに、古いタスクの性能をさらに向上するために、安定性向上(SE)プロセスが組み込まれている。

関連論文リスト

• Integrating Task-Specific and Universal Adapters for Pre-Trained Model-based Class-Incremental Learning [33.57130798344366]
  本稿では,タスク特化およびユニバーサルアダプタ(TUNA)の統合を提案する。 具体的には、タスク固有のアダプタをトレーニングし、それぞれのタスクに関連する最も重要な特徴をキャプチャします。 我々は,タスク間で共有される最も差別的な特徴を符号化するユニバーサルアダプタを構築するために,アダプタ融合戦略を利用する。
  論文  参考訳（メタデータ） (2025-08-11T16:41:04Z)
• DART: Dual Adaptive Refinement Transfer for Open-Vocabulary Multi-Label Recognition [59.203152078315235]
  Open-Vocabulary Multi-Label Recognition (OV-MLR)は、画像内の複数の見えないオブジェクトカテゴリを識別することを目的としている。 ビジョンランゲージ事前学習モデルは強力なオープン語彙基盤を提供するが、弱い監督下では微粒な局所化に苦慮する。 本稿では,これらの制約を克服するためのDART(Dual Adaptive Refinement Transfer)フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-08-07T17:22:33Z)
• CKAA: Cross-subspace Knowledge Alignment and Aggregation for Robust Continual Learning [80.18781219542016]
  継続的学習(CL)は、シーケンシャルなタスクストリームから継続的に学習するAIモデルに権限を与える。 近年,パラメータ効率のよい微調整(PEFT)によるCL法が注目されている。 ミスリード型タスクIDに対するロバスト性を高めるために,クロスサブスペース・ナレッジアライメント・アグリゲーション(CKAA)を提案する。
  論文  参考訳（メタデータ） (2025-07-13T03:11:35Z)
• CL-LoRA: Continual Low-Rank Adaptation for Rehearsal-Free Class-Incremental Learning [8.81873424028249]
  CIL (Class-Incremental Learning) は、学習した授業の知識を維持しつつ、新しいクラスを逐次学習することを目的としている。 我々は,textbftask-sharedアダプタを併用して,クロスタスク知識とtextbftask-specific Adapter を学習し,各タスクのユニークな特徴を捉えた新しいデュアルアダプタアーキテクチャを提案する。 CL-LoRAは、トレーニングと推論の計算を減らし、複数のベンチマークで常に有望な性能を達成することを実証する。
  論文  参考訳（メタデータ） (2025-05-30T17:19:52Z)
• Dynamic Integration of Task-Specific Adapters for Class Incremental Learning [32.124078616314144]
  非典型的なクラス インクリメンタルラーニング (NECIL) では、モデルがスクラッチからリトレーニングしたり、古いタスク インクリメンタルを格納したりすることなく、新しいクラスを継続的に取得できる。 本稿では,タスク特化アダプタ統合(TSAI)とパッチレベルモデルアライメントという,タスク特化アダプタの動的統合(DIA)という新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-09-23T13:01:33Z)
• Adaptive Adapter Routing for Long-Tailed Class-Incremental Learning [55.384428765798496]
  新しいデータは、Eコマースプラットフォームレビューのような、長期にわたる流通を示す。 これは、忘れずに不均衡なデータを連続的なモデルで学習する必要がある。 LTCILの例として,AdaPtive Adapter Routing (APART) を提案する。
  論文  参考訳（メタデータ） (2024-09-11T17:52:00Z)
• I2I: Initializing Adapters with Improvised Knowledge [15.452979531094567]
  改善。 連続学習アルゴリズムであるI2LiIは、蒸留により入ってくるタスクに対するアダプタを初期化する。 以前学習したタスク。 I2Iは独立に訓練されたアダプタよりも優れたタスク精度を実現している。
  論文  参考訳（メタデータ） (2023-04-04T23:51:48Z)
• Generalized Few-Shot Continual Learning with Contrastive Mixture of Adapters [59.82088750033897]
  我々は,クラスおよびドメインインクリメンタルな状況を含む汎用FSCL (GFSCL) プロトコルを構築した。 一般的な連続学習手法は、目に見えない領域に一般化能力が乏しいことが判明した。 このようにして、視覚変換器(ViT)に基づくリハーサルフリーフレームワークであるContrastive Mixture of Adapters(CMoA)を提案する。
  論文  参考訳（メタデータ） (2023-02-12T15:18:14Z)
• Contextual Squeeze-and-Excitation for Efficient Few-Shot Image Classification [57.36281142038042]
  本稿では,事前学習したニューラルネットワークを新しいタスクで調整し,性能を大幅に向上させる,Contextual Squeeze-and-Excitation (CaSE) という適応ブロックを提案する。 また、メタトレーニングされたCaSEブロックと微調整ルーチンを利用して効率よく適応する、アッパーCaSEと呼ばれるコーディネートダイスに基づく新しいトレーニングプロトコルを提案する。
  論文  参考訳（メタデータ） (2022-06-20T15:25:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。