論文の概要: Dynamic LoRA-Experts and Prototype-Ensemble Matching for Class-Incremental Learning
- arxiv url: http://arxiv.org/abs/2609.39839v1
- Date: Wed, 30 Sep 2026 14:34:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.896585
- Title: Dynamic LoRA-Experts and Prototype-Ensemble Matching for Class-Incremental Learning
- Title（参考訳）: クラス増分学習のための動的LoRA-Expertとプロトタイプ・アンサンブルマッチング
- Abstract要約: 動的LoRA-Expertsとプロトタイプ・アンサンブルマッチングフレームワークを提案する。
DLEPEMはタスク固有のLoRA-Expertを各インクリメンタルタスクに割り当て、タスク間の干渉を減らす。
標準CILとFew-Shot CILベンチマークの実験は、評価されたプロトコルの下で強い性能を示す。
- 参考スコア（独自算出の注目度）: 10.233813913359736
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Class-Incremental Learning (CIL) aims to continuously learn new classes without forgetting previously acquired knowledge. Parameter-efficient fine-tuning with pre-trained models reduces parameter overhead but can suffer from cumulative interference and suboptimal alignment between inference samples and specialized modules. We propose Dynamic LoRA-Experts and Prototype-Ensemble Matching (DLEPEM), a two-stage rehearsal-free framework. DLEPEM allocates a task-specific LoRA-Expert for each incremental task to reduce cross-task interference, then combines frozen pre-trained-model prototypes with task-adaptive LoRA-Expert prototypes for reliable task-level discrimination. Experiments on standard CIL and Few-Shot CIL benchmarks demonstrate strong performance under the evaluated protocols.
- Abstract（参考訳）: CIL (Class-Incremental Learning) は、獲得した知識を忘れずに、新しいクラスを継続的に学習することを目的としている。
事前訓練されたモデルによるパラメータ効率の良い微調整はパラメータのオーバーヘッドを低減させるが、推測サンプルと特殊なモジュール間の累積的干渉と準最適アライメントに悩まされる。
本稿では,2段階のリハーサルフリーフレームワークであるDynamic LoRA-Experts and Prototype-Ensemble Matching (DLEPEM)を提案する。
DLEPEMはタスク固有のLoRA-Expertを各インクリメンタルタスクに割り当て、クロスタスク干渉を減らす。
標準CILとFew-Shot CILベンチマークの実験は、評価されたプロトコルの下で強力な性能を示す。
関連論文リスト
- Hyperbolic Prototype Routing for Rehearsal-Free Class-Incremental Learning [13.275345723942477]
CIL(Class-Incremental Learning)は,事前知識を維持しつつ,新しいクラスを継続的に学習することを目的としている。
連続学習のためのリハーサルのないフレームワークであるHyperbolic Prototype Routing (HyPro)を提案する。
論文 参考訳（メタデータ） (2026-09-30T11:50:35Z) - CL-LoRA: Continual Low-Rank Adaptation for Rehearsal-Free Class-Incremental Learning [8.81873424028249]
CIL (Class-Incremental Learning) は、学習した授業の知識を維持しつつ、新しいクラスを逐次学習することを目的としている。
我々は,textbftask-sharedアダプタを併用して,クロスタスク知識とtextbftask-specific Adapter を学習し,各タスクのユニークな特徴を捉えた新しいデュアルアダプタアーキテクチャを提案する。
CL-LoRAは、トレーニングと推論の計算を減らし、複数のベンチマークで常に有望な性能を達成することを実証する。
論文 参考訳（メタデータ） (2025-05-30T17:19:52Z) - SD-LoRA: Scalable Decoupled Low-Rank Adaptation for Class Incremental Learning [73.93639228235622]
基礎モデルによる継続的な学習は、シーケンシャルなタスクに取り組むための事前トレーニング中に得られた豊富な知識を活用するための有望なパラダイムとして現れてきた。
既存のプロンプトベースおよびローランク適応ベース(LoRAベース)メソッドでは、プロンプト/ローラプールの拡張や、以前のタスクのサンプルの保持がしばしば必要である。
クラスインクリメンタル学習のためのスケーラブルデカップリングLoRA(SD-LoRA)を提案する。
論文 参考訳（メタデータ） (2025-01-22T20:00:41Z) - Unlocking Tuning-Free Few-Shot Adaptability in Visual Foundation Models by Recycling Pre-Tuned LoRAs [76.40876036912537]
大規模言語モデル(LLM)は、微調整を必要とせず、強力な少数ショット適応性を示す。
現在のVisual Foundation Models (VFM) は十分なチューニングデータを持つ明示的な微調整を必要とする。
そこで我々は, メタ学習目的の多様なLoRAからメタLoRAを蒸留するフレームワークであるLoRA Recycleを提案する。
論文 参考訳（メタデータ） (2024-12-03T07:25:30Z) - Replay-Free Continual Low-Rank Adaptation with Dynamic Memory [62.85596937435928]
我々は、事前学習された視覚変換器(ViT)が、時間とともに新しい下流タスクを逐次微調整できる連続学習を再考する。
近年の研究では、CL技術とパラメータ効率の良い微調整の交差が強調されている。
DualLoRA (Dual Low-Rank Adaptation) と呼ばれる新しいPEFT-CL法を提案する。
論文 参考訳（メタデータ） (2024-11-01T14:28:39Z) - PRILoRA: Pruned and Rank-Increasing Low-Rank Adaptation [65.268245109828]
我々はPRILoRAを導入し、各層ごとに異なるランクを線形に割り当て、トレーニングプロセスを通してプルーニングを行う。
8つのGLUEベンチマークで広範な実験を行い,PRILoRAの有効性を検証する。
論文 参考訳（メタデータ） (2024-01-20T20:25:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。