論文の概要: GR4CIL: Gap-compensated Routing for CLIP-based Class Incremental Learning
- arxiv url: http://arxiv.org/abs/2604.17822v1
- Date: Mon, 20 Apr 2026 05:20:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-21 21:52:52.708442
- Title: GR4CIL: Gap-compensated Routing for CLIP-based Class Incremental Learning
- Title(参考訳): GR4CIL:CLIPに基づく授業増分学習のためのギャップ補償ルーティング
- Authors: Tianqi Wang, Jingcai Guo,
- Abstract要約: CIL(Class-Incremental Learning)は、学習前の知識を維持しつつ、新たなカテゴリを継続的に獲得することを目的としている。
CLIにおけるタスク識別と知識ルーティングを組み合わせたフレームワークGR4CILを提案する。
GR4CILはタスク固有の視覚的知識を維持しつつ、段階的に安定した共有テキスト意味空間を維持している。
- 参考スコア(独自算出の注目度): 28.7999632022386
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Class-Incremental Learning (CIL) aims to continuously acquire new categories while preserving previously learned knowledge. Recently, Contrastive Language-Image Pre-trained (CLIP) models have shown strong potential for CIL due to their powerful generalization ability. However, existing methods still face two key challenges: shared-parameter adaptation tends to cause old-knowledge drift, and task-specific knowledge organization often leads to poorly calibrated cross-task responses, making reliable routing difficult. To address these issues, we propose GR4CIL, a framework combining task discrimination and knowledge routing for CLIP-based CIL. GR4CIL preserves task-specific visual knowledge while maintaining an incrementally stable shared textual semantic space, thereby reducing interference across tasks. Moreover, we introduce an orthogonal compensation mechanism to mitigate modality-gap-induced bias, enhance within-task discrimination, and enlarge the score margin between the ground-truth task and competing tasks. As a result, GR4CIL enables more reliable task-aware routing over learned knowledge while retaining the zero-shot generalization capability. Experiments on multiple benchmarks show that GR4CIL consistently outperforms strong baselines.
- Abstract(参考訳): CIL(Class-Incremental Learning)は,学習前の知識を維持しつつ,新たなカテゴリを継続的に獲得することを目的としている。
近年,コントラスト言語-画像事前訓練(CLIP)モデルは,その強力な一般化能力から,CILの強力な可能性を示している。
共有パラメータ適応は、古い知識の漂流を引き起こす傾向があり、タスク固有の知識組織は、しばしば、キャリブレーションの不十分なクロスタスク応答をもたらし、信頼できるルーティングを難しくする。
これらの課題に対処するために,CLIPベースのCILのためのタスク識別と知識ルーティングを組み合わせたフレームワークGR4CILを提案する。
GR4CILはタスク固有の視覚的知識を維持しつつ、段階的に安定した共有テキスト意味空間を維持し、タスク間の干渉を減らす。
さらに、直交補償機構を導入し、モダリティ・ギャップによるバイアスを緩和し、タスク内識別を強化し、グラウント・トゥルース・タスクと競合タスクの間のスコアマージンを拡大する。
その結果、GR4CILはゼロショット一般化能力を保ちながら、学習知識よりも信頼性の高いタスク認識ルーティングを可能にする。
複数のベンチマークの実験では、GR4CILは強いベースラインを一貫して上回っている。
関連論文リスト
- Continual Knowledge Consolidation LORA for Domain Incremental Learning [19.396572674271685]
連続知識統合低ランク適応(CONEC-LoRA)はDIL問題に対処する。
CONEC-LoRAはタスク共有LORAとタスク固有LORAの融合によって開発されている。
このモジュールは、合成サンプルバイアス問題に対処するために、ボールジェネレータ損失と変換モジュールを統合する。
論文 参考訳(メタデータ) (2025-10-17T11:16:08Z) - CKAA: Cross-subspace Knowledge Alignment and Aggregation for Robust Continual Learning [80.18781219542016]
継続的学習(CL)は、シーケンシャルなタスクストリームから継続的に学習するAIモデルに権限を与える。
近年,パラメータ効率のよい微調整(PEFT)によるCL法が注目されている。
ミスリード型タスクIDに対するロバスト性を高めるために,クロスサブスペース・ナレッジアライメント・アグリゲーション(CKAA)を提案する。
論文 参考訳(メタデータ) (2025-07-13T03:11:35Z) - Continual Learning Should Move Beyond Incremental Classification [51.23416308775444]
連続学習(Continuous Learning, CL)は、動的環境における知識の蓄積に関わる機械学習のサブフィールドである。
ここでは、このような焦点を維持することは、CL法の理論的発展と実践的適用性の両方を制限すると論じる。
C1) 学習課題における連続性の性質,(C2) 類似性を測定するための適切な空間とメトリクスの選択,(C3) 学習目標が分類を超えた役割である。
論文 参考訳(メタデータ) (2025-02-17T15:40:13Z) - Exploiting Task Relationships for Continual Learning Using Transferability-Aware Task Embeddings [8.814732457885022]
連続学習(CL)は、現代のディープニューラルネットワークアプリケーションにおいて重要なトピックである。
本稿では、H埋め込みと呼ばれるトランスファービリティを考慮したタスク埋め込みを提案し、そのガイダンスに基づいてハイパーネットフレームワークを構築する。
論文 参考訳(メタデータ) (2025-02-17T09:52:19Z) - Continual Task Learning through Adaptive Policy Self-Composition [54.95680427960524]
CompoFormerは構造ベースの連続トランスフォーマーモデルであり、メタポリシックネットワークを介して、以前のポリシーを適応的に構成する。
実験の結果,CompoFormerは従来の継続学習法(CL)よりも優れており,特にタスクシーケンスが長いことが判明した。
論文 参考訳(メタデータ) (2024-11-18T08:20:21Z) - CLoG: Benchmarking Continual Learning of Image Generation Models [29.337710309698515]
本稿では,分類に基づくCLからCLoGへの移行を提唱する。
我々は,既存のCL手法,リプレイベース,正規化ベース,パラメータアイソレーションベースの3種類の手法を生成タスクに適用する。
我々のベンチマークと結果から、将来のCLoG手法の開発に有用な興味深い洞察が得られる。
論文 参考訳(メタデータ) (2024-06-07T02:12:29Z) - Mitigating Interference in the Knowledge Continuum through Attention-Guided Incremental Learning [17.236861687708096]
Attention-Guided Incremental Learning' (AGILE)は、タスク間の干渉を効果的に軽減するために、コンパクトなタスク注意を組み込んだリハーサルベースのCLアプローチである。
AGILEは、タスク干渉を緩和し、複数のCLシナリオにおいてリハーサルベースのアプローチより優れていることで、一般化性能を著しく向上する。
論文 参考訳(メタデータ) (2024-05-22T20:29:15Z) - CLAP4CLIP: Continual Learning with Probabilistic Finetuning for Vision-Language Models [23.398619576886375]
継続学習(CL)は、ディープラーニングが学習したものを保持しながら、新しい知識を学ぶのを支援することを目的としている。
タスクごとの視覚誘導テキスト機能に対する確率的モデリングフレームワークであるCLAP(Continuous LeArning with Probabilistic Finetuning)を提案する。
論文 参考訳(メタデータ) (2024-03-28T04:15:58Z) - Self-regulating Prompts: Foundational Model Adaptation without
Forgetting [112.66832145320434]
本稿では,PromptSRCと呼ばれる自己正規化フレームワークを提案する。
PromptSRCはタスク固有の汎用表現とタスクに依存しない汎用表現の両方に最適化するプロンプトを導く。
論文 参考訳(メタデータ) (2023-07-13T17:59:35Z) - Active Continual Learning: On Balancing Knowledge Retention and
Learnability [43.6658577908349]
一連のタスクで学んだことを忘れずに新しい知識を取得することは、継続学習(CL)の中心的焦点である。
本稿では, 能動連続学習(ACL)の課題の列における未探索問題について考察する。
ドメイン,クラス,タスクインクリメンタルシナリオにおける複数のALアルゴリズムとCLアルゴリズムの有効性と相互作用について検討する。
論文 参考訳(メタデータ) (2023-05-06T04:11:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。