論文の概要: Dual-Mode Low-Rank Learner with Bridge-Prototype Ensemble for Vision-Language Class-Incremental Learning
- arxiv url: http://arxiv.org/abs/2609.36759v1
- Date: Tue, 29 Sep 2026 05:31:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.211739
- Title: Dual-Mode Low-Rank Learner with Bridge-Prototype Ensemble for Vision-Language Class-Incremental Learning
- Title(参考訳): ビジョンランゲージクラスインクリメンタルラーニングのためのブリッジプロトタイプアンサンブルを用いたデュアルモード低ランクラーニング
- Abstract要約: 両モードの低ランク学習を橋梁型アンサンブル分類器と組み合わせたDuLBEを導入する。
結果として生じる安定なモーダル間構造に基づいて、視覚プロトタイプと単位超球面上のテキスト埋め込みの間の測地橋を構築する。
実験の結果,DuLBEは低ランクチューニングのパラメータ効率を維持しつつ,最先端のCIL性能を実現することがわかった。
- 参考スコア(独自算出の注目度): 26.469212885492976
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Benefiting from transferable visual-textual alignment, CLIP has been widely adopted for class-incremental learning (CIL). However, existing learners either repeatedly update components shared across tasks, leading to knowledge overwriting, or overly isolate new-task updates, hindering the reuse of CLIP's transferable knowledge and limiting plasticity. Moreover, the text-based or bimodal classifier designs still fail to effectively integrate complementary information from the visual and textual modalities. To address these challenges, we introduce DuLBE, which couples dual-mode low-rank learning with a bridge-prototype ensemble classifier for exemplar-free CIL. DuLBE allocates two visual low-rank update modes according to the gradient demand and uses gradient routing to coordinate them: a compact and rewritable shared mode is selected from historically occupied visual directions to reuse transferable knowledge, while residual modes provide low-interference channels for task-specific variations. Building on the resulting stable inter-modal structure, we further construct geodesic bridges between visual prototypes and text embeddings on the unit hypersphere, and ensemble reliable bridge prototypes to compensate for the modality-gap limitations of textual decision boundaries. Extensive experiments under multiple settings show that DuLBE achieves state-of-the-art CIL performance while retaining the high parameter efficiency of low-rank tuning.
- Abstract(参考訳): 伝達可能な視覚・テキストアライメントから恩恵を受け、CLIPはクラスインクリメンタルラーニング(CIL)に広く採用されている。
しかし、既存の学習者は、タスク間で共有されるコンポーネントを何度も更新し、知識のオーバーライトにつながるか、新しいタスクの更新を過度に分離し、CLIPの伝達可能な知識の再利用を妨げ、可塑性を制限する。
さらに、テキストベースまたはバイモーダル分類器の設計は、視覚的およびテキスト的モダリティからの補完的な情報を効果的に統合することができない。
これらの課題に対処するために,2モード低ランク学習とブリッジプロトタイプアンサンブル分類器を組み合わせたDuLBEを導入する。
DuLBEは、勾配要求に応じて2つの視覚的低ランク更新モードを割り当て、それらを調整するために勾配ルーティングを使用する: コンパクトで再編集可能な共有モードは歴史的に占有された視覚方向から選択され、転送可能な知識を再利用する。
得られた安定なモード間構造に基づいて、視覚的プロトタイプと単位超球面上のテキスト埋め込みの間の測地的ブリッジを構築し、信頼性の高いブリッジプロトタイプをアンサンブルすることで、テキスト決定境界のモダリティ-ギャップ制限を補う。
複数の条件下での大規模な実験により、DuLBEは低ランクチューニングのパラメータ効率を保ちながら最先端のCIL性能を達成することが示された。
関連論文リスト
- ProCAP: Probabilistic Cross-Attentive Prompt Learning for Vision-Language Models [3.664316529642632]
ProCAPは、クロスモーダルなインタラクションとトレーニングの安定性を改善する、クロスアテンティブなプロンプトラーニングフレームワークである。
視覚的およびテキスト的プロンプトトークンの両方を学び、積み重ねられた双方向のマルチヘッド・クロスアテンションを通じてリンクする。
CLIPのバックボーンを変更せずに、強力なアグリゲートベース・ツー・ノーベルパフォーマンスと競合転送パフォーマンスを実現する。
論文 参考訳(メタデータ) (2026-09-24T18:31:57Z) - BOFA: Bridge-Layer Orthogonal Low-Rank Fusion for CLIP-Based Class-Incremental Learning [84.56022893225422]
CIL(Class-Incremental Learning)は,従来の知識を忘れずに,新たなカテゴリを継続的に学習することを目的としている。
CLIP から CIL への視覚言語モデルの適用には,次の2つの大きな課題がある。(1) 下流タスクへの適応には,新たな学習可能なモジュールを必要とする場合が多いこと,2) モデル複雑性の増大と忘れやすいこと,2) マルチモーダル表現は相補的な長所を提供する一方で,既存の手法では,視覚的およびテキスト的モダリティを効果的に統合する可能性を完全には実現できていない。
論文 参考訳(メタデータ) (2025-11-14T15:51:40Z) - CLIPin: A Non-contrastive Plug-in to CLIP for Multimodal Semantic Alignment [28.2773807732662]
大規模な自然画像テキストデータセットは、監督の弱いため、しばしば緩やかなセマンティックアライメントに悩まされる。
私たちはCLIPスタイルのアーキテクチャにシームレスに統合できる統合された非コントラストプラグインであるCLIPinを提案する。
2つの共有ロバスト性事前プロジェクタは、コントラスト学習と非コントラスト学習の統合を容易にするために、それぞれ画像とテキストのモダリティのために設計されている。
論文 参考訳(メタデータ) (2025-08-08T16:23:05Z) - DART: Dual Adaptive Refinement Transfer for Open-Vocabulary Multi-Label Recognition [59.203152078315235]
Open-Vocabulary Multi-Label Recognition (OV-MLR)は、画像内の複数の見えないオブジェクトカテゴリを識別することを目的としている。
ビジョンランゲージ事前学習モデルは強力なオープン語彙基盤を提供するが、弱い監督下では微粒な局所化に苦慮する。
本稿では,これらの制約を克服するためのDART(Dual Adaptive Refinement Transfer)フレームワークを提案する。
論文 参考訳(メタデータ) (2025-08-07T17:22:33Z) - MoCa: Modality-aware Continual Pre-training Makes Better Bidirectional Multimodal Embeddings [75.0617088717528]
MoCaは、トレーニング済みのVLMバックボーンを効果的な双方向埋め込みモデルに変換するためのフレームワークである。
MoCaは、MMEBとViDoRe-v2ベンチマークのパフォーマンスを継続的に改善し、新しい最先端の結果を達成する。
論文 参考訳(メタデータ) (2025-06-29T06:41:00Z) - Continual Learning on CLIP via Incremental Prompt Tuning with Intrinsic Textual Anchors [50.7383184560431]
連続学習(CL)は、破滅的な忘れ込みを避けながら、ディープネットワークが新たな知識を得ることを可能にする。
インクリメンタルなプロンプトチューニングに基づくCLIPのための簡潔なCLアプローチを提案する。
我々の双方向監視戦略は、忘れを減らしながら、新しい知識をより効果的に学習することを可能にする。
論文 参考訳(メタデータ) (2025-05-27T03:51:37Z) - Dude: Dual Distribution-Aware Context Prompt Learning For Large Vision-Language Model [27.56988000960972]
ドメイン共有コンテキストとクラス固有コンテキストの両方の2つのコンテキストに基づいた新しいフレームワークを導入する。
このような二重プロンプト手法は、大規模言語モデルで符号化された暗黙的および明示的な要素を結合することによって、モデルの特徴表現を強化する。
また、構築されたプロンプトと視覚トークンの関係を定量化するために、不均衡最適輸送(UOT)理論を定式化する。
論文 参考訳(メタデータ) (2024-07-05T13:15:29Z) - Learning Visual Representation from Modality-Shared Contrastive
Language-Image Pre-training [88.80694147730883]
本稿では,多種多様なモダリティ共有コントラスト言語-画像事前学習(MS-CLIP)フレームワークについて検討する。
学習条件下では、視覚と言語信号のためのほとんど統一されたエンコーダが、より多くのパラメータを分離する他のすべてのバリエーションより優れていることが観察された。
我々のアプローチは、24の下流視覚タスクのコレクションに基づいて、線形探索においてバニラCLIPを1.6ポイント上回ります。
論文 参考訳(メタデータ) (2022-07-26T05:19:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。