Fugu-MT 論文翻訳(概要): Memory-Efficient Continual Learning with CLIP Models

論文の概要: Memory-Efficient Continual Learning with CLIP Models

arxiv url: http://arxiv.org/abs/2605.03866v1
Date: Tue, 05 May 2026 15:27:27 GMT
ステータス: 翻訳完了
システム内更新日: 2026-05-06 19:35:44.005788
Title: Memory-Efficient Continual Learning with CLIP Models
Title（参考訳）: CLIPモデルを用いたメモリ効率の良い連続学習
Authors: Ryan King, Gang Li, Bobak Mortazavi, Tianbao Yang,
Abstract要約: Contrastive Language-Image Pretraining (CLIP)モデルは、画像とテキストの関係を理解するのに優れているが、事前の知識を忘れずに新しいデータに適応するのに苦労する。学習中にクラスごとの損失を動的に軽減するメモリ効率, 分散ロバストな手法を提案する。
参考スコア（独自算出の注目度）: 33.36937397179743
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Contrastive Language-Image Pretraining (CLIP) models excel at understanding image-text relationships but struggle with adapting to new data without forgetting prior knowledge. To address this, models are typically fine-tuned using both new task data and a memory buffer of past tasks. However, CLIP's contrastive loss suffers when the memory buffer is small, leading to performance degradation on previous tasks. We propose a memory-efficient, distributionally robust method that dynamically reweights losses per class during training. Our approach, tested on class incremental settings (CIFAR-100, ImageNet1K) and a domain incremental setting (DomainNet) adapts CLIP models quickly while minimizing catastrophic forgetting, even with minimal memory usage.
Abstract（参考訳）: Contrastive Language-Image Pretraining (CLIP)モデルは、画像とテキストの関係を理解するのに優れているが、事前の知識を忘れずに新しいデータに適応するのに苦労する。これを解決するために、モデルは通常、過去のタスクの新しいタスクデータとメモリバッファの両方を使用して微調整される。しかし、CLIPの対照的な損失は、メモリバッファが小さいときに悩まされ、以前のタスクのパフォーマンスが低下する。学習中にクラスごとの損失を動的に軽減するメモリ効率, 分散ロバストな手法を提案する。クラスインクリメンタルセッティング(CIFAR-100, ImageNet1K)とドメインインクリメンタルセッティング(DomainNet)でテストしたアプローチでは,最小限のメモリ使用量でも破滅的な忘れを最小化しながら,CLIPモデルに迅速に適応する。

関連論文リスト

Forget Forgetting: Continual Learning in a World of Abundant Memory [55.64184779530581]
継続的な学習は伝統的に、模範記憶の最小化に重点を置いてきた。本稿では、より現実的な体制を探求することによって、このパラダイムに挑戦する。モデルが以前のタスクに偏り、新しいタスクを学ぶのに苦労するようになるにつれて、中心的な課題が安定性から可塑性へと変化していくことが分かっています。
論文参考訳（メタデータ） (2025-02-11T05:40:52Z)
Slightly Shift New Classes to Remember Old Classes for Video Class-Incremental Learning [14.199974986278438]
従来のクラスを思い出すために,新しいクラスの特徴をわずかにシフトさせるSNROを提案する。 ESはより低いサンプルレートでメモリセットを構築し、これらのスパースフレームを将来的に調整するために使用します。 EBは小さなエポックでトレーニングを終了し、モデルが現在のタスクの高意味空間にオーバーストレッチすることを防ぐ。
論文参考訳（メタデータ） (2024-04-01T03:58:51Z)
CAMELoT: Towards Large Language Models with Training-Free Consolidated Associative Memory [38.429707659685974]
大規模言語モデル(LLM)は、メモリとランタイムのコストが高いため、長い入力シーケンスを扱うのに苦労する。本稿では,事前学習した(凍結した)注意に基づくLCMに再学習せずに結合可能な連想記憶モジュールを提案する。 CAMELoTと呼ばれるこのアーキテクチャは、128トークンの小さなコンテキストウィンドウでも優れたパフォーマンスを示している。
論文参考訳（メタデータ） (2024-02-21T01:00:17Z)
A Memory Transformer Network for Incremental Learning [64.0410375349852]
本研究では,モデルが学習する時間とともに,新しいデータクラスが観察される学習環境であるクラスインクリメンタルラーニングについて検討する。素直な問題定式化にもかかわらず、クラス増分学習への分類モデルの素直な適用は、これまで見られたクラスの「破滅的な忘れ込み」をもたらす。これは、過去のデータのサブセットをメモリバンクに保存し、将来のタスクをトレーニングする際の忘れの防止にそれを活用することで、破滅的な忘れの問題を克服するものだ。
論文参考訳（メタデータ） (2022-10-10T08:27:28Z)
CLIP model is an Efficient Continual Learner [26.835116431183625]
凍結したCLIPモデルでは、微調整をせずに驚くべき連続学習性能が得られる(ゼロショット評価)。 CLIPは、クラス増分、ドメイン増分、タスク非依存のインクリメンタルラーニングを含む5つの一般的なベンチマークで様々な設定で評価する。
論文参考訳（メタデータ） (2022-10-06T17:59:15Z)
Tip-Adapter: Training-free Adaption of CLIP for Few-shot Classification [58.06983806317233]
対照的に、CLIPとして知られる事前学習は、大規模な画像テキストペアを使用して視覚表現を学ぶための新しいパラダイムを提供する。 CLIPの適応性を高めるため、既存のメソッドは学習可能なモジュールを微調整する。そこで本研究では,Tip-Adapterと呼ばれる少数ショット分類を行うためのCLIPのトレーニングフリー適応手法を提案する。
論文参考訳（メタデータ） (2022-07-19T19:12:11Z)
A Model or 603 Exemplars: Towards Memory-Efficient Class-Incremental Learning [56.450090618578]
CIL(Class-Incremental Learning)は、この要件を満たすために、限られたメモリサイズでモデルをトレーニングすることを目的としている。モデルサイズを総予算にカウントし,メモリサイズに整合する手法を比較すると,保存モデルは常に機能しないことを示す。本稿では,メモリ効率のよい拡張可能なMOdelのための MEMO という,シンプルで効果的なベースラインを提案する。
論文参考訳（メタデータ） (2022-05-26T08:24:01Z)
Memory Replay with Data Compression for Continual Learning [80.95444077825852]
古いトレーニングサンプルの記憶コストを低減するため,データ圧縮によるメモリリプレイを提案する。我々はこれを、クラスインクリメンタル学習のいくつかのベンチマークと、自律運転のためのオブジェクト検出の現実的なシナリオにおいて、広範囲に検証する。
論文参考訳（メタデータ） (2022-02-14T10:26:23Z)
ZS-IL: Looking Back on Learned ExperiencesFor Zero-Shot Incremental Learning [9.530976792843495]
データストリームで新しいクラスが発生するたびに過去の体験を提供するオンコール転送セットを提案します。 ZS-ILは、よく知られたデータセット(CIFAR-10、Tiny-ImageNet)において、Task-ILとClass-ILの両方で大幅にパフォーマンスが向上している。
論文参考訳（メタデータ） (2021-03-22T22:43:20Z)
Memory-Efficient Incremental Learning Through Feature Adaptation [71.1449769528535]
本稿では,以前学習したクラスから,画像の特徴記述子を保存するインクリメンタルラーニングのアプローチを提案する。画像のより低次元の機能埋め込みを維持することで、メモリフットプリントが大幅に削減される。実験の結果,インクリメンタルラーニングベンチマークにおいて,最先端の分類精度が得られた。
論文参考訳（メタデータ） (2020-04-01T21:16:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。