論文の概要: Breaking the Synthetic-Real Domain Shortcut for Training-Free Generative Replay-based Class Incremental Learning
- arxiv url: http://arxiv.org/abs/2607.22994v1
- Date: Sat, 25 Jul 2026 02:14:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:14.95854
- Title: Breaking the Synthetic-Real Domain Shortcut for Training-Free Generative Replay-based Class Incremental Learning
- Title（参考訳）: 学習自由な再生型授業インクリメンタルラーニングのための合成リアルドメインショートカットの破り方
- Abstract要約: クラスインクリメンタルラーニング(CIL)は、破滅的な忘れを回避しつつ、新たな知識を継続的に獲得するモデルを必要とする。
生成的再生は有効な代替手段として現れており、凍結した事前訓練されたテキスト・ツー・イメージ(T2I)モデルを使用して古いデータを追加のトレーニングなしで合成している。
しかし, インクリメンタルトレーニングにおいて, 合成古クラスのデータを真の新クラスのデータと直接混合することで, 性能が著しく低下することが観察された。
- 参考スコア（独自算出の注目度）: 43.93094911290337
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Class-incremental learning (CIL) requires models to continuously acquire new knowledge while avoiding catastrophic forgetting. While exemplar replay is effective, it raises concerns regarding privacy and storage. Thus, generative replay has emerged as a viable alternative, synthesizing old data using frozen pretrained text-to-image (T2I) models without any extra training. However, we observe that directly mixing synthetic old-class data with real new-class data during incremental training leads to significant performance degradation. This issue stems from a "domain shortcut", where models rely on domain-discriminative features instead of semantic class cues. To address this, we propose DREAM ($\underline{\mathbf{D}}$omain-$\underline{\mathbf{R}}$egularized $\underline{\mathbf{E}}$xemplar-free $\underline{\mathbf{A}}$lignment $\underline{\mathbf{M}}$odel), which uses a training-free generator to synthesize old-class data and eliminates domain shortcut via subspace rectification and orthogonal projection, while reinforcing semantic alignment through real-anchored prototype regularization. Extensive experiments on 4 datasets demonstrate that DREAM outperforms existing exemplar-free CIL methods and achieves state-of-the-art performance. Our source code is available at https://github.com/Light-ZhangTao/DREAM.
- Abstract（参考訳）: クラスインクリメンタルラーニング(CIL)は、破滅的な忘れを回避しつつ、新たな知識を継続的に獲得するモデルを必要とする。
典型的なリプレイは有効だが、プライバシやストレージに関する懸念が高まる。
このように、生成的再生は有効な代替手段として現れ、凍結した事前訓練されたテキスト・ツー・イメージ(T2I)モデルを使用して古いデータを追加のトレーニングなしで合成する。
しかし, インクリメンタルトレーニングにおいて, 合成古クラスのデータを真の新クラスのデータと直接混合することで, 性能が著しく低下することが観察された。
この問題は、モデルがセマンティッククラスキューではなくドメイン識別機能に依存する"ドメインショートカット"に端を発する。
そこで我々はDREAM ($\underline{\mathbf{D}}$omain-$\underline{\mathbf{R}}$egularized $\underline{\mathbf{E}}$xemplar-free $\underline{\mathbf{A}}$lignment $\underline{\mathbf{M}}$odel)を提案する。
4つのデータセットに対する大規模な実験は、DREAMが既存の非定型的なCILメソッドより優れ、最先端のパフォーマンスを達成することを示した。
ソースコードはhttps://github.com/Light-ZhangTao/DREAMで公開しています。
関連論文リスト
- PLATE: Plasticity-Tunable Efficient Adapters for Geometry-Aware Continual Learning [1.8985807299725523]
従来のタスクデータへのアクセスを必要としない事前学習モデルの連続学習法を開発した。
冗長性は 自然の偏見を与えます
textscPLATEは、可塑性保持トレードオフを明示的に制御する。
論文 参考訳（メタデータ） (2026-02-03T18:59:42Z) - Zeroth-Order Adaptive Neuron Alignment Based Pruning without Re-Training [7.972074133591484]
我々は, LLMの任意のプルーニングアルゴリズム上で使用可能な, エフェストアップアルゴリズムである textbfNeuroAl を提案する。
我々の手法は、パフォーマンス・ランタイムトレードオフの観点から最新の最先端手法よりも一貫して優れています。
論文 参考訳（メタデータ） (2024-11-11T15:30:16Z) - From Fake to Real: Pretraining on Balanced Synthetic Images to Prevent Spurious Correlations in Image Recognition [64.59093444558549]
我々はFrom Fake to Realと呼ぶシンプルで簡単に実装できる2段階のトレーニングパイプラインを提案する。
実データと合成データを別々にトレーニングすることで、FFRは実データと合成データの統計的差異にモデルを公開しない。
実験の結果,FFRは3つのデータセットに対して,最先端のグループ精度を最大20%向上させることがわかった。
論文 参考訳（メタデータ） (2023-08-08T19:52:28Z) - Improving Zero-Shot Generalization for CLIP with Synthesized Prompts [135.4317555866831]
既存のほとんどのメソッドは、実世界のアプリケーションでは保持できない全てのクラスにラベル付きデータを必要とする。
既存の微調整法を改善するために,textbfSynttextbfHestextbfIzed textbfPrompts(textbfSHIP)と呼ばれるプラグアンドプレイ生成手法を提案する。
論文 参考訳（メタデータ） (2023-07-14T15:15:45Z) - RanPAC: Random Projections and Pre-trained Models for Continual Learning [59.07316955610658]
継続学習(CL)は、古いタスクを忘れずに、非定常データストリームで異なるタスク(分類など)を学習することを目的としている。
本稿では,事前学習モデルを用いたCLの簡潔かつ効果的なアプローチを提案する。
論文 参考訳（メタデータ） (2023-07-05T12:49:02Z) - Condensed Prototype Replay for Class Incremental Learning [19.744088520278243]
インクリメンタルラーニング(IL)は、新しいタスクを学ぶ際に古いタスクを破滅的に忘れることに悩まされる。
近年の研究では、セチロイド類のみをプロトタイプとして保存し、ガウスノイズを付加して再生のための合成データを生成する。
本稿では,メモリコストのかかる模範的手法を初めて上回りうる,一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組一組
論文 参考訳（メタデータ） (2023-05-25T15:16:28Z) - Neural Collapse Inspired Feature-Classifier Alignment for Few-Shot Class
Incremental Learning [120.53458753007851]
FSCIL(Few-shot class-incremental Learning)は、新しいセッションにおいて、新しいクラスごとにいくつかのトレーニングサンプルしかアクセスできないため、難しい問題である。
我々は最近発見された神経崩壊現象にインスパイアされたFSCILのこの不整合ジレンマに対処する。
我々は、FSCILのための神経崩壊誘発フレームワークを提案する。MiniImageNet、CUB-200、CIFAR-100データセットの実験により、提案したフレームワークが最先端のパフォーマンスより優れていることを示す。
論文 参考訳（メタデータ） (2023-02-06T18:39:40Z) - Bypassing Logits Bias in Online Class-Incremental Learning with a
Generative Framework [15.345043222622158]
我々は、時間とともに新しいクラスが出現するオンラインのクラス増分学習環境に焦点を当てる。
既存のほとんどのメソッドは、ソフトマックス分類器を使ったリプレイベースである。
特徴空間に基づく新しい生成フレームワークを提案する。
論文 参考訳（メタデータ） (2022-05-19T06:54:20Z) - Dual-Teacher Class-Incremental Learning With Data-Free Generative Replay [49.691610143011566]
クラスインクリメンタルラーニング(CIL)のための2つの新しい知識伝達手法を提案する。
まず,データフリーな生成リプレイ(DF-GR)を提案し,生成モデルからの合成サンプルを用いてCILの破滅的忘れを緩和する。
第2に,2人の教師から1人の生徒に知識蒸留を行うための2つの教員情報蒸留(DT-ID)を導入する。
論文 参考訳（メタデータ） (2021-06-17T22:13:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。