論文の概要: Two-Way Is Better Than One: Bidirectional Alignment with Cycle Consistency for Exemplar-Free Class-Incremental Learning
- arxiv url: http://arxiv.org/abs/2606.05675v1
- Date: Thu, 04 Jun 2026 03:57:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-05 22:39:44.539634
- Title: Two-Way Is Better Than One: Bidirectional Alignment with Cycle Consistency for Exemplar-Free Class-Incremental Learning
- Title(参考訳): 2-Wayは1より優れている: 初級クラスインクリメンタルラーニングのためのサイクル整合性を備えた双方向アライメント
- Authors: Hongye Xu, Bartosz Krawczyk,
- Abstract要約: サイクル一貫性を目標としたプロジェクタ双方向アライメント手法であるBiCycを紹介する。
そこで本研究では,BiCycが事前学習した微粒化機構において競争力を維持しつつ,スクラッチ設定時の忘れを著しく低減し,精度を向上することを示す。
- 参考スコア(独自算出の注目度): 6.63181149575886
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Continual learning (CL) seeks models that acquire new skills without erasing prior knowledge. In exemplar-free class-incremental learning (EFCIL), this challenge is amplified because past data cannot be stored, making representation drift for old classes particularly harmful. Prototype-based EFCIL is attractive for its efficiency, yet prototypes drift as the embedding space evolves; therefore, projection-based drift compensation has become a popular remedy. We show, however, that existing one-directional projections introduce systematic bias: they either retroactively distort the current feature geometry or align past classes only locally, leaving cycle inconsistencies that accumulate across tasks. We introduce BiCyc, a bidirectional projector alignment approach with a cycle-consistency objective. BiCyc jointly optimizes two maps, old-to-new and new-to-old, with stop-gradient gating so that transport and representation co-evolve. Analytically, we show that the cycle loss contracts the singular spectrum toward unity in whitened space, and that improved transport of class means and covariances yields smaller perturbations of classification log-odds, preserving old-class decisions and mitigating catastrophic forgetting. Empirically, across standard EFCIL benchmarks, BiCyc substantially reduces forgetting and improves accuracy in from-scratch settings, while remaining competitive in the pretrained fine-grained regime.
- Abstract(参考訳): 継続学習(CL)は、事前知識を消去することなく新しいスキルを習得するモデルを求める。
EFCIL(exemplar-free class-incremental learning)では、過去のデータが保存できないため、古いクラスの表現ドリフトが特に有害になるため、この課題が増幅される。
プロトタイプベースのEFCILはその効率性に魅力があるが、埋め込み空間が進化するにつれてプロトタイプがドリフトするので、プロジェクションベースのドリフト補償は一般的な治療法となっている。
それらは現在の特徴幾何を遡って歪ませるか、あるいは局所的にのみ過去のクラスを整列させ、タスクにまたがるサイクルの不整合を残します。
サイクル一貫性を目標とした双方向プロジェクタアライメント手法であるBiCycを紹介する。
BiCycは2つのマップ、古いもの、新しいもの、そして新しいもの、を共同で最適化する。
解析学的には, サイクル損失は, 白色空間における単体化に向けて特異スペクトルを縮約し, クラス平均と共分散の輸送性の向上は, 分類ログの摂動を小さくし, 旧式な決定を保ち, 破滅的な忘れを緩和することを示した。
実証的には、標準のEFCILベンチマークにおいて、BiCycは、事前訓練されたきめ細かな状態において競争力を維持しながら、ストレート設定における忘れを著しく低減し、精度を向上する。
関連論文リスト
- Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
マルチモーダル学習は、しばしば低品質データの課題に悩まされる。
コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。
私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
論文 参考訳(メタデータ) (2026-05-05T14:48:52Z) - Semantic Shift Estimation via Dual-Projection and Classifier Reconstruction for Exemplar-Free Class-Incremental Learning [20.581215770655383]
EFCIL (Exemplar-Free Class-Incremental Learning) のためのDPCR (Dual-Projection Shift Estimation and Reconstruction) アプローチを提案する。
DPCRは、学習可能な変換と行空間の射影を組み合わせた二重射影による意味的シフトを効果的に推定する。
実験により、様々なデータセットにおいて、DPCRは古いタスクと新しいタスクのバランスを効果的に保ち、最先端のEFCILメソッドより優れていることが示された。
論文 参考訳(メタデータ) (2025-03-07T13:50:29Z) - Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple
Logits Retargeting Approach [102.0769560460338]
我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。
提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
論文 参考訳(メタデータ) (2024-03-01T03:27:08Z) - Gradient Reweighting: Towards Imbalanced Class-Incremental Learning [8.438092346233054]
CIL(Class-Incremental Learning)は、非定常データから新しいクラスを継続的に認識するためにモデルを訓練する。
CILの大きな課題は、非一様分布を特徴とする実世界のデータに適用する場合である。
この二重不均衡問題により、FC層に偏りのある勾配更新が生じ、CILの過度/過度な適合と破滅的な忘れが引き起こされる。
論文 参考訳(メタデータ) (2024-02-28T18:08:03Z) - RanPAC: Random Projections and Pre-trained Models for Continual Learning [59.07316955610658]
継続学習(CL)は、古いタスクを忘れずに、非定常データストリームで異なるタスク(分類など)を学習することを目的としている。
本稿では,事前学習モデルを用いたCLの簡潔かつ効果的なアプローチを提案する。
論文 参考訳(メタデータ) (2023-07-05T12:49:02Z) - TWINS: A Fine-Tuning Framework for Improved Transferability of
Adversarial Robustness and Generalization [89.54947228958494]
本稿では,様々な分類タスクにおいて,逆向きに事前訓練されたモデルの微調整に焦点を当てる。
本稿では,TWINS(Two-WIng NormliSation)ファインチューニングフレームワークを提案する。
TWINSは、一般化とロバスト性の両方の観点から、幅広い画像分類データセットに有効であることが示されている。
論文 参考訳(メタデータ) (2023-03-20T14:12:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。