論文の概要: Two-Way Is Better Than One: Bidirectional Alignment with Cycle Consistency for Exemplar-Free Class-Incremental Learning
- arxiv url: http://arxiv.org/abs/2606.05675v1
- Date: Thu, 04 Jun 2026 03:57:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-05 22:39:44.539634
- Title: Two-Way Is Better Than One: Bidirectional Alignment with Cycle Consistency for Exemplar-Free Class-Incremental Learning
- Title(参考訳): 2-Wayは1より優れている: 初級クラスインクリメンタルラーニングのためのサイクル整合性を備えた双方向アライメント
- Abstract要約: サイクル一貫性を目標としたプロジェクタ双方向アライメント手法であるBiCycを紹介する。
そこで本研究では,BiCycが事前学習した微粒化機構において競争力を維持しつつ,スクラッチ設定時の忘れを著しく低減し,精度を向上することを示す。
- 参考スコア(独自算出の注目度): 6.63181149575886
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Continual learning (CL) seeks models that acquire new skills without erasing prior knowledge. In exemplar-free class-incremental learning (EFCIL), this challenge is amplified because past data cannot be stored, making representation drift for old classes particularly harmful. Prototype-based EFCIL is attractive for its efficiency, yet prototypes drift as the embedding space evolves; therefore, projection-based drift compensation has become a popular remedy. We show, however, that existing one-directional projections introduce systematic bias: they either retroactively distort the current feature geometry or align past classes only locally, leaving cycle inconsistencies that accumulate across tasks. We introduce BiCyc, a bidirectional projector alignment approach with a cycle-consistency objective. BiCyc jointly optimizes two maps, old-to-new and new-to-old, with stop-gradient gating so that transport and representation co-evolve. Analytically, we show that the cycle loss contracts the singular spectrum toward unity in whitened space, and that improved transport of class means and covariances yields smaller perturbations of classification log-odds, preserving old-class decisions and mitigating catastrophic forgetting. Empirically, across standard EFCIL benchmarks, BiCyc substantially reduces forgetting and improves accuracy in from-scratch settings, while remaining competitive in the pretrained fine-grained regime.
- Abstract(参考訳): 継続学習(CL)は、事前知識を消去することなく新しいスキルを習得するモデルを求める。
EFCIL(exemplar-free class-incremental learning)では、過去のデータが保存できないため、古いクラスの表現ドリフトが特に有害になるため、この課題が増幅される。
プロトタイプベースのEFCILはその効率性に魅力があるが、埋め込み空間が進化するにつれてプロトタイプがドリフトするので、プロジェクションベースのドリフト補償は一般的な治療法となっている。
それらは現在の特徴幾何を遡って歪ませるか、あるいは局所的にのみ過去のクラスを整列させ、タスクにまたがるサイクルの不整合を残します。
サイクル一貫性を目標とした双方向プロジェクタアライメント手法であるBiCycを紹介する。
BiCycは2つのマップ、古いもの、新しいもの、そして新しいもの、を共同で最適化する。
解析学的には, サイクル損失は, 白色空間における単体化に向けて特異スペクトルを縮約し, クラス平均と共分散の輸送性の向上は, 分類ログの摂動を小さくし, 旧式な決定を保ち, 破滅的な忘れを緩和することを示した。
実証的には、標準のEFCILベンチマークにおいて、BiCycは、事前訓練されたきめ細かな状態において競争力を維持しながら、ストレート設定における忘れを著しく低減し、精度を向上する。
関連論文リスト
- Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
マルチモーダル学習は、しばしば低品質データの課題に悩まされる。
コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。
私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
論文 参考訳(メタデータ) (2026-05-05T14:48:52Z) - Enhancing CLIP Robustness via Cross-Modality Alignment [54.01929554563447]
視覚言語モデルのための最適なトランスポートベースフレームワークであるクロスモダリティアライメントを提案する。
COLAは、グローバルな画像テキストアライメントと特徴空間における局所的な構造的一貫性を復元する。
COLAはトレーニングフリーで、既存の微調整モデルと互換性がある。
論文 参考訳(メタデータ) (2025-10-28T03:47:44Z) - ViRN: Variational Inference and Distribution Trilateration for Long-Tailed Continual Representation Learning [6.253882111488726]
ViRNは、変動推論と分布三元化を統合した、堅牢な長期学習のための新しいフレームワークである。
音声(まれな音響イベント、アクセント)や画像タスクを含む6つの長い尾の分類ベンチマークで評価される。
最先端の手法よりも平均精度が10.24%向上する。
論文 参考訳(メタデータ) (2025-07-23T10:04:30Z) - Semantic Shift Estimation via Dual-Projection and Classifier Reconstruction for Exemplar-Free Class-Incremental Learning [20.581215770655383]
EFCIL (Exemplar-Free Class-Incremental Learning) のためのDPCR (Dual-Projection Shift Estimation and Reconstruction) アプローチを提案する。
DPCRは、学習可能な変換と行空間の射影を組み合わせた二重射影による意味的シフトを効果的に推定する。
実験により、様々なデータセットにおいて、DPCRは古いタスクと新しいタスクのバランスを効果的に保ち、最先端のEFCILメソッドより優れていることが示された。
論文 参考訳(メタデータ) (2025-03-07T13:50:29Z) - Continuous Knowledge-Preserving Decomposition with Adaptive Layer Selection for Few-Shot Class-Incremental Learning [73.59672160329296]
CKPD-FSCILは、事前訓練された重量の未使用容量を解放する統合フレームワークである。
本手法は,適応性と知識保持の両面で,最先端の手法より一貫して優れている。
論文 参考訳(メタデータ) (2025-01-09T07:18:48Z) - Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple
Logits Retargeting Approach [102.0769560460338]
我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。
提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
論文 参考訳(メタデータ) (2024-03-01T03:27:08Z) - Gradient Reweighting: Towards Imbalanced Class-Incremental Learning [8.438092346233054]
CIL(Class-Incremental Learning)は、非定常データから新しいクラスを継続的に認識するためにモデルを訓練する。
CILの大きな課題は、非一様分布を特徴とする実世界のデータに適用する場合である。
この二重不均衡問題により、FC層に偏りのある勾配更新が生じ、CILの過度/過度な適合と破滅的な忘れが引き起こされる。
論文 参考訳(メタデータ) (2024-02-28T18:08:03Z) - RanPAC: Random Projections and Pre-trained Models for Continual Learning [59.07316955610658]
継続学習(CL)は、古いタスクを忘れずに、非定常データストリームで異なるタスク(分類など)を学習することを目的としている。
本稿では,事前学習モデルを用いたCLの簡潔かつ効果的なアプローチを提案する。
論文 参考訳(メタデータ) (2023-07-05T12:49:02Z) - TWINS: A Fine-Tuning Framework for Improved Transferability of
Adversarial Robustness and Generalization [89.54947228958494]
本稿では,様々な分類タスクにおいて,逆向きに事前訓練されたモデルの微調整に焦点を当てる。
本稿では,TWINS(Two-WIng NormliSation)ファインチューニングフレームワークを提案する。
TWINSは、一般化とロバスト性の両方の観点から、幅広い画像分類データセットに有効であることが示されている。
論文 参考訳(メタデータ) (2023-03-20T14:12:55Z) - Prototypical quadruplet for few-shot class incremental learning [24.814045065163135]
改良されたコントラスト損失を用いて,より優れた埋め込み空間を同定し,分類ロバスト性を向上させる手法を提案する。
我々のアプローチは、新しいクラスで訓練された場合でも、埋め込み空間で以前獲得した知識を保っている。
提案手法の有効性は,新しいクラスでモデルを訓練した後,組込み空間がそのままであることを示すとともに,各セッションの精度で既存の最先端アルゴリズムより優れていることを示すことで実証する。
論文 参考訳(メタデータ) (2022-11-05T17:19:14Z) - Class-incremental Learning with Rectified Feature-Graph Preservation [24.098892115785066]
本論文の中心的なテーマは,逐次的な段階を経る新しいクラスを学習することである。
旧知識保存のための重み付きユークリッド正規化を提案する。
新しいクラスを効果的に学習するために、クラス分離を増やすためにバイナリクロスエントロピーでどのように機能するかを示す。
論文 参考訳(メタデータ) (2020-12-15T07:26:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。