論文の概要: Data-Free Reservoir Features for Efficient Long-Horizon Cold-Start Continual Learning

• arxiv url: http://arxiv.org/abs/2606.27095v1
• Date: Thu, 25 Jun 2026 14:31:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 18:46:32.32249
• Title: Data-Free Reservoir Features for Efficient Long-Horizon Cold-Start Continual Learning
• Title（参考訳）: 長軸型コールドスタート連続学習のためのデータフリー貯留層特性
• Abstract要約: コールドスタート 古典的なクラス増分学習は、リプレイ、外部事前トレーニング、あるいは大きな初期タスクなしで成長するクラスの集合を学習する必要がある。 画像分類に BiRC2D を応用した, 固定二方向2次元貯留層から構築したクラスインクリメンタル分類器 CIRCLE と, ストリーミング線形判別分析ヘッドを提案する。 CIFAR-100、TinyImageNet、ImageNet-Subset、ImageNet-1kでは、CIRCLEは10～20タスクスプリットで競争力があり、トレーニング中に強力なCS-EFCILベースラインを50、100、500タスクスプリットで大幅に上回っている。
• 参考スコア（独自算出の注目度）: 5.669267797022369
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Cold-start exemplar-free class-incremental learning requires learning a growing set of classes without replay, external pretraining, or a large initial task. Existing cold-start methods typically either train the backbone throughout the stream and compensate for semantic drift, or freeze a backbone after the first task, producing features biased toward the initial classes. These choices also create a computational tension: drift-compensation methods require repeated backbone training and increasingly expensive updates as the task horizon grows, while frozen-backbone methods are cheap but weak under cold start. We study a third option: a feature extractor that is never fit to image data at all. We propose CIRCLE, a class-incremental classifier built from fixed bidirectional two-dimensional reservoir features, adapted from BiRC2D for image classification, and streaming linear discriminant analysis heads. CIRCLE groups multiple random reservoir instantiations into feature ensembles and averages the softmax outputs of independent SLDA heads, yielding a tunable bias-variance tradeoff between richer random features and prediction-level ensembling. Because the feature extractor is fixed and the head admits streaming closed-form updates, CIRCLE performs sample-wise training without replay, task-boundary information, or backbone backpropagation. On CIFAR-100, TinyImageNet, ImageNet-Subset, and ImageNet-1k, CIRCLE is competitive at 10-20 task splits and substantially outperforms strong CS-EFCIL baselines at 50, 100, and 500 task splits, while training much faster than trained-backbone drift-compensation methods. Ablations show that the BiRC2D-style extractor, SLDA head, and balanced feature/prediction ensembling each contribute to the final performance.
• Abstract（参考訳）: コールドスタート 古典的なクラス増分学習は、リプレイ、外部事前トレーニング、あるいは大きな初期タスクなしで成長するクラスの集合を学習する必要がある。 既存のコールドスタートメソッドは通常、ストリーム全体を通してバックボーンをトレーニングし、セマンティックなドリフトを補うか、最初のタスク後にバックボーンを凍結するかのいずれかで、初期クラスに偏った機能を生成する。 これらの選択はまた、計算的緊張を生み出す:ドリフト補償法は繰り返しバックボーンのトレーニングを必要とし、タスクの地平線が大きくなるにつれてコストが上昇する一方、凍結バックボーン法は低温開始時に安価だが弱い。 第3の選択肢として,画像データにまったく適合しない特徴抽出器について検討する。 画像分類に BiRC2D を応用した, 固定二方向2次元貯留層から構築したクラスインクリメンタル分類器 CIRCLE と, ストリーミング線形判別分析ヘッドを提案する。 CIRCLEは、複数のランダムな貯水池インスタンスを特徴アンサンブルにグループ化し、独立SLDAヘッドのソフトマックス出力を平均化し、よりリッチなランダム特徴と予測レベルのアンサンブルの間に調整可能なバイアス分散トレードオフをもたらす。 特徴抽出器は固定され、ヘッドはクローズドフォームの更新をストリーミングするので、CIRCLEはリプレイやタスク境界情報、バックボーンのバックプロパゲーションなしでサンプルワイズトレーニングを行う。 CIFAR-100、TinyImageNet、ImageNet-Subset、ImageNet-1kでは、CIRCLEは10～20タスクスプリットで競争力があり、強力なCS-EFCILベースラインを50、100、500タスクスプリットで大幅に上回っている。 アブレーションにより、BiRC2D型抽出器、SLDAヘッド、バランスの取れた特徴/予測アンサンブルが最終性能に寄与することが示された。

関連論文リスト

• HydraCIL: Decoupled Class-Incremental Learning through Prototype-Guided Multi-Head Classifiers [1.8798171797988195]
  プロトタイプ誘導型マルチヘッド分類器に基づく非結合型連続学習モデルHydraCILを提案する。 以上の結果から,HydraCILはトレーニング時間と炭素フットプリントを大幅に削減しつつ,最先端のCIL手法に適合または優れることを示す。 これは、エネルギー効率と迅速な適応が不可欠である実世界および組み込み環境での継続的な学習のための実践的なソリューションである。
  論文  参考訳（メタデータ） (2026-06-08T12:52:21Z)
• HSFM: Hard-Set-Guided Feature-Space Meta-Learning for Robust Classification under Spurious Correlations [25.503211313768062]
  本稿では,特徴空間で直接拡張を行う二段階メタラーニング手法を提案する。 ピクセル空間ではなくバックボーン出力で操作することで、この手法は非常に効率的で安定であり、1つのGPUで数分のトレーニングしか必要としない。
  論文  参考訳（メタデータ） (2026-03-31T06:32:56Z)
• CycleSL: Server-Client Cyclical Update Driven Scalable Split Learning [60.59553507555341]
  本稿では,新たなアグリゲーションフリーな分割学習フレームワークであるCycleSLを紹介する。 ブロック座標降下の交互化によって着想を得たCycleSLは、サーバサイドトレーニングを独立した高レベルの機械学習タスクとして扱う。 実験結果から,CycleSLのモデル性能向上効果が示唆された。
  論文  参考訳（メタデータ） (2025-11-23T21:00:21Z)
• Boosting Open Set Recognition Performance through Modulated Representation Learning [0.0]
  オープンセット認識問題は、トレーニングクラスの一部ではない新しいセマンティッククラスからテストサンプルを識別することを目的としている。 既存のOSR法では、損失関数を適用する前に、ロジットに一定のスケーリング係数(温度)を使用する。 本稿では,提案した一連の温度スケジュールを用いて,温度変調表現学習を可能にすることで,この問題に対処する。
  論文  参考訳（メタデータ） (2025-05-23T17:47:20Z)
• Class-Imbalanced Semi-Supervised Learning for Large-Scale Point Cloud Semantic Segmentation via Decoupling Optimization [64.36097398869774]
  半教師付き学習(SSL)は大規模3Dシーン理解のための活発な研究課題である。 既存のSSLベースのメソッドは、クラス不均衡とポイントクラウドデータのロングテール分布による厳しいトレーニングバイアスに悩まされている。 本稿では,特徴表現学習と分類器を別の最適化方法で切り離してバイアス決定境界を効果的にシフトする,新しいデカップリング最適化フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-01-13T04:16:40Z)
• Dual Compensation Residual Networks for Class Imbalanced Learning [98.35401757647749]
  そこで本研究では,尾と頭の両方に適合する2次元補償残差ネットワークを提案する。 オーバーフィッティングを引き起こす重要な要因は、トレーニングとテールクラスのテストデータの間に深刻な特徴ドリフトがあることである。 また,不適合問題を軽減するためにResidual Balanced Multi-Proxies分類器を提案する。
  論文  参考訳（メタデータ） (2023-08-25T04:06:30Z)
• RanPAC: Random Projections and Pre-trained Models for Continual Learning [59.07316955610658]
  継続学習(CL)は、古いタスクを忘れずに、非定常データストリームで異なるタスク(分類など)を学習することを目的としている。 本稿では,事前学習モデルを用いたCLの簡潔かつ効果的なアプローチを提案する。
  論文  参考訳（メタデータ） (2023-07-05T12:49:02Z)
• Complementary Learning Subnetworks for Parameter-Efficient Class-Incremental Learning [40.13416912075668]
  本稿では,2つの補完学習サブネットワークス間のシナジーを通じて連続的に学習するリハーサルフリーなCILアプローチを提案する。 提案手法は, 精度向上, メモリコスト, トレーニング効率, タスク順序など, 最先端手法と競合する結果が得られる。
  論文  参考訳（メタデータ） (2023-06-21T01:43:25Z)
• Killing Two Birds with One Stone:Efficient and Robust Training of Face Recognition CNNs by Partial FC [66.71660672526349]
  部分FC (Partial FC) という,完全連結層 (FC) のスパース更新版を提案する。 各イテレーションにおいて、マージンベースのソフトマックス損失を計算するために、正のクラスセンターと負のクラスセンターのランダムなサブセットが選択される。 計算要求、クラス間衝突の確率、テールクラスセンターにおけるパッシブ更新の頻度は劇的に減少する。
  論文  参考訳（メタデータ） (2022-03-28T14:33:21Z)
• You Only Need End-to-End Training for Long-Tailed Recognition [8.789819609485225]
  クロスエントロピー損失は、不均衡なデータに非常に相関した特徴をもたらす傾向にある。 ブロックベース相対平衡バッチサンプリング(B3RS)とバッチ埋め込みトレーニング(BET)の2つの新しいモジュールを提案する。 CIFAR-LT と ImageNet-LT の長期分類ベンチマークによる実験結果から,本手法の有効性が示された。
  論文  参考訳（メタデータ） (2021-12-11T11:44:09Z)
• Class-incremental Learning using a Sequence of Partial Implicitly Regularized Classifiers [0.0]
  クラス増分学習では、トレーニングデータ全体にアクセスすることなく、複数のクラスを順次学習することが目的である。 CIFAR100データセットの実験では、提案手法がSOTAの性能を大きなマージンで向上させることが示された。
  論文  参考訳（メタデータ） (2021-04-04T10:02:45Z)
• Long-tailed Recognition by Routing Diverse Distribution-Aware Experts [64.71102030006422]
  我々は、RoutIng Diverse Experts (RIDE) と呼ばれる新しい長い尾の分類器を提案する。 複数の専門家とのモデルの分散を減らし、分布を考慮した多様性損失によるモデルバイアスを減らし、動的専門家ルーティングモジュールによる計算コストを削減します。 RIDEは、CIFAR100-LT、ImageNet-LT、iNaturalist 2018ベンチマークで最先端を5%から7%上回っている。
  論文  参考訳（メタデータ） (2020-10-05T06:53:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。