論文の概要: Width Expansion as a Method for Class Incremental Learning

• arxiv url: http://arxiv.org/abs/2609.37702v1
• Date: Tue, 29 Sep 2026 14:38:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.638185
• Title: Width Expansion as a Method for Class Incremental Learning
• Title（参考訳）: 授業増分学習の方法としての幅拡大
• Abstract要約: クラスインクリメンタルラーニング(Class Incremental Learning)(クラスインクリメンタルラーニング(Class-IL))は、以前に獲得した知識を保存しながら、時間とともに新しいクラスを学習するモデルを必要とする。 本研究は,正規化損失基準に従って既存層内のニューロン数を増大させる動的幅拡大法を提案する。 永続的なキー値メモリを持つアテンション機構も、特徴表現を安定化するために組み込まれている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Class Incremental Learning (Class-IL) requires models to learn new classes over time while preserving previously acquired knowledge without access to past data or task identity. This setting intensifies the stability-plasticity dilemma and makes catastrophic forgetting a central challenge. Existing approaches include regularization, knowledge distillation, replay, and architectural expansion. However, many expansion methods rely on explicit task identifiers or predefined growth strategies, limiting their applicability when task boundaries are unavailable at inference time. This work proposes a dynamic width expansion method that increases the number of neurons within existing layers according to a normalized loss criterion, without requiring task-specific information. An attention mechanism with persistent key-value memory is also incorporated to stabilize feature representations and reduce interference between previously learned and newly introduced classes. The approach is evaluated on Split MNIST and Split CIFAR-100 under the standard Class-IL protocol. Experiments compare fixed-capacity and dynamically expanding architectures, both with and without attention, combined with established continual learning methods including EWC, LwF, and A-GEM. Results show that progressive width expansion consistently improves performance over fixed architectures, particularly when combined with functional methods and A-GEM. The combination of width expansion and attention provides the most consistent gains. Overall, dynamic width expansion based on representational demand provides an effective and flexible strategy for Class-IL, although uncontrolled growth may increase overfitting and computational cost.
• Abstract（参考訳）: クラスインクリメンタルラーニング(Class Incremental Learning、クラスインクリメンタルラーニング)は、過去のデータやタスクIDにアクセスせずに、以前取得した知識を保存しながら、時間とともに新しいクラスを学習するモデルを必要とする。 この設定は安定性と塑性のジレンマを増大させ、破滅的な挑戦を忘れさせる。 既存のアプローチには、正規化、知識蒸留、リプレイ、アーキテクチャ拡張などがある。 しかし、多くの拡張手法は明示的なタスク識別子や事前定義された成長戦略に依存しており、推論時にタスク境界が利用できない場合に適用性を制限する。 本研究は,タスク固有の情報を必要とすることなく,正規化損失基準に従って既存層内のニューロン数を増大させる動的幅拡大法を提案する。 永続的なキー値メモリを持つアテンション機構も組み込まれ、特徴表現の安定化と、以前に学習されたクラスと新しく導入されたクラスの干渉を低減する。 Split MNIST と Split CIFAR-100 を標準クラスILプロトコルで評価する。 実験は、EWC、LwF、A-GEMといった確立した継続学習手法と合わせて、固定容量と動的拡張アーキテクチャを比較した。 その結果,特に機能的手法とA-GEMと組み合わせた場合,プログレッシブワイド展開は固定アーキテクチャよりも一貫して性能を向上することがわかった。 幅の拡大と注意の組み合わせにより、最も一貫した利得が得られる。 全体として、表現的需要に基づく動的幅拡大はクラスILの効果的かつ柔軟な戦略を提供するが、制御不能な成長はオーバーフィッティングと計算コストを増大させる可能性がある。

関連論文リスト

• Grow, Assess, Compress: Adaptive Backbone Scaling for Memory-Efficient Class Incremental Learning [0.0]
  クラスインクリメンタルラーニング(CIL)は、新しいタスクを学習するために必要な可塑性と、忘れることを防ぐために必要な安定性のバランスを維持するという、基本的な課題を提起する。 本稿では,モデルキャパシティを循環的"Grow, Assess, ComprEss"(GRACE)戦略により適応的に管理する新しい動的スケーリングフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-09T14:21:18Z)
• Scalable Class-Incremental Learning Based on Parametric Neural Collapse [5.550140856551579]
  増分学習は、新しいデータへの過度な適合や、古いデータの破滅的な忘れなど、しばしば課題に直面する。 パラメトリック・ニューラル・崩壊に基づくスケーラブルなクラスインクリメンタル・ラーニングを提案する。
  論文  参考訳（メタデータ） (2025-12-26T03:34:59Z)
• Improving Deepfake Detection with Reinforcement Learning-Based Adaptive Data Augmentation [60.04281435591454]
  CRDA(Curriculum Reinforcement-Learning Data Augmentation)は、マルチドメインの偽造機能を段階的にマスターするための検出器を導く新しいフレームワークである。 私たちのアプローチの中心は、強化学習と因果推論を統合することです。 提案手法は検出器の一般化性を大幅に向上し,複数のクロスドメインデータセット間でSOTA法より優れている。
  論文  参考訳（メタデータ） (2025-11-10T12:45:52Z)
• Continuous Knowledge-Preserving Decomposition with Adaptive Layer Selection for Few-Shot Class-Incremental Learning [73.59672160329296]
  CKPD-FSCILは、事前訓練された重量の未使用容量を解放する統合フレームワークである。 本手法は,適応性と知識保持の両面で,最先端の手法より一貫して優れている。
  論文  参考訳（メタデータ） (2025-01-09T07:18:48Z)
• Overcoming Growth-Induced Forgetting in Task-Agnostic Continual Learning [9.91929539637026]
  連続学習(CL)では、モデルの成長は新しいデータに対する適応性を高め、より多くのタスクに対する知識保持を改善する。 しかし、不適切なモデルの成長は、特にタスクに依存しないCLにおいて、推論のために成長したモデル全体を用いて、事前学習した知識を著しく劣化させる可能性がある。 本稿では,新しいデータに対する適応性を向上しつつ,GIFtの問題を克服する新しいSparseGrow手法を提案する。
  論文  参考訳（メタデータ） (2024-08-20T06:05:52Z)
• Mamba-FSCIL: Dynamic Adaptation with Selective State Space Model for Few-Shot Class-Incremental Learning [115.79349923044663]
  FSCIL(Few-shot class-incremental Learning)は、限られた例から新しいクラスを段階的に学習することを目的としている。 静的アーキテクチャは固定パラメータ空間に依存して、逐次到着するデータから学習し、現在のセッションに過度に適合する傾向がある。 本研究では,FSCILにおける選択状態空間モデル(SSM)の可能性について検討する。
  論文  参考訳（メタデータ） (2024-07-08T17:09:39Z)
• Enhanced Few-Shot Class-Incremental Learning via Ensemble Models [34.84881941101568]
  クラス増分学習(class-incremental learning)は、新しいクラスを限られたトレーニングデータに継続的に適合させることを目的としている。 主な課題は、珍しい新しいトレーニングサンプルを過度に適合させ、古いクラスを忘れることである。 本稿では,データ拡張と協調して一般化を促進する新しいアンサンブルモデルフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-01-14T06:07:07Z)
• Dense Network Expansion for Class Incremental Learning [61.00081795200547]
  最先端のアプローチでは、ネットワーク拡張(NE)に基づいた動的アーキテクチャを使用し、タスクごとにタスクエキスパートを追加する。 精度とモデル複雑性のトレードオフを改善するために,新しい NE 手法である高密度ネットワーク拡張 (DNE) を提案する。 従来のSOTA法では、類似またはより小さなモデルスケールで、精度の点で4%のマージンで性能が向上した。
  論文  参考訳（メタデータ） (2023-03-22T16:42:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。