論文の概要: Continual Learning without Continual Training

• arxiv url: http://arxiv.org/abs/2610.10379v1
• Date: Wed, 07 Oct 2026 16:39:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:23.053071
• Title: Continual Learning without Continual Training
• Title（参考訳）: 継続的なトレーニングを伴わない継続的学習
• Abstract要約: 継続的な学習には、事前の知識を維持しながら、新しいドメインや新しいクラスに適応するモデルが必要である。 連続的推論による連続的トレーニングの置き換えを提案する。 PFNベースのモデルはメタトレーニングされ、その後凍結され、コンテキスト内のエビデンスセットを拡張することで新しいクラスに適応する。
• 参考スコア（独自算出の注目度）: 2.1706654068911795
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Continual learning requires models to adapt to new domains and new classes while retaining prior knowledge. Many existing methods rely on continued optimization, using regularization, replay, or parameter expansion to prevent new updates from overwriting previously learned knowledge. Instead, we propose replacing continual training with continual inference: a PFN-based model that is meta-trained, and then frozen, adapting to new classes only by extending an in-context evidence set. Our model, Latent Concept PFN, performs in-context Bayesian inference over a latent concept space that captures semantic structure shared across domains and classes. As each new domain or class arrives, exemplars are added to the memory; adaptation reflects updated posterior beliefs over latent concepts rather than gradient updates. No parameters are changed, reducing forgetting. The same method handles both domain and class incremental continual learning without task identity. Concept annotations are only used during meta-training, acting as a soft anchor on the latent space rather than a fixed bottleneck. Unlike fixed-vocabulary concept methods, the model also handles noisy, ambiguous, or incomplete annotations by combining concept labels with raw input evidence to discover distinctions beyond the predefined concept set. Experiments on class and domain incremental learning datasets demonstrate competitive continual learning performance while learning interpretable latent concepts.
• Abstract（参考訳）: 継続的な学習には、事前の知識を維持しながら、新しいドメインや新しいクラスに適応するモデルが必要である。 既存の多くのメソッドは、正規化やリプレイ、パラメータ拡張といった継続的な最適化に依存しており、新しい更新が以前学んだ知識を上書きすることを防ぐ。 代わりに、継続トレーニングを継続推論に置き換えることを提案する。PFNベースのモデルでメタトレーニングを行い、その後凍結し、コンテキスト内のエビデンスを拡張することで新しいクラスに適応する。 我々のモデルであるLatent Concept PFNは、ドメインやクラス間で共有されるセマンティック構造をキャプチャする潜在概念空間に対して、コンテキスト内のベイズ推論を行う。 それぞれの新しいドメインやクラスが到着すると、メモリに例えるものが追加され、順応は勾配の更新よりも遅れた概念に対して更新された後続の信念を反映する。 パラメータは変更されず、忘れが減る。 同じ方法は、タスクの同一性なしに、ドメインとクラスの両方の漸進的な学習を処理します。 概念アノテーションはメタトレーニングでのみ使用され、固定されたボトルネックではなく、潜在空間のソフトアンカーとして機能する。 固定語彙の概念法とは異なり、このモデルは、概念ラベルと生の入力エビデンスを組み合わせて、事前定義された概念セット以外の区別を発見することで、ノイズ、曖昧、あるいは不完全なアノテーションも扱う。 クラスとドメインの漸進学習データセットの実験は、解釈可能な潜在概念を学習しながら、競争的な連続学習性能を示す。

関連論文リスト

• Multi-Scale Structural Features for Continual, Comprehensible Visual Recognition in a Developmental Learning Framework [0.0]
  複数スケールにわたる形状構造をエンコードする新しい視覚特徴表現を提案する。 学習モデルから予測するために使用される学習力学と読み出しをさらに改善する。 この研究は、クラスインクリメンタルMNISTを制御、解釈可能なベンチマークとして、2次元形状を目標としている。
  論文  参考訳（メタデータ） (2026-07-28T10:17:54Z)
• Miles: Metric Learning with Expandable Subspace for Pre-Trained Model-Based Class-Incremental Learning [57.237835833636154]
  本稿では,事前学習された知識の事前情報を活用するために,拡張可能なサブスペース(マイル)を用いたMetrIc Learningを提案する。 Milesは様々なCIL設定で最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2026-07-20T06:22:02Z)
• Tree of Concepts: Interpretable Continual Learners in Non-Stationary Clinical Domains [2.688900425133985]
  継続的学習は、分散シフト中のモデルを忘れずに更新することを目的としている。 本稿では,浅い決定木を用いて規則ベースの概念インターフェースを定義する,解釈可能な連続学習フレームワークであるTree of Conceptsを提案する。 この結果から,構造化された概念インタフェースは,非定常かつ高レベルなドメインにおける一貫した監査インタフェースを維持しつつ,連続的な適応をサポートすることが示唆された。
  論文  参考訳（メタデータ） (2026-04-18T17:58:37Z)
• Dual Consolidation for Pre-Trained Model-Based Domain-Incremental Learning [64.1745161657794]
  ドメイン・インクリメンタル・ラーニング(ドメイン・インクリメンタル・ラーニング、ドメイン・インクリメンタル・ラーニング、ドメイン・インクリメンタル・ラーニング、ドメイン・インクリメンタル・ラーニング、Domain-Incremental Learning、DIL)は、異なるドメインにまたがる新しい概念へのモデルの漸進的な適応を含む。 プレトレーニングモデルの最近の進歩は、DILの確かな基盤を提供する。 しかし、新しい概念を学ぶことは、しばしば、事前訓練された知識を破滅的に忘れてしまう。 本稿では,歴史的知識の統一と統合を図るために,デュアルコンソリデータティオン(ドゥクト)を提案する。
  論文  参考訳（メタデータ） (2024-10-01T17:58:06Z)
• ClassDiffusion: More Aligned Personalization Tuning with Explicit Class Guidance [90.57708419344007]
  新しい概念を学ぶ際に, 概念空間を明示的に規制するために, ** 連続保存損失** を利用するテクニックである **ClassDiffusion** を提示する。 このアプローチは単純ではあるが、ターゲット概念の微調整過程における意味的ドリフトを効果的に防止する。
  論文  参考訳（メタデータ） (2024-05-27T17:50:10Z)
• Context-Aware Meta-Learning [52.09326317432577]
  本研究では,大規模言語モデルのエミュレートを行うメタ学習アルゴリズムを提案する。 我々のアプローチは、11のメタラーニングベンチマークのうち8つで最先端のアルゴリズムであるP>M>Fを上回り、一致します。
  論文  参考訳（メタデータ） (2023-10-17T03:35:27Z)
• On Generalizing Beyond Domains in Cross-Domain Continual Learning [91.56748415975683]
  ディープニューラルネットワークは、新しいタスクを学んだ後、これまで学んだ知識の破滅的な忘れ込みに悩まされることが多い。 提案手法は、ドメインシフト中の新しいタスクを精度良く学習することで、DomainNetやOfficeHomeといった挑戦的なデータセットで最大10%向上する。
  論文  参考訳（メタデータ） (2022-03-08T09:57:48Z)
• Continual Semantic Segmentation via Repulsion-Attraction of Sparse and Disentangled Latent Representations [18.655840060559168]
  本稿では,セマンティックセグメンテーションにおけるクラス連続学習に着目した。 新しいカテゴリは時間とともに利用可能になり、以前のトレーニングデータは保持されない。 提案された連続学習スキームは、潜在空間を形作り、新しいクラスの認識を改善しながら忘れを減らす。
  論文  参考訳（メタデータ） (2021-03-10T21:02:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。