論文の概要: Continual Learning as a Multiphase Moving-Boundary Problem
- arxiv url: http://arxiv.org/abs/2606.01863v1
- Date: Mon, 01 Jun 2026 08:13:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:31.605632
- Title: Continual Learning as a Multiphase Moving-Boundary Problem
- Title(参考訳): 多相移動境界問題としての連続学習
- Authors: Snigdha Chandan Khilar,
- Abstract要約: ステファン-CLはこの安定性と塑性のジレンマを融解の物理によってエレガントに解決する。
ネットワークが学習するにつれて、この境界は拡大し、「潜熱」チューニングダイアルによって支配される。
学習した内部を数学的に凍結することにより、Stefan-CLは生データを保存することなく、記憶量の多いベースラインをほぼゼロに削減する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Continual learning struggles to balance retaining past knowledge with absorbing new tasks. Stefan-CL elegantly resolves this stability-plasticity dilemma through the physics of melting. It frames consolidated knowledge as a protected "solid" and unused capacity as an adaptable "liquid." As the network learns, this boundary expands, governed by a "latent heat" tuning dial. By mathematically freezing the learned interior, Stefan-CL cuts forgetting to near zero, matching memory-heavy baselines without storing raw data, forging a beautiful, physics-grounded path for AI.
- Abstract(参考訳): 継続的な学習は、過去の知識の保持と新しいタスクの吸収のバランスを取るのに苦労する。
ステファン-CLはこの安定性と塑性のジレンマを融解の物理によってエレガントに解決する。
統合された知識を「堅固」で、未使用の能力と適応可能な「液体」とみなす。
ネットワークが学習するにつれて、この境界は拡大し、「潜熱」チューニングダイアルによって支配される。
学習した内部を数学的に凍結することにより、Stefan-CLは、生データを保存せずにメモリ重のベースラインに一致する、忘れをゼロに近いものに削減する。
関連論文リスト
- Learning to Forget: Continual Learning with Adaptive Weight Decay [30.558842015806363]
有限能力の連続学習エージェントは、新しい知識の獲得と古い知識の保持のバランスをとる必要がある。
ウェイト崩壊は、忘れるメカニズムと見なされ、ウェイトに格納された情報を徐々に破棄することで、この役割を果たすことができる。
本稿では, パラメータごとの減量率を近似的メタ勾配降下法によりオンラインに適応させる適応減衰法(Adaptive Decay, FADE)について紹介する。
論文 参考訳(メタデータ) (2026-04-29T18:01:13Z) - Don't Look Back in Anger: MAGIC Net for Streaming Continual Learning with Temporal Dependence [1.2191215203827384]
我々は、繰り返しニューラルネットワークとアーキテクチャ戦略を統合して時間依存をテーム化する、新しいストリーミング連続学習(SCL)アプローチであるMAGIC Netを紹介する。
MAGIC Netは継続的に学習し、冷凍重量の上に学習可能なマスクを適用することで過去の知識を振り返り、必要に応じてアーキテクチャを拡張する。
合成および実世界のストリームの実験では、新しい概念への適応を改善し、メモリ使用を制限し、忘れを軽減している。
論文 参考訳(メタデータ) (2026-03-09T16:49:04Z) - CHLU: The Causal Hamiltonian Learning Unit as a Symplectic Primitive for Deep Learning [0.7671363331051473]
我々は,物理基礎の計算学習プリミティブであるtextbfCausal Hamiltonian Learning Unit (textitclue) を提案する。
相対論的ハミルトン構造を強制し、シンプレクティック積分を利用することにより、CHLUは位相空間体積を厳密に保存する。
このCHLUは、制御可能なノイズフィルタリングと同様に、無限水平安定性のために設計されていることを示す。
論文 参考訳(メタデータ) (2026-03-02T11:53:09Z) - Modular Memory is the Key to Continual Learning Agents [100.09688599754465]
In-Weight Learning(IWL)の強みと、モジュラーメモリの設計を通じて新たに登場したIn-Context Learning(ICL)の機能を組み合わせることが、大規模に継続的適応するための欠片である、と我々は主張する。
我々は、ICLを高速適応と知識蓄積に活用するモジュール型メモリ中心アーキテクチャの概念的フレームワークと、モデル機能の安定した更新のためのIWLについて概説する。
論文 参考訳(メタデータ) (2026-03-02T11:40:05Z) - Forget Forgetting: Continual Learning in a World of Abundant Memory [55.64184779530581]
継続的な学習は伝統的に、模範記憶の最小化に重点を置いてきた。
本稿では、より現実的な体制を探求することによって、このパラダイムに挑戦する。
モデルが以前のタスクに偏り、新しいタスクを学ぶのに苦労するようになるにつれて、中心的な課題が安定性から可塑性へと変化していくことが分かっています。
論文 参考訳(メタデータ) (2025-02-11T05:40:52Z) - ECLIPSE: Efficient Continual Learning in Panoptic Segmentation with Visual Prompt Tuning [54.68180752416519]
パノプティカルセグメンテーション(英: Panoptic segmentation)は、コンピュータビジョンの最先端タスクである。
ECLIPSE と呼ばれる Visual Prompt Tuning をベースとした,新規で効率的なパノプティカルセグメンテーション手法を提案する。
我々のアプローチは、基本モデルのパラメータを凍結し、小さなプロンプト埋め込みだけを微調整することであり、破滅的な忘れ物と塑性の両方に対処する。
論文 参考訳(メタデータ) (2024-03-29T11:31:12Z) - PromptFusion: Decoupling Stability and Plasticity for Continual Learning [83.68586386842105]
本稿では,プロンプトフュージョン(PromptFusion)と呼ばれるプロンプトチューニングによる安定性と塑性の疎結合を実現する手法を提案する。
特にPromptFusionは、破滅的な忘れ物を扱う慎重に設計されたスタブモジュールと、新しい知識を同時に学習するためのブーモジュールで構成されている。
PromptFusionとPromptFusion-Liteはどちらも、クラスインクリメンタルとドメインインクリメンタル設定のための一般的な継続的学習データセットにおいて、有望な結果を達成することを示す実験である。
論文 参考訳(メタデータ) (2023-03-13T15:58:00Z) - SimCS: Simulation for Domain Incremental Online Continual Segmentation [60.18777113752866]
既存の継続学習アプローチは、主にクラス増分設定における画像分類に焦点を当てている。
シミュレーションデータを用いて連続学習を規則化するパラメータフリー手法であるSimCSを提案する。
論文 参考訳(メタデータ) (2022-11-29T14:17:33Z) - Learning Bayesian Sparse Networks with Full Experience Replay for
Continual Learning [54.7584721943286]
継続学習(CL)手法は、機械学習モデルが、以前にマスターされたタスクを壊滅的に忘れることなく、新しいタスクを学習できるようにすることを目的としている。
既存のCLアプローチは、しばしば、事前に確認されたサンプルのバッファを保持し、知識蒸留を行い、あるいはこの目標に向けて正規化技術を使用する。
我々は,現在および過去のタスクを任意の段階で学習するために,スパースニューロンのみを活性化し,選択することを提案する。
論文 参考訳(メタデータ) (2022-02-21T13:25:03Z) - Gradient Episodic Memory with a Soft Constraint for Continual Learning [9.52644009921388]
破滅的な忘れは、モデルが新しいタスクを学習しているときに、過去のタスクのパフォーマンスが大幅に低下する致命的な欠点である。
本稿では,[0, 1]$のソフト制約を持つ平均勾配エピソディクスメモリ(A-GEM)を提案する。
$epsilon$-SOFT-GEMは、A-GEMといくつかの連続学習ベンチマークを1つのトレーニングエポックで上回っている。
論文 参考訳(メタデータ) (2020-11-16T09:06:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。