論文の概要: Finding Structure in Continual Learning
- arxiv url: http://arxiv.org/abs/2602.04555v1
- Date: Wed, 04 Feb 2026 13:44:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-05 19:45:11.548743
- Title: Finding Structure in Continual Learning
- Title(参考訳): 連続学習における構造発見
- Authors: Pourya Shamsolmoali, Masoumeh Zareapoor,
- Abstract要約: 我々はDouglas-Rachford Splitting (DRS) を用いた継続的学習目標の再構築を提案する。
これにより、学習プロセスは直接的なトレードオフではなく、2つの分離された目標間の交渉として再編成される。
提案手法は, 補助モジュールや複雑なアドオンを必要とせずに, 安定性と可塑性の効率的なバランスを実現する。
- 参考スコア(独自算出の注目度): 25.94714152174335
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Learning from a stream of tasks usually pits plasticity against stability: acquiring new knowledge often causes catastrophic forgetting of past information. Most methods address this by summing competing loss terms, creating gradient conflicts that are managed with complex and often inefficient strategies such as external memory replay or parameter regularization. We propose a reformulation of the continual learning objective using Douglas-Rachford Splitting (DRS). This reframes the learning process not as a direct trade-off, but as a negotiation between two decoupled objectives: one promoting plasticity for new tasks and the other enforcing stability of old knowledge. By iteratively finding a consensus through their proximal operators, DRS provides a more principled and stable learning dynamic. Our approach achieves an efficient balance between stability and plasticity without the need for auxiliary modules or complex add-ons, providing a simpler yet more powerful paradigm for continual learning systems.
- Abstract(参考訳): 新たな知識の獲得は、しばしば過去の情報を破滅的に忘れてしまう。
ほとんどのメソッドは競合する損失項をまとめて、外部メモリの再生やパラメータの正規化といった複雑な非効率な戦略で管理される勾配競合を生成する。
ダグラス・ラフフォード分割(DRS)を用いた連続学習目標の再構築を提案する。
これは、学習プロセスを直接的なトレードオフではなく、2つの分離された目標、すなわち、新しいタスクの可塑性を促進するものと、古い知識の安定性を強制するものであるように再編成する。
近似演算子を通してコンセンサスを反復的に見つけることで、DSSはより原理的で安定した学習力学を提供する。
提案手法は, 補助モジュールや複雑なアドオンを必要とせずに, 安定性と可塑性の効率的なバランスを達成し, 連続学習システムにおいて, よりシンプルかつ強力なパラダイムを提供する。
関連論文リスト
- Retrofit: Continual Learning with Bounded Forgetting for Security Applications [25.185616916987158]
本稿では,データ振り返りのない連続学習手法であるRETROFITを提案する。
干渉を軽減するために、独立部分空間にパラメータ変化を限定する低ランクかつスパースな更新を適用する。
時間的ドリフト下でのマルウェア検出では、CLベースラインよりも20.2%から38.6%の保持スコアが大幅に向上し、新しいデータに対するオラクルの上限を超える。
論文 参考訳(メタデータ) (2025-11-14T16:07:03Z) - Continual Learning in Vision-Language Models via Aligned Model Merging [84.47520899851557]
塑性を保ちながら安定性を維持するために,モデルマージに基づく新しい視点を提案する。
マージプロセスの有効性を最大化するために,従来のものと一致した重みの学習を促進するシンプルなメカニズムを提案する。
論文 参考訳(メタデータ) (2025-05-30T20:52:21Z) - Pareto Continual Learning: Preference-Conditioned Learning and Adaption for Dynamic Stability-Plasticity Trade-off [25.33978152436581]
連続学習における安定性と塑性のトレードオフを再構築する新しい枠組みを提案する。
ParetoCLは、安定性と可塑性の異なる目的の組み合わせから学習する客観的拡張アプローチと見なすことができる。
論文 参考訳(メタデータ) (2025-03-30T10:38:36Z) - Lifelong Learning with Task-Specific Adaptation: Addressing the Stability-Plasticity Dilemma [13.567823451714405]
生涯学習は、学習した知識を維持しながら、新しい知識を継続的に獲得することを目的としている。
安定性-塑性ジレンマは、過去の知識(安定性)の保存と新しいタスク(塑性)を学習する能力のバランスをとるモデルを必要とする。
本稿では、単純で普遍的で効果的な戦略を通じてジレンマに対処するアダプタベースのフレームワークであるAdaLLを提案する。
論文 参考訳(メタデータ) (2025-03-08T13:33:38Z) - Temporal-Difference Variational Continual Learning [77.92320830700797]
複数の先行推定の正則化効果を統合する新たな学習目標を提案する。
提案手法は, 変分CL法より優れたカタストロフィックフォーミングを効果的に緩和する。
論文 参考訳(メタデータ) (2024-10-10T10:58:41Z) - ReconBoost: Boosting Can Achieve Modality Reconcilement [89.4377895465204]
我々は、調和を達成するために、モダリティ代替学習パラダイムについて研究する。
固定モードを毎回更新するReconBoostと呼ばれる新しい手法を提案する。
提案手法はFriedman's Gradient-Boosting (GB) アルゴリズムに似ており,更新された学習者が他者による誤りを訂正できることを示す。
論文 参考訳(メタデータ) (2024-05-15T13:22:39Z) - Recall-Oriented Continual Learning with Generative Adversarial
Meta-Model [5.710971447109951]
本稿では,安定性・塑性ジレンマに対処するリコール指向連続学習フレームワークを提案する。
人間の脳が安定性と可塑性のメカニズムを分離する能力に触発されて、私たちのフレームワークは2段階のアーキテクチャで構成されています。
我々は,新たな知識を効果的に学習するだけでなく,従来の知識の安定性も高いことを示す。
論文 参考訳(メタデータ) (2024-03-05T16:08:59Z) - Lifelong Person Re-Identification via Knowledge Refreshing and
Consolidation [35.43406281230279]
Lifelong person re-identification (LReID)の鍵となる課題は、古い知識を段階的に保存し、徐々に新しい能力をシステムに追加する方法である。
体性感覚性新皮質と海馬が協調して記憶統合を行う人間の認知の生物学的過程に着想を得て,我々は知識リフレッシュ・アンド・コンソリデーション(KRC)と呼ばれるモデルを構築した。
より具体的には、双方向の知識伝達を可能にするための知識リフレッシュ方式に知識リハーサル機構が組み込まれている。
論文 参考訳(メタデータ) (2022-11-29T13:39:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。