論文の概要: Primal Dual Continual Learning: Balancing Stability and Plasticity through Adaptive Memory Allocation

• arxiv url: http://arxiv.org/abs/2310.00154v2
• Date: Fri, 31 May 2024 16:11:27 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-03 20:41:23.173053
• Title: Primal Dual Continual Learning: Balancing Stability and Plasticity through Adaptive Memory Allocation
• Title（参考訳）: プライマルデュアル連続学習:適応的メモリ割り当てによる安定性と塑性のバランス
• Authors: Juan Elenter, Navid NaderiAlizadeh, Tara Javidi, Alejandro Ribeiro,
• Abstract要約: 制約付き最適化問題を直接実行することは可能かつ有益であることを示す。 メモリベースのメソッドでは、以前のタスクからのサンプルの小さなサブセットをリプレイバッファに格納できる。 両変数は,制約摂動に対する連続学習問題の最適値の感度を示す。
• 参考スコア（独自算出の注目度）: 86.8475564814154
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Continual learning is inherently a constrained learning problem. The goal is to learn a predictor under a no-forgetting requirement. Although several prior studies formulate it as such, they do not solve the constrained problem explicitly. In this work, we show that it is both possible and beneficial to undertake the constrained optimization problem directly. To do this, we leverage recent results in constrained learning through Lagrangian duality. We focus on memory-based methods, where a small subset of samples from previous tasks can be stored in a replay buffer. In this setting, we analyze two versions of the continual learning problem: a coarse approach with constraints at the task level and a fine approach with constraints at the sample level. We show that dual variables indicate the sensitivity of the optimal value of the continual learning problem with respect to constraint perturbations. We then leverage this result to partition the buffer in the coarse approach, allocating more resources to harder tasks, and to populate the buffer in the fine approach, including only impactful samples. We derive a deviation bound on dual variables as sensitivity indicators, and empirically corroborate this result in diverse continual learning benchmarks. We also discuss the limitations of these methods with respect to the amount of memory available and the expressiveness of the parametrization.
• Abstract（参考訳）: 継続的学習は本質的に制約のある学習問題である。 目標は、予期しない要求の下で予測器を学習することである。 いくつかの先行研究はそのような形式を定式化しているが、制約された問題を明示的に解決するわけではない。 本研究では,制約付き最適化問題を直接的に実施することは可能かつ有益であることを示す。 これを実現するために、ラグランジアン双対性による制約付き学習の最近の結果を活用する。 メモリベースのメソッドでは、以前のタスクからのサンプルの小さなサブセットをリプレイバッファに格納できる。 本稿では,タスクレベルでの制約付き粗いアプローチと,サンプルレベルでの制約付ききめ細かなアプローチという,連続学習問題の2つのバージョンを分析する。 両変数は,制約摂動に対する連続学習問題の最適値の感度を示す。 次に、この結果を利用して、粗いアプローチでバッファを分割し、より多くのリソースをより難しいタスクに割り当て、影響のあるサンプルのみを含む詳細なアプローチでバッファをポップアップさせます。 感度指標として双対変数に束縛された偏差を導出し、この結果を様々な連続学習ベンチマークで実証的に相関させる。 また、利用可能なメモリ量とパラメトリゼーションの表現性に関して、これらの手法の限界についても論じる。

関連論文リスト

• Near-Optimal Solutions of Constrained Learning Problems [85.48853063302764]
  機械学習システムでは、振る舞いを縮小する必要性がますます顕在化している。 これは、双対ロバスト性変数を満たすモデルの開発に向けた最近の進歩によって証明されている。 この結果から, 豊富なパラメトリゼーションは非次元的, 有限な学習問題を効果的に緩和することが示された。
  論文  参考訳（メタデータ） (2024-03-18T14:55:45Z)
• Adaptive Robust Learning using Latent Bernoulli Variables [50.223140145910904]
  破損したトレーニングセットから学習するための適応的なアプローチを提案する。 我々は,潜伏したベルヌーイ変数を持つ崩壊した非破壊標本を同定した。 結果の問題は変分推論によって解決される。
  論文  参考訳（メタデータ） (2023-12-01T13:50:15Z)
• Resilient Constrained Learning [94.27081585149836]
  本稿では,学習課題を同時に解決しながら,要求に適応する制約付き学習手法を提案する。 我々はこの手法を、その操作を変更することで破壊に適応する生態システムを記述する用語に因んで、レジリエントな制約付き学習と呼ぶ。
  論文  参考訳（メタデータ） (2023-06-04T18:14:18Z)
• Dissecting Continual Learning a Structural and Data Analysis [0.0]
  連続学習(Continuous Learning)は、生涯学習が可能なアルゴリズムを考案するための分野である。 ディープラーニングの手法は、モデル化されたデータがその後の学習セッションでかなりの分散シフトを受けていない場合、印象的な結果が得られる。 このようなシステムをこのインクリメンタルな設定に公開すると、パフォーマンスは急速に低下します。
  論文  参考訳（メタデータ） (2023-01-03T10:37:11Z)
• Learning Bayesian Sparse Networks with Full Experience Replay for Continual Learning [54.7584721943286]
  継続学習(CL)手法は、機械学習モデルが、以前にマスターされたタスクを壊滅的に忘れることなく、新しいタスクを学習できるようにすることを目的としている。 既存のCLアプローチは、しばしば、事前に確認されたサンプルのバッファを保持し、知識蒸留を行い、あるいはこの目標に向けて正規化技術を使用する。 我々は,現在および過去のタスクを任意の段階で学習するために,スパースニューロンのみを活性化し,選択することを提案する。
  論文  参考訳（メタデータ） (2022-02-21T13:25:03Z)
• A Lagrangian Duality Approach to Active Learning [119.36233726867992]
  トレーニングデータのサブセットのみをラベル付けするバッチアクティブな学習問題を考察する。 制約付き最適化を用いて学習問題を定式化し、各制約はラベル付きサンプルにモデルの性能を拘束する。 数値実験により,提案手法は最先端の能動学習法と同等かそれ以上に機能することを示した。
  論文  参考訳（メタデータ） (2022-02-08T19:18:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。