論文の概要: Re-Evaluating Continual Learning with Few-Shot Adaptation

• arxiv url: http://arxiv.org/abs/2606.03843v1
• Date: Tue, 02 Jun 2026 16:23:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-03 22:00:05.154017
• Title: Re-Evaluating Continual Learning with Few-Shot Adaptation
• Title（参考訳）: Few-Shot Adaptationによる継続的学習の再評価
• Authors: Amogh Inamdar, Matthew So, Vici Milenia, Richard Zemel,
• Abstract要約: 連続的な学習方法は、一連のタスクに基づいて訓練された機械学習モデルの安定性と可塑性を最大化することを目的としている。 安定性の標準的な尺度(すなわち、忘れること)は、以前に学習されたタスクにおけるモデルの0ショットのパフォーマンスであり、最も最近学習されたタスクにおける塑性である。 連続学習システムの安定性と可塑性をより包括的に評価する手段として,数ショット評価を提案する。
• 参考スコア（独自算出の注目度）: 2.6167179129983142
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Continual learning methods aim to maximize the stability and plasticity of machine learning models that are trained on a sequence of tasks. The standard measure of stability (i.e., forgetting) is the 0-shot performance of a model on previously learned tasks, and plasticity, the performance on the most recently learned task. However, 0-shot evaluation does not fully measure a model or method's ability to retain learned information or adapt quickly to new information, as it requires perfect recall across multiple tasks. In this paper, we propose few-shot evaluation as a more comprehensive assessment of the stability and plasticity of a continual learning system. We conduct a fine-grained assessment on task sequences for continual image classification and find that this paradigm produces novel insights into the performance of popular continual learning strategies. Through few-shot evaluation with a novel metric -- per-shot plasticity -- we show that adding `foresight' to continual learning methods via the meta-learning of a short sequence of future tasks induces learning-to-learn behavior over the task sequence.
• Abstract（参考訳）: 連続的な学習方法は、一連のタスクに基づいて訓練された機械学習モデルの安定性と可塑性を最大化することを目的としている。 安定性の標準的な尺度(すなわち、忘れること)は、以前に学習されたタスクにおけるモデルの0ショットのパフォーマンスであり、最も最近学習されたタスクにおける塑性である。 しかし、0ショット評価では、複数のタスクをまたいだ完全なリコールを必要とするため、学習した情報を保持したり、新しい情報に迅速に適応するモデルやメソッドの能力を十分に測定できない。 本稿では,連続学習システムの安定性と可塑性をより包括的に評価する手法として,数ショット評価を提案する。 連続的な画像分類のためのタスクシーケンスのきめ細かい評価を行い、このパラダイムが一般的な連続的な学習戦略の性能に関する新たな洞察を生み出すことを発見した。 将来的なタスクの短いシーケンスのメタラーニングを通じて、連続的な学習方法に‘フォレスト’を追加することで、タスクシーケンス上で学習から学習までの振る舞いを誘導することを示す。

関連論文リスト

• Continual Learning in Vision-Language Models via Aligned Model Merging [84.47520899851557]
  塑性を保ちながら安定性を維持するために,モデルマージに基づく新しい視点を提案する。 マージプロセスの有効性を最大化するために,従来のものと一致した重みの学習を促進するシンプルなメカニズムを提案する。
  論文  参考訳（メタデータ） (2025-05-30T20:52:21Z)
• Neural Networks Remember More: The Power of Parameter Isolation and Combination [3.2430260063115233]
  破滅的な忘れは、事前訓練された言語モデルにとって広範囲にわたる問題である。 この問題を解決するための鍵は、モデルの可塑性と安定性の間のトレードオフを見つけることである。 モデル安定性と塑性のバランスをとるための新しい手法を提案する。
  論文  参考訳（メタデータ） (2025-02-16T02:58:57Z)
• Spurious Forgetting in Continual Learning of Language Models [20.0936011355535]
  大規模言語モデル(LLM)の最近の進歩は、継続学習において複雑な現象を呈している。 大規模な訓練にもかかわらず、モデルは大幅な性能低下を経験する。 本研究では,このような性能低下が,真の知識喪失よりもタスクアライメントの低下を反映していることが示唆された。
  論文  参考訳（メタデータ） (2025-01-23T08:09:54Z)
• A Retention-Centric Framework for Continual Learning with Guaranteed Model Developmental Safety [75.8161094916476]
  現実世界のアプリケーションでは、学習可能なシステムは、しばしば課題や新しいタスクに対処するために反復的なモデル開発を行う。 既存の能力の新規または改善は、必然的に旧モデルの優れた能力を失う可能性がある。 本稿では,データ依存制約を伴う保持中心のフレームワークを提案し,既存の画像分類能力の獲得や改善を目的とした事前学習型CLIPモデルを継続的に開発する方法について検討する。
  論文  参考訳（メタデータ） (2024-10-04T22:34:58Z)
• Evaluating and Improving Continual Learning in Spoken Language Understanding [58.723320551761525]
  本研究では,連続学習における安定性,可塑性,一般化性に関する統一的な評価手法を提案する。 提案手法を用いることで,SLUモデルのこれらの3つの特性の異なる側面を,様々な知識蒸留の導入によってどのように改善するかを実証する。
  論文  参考訳（メタデータ） (2024-02-16T03:30:27Z)
• Look-Ahead Selective Plasticity for Continual Learning of Visual Tasks [9.82510084910641]
  タスク境界において,タスクが終了し,他のタスク開始時に発生する新しいメカニズムを提案する。 CIFAR10やTinyImagenetなどのコンピュータビジョンデータセットのベンチマークで提案手法を評価する。
  論文  参考訳（メタデータ） (2023-11-02T22:00:23Z)
• Towards Robust Continual Learning with Bayesian Adaptive Moment Regularization [51.34904967046097]
  継続的な学習は、モデルが以前に学習した情報を忘れてしまう破滅的な忘れ込みの課題を克服しようとする。 本稿では,パラメータ成長の制約を緩和し,破滅的な忘れを減らし,新しい事前手法を提案する。 以上の結果から, BAdamは, 単頭クラスインクリメンタル実験に挑戦する先行手法に対して, 最先端の性能を達成できることが示唆された。
  論文  参考訳（メタデータ） (2023-09-15T17:10:51Z)
• Overcoming Generic Knowledge Loss with Selective Parameter Update [48.240683797965005]
  基礎モデルを継続的に更新する新しい手法を提案する。 すべてのパラメータを均等に更新する代わりに、学習しているタスクに関連するパラメータのスパースセットにアップデートをローカライズします。 提案手法は,学習済みのタスクの精度を最大7%向上すると同時に,学習前知識を0.9%減少させることなく,代表制御セットの精度を低下させる。
  論文  参考訳（メタデータ） (2023-08-23T22:55:45Z)
• Continual Learning with Neuron Activation Importance [1.7513645771137178]
  連続学習は、複数のシーケンシャルなタスクを伴うオンライン学習の概念である。 連続学習の重要な障壁の1つは、ネットワークが古いタスクのデータにアクセスせずに古いタスクの知識を保持する新しいタスクを学習すべきである。 本稿では,タスクの順序によらず,安定な連続学習のためのニューロン活性化重要度に基づく正規化手法を提案する。
  論文  参考訳（メタデータ） (2021-07-27T08:09:32Z)
• Goal-Aware Prediction: Learning to Model What Matters [105.43098326577434]
  学習した前進力学モデルを使用する際の根本的な課題の1つは、学習したモデルの目的と下流のプランナーやポリシーの目標とのミスマッチである。 本稿では,タスク関連情報への直接的予測を提案し,そのモデルが現在のタスクを認識し,状態空間の関連量のみをモデル化することを奨励する。 提案手法は,目標条件付きシーンの関連部分を効果的にモデル化し,その結果,標準タスク非依存のダイナミックスモデルやモデルレス強化学習より優れていることがわかった。
  論文  参考訳（メタデータ） (2020-07-14T16:42:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。