論文の概要: Benchmarking Continual Learning from Cognitive Perspectives

• arxiv url: http://arxiv.org/abs/2312.03309v1
• Date: Wed, 6 Dec 2023 06:27:27 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-07 15:52:48.174390
• Title: Benchmarking Continual Learning from Cognitive Perspectives
• Title（参考訳）: 認知的視点による連続学習のベンチマーク
• Authors: Xiaoqian Liu, Junge Zhang, Mingyi Zhang, Peipei Yang
• Abstract要約: 継続的な学習は、古い概念を破滅的に忘れることなく、継続的に知識を取得し、伝達する問題に対処する。 連続学習モデルの認知特性と評価方法にはミスマッチがある。 本稿では,モデル認知能力と評価指標を統一評価パラダイムに統合することを提案する。
• 参考スコア（独自算出の注目度）: 14.867136605254975
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Continual learning addresses the problem of continuously acquiring and transferring knowledge without catastrophic forgetting of old concepts. While humans achieve continual learning via diverse neurocognitive mechanisms, there is a mismatch between cognitive properties and evaluation methods of continual learning models. First, the measurement of continual learning models mostly relies on evaluation metrics at a micro-level, which cannot characterize cognitive capacities of the model. Second, the measurement is method-specific, emphasizing model strengths in one aspect while obscuring potential weaknesses in other respects. To address these issues, we propose to integrate model cognitive capacities and evaluation metrics into a unified evaluation paradigm. We first characterize model capacities via desiderata derived from cognitive properties supporting human continual learning. The desiderata concern (1) adaptability in varying lengths of task sequence; (2) sensitivity to dynamic task variations; and (3) efficiency in memory usage and training time consumption. Then we design evaluation protocols for each desideratum to assess cognitive capacities of recent continual learning models. Experimental results show that no method we consider has satisfied all the desiderata and is still far away from realizing truly continual learning. Although some methods exhibit some degree of adaptability and efficiency, no method is able to identify task relationships when encountering dynamic task variations, or achieve a trade-off in learning similarities and differences between tasks. Inspired by these results, we discuss possible factors that influence model performance in these desiderata and provide guidance for the improvement of continual learning models.
• Abstract（参考訳）: 継続的学習は、古い概念を破滅的に忘れずに知識を継続的に獲得し、伝達する問題に対処する。 人間は様々な神経認知機構を通じて連続学習を実現するが、認知特性と連続学習モデルの評価方法にはミスマッチがある。 まず、連続学習モデルの計測は、主にマイクロレベルの評価指標に依存し、モデルの認知能力を特徴づけることができない。 第二に、測定方法はメソッド固有であり、ある面においてモデル強度を強調し、他の面では潜在的な弱点を隠蔽する。 そこで本研究では,モデル認知能力と評価指標を統一評価パラダイムに統合することを提案する。 まず,人間の連続学習を支援する認知特性からデシダラタを導出したモデル容量を特徴付ける。 デシデレータは(1)タスクシーケンスの長さの異なる適応性、(2)動的タスク変動に対する感度、(3)メモリ使用率とトレーニング時間消費の効率性に関するものである。 次に,近年の連続学習モデルの認知能力を評価するために,各デシデラタムの評価プロトコルを設計する。 実験の結果,すべてのデシデラタを満足させる方法が得られず,真に継続的な学習を実現するには程遠いことがわかった。 ある程度の適応性と効率性を示す手法もあるが、動的タスクの変動に遭遇する際のタスク関係を識別したり、タスク間の類似性や相違点の学習においてトレードオフを達成できる手法はない。 これらの結果から,これらのデシダータにおけるモデル性能に影響を与える可能性のある要因について考察し,継続学習モデルの改善のためのガイダンスを提供する。

関連論文リスト

• Mimicking Human Intuition: Cognitive Belief-Driven Q-Learning [5.960184723807347]
  本稿では,主観的信念モデリングをQラーニングフレームワークに統合した認知的信念駆動型Qラーニング(CBDQ)を提案する。 CBDQは、人間のような学習能力と推論能力を持つエージェントを提供することで、意思決定の精度を高める。 各種複雑環境における離散制御ベンチマークタスクについて,提案手法の評価を行った。
  論文  参考訳（メタデータ） (2024-10-02T16:50:29Z)
• Evaluating and Improving Continual Learning in Spoken Language Understanding [58.723320551761525]
  本研究では,連続学習における安定性,可塑性,一般化性に関する統一的な評価手法を提案する。 提案手法を用いることで,SLUモデルのこれらの3つの特性の異なる側面を,様々な知識蒸留の導入によってどのように改善するかを実証する。
  論文  参考訳（メタデータ） (2024-02-16T03:30:27Z)
• Balancing Continual Learning and Fine-tuning for Human Activity Recognition [21.361301806478643]
  ウェアラブルベースのヒューマンアクティビティ認識(HAR)は、人間中心の機械学習において重要なタスクである。 本研究は,継続的自己教師型学習モデルであるCaSSLeの採用と適応について検討する。 また、異なる損失項の重要性についても検討し、知識保持と新たな課題からの学習のトレードオフについて検討した。
  論文  参考訳（メタデータ） (2024-01-04T13:11:43Z)
• A Domain-Agnostic Approach for Characterization of Lifelong Learning Systems [128.63953314853327]
  「生涯学習」システムには,1)継続的学習,2)伝達と適応,3)拡張性があります。 この一連のメトリクスは、様々な複雑な生涯学習システムの開発に役立てることができることを示す。
  論文  参考訳（メタデータ） (2023-01-18T21:58:54Z)
• Anti-Retroactive Interference for Lifelong Learning [65.50683752919089]
  我々は脳のメタラーニングと連想機構に基づく生涯学習のパラダイムを設計する。 知識の抽出と知識の記憶という2つの側面から問題に取り組む。 提案した学習パラダイムが,異なるタスクのモデルを同じ最適に収束させることができることを理論的に分析した。
  論文  参考訳（メタデータ） (2022-08-27T09:27:36Z)
• Causal Imitation Learning with Unobserved Confounders [82.22545916247269]
  本研究では,学習者と専門家の感覚入力が異なる場合の模倣学習について検討する。 我々は、専門家の軌跡の量的知識を活用することで、模倣が依然として実現可能であることを示した。
  論文  参考訳（メタデータ） (2022-08-12T13:29:53Z)
• Dynamic Diagnosis of the Progress and Shortcomings of Student Learning using Machine Learning based on Cognitive, Social, and Emotional Features [0.06999740786886534]
  学生の多様性は、学生が時間とともに学び、進歩していく方法に多様性を追加するため、困難である。 単一の教育アプローチは効果がなく、結果として学生は彼らの潜在能力を満たさない。 本稿では,データ分析と機械学習に基づく新しい手法について論じる。
  論文  参考訳（メタデータ） (2022-04-13T21:14:58Z)
• Behavior Priors for Efficient Reinforcement Learning [97.81587970962232]
  本稿では,情報とアーキテクチャの制約を,確率論的モデリング文献のアイデアと組み合わせて行動の事前学習を行う方法について考察する。 このような潜伏変数の定式化が階層的強化学習(HRL)と相互情報と好奇心に基づく目的との関係について論じる。 シミュレーションされた連続制御領域に適用することで,フレームワークの有効性を実証する。
  論文  参考訳（メタデータ） (2020-10-27T13:17:18Z)
• Understanding the Role of Training Regimes in Continual Learning [51.32945003239048]
  破滅的な忘れは、ニューラルネットワークのトレーニングに影響を与え、複数のタスクを逐次学習する能力を制限する。 本研究では,タスクの局所的なミニマを拡大するトレーニング体制の形成に及ぼすドロップアウト,学習速度の低下,バッチサイズの影響について検討した。
  論文  参考訳（メタデータ） (2020-06-12T06:00:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。