論文の概要: Balancing Continual Learning and Fine-tuning for Human Activity Recognition

• arxiv url: http://arxiv.org/abs/2401.02255v1
• Date: Thu, 4 Jan 2024 13:11:43 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-05 15:09:14.184162
• Title: Balancing Continual Learning and Fine-tuning for Human Activity Recognition
• Title（参考訳）: 人間活動認識のための連続学習と微調整のバランシング
• Authors: Chi Ian Tang, Lorena Qendro, Dimitris Spathis, Fahim Kawsar, Akhil Mathur, Cecilia Mascolo
• Abstract要約: ウェアラブルベースのヒューマンアクティビティ認識(HAR)は、人間中心の機械学習において重要なタスクである。 本研究は,継続的自己教師型学習モデルであるCaSSLeの採用と適応について検討する。 また、異なる損失項の重要性についても検討し、知識保持と新たな課題からの学習のトレードオフについて検討した。
• 参考スコア（独自算出の注目度）: 21.361301806478643
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Wearable-based Human Activity Recognition (HAR) is a key task in human-centric machine learning due to its fundamental understanding of human behaviours. Due to the dynamic nature of human behaviours, continual learning promises HAR systems that are tailored to users' needs. However, because of the difficulty in collecting labelled data with wearable sensors, existing approaches that focus on supervised continual learning have limited applicability, while unsupervised continual learning methods only handle representation learning while delaying classifier training to a later stage. This work explores the adoption and adaptation of CaSSLe, a continual self-supervised learning model, and Kaizen, a semi-supervised continual learning model that balances representation learning and down-stream classification, for the task of wearable-based HAR. These schemes re-purpose contrastive learning for knowledge retention and, Kaizen combines that with self-training in a unified scheme that can leverage unlabelled and labelled data for continual learning. In addition to comparing state-of-the-art self-supervised continual learning schemes, we further investigated the importance of different loss terms and explored the trade-off between knowledge retention and learning from new tasks. In particular, our extensive evaluation demonstrated that the use of a weighting factor that reflects the ratio between learned and new classes achieves the best overall trade-off in continual learning.
• Abstract（参考訳）: ウェアラブルベースのヒューマンアクティビティ認識(HAR)は、人間の行動の基本的な理解のため、人間中心の機械学習において重要なタスクである。 人間の行動の動的な性質のため、継続的な学習はユーザのニーズに合わせたHARシステムを約束する。 しかしながら、ラベル付きデータをウェアラブルセンサーで収集することが困難であるため、教師付き連続学習にフォーカスした既存のアプローチは適用性が低く、教師なし連続学習法は表現学習のみを処理し、分類訓練を後段に遅らせる。 本研究は,自己教師付き学習モデルcassleと,表現学習とダウンストリーム分類のバランスをとる半教師付き連続学習モデルkaizenの,ウェアラブルベースのharタスクの採用と適応について検討する。 これらのスキームは、知識保持のためのコントラスト学習を再利用し、カイゼンは、無ラベルおよびラベル付きデータを連続学習に活用できる統一スキームで自己学習を組み合わせる。 最先端の自己教師付き連続学習方式の比較に加えて、異なる損失項の重要性についても検討し、知識保持と新しいタスクからの学習のトレードオフについて検討した。 特に,学習と新しい授業の比率を反映した重み付け係数を用いることで,継続的な学習において最良のトレードオフが得られることを示した。

関連論文リスト

• Temporal-Difference Variational Continual Learning [89.32940051152782]
  現実世界のアプリケーションにおける機械学習モデルの重要な機能は、新しいタスクを継続的に学習する能力である。 継続的な学習設定では、モデルは以前の知識を保持することで新しいタスクの学習のバランスをとるのに苦労することが多い。 複数の先行推定の正則化効果を統合する新たな学習目標を提案する。
  論文  参考訳（メタデータ） (2024-10-10T10:58:41Z)
• Benchmarking Continual Learning from Cognitive Perspectives [14.867136605254975]
  継続的な学習は、古い概念を破滅的に忘れることなく、継続的に知識を取得し、伝達する問題に対処する。 連続学習モデルの認知特性と評価方法にはミスマッチがある。 本稿では,モデル認知能力と評価指標を統一評価パラダイムに統合することを提案する。
  論文  参考訳（メタデータ） (2023-12-06T06:27:27Z)
• Towards Robust Continual Learning with Bayesian Adaptive Moment Regularization [51.34904967046097]
  継続的な学習は、モデルが以前に学習した情報を忘れてしまう破滅的な忘れ込みの課題を克服しようとする。 本稿では,パラメータ成長の制約を緩和し,破滅的な忘れを減らし,新しい事前手法を提案する。 以上の結果から, BAdamは, 単頭クラスインクリメンタル実験に挑戦する先行手法に対して, 最先端の性能を達成できることが示唆された。
  論文  参考訳（メタデータ） (2023-09-15T17:10:51Z)
• A Domain-Agnostic Approach for Characterization of Lifelong Learning Systems [128.63953314853327]
  「生涯学習」システムには,1)継続的学習,2)伝達と適応,3)拡張性があります。 この一連のメトリクスは、様々な複雑な生涯学習システムの開発に役立てることができることを示す。
  論文  参考訳（メタデータ） (2023-01-18T21:58:54Z)
• Responsible Active Learning via Human-in-the-loop Peer Study [88.01358655203441]
  我々は,データプライバシを同時に保持し,モデルの安定性を向上させるために,Pear Study Learning (PSL) と呼ばれる責任あるアクティブラーニング手法を提案する。 まず,クラウドサイドのタスク学習者(教師)から未学習データを分離する。 トレーニング中、タスク学習者は軽量なアクティブ学習者に指示し、アクティブサンプリング基準に対するフィードバックを提供する。
  論文  参考訳（メタデータ） (2022-11-24T13:18:27Z)
• Assessing the State of Self-Supervised Human Activity Recognition using Wearables [6.777825307593778]
  ウェアラブル型ヒューマンアクティビティ認識(HAR)分野における自己指導型学習 自己組織化されたメソッドは、例えば、ドメイン適応やセンサー位置、アクティビティ間の転送など、新しいアプリケーションドメインのホストを可能にする。
  論文  参考訳（メタデータ） (2022-02-22T02:21:50Z)
• Continually Learning Self-Supervised Representations with Projected Functional Regularization [39.92600544186844]
  近年の自己教師あり学習手法は高品質な画像表現を学習でき、教師ありの手法でギャップを埋めている。 これらの手法は、新たな知識を段階的に取得することができない -- 実際、主にIDデータによる事前学習フェーズとしてのみ使用される。 従来の知識を忘れないように,機能正規化の利用を提案する。
  論文  参考訳（メタデータ） (2021-12-30T11:59:23Z)
• Continual Learning with Neuron Activation Importance [1.7513645771137178]
  連続学習は、複数のシーケンシャルなタスクを伴うオンライン学習の概念である。 連続学習の重要な障壁の1つは、ネットワークが古いタスクのデータにアクセスせずに古いタスクの知識を保持する新しいタスクを学習すべきである。 本稿では,タスクの順序によらず,安定な連続学習のためのニューロン活性化重要度に基づく正規化手法を提案する。
  論文  参考訳（メタデータ） (2021-07-27T08:09:32Z)
• Co$^2$L: Contrastive Continual Learning [69.46643497220586]
  近年の自己教師型学習のブレークスルーは、このようなアルゴリズムが視覚的な表現を学習し、見えないタスクにもっとうまく移行できることを示している。 本稿では、連続的な学習と伝達可能な表現の維持に焦点を当てたリハーサルに基づく連続学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-06-28T06:14:38Z)
• Understand and Improve Contrastive Learning Methods for Visual Representation: A Review [1.4650545418986058]
  手動ラベリングなしで効果的なデータ表現を学習できる可能性から、有望な自己教師型学習が人気を集めている。 本文献レビューは, 自己指導型学習の鍵となる構成要素と限界を理解するための研究者の取り組みについて, 最新の分析を行うことを目的としている。
  論文  参考訳（メタデータ） (2021-06-06T21:59:49Z)
• Bilevel Continual Learning [76.50127663309604]
  BCL(Bilevel Continual Learning)という,継続的学習の新たな枠組みを提案する。 連続学習ベンチマーク実験では,多くの最先端手法と比較して,提案したBCLの有効性が示された。
  論文  参考訳（メタデータ） (2020-07-30T16:00:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。