論文の概要: Online Continual Learning for Embedded Devices
- arxiv url: http://arxiv.org/abs/2203.10681v1
- Date: Mon, 21 Mar 2022 00:23:09 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-22 15:06:41.794568
- Title: Online Continual Learning for Embedded Devices
- Title(参考訳): 組み込みデバイスのためのオンライン連続学習
- Authors: Tyler L. Hayes, Christopher Kanan
- Abstract要約: ホームロボット、スマートフォンでのユーザーパーソナライズ、拡張現実/バーチャルリアリティーヘッドセットといった新しいアプリケーションには、デバイス上でのリアルタイム連続学習が必要である。
組み込みデバイスはメモリと計算能力に制限がある。
オンライン連続学習モデルは開発されているが, 組込みアプリケーションへの適用性は十分に研究されていない。
- 参考スコア(独自算出の注目度): 41.31925039882364
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Real-time on-device continual learning is needed for new applications such as
home robots, user personalization on smartphones, and augmented/virtual reality
headsets. However, this setting poses unique challenges: embedded devices have
limited memory and compute capacity and conventional machine learning models
suffer from catastrophic forgetting when updated on non-stationary data
streams. While several online continual learning models have been developed,
their effectiveness for embedded applications has not been rigorously studied.
In this paper, we first identify criteria that online continual learners must
meet to effectively perform real-time, on-device learning. We then study the
efficacy of several online continual learning methods when used with mobile
neural networks. We measure their performance, memory usage, compute
requirements, and ability to generalize to out-of-domain inputs.
- Abstract(参考訳): ホームロボット、スマートフォンでのパーソナライズ、拡張現実/バーチャルリアリティーヘッドセットなどの新しいアプリケーションには、リアルタイムのデバイスでの連続学習が必要である。
組み込みデバイスはメモリと計算能力に制限があり、従来の機械学習モデルは、非定常データストリームで更新された場合の壊滅的な忘れに苦しむ。
いくつかのオンライン連続学習モデルが開発されているが、組み込みアプリケーションの有効性は十分に研究されていない。
本稿では,オンライン連続学習者がリアルタイム・オンデバイス学習を効果的に行うためには,オンライン連続学習者が会わなければならない基準を特定する。
次に,移動ニューラルネットワークを用いたオンライン連続学習の有効性について検討する。
我々は、それらの性能、メモリ使用量、計算要求、およびドメイン外の入力に一般化する能力を測定する。
関連論文リスト
- Robot Fine-Tuning Made Easy: Pre-Training Rewards and Policies for
Autonomous Real-World Reinforcement Learning [58.3994826169858]
ロボット強化学習のためのリセット不要な微調整システムであるRoboFuMEを紹介する。
我々の洞察は、オフラインの強化学習技術を利用して、事前訓練されたポリシーの効率的なオンライン微調整を確保することである。
提案手法では,既存のロボットデータセットからのデータを組み込んで,目標タスクを3時間以内の自律現実体験で改善することができる。
論文 参考訳(メタデータ) (2023-10-23T17:50:08Z) - Towards Robust Continual Learning with Bayesian Adaptive Moment Regularization [51.34904967046097]
継続的な学習は、モデルが以前に学習した情報を忘れてしまう破滅的な忘れ込みの課題を克服しようとする。
本稿では,パラメータ成長の制約を緩和し,破滅的な忘れを減らし,新しい事前手法を提案する。
以上の結果から, BAdamは, 単頭クラスインクリメンタル実験に挑戦する先行手法に対して, 最先端の性能を達成できることが示唆された。
論文 参考訳(メタデータ) (2023-09-15T17:10:51Z) - PILOT: A Pre-Trained Model-Based Continual Learning Toolbox [71.63186089279218]
本稿では,PILOTとして知られるモデルベース連続学習ツールボックスについて紹介する。
一方、PILOTはL2P、DualPrompt、CODA-Promptといった事前学習モデルに基づいて、最先端のクラスインクリメンタル学習アルゴリズムを実装している。
一方、PILOTは、事前学習されたモデルの文脈に典型的なクラス増分学習アルゴリズムを適合させ、それらの効果を評価する。
論文 参考訳(メタデータ) (2023-09-13T17:55:11Z) - Incremental Online Learning Algorithms Comparison for Gesture and Visual
Smart Sensors [68.8204255655161]
本稿では,加速度センサデータに基づくジェスチャー認識と画像分類の2つの実例として,最先端の4つのアルゴリズムを比較した。
以上の結果から,これらのシステムの信頼性と小型メモリMCUへのデプロイの可能性が確認された。
論文 参考訳(メタデータ) (2022-09-01T17:05:20Z) - Lifelong Adaptive Machine Learning for Sensor-based Human Activity
Recognition Using Prototypical Networks [0.0]
連続学習は、生涯学習としても知られ、機械学習分野への関心が高まりつつある研究トピックである。
我々は,連続機械学習の分野における最近の進歩を基盤に,プロトタイプネットワーク(LPPNet-HAR)を用いた生涯適応型学習フレームワークを設計する。
LAPNet-HARは、タスクフリーなデータインクリメンタルな方法でセンサベースのデータストリームを処理する。
論文 参考訳(メタデータ) (2022-03-11T00:57:29Z) - Exploring System Performance of Continual Learning for Mobile and
Embedded Sensing Applications [19.334890205028568]
本研究は,3つの主要な連続学習手法の性能を定量化する総合的な実証的研究である。
エッジデバイス上でのエンドツーエンドの継続的学習フレームワークを実装した。
メモリ予算が限られているデバイス上で連続的な学習が実現可能であることを初めて実証する。
論文 参考訳(メタデータ) (2021-10-25T22:06:26Z) - Online Continual Learning with Natural Distribution Shifts: An Empirical
Study with Visual Data [101.6195176510611]
オンライン」連続学習は、情報保持とオンライン学習の有効性の両方を評価することができる。
オンライン連続学習では、入力される各小さなデータをまずテストに使用し、次にトレーニングセットに追加し、真にオンラインにします。
本稿では,大規模かつ自然な分布変化を示すオンライン連続視覚学習のための新しいベンチマークを提案する。
論文 参考訳(メタデータ) (2021-08-20T06:17:20Z) - Continual Learning for Real-World Autonomous Systems: Algorithms,
Challenges and Frameworks [15.276951055528237]
我々は、時間とともに計算モデルの継続的な学習を可能にする最先端の手法についてレビューする。
我々は、かなり大きな(あるいは無限の)シーケンシャルデータからオンライン形式で継続的学習を行う学習アルゴリズムに焦点を当てる。
我々は、自律現実システムにおける継続的学習に関連する重要な課題を批判的に分析する。
論文 参考訳(メタデータ) (2021-05-26T07:38:20Z) - Continual Learning at the Edge: Real-Time Training on Smartphone Devices [11.250227901473952]
本稿では,デバイス上でリアルタイムなパーソナライズを実現するために,ネイティブなAndroidアプリケーション上でのハイブリッド学習戦略(AR1*)の実装と展開について述べる。
我々のベンチマークはCORe50データセットの拡張に基づいており、ソリューションの有効性と有効性を示している。
論文 参考訳(メタデータ) (2021-05-24T12:00:31Z) - Continual Learning on the Edge with TensorFlow Lite [0.76146285961466]
より現実的なシナリオに直面した場合、転校学習は破滅的な忘れに苦しむ。
また、Androidアプリケーションのコードをオープンソース化し、開発者が独自のスマートフォンアプリケーションに継続的学習を統合することを可能にします。
論文 参考訳(メタデータ) (2021-05-05T09:32:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。