論文の概要: Online Continual Learning for Embedded Devices
- arxiv url: http://arxiv.org/abs/2203.10681v1
- Date: Mon, 21 Mar 2022 00:23:09 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-22 15:06:41.794568
- Title: Online Continual Learning for Embedded Devices
- Title(参考訳): 組み込みデバイスのためのオンライン連続学習
- Authors: Tyler L. Hayes, Christopher Kanan
- Abstract要約: ホームロボット、スマートフォンでのユーザーパーソナライズ、拡張現実/バーチャルリアリティーヘッドセットといった新しいアプリケーションには、デバイス上でのリアルタイム連続学習が必要である。
組み込みデバイスはメモリと計算能力に制限がある。
オンライン連続学習モデルは開発されているが, 組込みアプリケーションへの適用性は十分に研究されていない。
- 参考スコア(独自算出の注目度): 41.31925039882364
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Real-time on-device continual learning is needed for new applications such as
home robots, user personalization on smartphones, and augmented/virtual reality
headsets. However, this setting poses unique challenges: embedded devices have
limited memory and compute capacity and conventional machine learning models
suffer from catastrophic forgetting when updated on non-stationary data
streams. While several online continual learning models have been developed,
their effectiveness for embedded applications has not been rigorously studied.
In this paper, we first identify criteria that online continual learners must
meet to effectively perform real-time, on-device learning. We then study the
efficacy of several online continual learning methods when used with mobile
neural networks. We measure their performance, memory usage, compute
requirements, and ability to generalize to out-of-domain inputs.
- Abstract(参考訳): ホームロボット、スマートフォンでのパーソナライズ、拡張現実/バーチャルリアリティーヘッドセットなどの新しいアプリケーションには、リアルタイムのデバイスでの連続学習が必要である。
組み込みデバイスはメモリと計算能力に制限があり、従来の機械学習モデルは、非定常データストリームで更新された場合の壊滅的な忘れに苦しむ。
いくつかのオンライン連続学習モデルが開発されているが、組み込みアプリケーションの有効性は十分に研究されていない。
本稿では,オンライン連続学習者がリアルタイム・オンデバイス学習を効果的に行うためには,オンライン連続学習者が会わなければならない基準を特定する。
次に,移動ニューラルネットワークを用いたオンライン連続学習の有効性について検討する。
我々は、それらの性能、メモリ使用量、計算要求、およびドメイン外の入力に一般化する能力を測定する。
関連論文リスト
- Edge Unlearning is Not "on Edge"! An Adaptive Exact Unlearning System on Resource-Constrained Devices [26.939025828011196]
忘れられる権利は、機械学習モデルがデータ所有者のデータと訓練されたモデルからの情報の消去を可能にすることを義務付ける。
本稿では,ネットワークエッジ(CAUSE)における制約対応適応エクササイズ学習システムを提案する。
論文 参考訳(メタデータ) (2024-10-14T03:28:09Z) - Learn while Unlearn: An Iterative Unlearning Framework for Generative Language Models [49.043599241803825]
Iterative Contrastive Unlearning (ICU)フレームワークは3つのコアコンポーネントで構成されている。
知識未学習誘導モジュールは、未学習の損失を通じて特定の知識を除去する。
Contrastive Learning Enhancementモジュールは、純粋な未学習の目標に対してモデルの表現力を維持する。
また、特定のデータ片の未学習範囲を動的に評価し、反復的な更新を行う反復未学習リファインメントモジュールも用意されている。
論文 参考訳(メタデータ) (2024-07-25T07:09:35Z) - Robot Fine-Tuning Made Easy: Pre-Training Rewards and Policies for
Autonomous Real-World Reinforcement Learning [58.3994826169858]
ロボット強化学習のためのリセット不要な微調整システムであるRoboFuMEを紹介する。
我々の洞察は、オフラインの強化学習技術を利用して、事前訓練されたポリシーの効率的なオンライン微調整を確保することである。
提案手法では,既存のロボットデータセットからのデータを組み込んで,目標タスクを3時間以内の自律現実体験で改善することができる。
論文 参考訳(メタデータ) (2023-10-23T17:50:08Z) - PILOT: A Pre-Trained Model-Based Continual Learning Toolbox [71.63186089279218]
本稿では,PILOTとして知られるモデルベース連続学習ツールボックスについて紹介する。
一方、PILOTはL2P、DualPrompt、CODA-Promptといった事前学習モデルに基づいて、最先端のクラスインクリメンタル学習アルゴリズムを実装している。
一方、PILOTは、事前学習されたモデルの文脈に典型的なクラス増分学習アルゴリズムを適合させ、それらの効果を評価する。
論文 参考訳(メタデータ) (2023-09-13T17:55:11Z) - Incremental Online Learning Algorithms Comparison for Gesture and Visual
Smart Sensors [68.8204255655161]
本稿では,加速度センサデータに基づくジェスチャー認識と画像分類の2つの実例として,最先端の4つのアルゴリズムを比較した。
以上の結果から,これらのシステムの信頼性と小型メモリMCUへのデプロイの可能性が確認された。
論文 参考訳(メタデータ) (2022-09-01T17:05:20Z) - Lifelong Adaptive Machine Learning for Sensor-based Human Activity
Recognition Using Prototypical Networks [0.0]
連続学習は、生涯学習としても知られ、機械学習分野への関心が高まりつつある研究トピックである。
我々は,連続機械学習の分野における最近の進歩を基盤に,プロトタイプネットワーク(LPPNet-HAR)を用いた生涯適応型学習フレームワークを設計する。
LAPNet-HARは、タスクフリーなデータインクリメンタルな方法でセンサベースのデータストリームを処理する。
論文 参考訳(メタデータ) (2022-03-11T00:57:29Z) - Exploring System Performance of Continual Learning for Mobile and
Embedded Sensing Applications [19.334890205028568]
本研究は,3つの主要な連続学習手法の性能を定量化する総合的な実証的研究である。
エッジデバイス上でのエンドツーエンドの継続的学習フレームワークを実装した。
メモリ予算が限られているデバイス上で連続的な学習が実現可能であることを初めて実証する。
論文 参考訳(メタデータ) (2021-10-25T22:06:26Z) - Online Continual Learning with Natural Distribution Shifts: An Empirical
Study with Visual Data [101.6195176510611]
オンライン」連続学習は、情報保持とオンライン学習の有効性の両方を評価することができる。
オンライン連続学習では、入力される各小さなデータをまずテストに使用し、次にトレーニングセットに追加し、真にオンラインにします。
本稿では,大規模かつ自然な分布変化を示すオンライン連続視覚学習のための新しいベンチマークを提案する。
論文 参考訳(メタデータ) (2021-08-20T06:17:20Z) - Continual Learning for Real-World Autonomous Systems: Algorithms,
Challenges and Frameworks [15.276951055528237]
我々は、時間とともに計算モデルの継続的な学習を可能にする最先端の手法についてレビューする。
我々は、かなり大きな(あるいは無限の)シーケンシャルデータからオンライン形式で継続的学習を行う学習アルゴリズムに焦点を当てる。
我々は、自律現実システムにおける継続的学習に関連する重要な課題を批判的に分析する。
論文 参考訳(メタデータ) (2021-05-26T07:38:20Z) - Continual Learning at the Edge: Real-Time Training on Smartphone Devices [11.250227901473952]
本稿では,デバイス上でリアルタイムなパーソナライズを実現するために,ネイティブなAndroidアプリケーション上でのハイブリッド学習戦略(AR1*)の実装と展開について述べる。
我々のベンチマークはCORe50データセットの拡張に基づいており、ソリューションの有効性と有効性を示している。
論文 参考訳(メタデータ) (2021-05-24T12:00:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。