論文の概要: Continual Learning on the Edge with TensorFlow Lite

• arxiv url: http://arxiv.org/abs/2105.01946v1
• Date: Wed, 5 May 2021 09:32:06 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-06 17:39:58.869947
• Title: Continual Learning on the Edge with TensorFlow Lite
• Title（参考訳）: TensorFlow Liteによるエッジの連続学習
• Authors: Giorgos Demosthenous and Vassilis Vassiliades
• Abstract要約: より現実的なシナリオに直面した場合、転校学習は破滅的な忘れに苦しむ。 また、Androidアプリケーションのコードをオープンソース化し、開発者が独自のスマートフォンアプリケーションに継続的学習を統合することを可能にします。
• 参考スコア（独自算出の注目度）: 0.76146285961466
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deploying sophisticated deep learning models on embedded devices with the purpose of solving real-world problems is a struggle using today's technology. Privacy and data limitations, network connection issues, and the need for fast model adaptation are some of the challenges that constitute today's approaches unfit for many applications on the edge and make real-time on-device training a necessity. Google is currently working on tackling these challenges by embedding an experimental transfer learning API to their TensorFlow Lite, machine learning library. In this paper, we show that although transfer learning is a good first step for on-device model training, it suffers from catastrophic forgetting when faced with more realistic scenarios. We present this issue by testing a simple transfer learning model on the CORe50 benchmark as well as by demonstrating its limitations directly on an Android application we developed. In addition, we expand the TensorFlow Lite library to include continual learning capabilities, by integrating a simple replay approach into the head of the current transfer learning model. We test our continual learning model on the CORe50 benchmark to show that it tackles catastrophic forgetting, and we demonstrate its ability to continually learn, even under non-ideal conditions, using the application we developed. Finally, we open-source the code of our Android application to enable developers to integrate continual learning to their own smartphone applications, as well as to facilitate further development of continual learning functionality into the TensorFlow Lite environment.
• Abstract（参考訳）: 現実世界の問題を解決する目的で、高度なディープラーニングモデルを組み込みデバイスにデプロイすることは、今日の技術を使った闘争である。 プライバシとデータ制限、ネットワーク接続の問題、高速モデル適応の必要性は、エッジ上の多くのアプリケーションに適さない今日のアプローチを構成する課題のひとつであり、デバイス上でのリアルタイムトレーニングが不可欠である。 Googleは現在、実験的なトランスファー学習APIをTensorFlow Lite、機械学習ライブラリに組み込むことで、これらの課題に取り組んでいる。 本稿では,トランスファー学習はデバイス上でのモデルトレーニングにとって良い第一歩であるが,より現実的なシナリオに直面すると壊滅的な忘れがちであることを示す。 我々は,CORe50ベンチマークで単純な転送学習モデルをテストするとともに,開発したAndroidアプリケーション上で,その制限を直接示すことによってこの問題を提起する。 さらに、TensorFlow Liteライブラリを拡張して、現在の転送学習モデルのヘッドにシンプルなリプレイアプローチを統合することで、継続的な学習機能を含むようにします。 我々はCORe50ベンチマークで連続学習モデルをテストし、壊滅的な忘れに対処できることを示し、開発したアプリケーションを用いて、非理想的条件下でも継続的に学習できることを実証した。 最後に、当社はAndroidアプリケーションのコードをオープンソース化し、開発者が自身のスマートフォンアプリケーションに継続的学習を統合できるようにし、TensorFlow Lite環境への継続的学習機能のさらなる開発を容易にする。

関連論文リスト

• PIVOT: Prompting for Video Continual Learning [50.80141083993668]
  PIVOTは、画像領域から事前学習したモデルにおける広範な知識を活用する新しい手法である。 実験の結果,PIVOTは20タスクのアクティビティネット設定において,最先端の手法を27%向上することがわかった。
  論文  参考訳（メタデータ） (2022-12-09T13:22:27Z)
• Incremental Online Learning Algorithms Comparison for Gesture and Visual Smart Sensors [68.8204255655161]
  本稿では,加速度センサデータに基づくジェスチャー認識と画像分類の2つの実例として,最先端の4つのアルゴリズムを比較した。 以上の結果から,これらのシステムの信頼性と小型メモリMCUへのデプロイの可能性が確認された。
  論文  参考訳（メタデータ） (2022-09-01T17:05:20Z)
• Continual-Learning-as-a-Service (CLaaS): On-Demand Efficient Adaptation of Predictive Models [17.83007940710455]
  機械学習ベースのアプリケーションを構築したい企業にとって、将来の2つのトレンドは、リアルタイムの推論と継続的な更新である。 本稿では,これらの課題に対処するため,新しいソフトウェアサービスと継続的学習・アズ・ア・サービス(CL)と呼ばれるモデル配信基盤を定義した。 オンプレミスソリューションなしで、効率的でステートフルで使いやすい方法で、データサイエンティストのためのモデル更新とバリデーションツールをサポートする。
  論文  参考訳（メタデータ） (2022-06-14T16:22:54Z)
• Learning Rate Curriculum [75.98230528486401]
  ラーニングレートカリキュラム(LeRaC)と呼ばれる新しいカリキュラム学習手法を提案する。 LeRaCは、ニューラルネットワークの各レイヤ毎に異なる学習率を使用して、最初のトレーニングエポックの間、データに依存しないカリキュラムを作成する。 Smoothing(CBS)によるCurriculum(Curriculum)との比較を行った。
  論文  参考訳（メタデータ） (2022-05-18T18:57:36Z)
• Online Continual Learning for Embedded Devices [41.31925039882364]
  ホームロボット、スマートフォンでのユーザーパーソナライズ、拡張現実/バーチャルリアリティーヘッドセットといった新しいアプリケーションには、デバイス上でのリアルタイム連続学習が必要である。 組み込みデバイスはメモリと計算能力に制限がある。 オンライン連続学習モデルは開発されているが, 組込みアプリケーションへの適用性は十分に研究されていない。
  論文  参考訳（メタデータ） (2022-03-21T00:23:09Z)
• SOLIS -- The MLOps journey from data acquisition to actionable insights [62.997667081978825]
  本稿では,基本的なクロスプラットフォームテンソルフレームワークとスクリプト言語エンジンを使用しながら,すべての要件をサポートする統合デプロイメントパイプラインとフリー・ツー・オペレートアプローチを提案する。 しかし、このアプローチは、実際のプロダクショングレードシステムに機械学習機能を実際にデプロイするために必要な手順やパイプラインを提供していない。
  論文  参考訳（メタデータ） (2021-12-22T14:45:37Z)
• Active Learning for Deep Neural Networks on Edge Devices [0.0]
  本稿では,エッジデバイス上でのニューラルネットワークの実用的な能動学習問題を定式化する。 本稿では,この問題に対処するための一般的なタスクに依存しないフレームワークを提案する。 我々は,実生活シナリオをシミュレートする実践的な環境で,分類タスクとオブジェクト検出タスクの両方に対するアプローチを評価した。
  論文  参考訳（メタデータ） (2021-06-21T03:55:33Z)
• Continual Learning at the Edge: Real-Time Training on Smartphone Devices [11.250227901473952]
  本稿では,デバイス上でリアルタイムなパーソナライズを実現するために,ネイティブなAndroidアプリケーション上でのハイブリッド学習戦略(AR1*)の実装と展開について述べる。 我々のベンチマークはCORe50データセットの拡張に基づいており、ソリューションの有効性と有効性を示している。
  論文  参考訳（メタデータ） (2021-05-24T12:00:31Z)
• Robustness of on-device Models: Adversarial Attack to Deep Learning Models on Android Apps [14.821745719407037]
  androidアプリ内のほとんどのディープラーニングモデルは、成熟したリバースエンジニアリングによって容易に得られる。 本研究では,敵対的攻撃を用いた深層学習モデルのハッキングに対して,単純かつ効果的なアプローチを提案する。
  論文  参考訳（メタデータ） (2021-01-12T10:49:30Z)
• Federated and continual learning for classification tasks in a society of devices [59.45414406974091]
  Light Federated and Continual Consensus (LFedCon2)は、軽量で伝統的な学習者を用いた新しいフェデレーションおよび継続アーキテクチャである。 我々の方法では、スマートフォンやロボットのような無力デバイスが、リアルタイムで、ローカルで、継続的に、自律的に、そしてユーザーから学習することができる。 提案手法をスマートフォン利用者の異種コミュニティに適用し,歩行認識の課題を解決した。
  論文  参考訳（メタデータ） (2020-06-12T12:37:03Z)
• Deep Learning for Ultra-Reliable and Low-Latency Communications in 6G Networks [84.2155885234293]
  まず,データ駆動型教師付き深層学習と深部強化学習をURLLCに適用する方法を概説する。 このようなオープンな問題に対処するために、デバイスインテリジェンス、エッジインテリジェンス、およびURLLCのためのクラウドインテリジェンスを可能にするマルチレベルアーキテクチャを開発した。
  論文  参考訳（メタデータ） (2020-02-22T14:38:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。