論文の概要: CLAN: Continuous Learning using Asynchronous Neuroevolution on Commodity Edge Devices

• arxiv url: http://arxiv.org/abs/2008.11881v1
• Date: Thu, 27 Aug 2020 01:49:21 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-24 07:09:26.658625
• Title: CLAN: Continuous Learning using Asynchronous Neuroevolution on Commodity Edge Devices
• Title（参考訳）: CLAN:コモディティエッジデバイス上での非同期神経進化を用いた継続的学習
• Authors: Parth Mannan, Ananda Samajdar and Tushar Krishna
• Abstract要約: 我々は、NeuroEvolutionary(NE)学習と推論を実行するWiFiを介して通信するRaspberry Piのプロトタイプシステムを構築した。 本研究では,このような協調システムの性能を評価し,システムの異なる配置の計算/通信特性について詳述する。
• 参考スコア（独自算出の注目度）: 3.812706195714961
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent advancements in machine learning algorithms, especially the development of Deep Neural Networks (DNNs) have transformed the landscape of Artificial Intelligence (AI). With every passing day, deep learning based methods are applied to solve new problems with exceptional results. The portal to the real world is the edge. The true impact of AI can only be fully realized if we can have AI agents continuously interacting with the real world and solving everyday problems. Unfortunately, high compute and memory requirements of DNNs acts a huge barrier towards this vision. Today we circumvent this problem by deploying special purpose inference hardware on the edge while procuring trained models from the cloud. This approach, however, relies on constant interaction with the cloud for transmitting all the data, training on massive GPU clusters, and downloading updated models. This is challenging for bandwidth, privacy, and constant connectivity concerns that autonomous agents may exhibit. In this paper we evaluate techniques for enabling adaptive intelligence on edge devices with zero interaction with any high-end cloud/server. We build a prototype distributed system of Raspberry Pis communicating via WiFi running NeuroEvolutionary (NE) learning and inference. We evaluate the performance of such a collaborative system and detail the compute/communication characteristics of different arrangements of the system that trade-off parallelism versus communication. Using insights from our analysis, we also propose algorithmic modifications to reduce communication by up to 3.6x during the learning phase to enhance scalability even further and match performance of higher end computing devices at scale. We believe that these insights will enable algorithm-hardware co-design efforts for enabling continuous learning on the edge.
• Abstract（参考訳）: 機械学習アルゴリズムの最近の進歩、特にディープニューラルネットワーク(DNN)の開発は、人工知能(AI)の風景を変えている。 毎日、例外的な結果で新しい問題を解決するためにディープラーニングベースの手法が適用されます。 現実世界へのポータルはエッジです。 AIエージェントが現実世界と継続的に対話し、日々の問題を解決することができれば、AIの真の影響は十分に実現できます。 残念ながら、DNNの高計算およびメモリ要求は、このビジョンにとって大きな障壁となる。 今日では、クラウドからトレーニングされたモデルを取得しながら、エッジに特別な目的推論ハードウェアを配置することでこの問題を回避する。 しかしこのアプローチは、すべてのデータを送信し、巨大なGPUクラスタでトレーニングし、最新のモデルをダウンロードするためのクラウドとの絶え間ないインタラクションに依存している。 これは、自律エージェントが提示する帯域幅、プライバシー、接続性に関する懸念に対して難しい。 本稿では,エッジデバイス上で,ハイエンドクラウド/サーバとのインタラクションがゼロな適応インテリジェンスを実現する手法を評価する。 我々は、NeuroEvolutionary(NE)学習と推論を実行するWiFiを介して通信するRaspberry Piのプロトタイプシステムを構築した。 このような協調システムの性能を評価し,並列性と通信をトレードオフするシステムの異なる配置の計算・通信特性を詳述する。 また,分析から得られた知見を用いて,学習期間中に最大3.6倍の通信を削減し,スケーラビリティをさらに向上し,大規模に高性能なコンピュータ機器の性能に適合させるアルゴリズムの改良を提案する。 これらの洞察によって、エッジ上での継続的学習を可能にするアルゴリズム・ハードウェアの共同設計が可能になると考えています。

関連論文リスト

• Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
  タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。 既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。 ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-29T19:02:54Z)
• LPAC: Learnable Perception-Action-Communication Loops with Applications to Coverage Control [80.86089324742024]
  本稿では,その問題に対する学習可能なパーセプション・アクション・コミュニケーション(LPAC)アーキテクチャを提案する。 CNNは局所認識を処理する。グラフニューラルネットワーク(GNN)はロボットのコミュニケーションを促進する。 評価の結果,LPACモデルは標準分散型および集中型カバレッジ制御アルゴリズムよりも優れていた。
  論文  参考訳（メタデータ） (2024-01-10T00:08:00Z)
• Evolution of Convolutional Neural Network (CNN): Compute vs Memory bandwidth for Edge AI [0.0]
  この記事では、Edge AIのコンテキストにおけるCNN計算要求とメモリ帯域幅の関係について検討する。 モデル複雑性が計算要求とメモリアクセスパターンの両方に与える影響について検討する。 この分析は、エッジデバイス上でのCNNパフォーマンス向上において、効率的なアーキテクチャと潜在的なハードウェアアクセラレータの設計に関する洞察を提供する。
  論文  参考訳（メタデータ） (2023-09-24T09:11:22Z)
• EdgeConvEns: Convolutional Ensemble Learning for Edge Intelligence [0.0]
  Deep Edge Intelligenceは、計算能力に制限のあるエッジネットワークに、計算に高価なトレーニングを必要とするディープラーニングモデルをデプロイすることを目的としている。 本研究では、エッジ上の不均一な弱モデルを訓練し、エッジ上のデータが不均一に分散されている場所でアンサンブルを学習する、EdgeConvEnsという畳み込み型アンサンブル学習手法を提案する。
  論文  参考訳（メタデータ） (2023-07-25T20:07:32Z)
• Implementing Reinforcement Learning Datacenter Congestion Control in NVIDIA NICs [64.26714148634228]
  渋滞制御 (CC) アルゴリズムの設計は非常に困難になる。 現在、計算能力に制限があるため、ネットワークデバイスにAIモデルをデプロイすることはできない。 我々は,近年の強化学習CCアルゴリズムに基づく計算軽度解を構築した。
  論文  参考訳（メタデータ） (2022-07-05T20:42:24Z)
• Collaborative Learning over Wireless Networks: An Introductory Overview [84.09366153693361]
  主に、ワイヤレスデバイス間の協調トレーニングに焦点を合わせます。 過去数十年間、多くの分散最適化アルゴリズムが開発されてきた。 データ局所性 – すなわち、各参加デバイスで利用可能なデータがローカルのままである間、共同モデルを協調的にトレーニングすることができる。
  論文  参考訳（メタデータ） (2021-12-07T20:15:39Z)
• Edge-Cloud Polarization and Collaboration: A Comprehensive Survey [61.05059817550049]
  クラウドとエッジ両方のAIの体系的なレビューを行います。 私たちはクラウドとエッジモデリングの協調学習メカニズムを最初にセットアップしました。 我々は現在進行中の最先端AIトピックの可能性と実践経験について議論する。
  論文  参考訳（メタデータ） (2021-11-11T05:58:23Z)
• Pervasive AI for IoT Applications: Resource-efficient Distributed Artificial Intelligence [45.076180487387575]
  人工知能(AI)は、さまざまなモノのインターネット(IoT)アプリケーションやサービスにおいて大きなブレークスルーを目の当たりにした。 これは、感覚データへの容易なアクセスと、リアルタイムデータストリームのゼッタバイト(ZB)を生成する広帯域/ユビキタスデバイスの巨大なスケールによって駆動される。 広範コンピューティングと人工知能の合流により、Pervasive AIはユビキタスIoTシステムの役割を拡大した。
  論文  参考訳（メタデータ） (2021-05-04T23:42:06Z)
• Deep Learning for Ultra-Reliable and Low-Latency Communications in 6G Networks [84.2155885234293]
  まず,データ駆動型教師付き深層学習と深部強化学習をURLLCに適用する方法を概説する。 このようなオープンな問題に対処するために、デバイスインテリジェンス、エッジインテリジェンス、およびURLLCのためのクラウドインテリジェンスを可能にするマルチレベルアーキテクチャを開発した。
  論文  参考訳（メタデータ） (2020-02-22T14:38:11Z)
• Communication-Efficient Edge AI: Algorithms and Systems [39.28788394839187]
  エッジデバイス(IoTデバイスなど)の大規模展開は、前例のない規模のデータを生成する。 このような巨大なデータはすべて、処理のためにエンドデバイスからクラウドに送信することはできない。 AIモデルの推論とトレーニングプロセスをエッジノードにプッシュすることで、エッジAIは有望な代替手段として浮上した。
  論文  参考訳（メタデータ） (2020-02-22T09:27:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。