論文の概要: Dynamic Distribution of Edge Intelligence at the Node Level for Internet
of Things
- arxiv url: http://arxiv.org/abs/2107.05828v1
- Date: Tue, 13 Jul 2021 03:26:36 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-14 14:43:23.961195
- Title: Dynamic Distribution of Edge Intelligence at the Node Level for Internet
of Things
- Title(参考訳): モノのインターネットにおけるノードレベルでのエッジインテリジェンスの動的分布
- Authors: Hawzhin Mohammed, Tolulope A. Odetola, Nan Guo, Syed Rafay Hasan
- Abstract要約: 畳み込みニューラルネットワーク(CNN)アーキテクチャの動的展開は、IoTレベルデバイスのみを用いて提案されている。
CNNの分割とパイプライン化により、リソース制約されたデバイス間で計算負荷を水平に分散する。
その結果、CNNを2つと3つのリソース制約されたデバイスに共有するためにスループットを1.55倍から1.75倍に向上できることが示された。
- 参考スコア(独自算出の注目度): 1.4026258162876617
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, dynamic deployment of Convolutional Neural Network (CNN)
architecture is proposed utilizing only IoT-level devices. By partitioning and
pipelining the CNN, it horizontally distributes the computation load among
resource-constrained devices (called horizontal collaboration), which in turn
increases the throughput. Through partitioning, we can decrease the computation
and energy consumption on individual IoT devices and increase the throughput
without sacrificing accuracy. Also, by processing the data at the generation
point, data privacy can be achieved. The results show that throughput can be
increased by 1.55x to 1.75x for sharing the CNN into two and three
resource-constrained devices, respectively.
- Abstract(参考訳): 本稿では,IoTレベルデバイスのみを利用した畳み込みニューラルネットワーク(CNN)アーキテクチャの動的展開を提案する。
CNNの分割とパイプライン化によって、リソース制約されたデバイス(水平協調と呼ばれる)間で計算負荷を水平に分散し、スループットを増大させる。
パーティショニングにより、個々のIoTデバイスの計算とエネルギー消費を削減し、精度を犠牲にすることなくスループットを向上させることができる。
また、生成点のデータを処理することにより、データのプライバシを実現できる。
その結果、CNNを2つと3つのリソース制約されたデバイスに共有するために、スループットを1.55倍から1.75倍に向上できることがわかった。
関連論文リスト
- FusionLLM: A Decentralized LLM Training System on Geo-distributed GPUs with Adaptive Compression [55.992528247880685]
分散トレーニングは、システム設計と効率に関する重要な課題に直面します。
大規模深層ニューラルネットワーク(DNN)のトレーニング用に設計・実装された分散トレーニングシステムFusionLLMを提案する。
本システムと手法は,収束性を確保しつつ,ベースライン法と比較して1.45~9.39倍の高速化を実現可能であることを示す。
論文 参考訳(メタデータ) (2024-10-16T16:13:19Z) - TrIM: Triangular Input Movement Systolic Array for Convolutional Neural Networks -- Part II: Architecture and Hardware Implementation [0.0]
TrIMは、入力の三角移動に基づく革新的なデータフローである。
TrIMは、最先端のシストリックアレイと比較して1桁のメモリアクセス数を削減できる。
アーキテクチャは、毎秒453.6ギガオペレーションのピークスループットを達成する。
論文 参考訳(メタデータ) (2024-08-05T10:18:00Z) - AirDnD -- Asynchronous In-Range Dynamic and Distributed Network Orchestration Framework [1.8590097948961688]
本研究の目的は、動的メッシュネットワークを形成することにより、分散エッジデバイスにおけるコンピューティングリソースの利用を改善することである。
提案手法は, 地理的に分散したエッジデバイスを生物に変換する3つのモデルから構成される。
論文 参考訳(メタデータ) (2024-07-15T07:43:56Z) - Evolution of Convolutional Neural Network (CNN): Compute vs Memory
bandwidth for Edge AI [0.0]
この記事では、Edge AIのコンテキストにおけるCNN計算要求とメモリ帯域幅の関係について検討する。
モデル複雑性が計算要求とメモリアクセスパターンの両方に与える影響について検討する。
この分析は、エッジデバイス上でのCNNパフォーマンス向上において、効率的なアーキテクチャと潜在的なハードウェアアクセラレータの設計に関する洞察を提供する。
論文 参考訳(メタデータ) (2023-09-24T09:11:22Z) - Attention-based Feature Compression for CNN Inference Offloading in Edge
Computing [93.67044879636093]
本稿では,デバイスエッジ共振器におけるCNN推論の計算負荷について検討する。
エンドデバイスにおける効率的な特徴抽出のための新しいオートエンコーダベースのCNNアーキテクチャ(AECNN)を提案する。
実験の結果、AECNNは中間データを約4%の精度で256倍圧縮できることがわかった。
論文 参考訳(メタデータ) (2022-11-24T18:10:01Z) - Fluid Batching: Exit-Aware Preemptive Serving of Early-Exit Neural
Networks on Edge NPUs [74.83613252825754]
スマートエコシステム(smart ecosystems)"は、スタンドアロンではなく、センセーションが同時に行われるように形成されています。
これはデバイス上の推論パラダイムを、エッジにニューラル処理ユニット(NPU)をデプロイする方向にシフトしている。
そこで本研究では,実行時のプリエンプションが到着・終了プロセスによってもたらされる動的性を考慮に入れた,新しい早期終了スケジューリングを提案する。
論文 参考訳(メタデータ) (2022-09-27T15:04:01Z) - Dynamic Split Computing for Efficient Deep Edge Intelligence [78.4233915447056]
通信チャネルの状態に基づいて最適な分割位置を動的に選択する動的分割計算を導入する。
本研究では,データレートとサーバ負荷が時間とともに変化するエッジコンピューティング環境において,動的スプリットコンピューティングが高速な推論を実現することを示す。
論文 参考訳(メタデータ) (2022-05-23T12:35:18Z) - An Adaptive Device-Edge Co-Inference Framework Based on Soft
Actor-Critic [72.35307086274912]
高次元パラメータモデルと大規模数学的計算は、特にIoT(Internet of Things)デバイスにおける実行効率を制限する。
本稿では,ソフトポリシーの繰り返しによるエフェキシット点,エフェキシット点,エンフェキシット点を生成する離散的(SAC-d)のための新しい深層強化学習(DRL)-ソフトアクタ批判法を提案する。
レイテンシと精度を意識した報酬設計に基づいて、そのような計算は動的無線チャンネルや任意の処理のような複雑な環境によく適応でき、5G URLをサポートすることができる。
論文 参考訳(メタデータ) (2022-01-09T09:31:50Z) - Computational Intelligence and Deep Learning for Next-Generation
Edge-Enabled Industrial IoT [51.68933585002123]
エッジ対応産業用IoTネットワークにおける計算知能とディープラーニング(DL)の展開方法について検討する。
本稿では,新しいマルチエグジットベースフェデレーションエッジ学習(ME-FEEL)フレームワークを提案する。
特に、提案されたME-FEELは、非常に限られたリソースを持つ産業用IoTネットワークにおいて、最大32.7%の精度を達成することができる。
論文 参考訳(メタデータ) (2021-10-28T08:14:57Z) - DynO: Dynamic Onloading of Deep Neural Networks from Cloud to Device [17.43467167013752]
両世界のベストを組み合わせ、いくつかの課題に取り組む分散推論フレームワークであるDynOを紹介します。
DynO が現在の最先端のパフォーマンスを上回り、デバイスのみの実行よりも桁違いにスループットが向上していることを示します。
論文 参考訳(メタデータ) (2021-04-20T13:20:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。