論文の概要: Layerwise Geo-Distributed Computing between Cloud and IoT
- arxiv url: http://arxiv.org/abs/2201.07215v1
- Date: Fri, 14 Jan 2022 23:41:04 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-23 18:52:10.667130
- Title: Layerwise Geo-Distributed Computing between Cloud and IoT
- Title(参考訳): クラウドとIoT間の階層的な地理分散コンピューティング
- Authors: Satoshi Kamo, Yiqiang Sheng
- Abstract要約: そこで我々は,k度階層ネットワークという,深層学習システムのための新しいアーキテクチャを提案する。
この提案は、通信コストとスケーラビリティによる学習時間の観点から、最先端モデルよりも優れている。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, we propose a novel architecture for a deep learning system,
named k-degree layer-wise network, to realize efficient geo-distributed
computing between Cloud and Internet of Things (IoT). The geo-distributed
computing extends Cloud to the geographical verge of the network in the
neighbor of IoT. The basic ideas of the proposal include a k-degree constraint
and a layer-wise constraint. The k-degree constraint is defined such that the
degree of each vertex on the h-th layer is exactly k(h) to extend the existing
deep belief networks and control the communication cost. The layer-wise
constraint is defined such that the layer-wise degrees are monotonically
decreasing in positive direction to gradually reduce the dimension of data. We
prove the k-degree layer-wise network is sparse, while a typical deep neural
network is dense. In an evaluation on the M-distributed MNIST database, the
proposal is superior to a state-of-the-art model in terms of communication cost
and learning time with scalability.
- Abstract(参考訳): 本稿では,クラウドとIoT(Internet of Things)間の効率的な地理分散コンピューティングを実現するために,k-degree layer-wise networkと呼ばれるディープラーニングシステムのための新しいアーキテクチャを提案する。
地理的分散コンピューティングは、クラウドをIoTの隣のネットワークの地理的領域にまで拡張する。
提案の基本的な考え方は、k度制約と層次制約である。
k次制約は、h層上の各頂点の次数が、既存の深層信念ネットワークを拡張し通信コストを制御するためにちょうどk(h)となるように定義される。
層毎の制約は、層毎の次数が正の方向に単調に減少し、データの次元が徐々に減少するように定義される。
従来のディープニューラルネットワークは密度が高いが、k度層毎ネットワークは疎いことを証明している。
m-distributed mnistデータベースの評価では、通信コストとスケーラビリティの学習時間の観点から、最先端モデルよりも優れている。
関連論文リスト
- Brain-Inspired Decentralized Satellite Learning in Space Computing Power Networks [42.67808523367945]
Space Computing Power Networks (Space-CPN) は、衛星の計算能力を調整し、オンボードのデータ処理を可能にする、有望なアーキテクチャとして登場した。
本稿では,ニューロモルフィックコンピューティングアーキテクチャがサポートするスパイクニューラルネットワーク(SNN)をオンボードデータ処理に適用することを提案する。
我々は分散型ニューロモルフィック学習フレームワークを提案し、通信効率の良い平面間モデルアグリゲーション法を開発した。
論文 参考訳(メタデータ) (2025-01-27T12:29:47Z) - SGLP: A Similarity Guided Fast Layer Partition Pruning for Compressing Large Deep Models [19.479746878680707]
レイヤプルーニングは、ネットワークサイズを削減し、計算効率を向上させるための強力なアプローチである。
大規模深層モデル圧縮のための類似性誘導高速層分割プルーニングを提案する。
本手法は精度と計算効率の両面で最先端の手法より優れている。
論文 参考訳(メタデータ) (2024-10-14T04:01:08Z) - Defining Neural Network Architecture through Polytope Structures of Dataset [53.512432492636236]
本稿では, ニューラルネットワーク幅の上下境界を定義し, 問題となるデータセットのポリトープ構造から情報を得る。
本研究では,データセットのポリトープ構造を学習したニューラルネットワークから推定できる逆条件を探索するアルゴリズムを開発した。
MNIST、Fashion-MNIST、CIFAR10といった一般的なデータセットは、顔の少ない2つ以上のポリトップを用いて効率的にカプセル化できることが確立されている。
論文 参考訳(メタデータ) (2024-02-04T08:57:42Z) - DANI: Fast Diffusion Aware Network Inference with Preserving Topological
Structure Property [2.8948274245812327]
そこで我々は,DANIと呼ばれる新しい手法を提案し,その構造特性を保ちながら基礎となるネットワークを推定する。
DANIは、モジュール構造、次数分布、連結成分、密度、クラスタリング係数を含む構造特性を維持しながら、より高い精度と低い実行時間を有する。
論文 参考訳(メタデータ) (2023-10-02T23:23:00Z) - Exploring Geometric Deep Learning For Precipitation Nowcasting [28.44612565923532]
そこで我々は,降水量予測のための幾何学的深層学習に基づく時間的グラフ畳み込みネットワーク(GCN)を提案する。
格子セル間の相互作用をシミュレートする隣接行列は、予測と接地真理画素値とのL1損失を最小化することにより、自動的に学習される。
トレント/アイタリー地域におけるレーダ反射率マップの配列について実験を行った。
論文 参考訳(メタデータ) (2023-09-11T21:14:55Z) - Adaptive Hierarchical SpatioTemporal Network for Traffic Forecasting [70.66710698485745]
本稿では,AHSTN(Adaptive Hierarchical SpatioTemporal Network)を提案する。
AHSTNは空間階層を利用し、マルチスケール空間相関をモデル化する。
2つの実世界のデータセットの実験により、AHSTNはいくつかの強いベースラインよりも優れたパフォーマンスを達成することが示された。
論文 参考訳(メタデータ) (2023-06-15T14:50:27Z) - Semi-supervised Network Embedding with Differentiable Deep Quantisation [81.49184987430333]
我々はネットワーク埋め込みのための微分可能な量子化法であるd-SNEQを開発した。
d-SNEQは、学習された量子化符号にリッチな高次情報を与えるためにランク損失を組み込む。
トレーニング済みの埋め込みのサイズを大幅に圧縮できるため、ストレージのフットプリントが減少し、検索速度が向上する。
論文 参考訳(メタデータ) (2021-08-20T11:53:05Z) - Dual-constrained Deep Semi-Supervised Coupled Factorization Network with
Enriched Prior [80.5637175255349]
本稿では、DS2CF-Netと呼ばれる、拡張された事前制約付きDual-Constrained Deep Semi-Supervised Coupled Factorization Networkを提案する。
隠れた深い特徴を抽出するために、DS2CF-Netは、深い構造と幾何学的な構造に制約のあるニューラルネットワークとしてモデル化される。
我々のネットワークは、表現学習とクラスタリングのための最先端の性能を得ることができる。
論文 参考訳(メタデータ) (2020-09-08T13:10:21Z) - Learning Connectivity of Neural Networks from a Topological Perspective [80.35103711638548]
本稿では,ネットワークを解析のための完全なグラフに表現するためのトポロジ的視点を提案する。
接続の規模を反映したエッジに学習可能なパラメータを割り当てることにより、学習プロセスを異なる方法で行うことができる。
この学習プロセスは既存のネットワークと互換性があり、より大きな検索空間と異なるタスクへの適応性を持っている。
論文 参考訳(メタデータ) (2020-08-19T04:53:31Z) - Local Propagation in Constraint-based Neural Network [77.37829055999238]
ニューラルネットワークアーキテクチャの制約に基づく表現について検討する。
本稿では,いわゆるアーキテクチャ制約を満たすのに適した簡単な最適化手法について検討する。
論文 参考訳(メタデータ) (2020-02-18T16:47:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。