論文の概要: Consensus Based Multi-Layer Perceptrons for Edge Computing

• arxiv url: http://arxiv.org/abs/2102.05021v1
• Date: Tue, 9 Feb 2021 18:39:46 GMT
• ステータス: 処理完了
• システム内更新日: 2021-02-10 14:47:15.131844
• Title: Consensus Based Multi-Layer Perceptrons for Edge Computing
• Title（参考訳）: エッジコンピューティングのためのコンセンサスに基づく多層パーセプトロン
• Authors: Haimonti Dutta, Nitin Nataraj, Saurabh Amarnath Mahindre
• Abstract要約: リッチな分散データから学ぶためには、新しいアルゴリズムが必要である。 資源制約デバイスに対するコンセンサスに基づく多層パーセプトロンを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In recent years, storing large volumes of data on distributed devices has become commonplace. Applications involving sensors, for example, capture data in different modalities including image, video, audio, GPS and others. Novel algorithms are required to learn from this rich distributed data. In this paper, we present consensus based multi-layer perceptrons for resource-constrained devices. Assuming nodes (devices) in the distributed system are arranged in a graph and contain vertically partitioned data, the goal is to learn a global function that minimizes the loss. Each node learns a feed-forward multi-layer perceptron and obtains a loss on data stored locally. It then gossips with a neighbor, chosen uniformly at random, and exchanges information about the loss. The updated loss is used to run a back propagation algorithm and adjust weights appropriately. This method enables nodes to learn the global function without exchange of data in the network. Empirical results reveal that the consensus algorithm converges to the centralized model and has performance comparable to centralized multi-layer perceptrons and tree-based algorithms including random forests and gradient boosted decision trees.
• Abstract（参考訳）: 近年,分散デバイスに大量のデータを格納することが一般的になっている。 例えば、センサーを含むアプリケーションは、画像、ビデオ、オーディオ、GPSなどのさまざまなモダリティでデータをキャプチャします。 この豊富な分散データから学ぶには、新しいアルゴリズムが必要です。 本稿では,資源制約デバイスに対するコンセンサスに基づく多層パーセプトロンを提案する。 分散システムのノード(デバイス)がグラフに配置され、垂直分割されたデータを含むと仮定すると、目標は損失を最小限に抑えるグローバル関数を学ぶことである。 各ノードはフィードフォワード多層パーセプトロンを学習し、ローカルに保存されたデータに対する損失を得る。 その後、ランダムに選択された隣人とゴシップし、損失に関する情報を交換する。 更新された損失はバックプロパゲーションアルゴリズムを実行し、重みを適切に調整するために使用される。 ノードはネットワーク内のデータの交換なしにグローバル関数を学習することができる。 実験の結果、コンセンサスアルゴリズムは集中型モデルに収束し、集中型多層パーセプトロンやランダムフォレストや勾配強化決定木を含む木ベースのアルゴリズムに匹敵する性能を持つことがわかった。

関連論文リスト

• Differential Encoding for Improved Representation Learning over Graphs [15.791455338513815]
  メッセージパッシングパラダイムとグローバルアテンションメカニズムは、基本的にノードの埋め込みを生成する。 支配的な情報がノード自身からなのか、あるいはノードの隣人からなのかは不明だ。 本稿では,失った情報の問題に対処する差分符号化手法を提案する。
  論文  参考訳（メタデータ） (2024-07-03T02:23:33Z)
• FedGT: Federated Node Classification with Scalable Graph Transformer [27.50698154862779]
  本稿では,スケーラブルな textbfFederated textbfGraph textbfTransformer (textbfFedGT) を提案する。 FedGTは、最適なトランスポートで整列したグローバルノードに基づいて、クライアントの類似性を計算する。
  論文  参考訳（メタデータ） (2024-01-26T21:02:36Z)
• Learning to Approximate Adaptive Kernel Convolution on Graphs [4.434835769977399]
  本稿では,拡散カーネルのスケールによって特徴集約の範囲を制御できる拡散学習フレームワークを提案する。 本モデルは,最先端データセットの性能評価のためのノードワイズ分類のための様々な標準で検証されている。 グラフ分類のための実世界の脳ネットワークデータにも検証され、アルツハイマー分類の実用性を実証している。
  論文  参考訳（メタデータ） (2024-01-22T10:57:11Z)
• GNN-LoFI: a Novel Graph Neural Network through Localized Feature-based Histogram Intersection [51.608147732998994]
  グラフニューラルネットワークは、グラフベースの機械学習の選択フレームワークになりつつある。 本稿では,古典的メッセージパッシングに代えて,ノード特徴の局所分布を解析するグラフニューラルネットワークアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2024-01-17T13:04:23Z)
• Deep Manifold Graph Auto-Encoder for Attributed Graph Embedding [51.75091298017941]
  本稿では,属性付きグラフデータに対する新しいDeep Manifold (Variational) Graph Auto-Encoder (DMVGAE/DMGAE)を提案する。 提案手法は,最先端のベースラインアルゴリズムを,一般的なデータセット間でのダウンストリームタスクの差を大きく越える。
  論文  参考訳（メタデータ） (2024-01-12T17:57:07Z)
• NodeFormer: A Scalable Graph Structure Learning Transformer for Node Classification [70.51126383984555]
  本稿では,任意のノード間のノード信号を効率的に伝搬する全ペアメッセージパッシング方式を提案する。 効率的な計算は、カーナライズされたGumbel-Softmax演算子によって実現される。 グラフ上のノード分類を含む様々なタスクにおいて,本手法の有望な有効性を示す実験を行った。
  論文  参考訳（メタデータ） (2023-06-14T09:21:15Z)
• Distributed Learning over Networks with Graph-Attention-Based Personalization [49.90052709285814]
  分散ディープラーニングのためのグラフベースパーソナライズアルゴリズム(GATTA)を提案する。 特に、各エージェントのパーソナライズされたモデルは、グローバルな部分とノード固有の部分で構成される。 グラフ内の各エージェントを1つのノードとして扱うことにより、ノード固有のパラメータを特徴として扱うことにより、グラフアテンション機構の利点を継承することができる。
  論文  参考訳（メタデータ） (2023-05-22T13:48:30Z)
• Geometric Graph Representation Learning via Maximizing Rate Reduction [73.6044873825311]
  学習ノード表現は、コミュニティ検出やノード分類などのグラフ解析において、さまざまな下流タスクの恩恵を受ける。 教師なしの方法でノード表現を学習するための幾何学グラフ表現学習(G2R)を提案する。 G2R は異なるグループ内のノードを異なる部分空間にマッピングし、各部分空間はコンパクトで異なる部分空間が分散される。
  論文  参考訳（メタデータ） (2022-02-13T07:46:24Z)
• Coded Stochastic ADMM for Decentralized Consensus Optimization with Edge Computing [113.52575069030192]
  セキュリティ要件の高いアプリケーションを含むビッグデータは、モバイルデバイスやドローン、車両など、複数の異種デバイスに収集され、格納されることが多い。 通信コストとセキュリティ要件の制限のため、核融合センターにデータを集約するのではなく、分散的に情報を抽出することが最重要となる。 分散エッジノードを介してデータを局所的に処理するマルチエージェントシステムにおいて,モデルパラメータを学習する問題を考える。 分散学習モデルを開発するために,乗算器アルゴリズムの最小バッチ交互方向法(ADMM)のクラスについて検討した。
  論文  参考訳（メタデータ） (2020-10-02T10:41:59Z)
• Integrating Network Embedding and Community Outlier Detection via Multiclass Graph Description [15.679313861083239]
  そこで本稿では,ノード埋め込みとアウトレーヤとコミュニティ検出を統合した非教師なしグラフ埋め込み手法(DMGD)を提案する。 DMGDにより検出された外れ値の数に関する理論的境界を示す。 我々の定式化は、外れ値、コミュニティ割り当て、ノード埋め込み関数の間の興味深いミニマックスゲームに起因する。
  論文  参考訳（メタデータ） (2020-07-20T16:21:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。