論文の概要: Network-Density-Controlled Decentralized Parallel Stochastic Gradient
Descent in Wireless Systems
- arxiv url: http://arxiv.org/abs/2002.10758v1
- Date: Tue, 25 Feb 2020 09:20:10 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-28 22:14:01.629692
- Title: Network-Density-Controlled Decentralized Parallel Stochastic Gradient
Descent in Wireless Systems
- Title（参考訳）: 無線システムにおけるネットワーク密度制御型分散並列確率勾配降下
- Authors: Koya Sato, Yasuyuki Satoh, Daisuke Sugimura
- Abstract要約: 分散並列勾配勾配(D-PSGD)は、分散学習のための最先端アルゴリズムの1つである。
ネットワークトポロジの密度がD-PSGDの実行性能に大きく影響する可能性がある。
本稿では,各ノードが最適な伝送速度を推定する通信戦略を提案する。
- 参考スコア（独自算出の注目度）: 6.574517227976925
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper proposes a communication strategy for decentralized learning on
wireless systems. Our discussion is based on the decentralized parallel
stochastic gradient descent (D-PSGD), which is one of the state-of-the-art
algorithms for decentralized learning. The main contribution of this paper is
to raise a novel open question for decentralized learning on wireless systems:
there is a possibility that the density of a network topology significantly
influences the runtime performance of D-PSGD. In general, it is difficult to
guarantee delay-free communications without any communication deterioration in
real wireless network systems because of path loss and multi-path fading. These
factors significantly degrade the runtime performance of D-PSGD. To alleviate
such problems, we first analyze the runtime performance of D-PSGD by
considering real wireless systems. This analysis yields the key insights that
dense network topology (1) does not significantly gain the training accuracy of
D-PSGD compared to sparse one, and (2) strongly degrades the runtime
performance because this setting generally requires to utilize a low-rate
transmission. Based on these findings, we propose a novel communication
strategy, in which each node estimates optimal transmission rates such that
communication time during the D-PSGD optimization is minimized under the
constraint of network density, which is characterized by radio propagation
property. The proposed strategy enables to improve the runtime performance of
D-PSGD in wireless systems. Numerical simulations reveal that the proposed
strategy is capable of enhancing the runtime performance of D-PSGD.
- Abstract（参考訳）: 本稿では,無線システムにおける分散学習のための通信戦略を提案する。
我々の議論は、分散学習のための最先端アルゴリズムの一つである分散並列確率勾配勾配(D-PSGD)に基づいている。
本研究の主な貢献は,ネットワークトポロジの密度がD-PSGDの実行性能に大きく影響する可能性が示唆されている。
一般に、経路損失やマルチパスの消失のため、実際の無線ネットワークシステムでは遅延のない通信を保証することは困難である。
これらの要因はD-PSGDのランタイム性能を著しく低下させる。
このような問題を緩和するために、実無線システムを考慮したD-PSGDのランタイム性能をまず分析する。
この分析により,(1)高密度ネットワークトポロジはスパースに比べてD-PSGDのトレーニング精度を著しく向上せず,(2)低レート伝送を利用する必要があるため,実行時の性能を著しく低下させることがわかった。
そこで本研究では,D-PSGD最適化時の通信時間を,無線伝搬特性を特徴とするネットワーク密度の制約の下で最小化するように,各ノードが最適な伝送速度を推定する通信戦略を提案する。
提案手法により,無線システムにおけるD-PSGDのランタイム性能を向上させることができる。
数値シミュレーションにより,提案手法がd-psgdの実行性能を向上できることが判明した。
関連論文リスト
- Digital Twin-Assisted Data-Driven Optimization for Reliable Edge Caching in Wireless Networks [60.54852710216738]
我々はD-RECと呼ばれる新しいデジタルツインアシスト最適化フレームワークを導入し、次世代無線ネットワークにおける信頼性の高いキャッシュを実現する。
信頼性モジュールを制約付き決定プロセスに組み込むことで、D-RECは、有利な制約に従うために、アクション、報酬、状態を適応的に調整することができる。
論文 参考訳（メタデータ） (2024-06-29T02:40:28Z) - Multiagent Reinforcement Learning with an Attention Mechanism for
Improving Energy Efficiency in LoRa Networks [52.96907334080273]
ネットワーク規模が大きくなるにつれて、パケット衝突によるLoRaネットワークのエネルギー効率は急激に低下する。
マルチエージェント強化学習(MALoRa)に基づく伝送パラメータ割り当てアルゴリズムを提案する。
シミュレーションの結果,MALoRaはベースラインアルゴリズムと比較してシステムEEを著しく改善することがわかった。
論文 参考訳（メタデータ） (2023-09-16T11:37:23Z) - Unsupervised Deep Unfolded PGD for Transmit Power Allocation in Wireless
Systems [0.6091702876917281]
本稿では,反復射影勾配(PGD)アルゴリズムをニューラルネットワークの層に深く展開し,ステップサイズパラメータを学習する,単純な低複素性TPCアルゴリズムを提案する。
高密度デバイス間通信(D2D)における性能評価の結果,提案手法は2回以上の繰り返し回数で反復アルゴリズムよりも優れた性能が得られることがわかった。
論文 参考訳（メタデータ） (2023-06-20T19:51:21Z) - Semantic-aware Transmission Scheduling: a Monotonicity-driven Deep
Reinforcement Learning Approach [39.681075180578986]
6G時代のサイバー物理システムでは、アプリケーションレベルの性能を保証するためにセマンティック通信が必要である。
本稿では,まず,最適なセマンティック・アウェア・スケジューリング・ポリシーの基本的特性について検討する。
そこで我々は,理論ガイドラインを活用することにより,高度な深層強化学習アルゴリズムを開発した。
論文 参考訳（メタデータ） (2023-05-23T05:45:22Z) - Multi-Flow Transmission in Wireless Interference Networks: A Convergent
Graph Learning Approach [9.852567834643292]
ネットワークデータ信号の2段階干渉対応マルチフロー最適化(DIAMOND)という新しいアルゴリズムを提案する。
集中型ステージは、グラフニューラルネットワーク(GNN)強化学習(RL)ルーティングエージェントの新しい設計を用いて、マルチフロー伝送戦略を計算する。
そして、分散学習更新の新しい設計に基づいて、分散ステージにより性能が向上する。
論文 参考訳（メタデータ） (2023-03-27T18:49:47Z) - Non-Coherent Over-the-Air Decentralized Gradient Descent [0.0]
無線システムにおける分散グラディエントDescentの実装は、ノイズ、フェーディング、帯域幅の制限により困難である。
本稿では,スケジューリング,トポロジ情報,CSIの必要性を解消するスケーラブルなDGDアルゴリズムを提案する。
画像分類に関する数値実験は、最先端のスキームと比較して時間的に高速である。
論文 参考訳（メタデータ） (2022-11-19T19:15:34Z) - Fair and Efficient Distributed Edge Learning with Hybrid Multipath TCP [62.81300791178381]
無線による分散エッジ学習のボトルネックは、コンピューティングから通信へと移行した。
DEL用の既存のTCPベースのデータネットワークスキームは、アプリケーションに依存しず、アプリケーション層要求に応じて調整を施さない。
DELのためのモデルベースと深部強化学習(DRL)に基づくMP TCPを組み合わせたハイブリッドマルチパスTCP(MP TCP)を開発した。
論文 参考訳（メタデータ） (2022-11-03T09:08:30Z) - Semantic-Aware Collaborative Deep Reinforcement Learning Over Wireless
Cellular Networks [82.02891936174221]
複数のエージェントが無線ネットワーク上で協調できるコラボレーティブディープ強化学習(CDRL)アルゴリズムは有望なアプローチである。
本稿では,リソース制約のある無線セルネットワーク上で,意味的にリンクされたDRLタスクを持つ未学習エージェントのグループを効率的に協調させる,新しい意味認識型CDRL手法を提案する。
論文 参考訳（メタデータ） (2021-11-23T18:24:47Z) - Deep Reinforcement Learning Based Multidimensional Resource Management
for Energy Harvesting Cognitive NOMA Communications [64.1076645382049]
エネルギー収穫(EH)、認知無線(CR)、非直交多重アクセス(NOMA)の組み合わせはエネルギー効率を向上させるための有望な解決策である。
本稿では,決定論的CR-NOMA IoTシステムにおけるスペクトル,エネルギー,時間資源管理について検討する。
論文 参考訳（メタデータ） (2021-09-17T08:55:48Z) - Federated Learning over Wireless Device-to-Device Networks: Algorithms
and Convergence Analysis [46.76179091774633]
本稿では,無線デバイス対デバイス(d2d)ネットワーク上でのフェデレーション学習(fl)について検討する。
まず、通信効率の良いDSGDアルゴリズムの汎用ディジタルおよびアナログ無線実装を紹介する。
第二に、凸性と接続性の仮定の下で、両実装に収束境界を提供する。
論文 参考訳（メタデータ） (2021-01-29T17:42:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。