論文の概要: Communication-Efficient and Distributed Learning Over Wireless Networks:
Principles and Applications
- arxiv url: http://arxiv.org/abs/2008.02608v1
- Date: Thu, 6 Aug 2020 12:37:14 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-02 07:01:11.146127
- Title: Communication-Efficient and Distributed Learning Over Wireless Networks:
Principles and Applications
- Title(参考訳): 無線ネットワーク上でのコミュニケーション効率と分散学習:原理と応用
- Authors: Jihong Park, Sumudu Samarakoon, Anis Elgabli, Joongheon Kim, Mehdi
Bennis, Seong-Lyun Kim, M\'erouane Debbah
- Abstract要約: 機械学習(ML)は、第5世代(5G)通信システムなどのための有望なイネーブルである。
本稿では、関連するコミュニケーションとMLの原則を概観し、選択したユースケースでコミュニケーション効率と分散学習フレームワークを提示することを目的とする。
- 参考スコア(独自算出の注目度): 55.65768284748698
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Machine learning (ML) is a promising enabler for the fifth generation (5G)
communication systems and beyond. By imbuing intelligence into the network
edge, edge nodes can proactively carry out decision-making, and thereby react
to local environmental changes and disturbances while experiencing zero
communication latency. To achieve this goal, it is essential to cater for high
ML inference accuracy at scale under time-varying channel and network dynamics,
by continuously exchanging fresh data and ML model updates in a distributed
way. Taming this new kind of data traffic boils down to improving the
communication efficiency of distributed learning by optimizing communication
payload types, transmission techniques, and scheduling, as well as ML
architectures, algorithms, and data processing methods. To this end, this
article aims to provide a holistic overview of relevant communication and ML
principles, and thereby present communication-efficient and distributed
learning frameworks with selected use cases.
- Abstract(参考訳): 機械学習(ML)は、第5世代(5G)通信システムなどのための有望なイネーブルである。
ネットワークエッジにインテリジェンスを付与することで、エッジノードは積極的に意思決定を行い、通信遅延をゼロにしながら、ローカルな環境変化や障害に反応することができる。
この目標を達成するためには、新しいデータとMLモデルの更新を分散的に継続的に交換することにより、時間変化チャネルとネットワークダイナミクスの下での大規模ML推論精度を高めることが不可欠である。
この新しいタイプのデータトラフィックを使用すると、コミュニケーションペイロードタイプ、送信テクニック、スケジューリングを最適化し、MLアーキテクチャ、アルゴリズム、データ処理方法を最適化することで、分散学習のコミュニケーション効率を向上させることができる。
この目的のために,本稿では,関連するコミュニケーションとMLの原則を総合的に概観し,選択したユースケースを用いたコミュニケーション効率・分散学習フレームワークを提案する。
関連論文リスト
- Exploring the Practicality of Federated Learning: A Survey Towards the Communication Perspective [1.088537320059347]
Federated Learning(FL)は、プライバシ保護、分散機械学習の大幅な進歩を提供する、有望なパラダイムである。
しかし、FLシステムの実践的な展開は、通信オーバーヘッドという大きなボトルネックに直面している。
本研究は,通信効率FLにおける様々な戦略と進歩について検討する。
論文 参考訳(メタデータ) (2024-05-30T19:21:33Z) - An Efficient Federated Learning Framework for Training Semantic
Communication System [29.593406320684448]
ほとんどの意味コミュニケーションシステムは高度なディープラーニングモデルに基づいて構築されている。
プライバシーとセキュリティ上の懸念から、データの送信は制限されている。
我々は、FedLolと呼ばれるクライアントからグローバルモデルを集約するメカニズムを導入します。
論文 参考訳(メタデータ) (2023-10-20T02:45:20Z) - Communication-oriented Model Fine-tuning for Packet-loss Resilient
Distributed Inference under Highly Lossy IoT Networks [6.107812768939554]
分散推論(DI)は、リソース制約のあるモノのインターネット(IoT)デバイス上で、最先端のディープラーニング(ML)によって強化されたリアルタイムアプリケーションのためのテクニックである。
DIでは、計算タスクは、損失の多いIoTネットワークを介して、IoTデバイスからエッジサーバにオフロードされる。
低遅延かつ信頼性の低い通信リンクで高精度なDIを実現するための通信指向モデルチューニング(COMtune)を提案する。
論文 参考訳(メタデータ) (2021-12-17T09:40:21Z) - Federated Learning over Wireless IoT Networks with Optimized
Communication and Resources [98.18365881575805]
協調学習技術のパラダイムとしてのフェデレートラーニング(FL)は研究の注目を集めている。
無線システム上での高速応答および高精度FLスキームの検証が重要である。
提案する通信効率のよいフェデレーション学習フレームワークは,強い線形速度で収束することを示す。
論文 参考訳(メタデータ) (2021-10-22T13:25:57Z) - Linear Regression over Networks with Communication Guarantees [1.4271989597349055]
接続された自律システムでは、しばしば限られたリソースを持つ通信ネットワーク上でデータ転送が行われる。
本稿では,線形回帰タスクのためのコミュニケーション効率の高い学習のためのアルゴリズムについて検討する。
論文 参考訳(メタデータ) (2021-03-06T15:28:21Z) - CosSGD: Nonlinear Quantization for Communication-efficient Federated
Learning [62.65937719264881]
フェデレーション学習は、これらのクライアントのローカルデータを中央サーバに転送することなく、クライアント間での学習を促進する。
圧縮勾配降下のための非線形量子化を提案し、フェデレーションラーニングで容易に利用することができる。
本システムは,訓練過程の収束と精度を維持しつつ,通信コストを最大3桁まで削減する。
論文 参考訳(メタデータ) (2020-12-15T12:20:28Z) - A Tutorial on Ultra-Reliable and Low-Latency Communications in 6G:
Integrating Domain Knowledge into Deep Learning [115.75967665222635]
超信頼性・低レイテンシ通信(URLLC)は、様々な新しいミッションクリティカルなアプリケーションの開発の中心となる。
ディープラーニングアルゴリズムは、将来の6GネットワークでURLLCを実現する技術を開発するための有望な方法と考えられている。
このチュートリアルでは、URLLCのさまざまなディープラーニングアルゴリズムにドメイン知識を組み込む方法について説明する。
論文 参考訳(メタデータ) (2020-09-13T14:53:01Z) - Deep Learning for Ultra-Reliable and Low-Latency Communications in 6G
Networks [84.2155885234293]
まず,データ駆動型教師付き深層学習と深部強化学習をURLLCに適用する方法を概説する。
このようなオープンな問題に対処するために、デバイスインテリジェンス、エッジインテリジェンス、およびURLLCのためのクラウドインテリジェンスを可能にするマルチレベルアーキテクチャを開発した。
論文 参考訳(メタデータ) (2020-02-22T14:38:11Z) - Distributed Learning in the Non-Convex World: From Batch to Streaming
Data, and Beyond [73.03743482037378]
分散学習は、多くの人々が想定する、大規模に接続された世界の重要な方向となっている。
本稿では、スケーラブルな分散処理とリアルタイムデータ計算の4つの重要な要素について論じる。
実践的な問題や今後の研究についても論じる。
論文 参考訳(メタデータ) (2020-01-14T14:11:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。