論文の概要: Communication-Efficient Split Learning Based on Analog Communication and Over the Air Aggregation

• arxiv url: http://arxiv.org/abs/2106.00999v1
• Date: Wed, 2 Jun 2021 07:49:41 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-03 14:17:43.564924
• Title: Communication-Efficient Split Learning Based on Analog Communication and Over the Air Aggregation
• Title（参考訳）: アナログ通信とエアアグリゲーションを用いたコミュニケーション効率の高い分割学習
• Authors: Mounssif Krouka, Anis Elgabli, Chaouki ben Issaid, and Mehdi Bennis
• Abstract要約: スプリットラーニング(SL)は、その固有のプライバシー保護機能と、限られた計算能力を持つデバイスに対する協調推論を可能にする能力により、最近人気を集めている。 標準SLアルゴリズムは、理想的なデジタル通信システムを想定し、通信帯域不足の問題を無視している。 本稿では,エージェント側で追加層を導入し,重みとバイアスの選択を制約し,空気の凝集を確実にするための新しいSLフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 48.150466900765316
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Split-learning (SL) has recently gained popularity due to its inherent privacy-preserving capabilities and ability to enable collaborative inference for devices with limited computational power. Standard SL algorithms assume an ideal underlying digital communication system and ignore the problem of scarce communication bandwidth. However, for a large number of agents, limited bandwidth resources, and time-varying communication channels, the communication bandwidth can become the bottleneck. To address this challenge, in this work, we propose a novel SL framework to solve the remote inference problem that introduces an additional layer at the agent side and constrains the choices of the weights and the biases to ensure over the air aggregation. Hence, the proposed approach maintains constant communication cost with respect to the number of agents enabling remote inference under limited bandwidth. Numerical results show that our proposed algorithm significantly outperforms the digital implementation in terms of communication-efficiency, especially as the number of agents grows large.
• Abstract（参考訳）: スプリットラーニング(sl)は、プライバシ保護機能と計算能力に制限のあるデバイスの協調推論を可能にする能力によって、最近人気を集めている。 標準slアルゴリズムは理想的なデジタル通信システムであり、通信帯域の少ない問題を無視する。 しかし、多数のエージェント、限られた帯域幅リソース、時間変化のある通信チャネルでは、通信帯域幅がボトルネックとなる可能性がある。 そこで本研究では,エージェント側に付加層を導入し,エアアグリゲーションを克服するために重みとバイアスの選択を制約する,リモート推論問題を解決するための新しいslフレームワークを提案する。 したがって,提案手法は,限られた帯域幅で遠隔推論が可能なエージェントの数に対して,通信コストを一定に維持する。 数値計算の結果,提案アルゴリズムは通信効率において,特にエージェント数が増大するにつれて,デジタル実装よりも優れていた。

関連論文リスト

• Effective Communication with Dynamic Feature Compression [25.150266946722]
  本研究では,タスクを制御するロボットに対して,観察者が知覚データを伝達しなければならないプロトタイパルシステムについて検討する。 本稿では, 量子化レベルを動的に適応させるために, アンサンブルベクトル量子化変分オートエンコーダ(VQ-VAE)を符号化し, 深層強化学習(DRL)エージェントを訓練する。 我々は、よく知られたCartPole参照制御問題に対して提案手法を検証し、大幅な性能向上を得た。
  論文  参考訳（メタデータ） (2024-01-29T15:35:05Z)
• Emergent Communication Protocol Learning for Task Offloading in Industrial Internet of Things [30.146175299047325]
  計算のオフロード決定とマルチチャネルアクセスポリシーを対応するシグナリングで学習する。 具体的には、基地局と産業用IoTモバイルデバイスは強化学習エージェントである。 この問題を解決するために,創発的な通信プロトコル学習フレームワークを採用する。
  論文  参考訳（メタデータ） (2024-01-23T17:06:13Z)
• Dynamic Size Message Scheduling for Multi-Agent Communication under Limited Bandwidth [5.590219593864609]
  本稿では,動的サイズメッセージスケジューリング(DSMS)手法を提案する。 我々の貢献は、フーリエ変換に基づく圧縮技術を用いて、メッセージサイズを適応的に調整することにある。 実験の結果,DSMSは多エージェント協調作業の性能を著しく向上させることがわかった。
  論文  参考訳（メタデータ） (2023-06-16T18:33:11Z)
• Causal Semantic Communication for Digital Twins: A Generalizable Imitation Learning Approach [74.25870052841226]
  デジタルツイン(DT)は、物理世界の仮想表現と通信(例えば6G)、コンピュータ、人工知能(AI)技術を活用して、多くの接続されたインテリジェンスサービスを実現する。 無線システムは、厳密な通信制約下での情報意思決定を容易にするために意味コミュニケーション(SC)のパラダイムを利用することができる。 DTベースの無線システムでは,因果意味通信(CSC)と呼ばれる新しいフレームワークが提案されている。
  論文  参考訳（メタデータ） (2023-04-25T00:15:00Z)
• Semantic and Effective Communication for Remote Control Tasks with Dynamic Feature Compression [23.36744348465991]
  ロボットの群れの調整と産業システムのリモート無線制御は、5Gおよびそれ以上のシステムの主要なユースケースである。 本研究では,タスクを制御するアクターに知覚データを伝達しなければならないプロトタイパルシステムについて考察する。 本稿では,量子化レベルを動的に適応させるために,アンサンブルベクトル量子化変分オートエンコーダ(VQ-VAE)を符号化し,深層強化学習(DRL)エージェントを訓練する。
  論文  参考訳（メタデータ） (2023-01-14T11:43:56Z)
• Multi-agent Communication with Graph Information Bottleneck under Limited Bandwidth (a position paper) [92.11330289225981]
  多くの実世界のシナリオでは、通信は高価であり、マルチエージェントシステムの帯域幅には一定の制約がある。 通信資源を占有する冗長なメッセージは、情報的メッセージの送信をブロックし、パフォーマンスを損なう。 本稿では,通信グラフ内の構造情報とノード情報を効果的に圧縮し,帯域幅に制約のある設定に対処する,新しいマルチエージェント通信モジュールCommGIBを提案する。
  論文  参考訳（メタデータ） (2021-12-20T07:53:44Z)
• Federated Learning over Wireless IoT Networks with Optimized Communication and Resources [98.18365881575805]
  協調学習技術のパラダイムとしてのフェデレートラーニング(FL)は研究の注目を集めている。 無線システム上での高速応答および高精度FLスキームの検証が重要である。 提案する通信効率のよいフェデレーション学習フレームワークは,強い線形速度で収束することを示す。
  論文  参考訳（メタデータ） (2021-10-22T13:25:57Z)
• Optimal Power Allocation for Rate Splitting Communications with Deep Reinforcement Learning [61.91604046990993]
  このレターでは、レート分割多重アクセスネットワークにおいて、ユーザの電力割り当てを最適化するための新しいフレームワークを紹介します。 ネットワークでは、ユーザのために意図されたメッセージは、単一の共通部分と個々のプライベート部分に分割される。
  論文  参考訳（メタデータ） (2021-07-01T06:32:49Z)
• Low-Latency Federated Learning over Wireless Channels with Differential Privacy [142.5983499872664]
  フェデレートラーニング(FL)では、モデルトレーニングはクライアントに分散し、ローカルモデルは中央サーバによって集約される。 本稿では,各クライアントの差分プライバシ(DP)要件だけでなく,全体としてのトレーニング性能に制約された無線チャネル上でのFLトレーニング遅延を最小限に抑えることを目的とする。
  論文  参考訳（メタデータ） (2021-06-20T13:51:18Z)
• Reinforcement Learning for Mitigating Intermittent Interference in Terahertz Communication Networks [4.999585439793266]
  多数のユーザによる非協調送信はテラヘルツネットワークに重大な干渉を引き起こす可能性がある。 適応型マルチスレッディング戦略を用いた強化学習に基づく新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-03-10T16:28:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。