論文の概要: A Machine Learning Framework for Distributed Functional Compression over
Wireless Channels in IoT
- arxiv url: http://arxiv.org/abs/2201.09483v2
- Date: Mon, 1 May 2023 02:40:42 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-02 20:15:27.096258
- Title: A Machine Learning Framework for Distributed Functional Compression over
Wireless Channels in IoT
- Title(参考訳): IoTにおける無線チャネル上での分散関数圧縮のための機械学習フレームワーク
- Authors: Yashas Malur Saidutta, Afshin Abdi, Faramarz Fekri
- Abstract要約: IoTデバイスは巨大なデータを生成し、最先端の機械学習技術を組み合わせてサイバー物理システムに革命をもたらす。
トレーニングや推論のためにデータを中央の場所に転送することに集中する従来のクラウドベースの手法は、ネットワークリソースに大きな負担をかけます。
我々は,GMAC(Gaussian Multiple Access Channel)とAWGN(AWGN)の両方で分散関数圧縮を行う最初の機械学習フレームワークを開発する。
- 参考スコア(独自算出の注目度): 13.385373310554327
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: IoT devices generating enormous data and state-of-the-art machine learning
techniques together will revolutionize cyber-physical systems. In many diverse
fields, from autonomous driving to augmented reality, distributed IoT devices
compute specific target functions without simple forms like obstacle detection,
object recognition, etc. Traditional cloud-based methods that focus on
transferring data to a central location either for training or inference place
enormous strain on network resources. To address this, we develop, to the best
of our knowledge, the first machine learning framework for distributed
functional compression over both the Gaussian Multiple Access Channel (GMAC)
and orthogonal AWGN channels. Due to the Kolmogorov-Arnold representation
theorem, our machine learning framework can, by design, compute any arbitrary
function for the desired functional compression task in IoT. Importantly the
raw sensory data are never transferred to a central node for training or
inference, thus reducing communication. For these algorithms, we provide
theoretical convergence guarantees and upper bounds on communication. Our
simulations show that the learned encoders and decoders for functional
compression perform significantly better than traditional approaches, are
robust to channel condition changes and sensor outages. Compared to the
cloud-based scenario, our algorithms reduce channel use by two orders of
magnitude.
- Abstract(参考訳): 膨大なデータと最先端の機械学習技術を生み出すIoTデバイスは、サイバー物理システムに革命をもたらす。
自律運転から拡張現実に至るまで、さまざまな分野において、分散IoTデバイスは、障害物検出やオブジェクト認識といった単純な形式を使わずに、特定のターゲット機能を計算する。
トレーニングや推論のためにデータを中央の場所に転送することに集中する従来のクラウドベースの手法は、ネットワークリソースに大きな負担をかけます。
これを解決するために,我々は,ガウス多重アクセスチャネル(GMAC)と直交AFGNチャネルの両方で分散機能圧縮を行う,最初の機械学習フレームワークを開発した。
Kolmogorov-Arnold表現定理により、私たちの機械学習フレームワークは、設計によって、IoTの所望の機能圧縮タスクに対して任意の関数を計算できます。
重要なことに、生の感覚データはトレーニングや推論のために中央ノードに転送されないため、通信が減少する。
これらのアルゴリズムでは、理論的収束保証と通信上の上限を提供する。
シミュレーションにより,関数圧縮のための学習エンコーダとデコーダは従来の手法よりも優れており,チャネル条件の変化やセンサの停止に対して堅牢であることがわかった。
クラウドベースのシナリオと比較して,我々のアルゴリズムはチャネル使用量を2桁削減する。
関連論文リスト
- Dynamic Encoding and Decoding of Information for Split Learning in
Mobile-Edge Computing: Leveraging Information Bottleneck Theory [1.1151919978983582]
Split Learning(スプリットラーニング)は、MLモデルを2つの部分(エンコーダとデコーダ)に分割する、プライバシ保護の分散学習パラダイムである。
モバイルエッジコンピューティングでは、エンコーダがユーザ機器(UE)に、デコーダがエッジネットワークに、分割学習によってネットワーク機能を訓練することができる。
本稿では,送信リソース消費の動的バランスと,共有潜在表現の情報化を両立させるためのフレームワークとトレーニング機構を提案する。
論文 参考訳(メタデータ) (2023-09-06T07:04:37Z) - Decentralized Learning over Wireless Networks: The Effect of Broadcast
with Random Access [56.91063444859008]
本稿では,D-SGDのコンバージェンス性能に及ぼす放送送信と確率的ランダムアクセスポリシーの影響について検討する。
この結果から,アクセス確率を最適化し,期待されるリンク数の最大化が,システム収束を加速するための極めて効果的な戦略であることが示唆された。
論文 参考訳(メタデータ) (2023-05-12T10:32:26Z) - Causal Semantic Communication for Digital Twins: A Generalizable
Imitation Learning Approach [74.25870052841226]
デジタルツイン(DT)は、物理世界の仮想表現と通信(例えば6G)、コンピュータ、人工知能(AI)技術を活用して、多くの接続されたインテリジェンスサービスを実現する。
無線システムは、厳密な通信制約下での情報意思決定を容易にするために意味コミュニケーション(SC)のパラダイムを利用することができる。
DTベースの無線システムでは,因果意味通信(CSC)と呼ばれる新しいフレームワークが提案されている。
論文 参考訳(メタデータ) (2023-04-25T00:15:00Z) - Communication-Efficient Federated Learning via Predictive Coding [38.778944321534084]
フェデレートされた学習は、リモートワーカーが共同で機械学習モデルを共有することができる。
通信オーバーヘッドは、電力と帯域幅が限られているため、重大なボトルネックとなっている。
フェデレート学習のための予測符号化に基づく通信方式を提案する。
論文 参考訳(メタデータ) (2021-08-02T14:12:19Z) - Federated Learning over Wireless Device-to-Device Networks: Algorithms
and Convergence Analysis [46.76179091774633]
本稿では,無線デバイス対デバイス(d2d)ネットワーク上でのフェデレーション学習(fl)について検討する。
まず、通信効率の良いDSGDアルゴリズムの汎用ディジタルおよびアナログ無線実装を紹介する。
第二に、凸性と接続性の仮定の下で、両実装に収束境界を提供する。
論文 参考訳(メタデータ) (2021-01-29T17:42:26Z) - Federated Learning in Unreliable and Resource-Constrained Cellular
Wireless Networks [35.80470886180477]
本稿では,セルラー無線ネットワークに適した連合学習アルゴリズムを提案する。
収束を証明し、収束率を最大化する最適なスケジューリングポリシーを提供します。
論文 参考訳(メタデータ) (2020-12-09T16:16:43Z) - PowerGossip: Practical Low-Rank Communication Compression in
Decentralized Deep Learning [62.440827696638664]
本稿では,近隣労働者間のモデル差を直接圧縮する簡単なアルゴリズムを提案する。
中央集権的なディープラーニングのためにPowerSGDにインスパイアされたこのアルゴリズムは、パワーステップを使用して、1ビットあたりの転送情報を最大化する。
論文 参考訳(メタデータ) (2020-08-04T09:14:52Z) - Wireless Communications for Collaborative Federated Learning [160.82696473996566]
IoT(Internet of Things)デバイスは、収集したデータを中央のコントローラに送信することができず、機械学習モデルをトレーニングすることができる。
GoogleのセミナルFLアルゴリズムでは、すべてのデバイスを中央コントローラに直接接続する必要がある。
本稿では,コラボレーティブFL(CFL)と呼ばれる新しいFLフレームワークを提案する。
論文 参考訳(メタデータ) (2020-06-03T20:00:02Z) - A Compressive Sensing Approach for Federated Learning over Massive MIMO
Communication Systems [82.2513703281725]
フェデレートラーニング(Federated Learning)は、無線デバイスとのコラボレーションによって、中央サーバでグローバルモデルをトレーニングするための、プライバシ保護のアプローチである。
本稿では,大規模マルチインプット多出力通信システム上でのフェデレーション学習のための圧縮センシング手法を提案する。
論文 参考訳(メタデータ) (2020-03-18T05:56:27Z) - Ternary Compression for Communication-Efficient Federated Learning [17.97683428517896]
フェデレートされた学習は、プライバシ保護とセキュアな機械学習に対する潜在的なソリューションを提供する。
本稿では,第3次フェデレーション平均化プロトコル(T-FedAvg)を提案する。
その結果,提案したT-FedAvgは通信コストの低減に有効であり,非IIDデータの性能も若干向上できることがわかった。
論文 参考訳(メタデータ) (2020-03-07T11:55:34Z) - Deep Learning for Ultra-Reliable and Low-Latency Communications in 6G
Networks [84.2155885234293]
まず,データ駆動型教師付き深層学習と深部強化学習をURLLCに適用する方法を概説する。
このようなオープンな問題に対処するために、デバイスインテリジェンス、エッジインテリジェンス、およびURLLCのためのクラウドインテリジェンスを可能にするマルチレベルアーキテクチャを開発した。
論文 参考訳(メタデータ) (2020-02-22T14:38:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。