論文の概要: Hierarchical Over-the-Air Federated Learning with Awareness of Interference and Data Heterogeneity

• arxiv url: http://arxiv.org/abs/2401.01442v1
• Date: Tue, 2 Jan 2024 21:43:01 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-04 15:46:04.605549
• Title: Hierarchical Over-the-Air Federated Learning with Awareness of Interference and Data Heterogeneity
• Title（参考訳）: 干渉とデータ不均一性を考慮した階層的過空学習
• Authors: Seyed Mohammad Azimi-Abarghouyi and Viktoria Fodor
• Abstract要約: 本稿では,無線リソースを無線で効率よく利用するためのスケーラブルな伝送方式を提案する。 干渉とデータの不均一性にもかかわらず,提案手法は高い学習精度を達成し,従来の階層型アルゴリズムよりも大幅に優れていることを示す。
• 参考スコア（独自算出の注目度）: 3.8798345704175534
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: When implementing hierarchical federated learning over wireless networks, scalability assurance and the ability to handle both interference and device data heterogeneity are crucial. This work introduces a learning method designed to address these challenges, along with a scalable transmission scheme that efficiently uses a single wireless resource through over-the-air computation. To provide resistance against data heterogeneity, we employ gradient aggregations. Meanwhile, the impact of interference is minimized through optimized receiver normalizing factors. For this, we model a multi-cluster wireless network using stochastic geometry, and characterize the mean squared error of the aggregation estimations as a function of the network parameters. We show that despite the interference and the data heterogeneity, the proposed scheme achieves high learning accuracy and can significantly outperform the conventional hierarchical algorithm.
• Abstract（参考訳）: 無線ネットワーク上で階層的なフェデレーション学習を実装する場合、スケーラビリティの保証と干渉とデバイスデータの不均一性の両方を扱う能力が不可欠である。 本研究は,これらの課題に対処するために設計された学習手法と,無線リソースを無線通信で効率よく活用するスケーラブルな送信方式を導入する。 データの不均一性に対する耐性を提供するため、勾配集計を用いる。 一方、干渉の影響は最適化された受信者正規化因子によって最小化される。 本研究では,確率幾何学を用いてマルチクラスタ無線ネットワークをモデル化し,ネットワークパラメータの関数として集約推定の平均二乗誤差を特徴付ける。 提案手法は,干渉やデータの不均一性にも拘わらず,高い学習精度を実現し,従来の階層的アルゴリズムを著しく上回ることを示す。

関連論文リスト

• Robust Regression with Ensembles Communicating over Noisy Channels [16.344212996721346]
  本稿では,付加雑音チャネルを介して通信する回帰アルゴリズムを実装したデバイス集合の問題について検討する。 本研究では,チャネル内の雑音のパラメータに対するアグリゲーション係数を最適化する手法を開発した。 本研究は,バギングと勾配向上という,最先端のアンサンブル回帰手法に適用した。
  論文  参考訳（メタデータ） (2024-08-20T15:32:47Z)
• Dual-Segment Clustering Strategy for Hierarchical Federated Learning in Heterogeneous Wireless Environments [22.35256018841889]
  非独立かつ同一分布(ノンID)データは、フェデレートラーニング(FL)に悪影響を及ぼす 本稿では,FLにおける通信とデータの不均一性を両立する新たなデュアルセグメンテーションクラスタリング(DSC)戦略を提案する。 収束解析と実験結果から,DSC戦略は無線FLの収束率を向上させることができることが示された。
  論文  参考訳（メタデータ） (2024-05-15T11:46:47Z)
• Over-the-Air Federated Learning and Optimization [52.5188988624998]
  エッジ・ザ・エア計算(AirComp)によるフェデレーション学習(FL)に焦点を当てる。 本稿では,AirComp ベースの FedAvg (AirFedAvg) アルゴリズムの凸および非凸条件下での収束について述べる。 エッジデバイス(モデル、勾配、モデル差など)で送信できるローカルアップデートの種類によって、AirFedAvgで送信するとアグリゲーションエラーが発生する可能性がある。 さらに、より実用的な信号処理方式を検討し、通信効率を改善し、これらの信号処理方式によって引き起こされるモデル集約誤差の異なる形式に収束解析を拡張する。
  論文  参考訳（メタデータ） (2023-10-16T05:49:28Z)
• Analysis and Optimization of Wireless Federated Learning with Data Heterogeneity [72.85248553787538]
  本稿では、データの不均一性を考慮した無線FLの性能解析と最適化と、無線リソース割り当てについて述べる。 ロス関数の最小化問題を、長期エネルギー消費と遅延の制約の下で定式化し、クライアントスケジューリング、リソース割り当て、ローカルトレーニングエポック数(CRE)を共同で最適化する。 実世界のデータセットの実験により、提案アルゴリズムは学習精度とエネルギー消費の点で他のベンチマークよりも優れていることが示された。
  論文  参考訳（メタデータ） (2023-08-04T04:18:01Z)
• Multi-agent Reinforcement Learning with Graph Q-Networks for Antenna Tuning [60.94661435297309]
  モバイルネットワークの規模は、手作業による介入や手作業による戦略を使ってアンテナパラメータの最適化を困難にしている。 本研究では,モバイルネットワーク構成をグローバルに最適化するマルチエージェント強化学習アルゴリズムを提案する。 シミュレーション環境におけるアンテナ傾き調整問題とジョイント傾き・電力制御問題に対するアルゴリズムの性能を実証的に示す。
  論文  参考訳（メタデータ） (2023-01-20T17:06:34Z)
• Personalized Decentralized Multi-Task Learning Over Dynamic Communication Graphs [59.96266198512243]
  本稿では,正と負の相関関係を持つタスクに対する分散・フェデレーション学習アルゴリズムを提案する。 本アルゴリズムでは,タスク間の相関関係を自動的に計算し,コミュニケーショングラフを動的に調整して相互に有益なタスクを接続し,互いに悪影響を及ぼす可能性のあるタスクを分離する。 合成ガウスデータセットと大規模セレブ属性(CelebA)データセットについて実験を行った。
  論文  参考訳（メタデータ） (2022-12-21T18:58:24Z)
• Scalable Hierarchical Over-the-Air Federated Learning [3.8798345704175534]
  この研究は、干渉とデバイスデータの不均一性の両方を扱うために設計された新しい2段階学習手法を導入する。 本稿では,提案アルゴリズムの収束を導出するための包括的数学的アプローチを提案する。 干渉とデータの不均一性にもかかわらず、提案アルゴリズムは様々なパラメータに対して高い学習精度を実現する。
  論文  参考訳（メタデータ） (2022-11-29T12:46:37Z)
• Resource-constrained Federated Edge Learning with Heterogeneous Data: Formulation and Analysis [8.863089484787835]
  ヘテロジニアスデータによる不均一な統計的課題を解決するために, 分散されたニュートン型ニュートン型トレーニングスキームであるFedOVAを提案する。 FedOVAはマルチクラス分類問題をより単純なバイナリ分類問題に分解し、アンサンブル学習を用いてそれぞれの出力を結合する。
  論文  参考訳（メタデータ） (2021-10-14T17:35:24Z)
• SignalNet: A Low Resolution Sinusoid Decomposition and Estimation Network [79.04274563889548]
  本稿では,正弦波数を検出するニューラルネットワークアーキテクチャであるSignalNetを提案する。 基礎となるデータ分布と比較して,ネットワークの結果を比較するための最悪の学習しきい値を導入する。 シミュレーションでは、我々のアルゴリズムは常に3ビットデータのしきい値を超えることができるが、しばしば1ビットデータのしきい値を超えることはできない。
  論文  参考訳（メタデータ） (2021-06-10T04:21:20Z)
• A Compressive Sensing Approach for Federated Learning over Massive MIMO Communication Systems [82.2513703281725]
  フェデレートラーニング(Federated Learning)は、無線デバイスとのコラボレーションによって、中央サーバでグローバルモデルをトレーニングするための、プライバシ保護のアプローチである。 本稿では,大規模マルチインプット多出力通信システム上でのフェデレーション学習のための圧縮センシング手法を提案する。
  論文  参考訳（メタデータ） (2020-03-18T05:56:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。