論文の概要: Over-the-Air Computation Based on Balanced Number Systems for Federated Edge Learning

• arxiv url: http://arxiv.org/abs/2210.07012v3
• Date: Tue, 26 Sep 2023 00:50:05 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-27 20:53:38.326761
• Title: Over-the-Air Computation Based on Balanced Number Systems for Federated Edge Learning
• Title（参考訳）: フェデレーションエッジ学習のための平衡数系に基づくオーバーザ・エア計算
• Authors: Alphan Sahin
• Abstract要約: 実数値パラメータの集合の平均は、数値の集合に基づいて数値の勾配を用いて計算できることを示す。 提案手法をFEELでAAMと併用した場合, 実験精度は不均一なデータ分布に対して最大98%に達することが示唆された。
• 参考スコア（独自算出の注目度）: 14.087062902871212
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this study, we propose a digital over-the-air computation (OAC) scheme for achieving continuous-valued (analog) aggregation for federated edge learning (FEEL). We show that the average of a set of real-valued parameters can be calculated approximately by using the average of the corresponding numerals, where the numerals are obtained based on a balanced number system. By exploiting this key property, the proposed scheme encodes the local stochastic gradients into a set of numerals. Next, it determines the positions of the activated orthogonal frequency division multiplexing (OFDM) subcarriers by using the values of the numerals. To eliminate the need for precise sample-level time synchronization, channel estimation overhead, and channel inversion, the proposed scheme also uses a non-coherent receiver at the edge server (ES) and does not utilize a pre-equalization at the edge devices (EDs). We theoretically analyze the MSE performance of the proposed scheme and the convergence rate for a non-convex loss function. To improve the test accuracy of FEEL with the proposed scheme, we introduce the concept of adaptive absolute maximum (AAM). Our numerical results show that when the proposed scheme is used with AAM for FEEL, the test accuracy can reach up to 98% for heterogeneous data distribution.
• Abstract（参考訳）: 本研究では,フェデレーションエッジラーニング(feel)のための連続値集約を実現するためのoac(digital over-the-air computation)方式を提案する。 実数値パラメータの集合の平均は、対応する数字の平均を用いておおよそ計算できることを示し、この数値はバランスの取れた数系に基づいて得られる。 このキー特性を利用して、提案手法は局所確率勾配を数値の集合に符号化する。 次に、数値を用いて、活性化直交周波数分割多重化(OFDM)サブキャリアの位置を決定する。 正確なサンプルレベルの時間同期、チャネル推定オーバーヘッド、チャネルインバージョンの必要性を回避するため、提案手法ではエッジサーバ(ES)では非コヒーレント受信機を使用し、エッジデバイス(ED)では事前等化を利用できない。 提案手法のmse性能と非凸損失関数の収束率を理論的に解析した。 提案手法によりFEELのテスト精度を向上させるために,適応絶対最大値(AAM)の概念を導入する。 数値計算の結果,提案手法がFEELのAAMと併用された場合,テスト精度は異種データ分布の最大98%に達することがわかった。

関連論文リスト

• Semiparametric conformal prediction [79.6147286161434]
  リスクに敏感なアプリケーションは、複数の、潜在的に相関したターゲット変数に対して、よく校正された予測セットを必要とする。 スコアをランダムなベクトルとして扱い、それらの連接関係構造を考慮した予測セットを構築することを目的とする。 実世界のレグレッション問題に対して,所望のカバレッジと競争効率について報告する。
  論文  参考訳（メタデータ） (2024-11-04T14:29:02Z)
• Adaptive Online Bayesian Estimation of Frequency Distributions with Local Differential Privacy [0.4604003661048266]
  本稿では, 局所微分プライバシー(LDP)フレームワークを用いて, 有限個のカテゴリの周波数分布を適応的かつオンラインに推定する手法を提案する。 提案アルゴリズムは, 後方サンプリングによるベイズパラメータ推定を行い, 得られた後方サンプルに基づいて, LDPのランダム化機構を適用する。 提案手法は, (i) アルゴリズムがターゲットとする後続分布が近似した後続サンプリングであっても真のパラメータに収束し, (ii) アルゴリズムが後続サンプリングを正確に行えば高い確率で最適サブセットを選択することを示す理論解析である。
  論文  参考訳（メタデータ） (2024-05-11T13:59:52Z)
• Joint Sparsity Pattern Learning Based Channel Estimation for Massive MIMO-OTFS Systems [46.42375183269616]
  大規模マルチインプット・マルチアウトプット(MIMO)変調システムのためのジョイント・スパシティ・パターン・ラーニング(JSPL)に基づくチャネル推定手法を提案する。 シミュレーション結果と解析の結果から,提案したチャネル推定手法は,最先端のベースライン方式よりも性能が向上することが示された。
  論文  参考訳（メタデータ） (2024-03-06T15:05:39Z)
• Rethinking Clustered Federated Learning in NOMA Enhanced Wireless Networks [60.09912912343705]
  本研究では,新しいクラスタ化フェデレーション学習(CFL)アプローチと,非独立かつ同一に分散した(非IID)データセットを統合することのメリットについて検討する。 データ分布における非IIDの度合いを測定する一般化ギャップの詳細な理論的解析について述べる。 非IID条件によって引き起こされる課題に対処する解決策は、特性の分析によって提案される。
  論文  参考訳（メタデータ） (2024-03-05T17:49:09Z)
• Wireless Federated $k$-Means Clustering with Non-coherent Over-the-Air Computation [14.087062902871212]
  OACスキームは、バランスの取れた数系における数値の表現を利用するエンコーダに依存している。 非効率なセンチロイドの再初期化法を提案し、不均一なデータ分散のための提案手法の性能を向上させる。
  論文  参考訳（メタデータ） (2023-08-11T20:12:26Z)
• Concrete Score Matching: Generalized Score Matching for Discrete Data [109.12439278055213]
  コンクレトスコア(Concrete score)とは、個別の設定のためのスコア(ステイン)の一般化である。 コンクレトスコアマッチング(Concrete Score Matching)は、サンプルからこのようなスコアを学習するフレームワークである。
  論文  参考訳（メタデータ） (2022-11-02T00:41:37Z)
• Over-the-Air Computation over Balanced Numerals [13.878567119881483]
  実数値パラメータの集合の平均は、対応する数字の平均を用いておおよそ計算することができる。 提案手法は局所勾配を数値の集合にエンコードする。 次に、数値を用いて、活性化周波数分割多重化(OFDM)サブキャリアの位置を決定する。
  論文  参考訳（メタデータ） (2022-09-22T13:35:58Z)
• Green, Quantized Federated Learning over Wireless Networks: An Energy-Efficient Design [68.86220939532373]
  有限精度レベルは、固定精度フォーマットで重みとアクティベーションを定量化する量子ニューラルネットワーク(QNN)を使用して取得される。 提案するFLフレームワークは,ベースラインFLアルゴリズムと比較して,収束までのエネルギー消費量を最大70%削減することができる。
  論文  参考訳（メタデータ） (2022-07-19T16:37:24Z)
• Cluster-Based Cooperative Digital Over-the-Air Aggregation for Wireless Federated Edge Learning [9.179817518536545]
  空気上計算(AirComp)を用いた無線エッジにおける連合学習システムについて検討する。 このようなシステムでは、ユーザは、高速なモデルアグリゲーションを実現するために、マルチアクセスチャネル上でメッセージを同時に送信する。 本稿では,ユーザが位相補正を行い,全電力で送信する送信機の要求を緩和する改良されたディジタルAirComp方式を提案する。
  論文  参考訳（メタデータ） (2020-08-03T16:29:52Z)
• Batch Stationary Distribution Estimation [98.18201132095066]
  サンプル遷移の組を与えられたエルゴードマルコフ鎖の定常分布を近似する問題を考える。 与えられたデータに対する補正比関数の復元に基づく一貫した推定器を提案する。
  論文  参考訳（メタデータ） (2020-03-02T09:10:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。