論文の概要: Providing Differential Privacy for Federated Learning Over Wireless: A Cross-layer Framework

• arxiv url: http://arxiv.org/abs/2412.04408v1
• Date: Thu, 05 Dec 2024 18:27:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-06 14:38:59.217425
• Title: Providing Differential Privacy for Federated Learning Over Wireless: A Cross-layer Framework
• Title（参考訳）: ワイヤレス上でのフェデレーション学習のための差別化プライバシの提供 - クロスレイヤフレームワーク
• Authors: Jiayu Mao, Tongxin Yin, Aylin Yener, Mingyan Liu,
• Abstract要約: Federated Learning(FL)は、エッジデバイスがローカルなトレーニングデータを維持することができる分散機械学習フレームワークである。 本稿では,分散化された動的電力制御により差分プライバシ(DP)を改善するOTA-FLの無線物理層(PHY)設計を提案する。 この適応は、異なる学習アルゴリズム間で設計の柔軟性と有効性を示しながら、プライバシに強く重点を置いています。
• 参考スコア（独自算出の注目度）: 19.381425127772054
• License:
• Abstract: Federated Learning (FL) is a distributed machine learning framework that inherently allows edge devices to maintain their local training data, thus providing some level of privacy. However, FL's model updates still pose a risk of privacy leakage, which must be mitigated. Over-the-air FL (OTA-FL) is an adapted FL design for wireless edge networks that leverages the natural superposition property of the wireless medium. We propose a wireless physical layer (PHY) design for OTA-FL which improves differential privacy (DP) through a decentralized, dynamic power control that utilizes both inherent Gaussian noise in the wireless channel and a cooperative jammer (CJ) for additional artificial noise generation when higher privacy levels are required. Although primarily implemented within the Upcycled-FL framework, where a resource-efficient method with first-order approximations is used at every even iteration to decrease the required information from clients, our power control strategy is applicable to any FL framework, including FedAvg and FedProx as shown in the paper. This adaptation showcases the flexibility and effectiveness of our design across different learning algorithms while maintaining a strong emphasis on privacy. Our design removes the need for client-side artificial noise injection for DP, utilizing a cooperative jammer to enhance privacy without affecting transmission efficiency for higher privacy demands. Privacy analysis is provided using the Moments Accountant method. We perform a convergence analysis for non-convex objectives to tackle heterogeneous data distributions, highlighting the inherent trade-offs between privacy and accuracy. Numerical results show that our approach with various FL algorithms outperforms the state-of-the-art under the same DP conditions on the non-i.i.d. FEMNIST dataset, and highlight the cooperative jammer's effectiveness in ensuring strict privacy.
• Abstract（参考訳）: Federated Learning(FL)は、エッジデバイスがローカルなトレーニングデータを維持することを本質的に許容する分散機械学習フレームワークである。 しかし、FLのモデル更新は依然としてプライバシリークのリスクを伴い、緩和されなければならない。 OTA-FL(Over-the-air FL)は、無線媒体の自然重畳特性を利用する無線エッジネットワークのためのFL設計である。 OTA-FLの無線物理層(PHY)設計は,高プライバシーレベルが必要な場合に,無線チャネル内に存在するガウスノイズと協調ジャマ(CJ)の両方を利用する分散動的電力制御により,差分プライバシ(DP)を改善する。 主にUpcycled-FLフレームワークで実装されているが、本論文で示すように、一階近似によるリソース効率のよい手法は、クライアントからの必要な情報を減らすために、イテレーション毎に使用されるが、当社の電力制御戦略は、FedAvgやFedProxを含むFLフレームワークに適用できる。 この適応は、異なる学習アルゴリズム間で設計の柔軟性と有効性を示しながら、プライバシに強く重点を置いています。 本設計では,DP 用クライアント側人工ノイズ注入の必要性を排除し,より高いプライバシ要求に対する送信効率に影響を与えることなく,プライバシを高めるために協調的なジャマを利用する。 プライバシ分析は、Moments Accountantメソッドを用いて提供される。 我々は、不均一なデータ分散に取り組むために、非凸目的に対する収束解析を行い、プライバシーと正確性の間の固有のトレードオフを強調する。 数値的な結果から,FEMNISTデータセットのDP条件下では,様々なFLアルゴリズムによるアプローチが,厳密なプライバシを確保する上での協調的ジャマーの有効性を強調した。

関連論文リスト

• Federated Low-Rank Adaptation with Differential Privacy over Wireless Networks [24.667581521367357]
  Federated Fine-tuning (FedFT)は、生データを共有せずに協調的なモデルトレーニングを促進することで、いくつかのプライバシー問題を緩和する。 FedFTにおけるプライバシーの盗聴攻撃のリスクは、特に医療や金融などの機密分野において懸念されている。 無線ネットワーク上での差分プライバシー(DP)を考慮したFedFTフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-11-12T14:01:08Z)
• Immersion and Invariance-based Coding for Privacy-Preserving Federated Learning [1.4226399196408985]
  協調分散学習におけるプライバシ保護手法として,フェデレートラーニング(FL)が登場している。 制御理論から差分プライバシーとシステム浸漬ツールを組み合わせたプライバシー保護FLフレームワークを提案する。 提案手法は,局所モデルパラメータとグローバルモデルパラメータの両方に対して,任意のレベルの差分プライバシを提供するように調整可能であることを実証する。
  論文  参考訳（メタデータ） (2024-09-25T15:04:42Z)
• Privacy-preserving Federated Primal-dual Learning for Non-convex and Non-smooth Problems with Model Sparsification [51.04894019092156]
  FL(Federated Learning)は,FLオーケストレーション(PS)の下でクライアント上でモデルをトレーニングする,急速に成長する領域として認識されている。 本稿では,非滑らかなFL問題に対して,新しい一次分離アルゴリズムを提案し,保証する。 その独特な洞察力のある性質とその分析も提示される。
  論文  参考訳（メタデータ） (2023-10-30T14:15:47Z)
• Binary Federated Learning with Client-Level Differential Privacy [7.854806519515342]
  フェデレートラーニング(Federated Learning、FL)は、プライバシ保護のための協調学習フレームワークである。 既存のFLシステムはトレーニングアルゴリズムとしてフェデレーション平均(FedAvg)を採用するのが一般的である。 差分プライバシーを保証する通信効率のよいFLトレーニングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-08-07T06:07:04Z)
• Differentially Private Wireless Federated Learning Using Orthogonal Sequences [56.52483669820023]
  本稿では,FLORAS と呼ばれる AirComp 法を提案する。 FLORASはアイテムレベルとクライアントレベルの差分プライバシー保証の両方を提供する。 新たなFL収束バウンダリが導出され、プライバシー保証と組み合わせることで、達成された収束率と差分プライバシーレベルのスムーズなトレードオフが可能になる。
  論文  参考訳（メタデータ） (2023-06-14T06:35:10Z)
• Theoretically Principled Federated Learning for Balancing Privacy and Utility [61.03993520243198]
  モデルパラメータを歪ませることでプライバシを保護する保護機構の一般学習フレームワークを提案する。 フェデレートされた学習における各コミュニケーションラウンドにおいて、各クライアント上の各モデルパラメータに対して、パーソナライズされたユーティリティプライバシトレードオフを実現することができる。
  論文  参考訳（メタデータ） (2023-05-24T13:44:02Z)
• Over-the-Air Federated Averaging with Limited Power and Privacy Budgets [49.04036552090802]
  本稿では,電力予算が制限されたプライベート・オーバ・ザ・エア・フェデレーション(DP-OTA-FedAvg)システムについて検討する。 我々は,DP-OTA-FedAvg係数のギャップを最小化し,プライバシー機能を最小化するために解析的問題を改善することを目的としている。
  論文  参考訳（メタデータ） (2023-05-05T13:56:40Z)
• Communication and Energy Efficient Wireless Federated Learning with Intrinsic Privacy [16.305837225117603]
  Federated Learning(FL)は、エッジデバイスが生データをローカルに保持しながら、グローバルモデルを共同で学習することを可能にする、協調学習フレームワークである。 本研究では,PFELS(Private Edge Learning with Spars)と呼ばれる新しい無線FL方式を提案する。
  論文  参考訳（メタデータ） (2023-04-15T03:04:11Z)
• Over-the-Air Federated Learning with Privacy Protection via Correlated Additive Perturbations [57.20885629270732]
  我々は、複数のユーザ/エージェントからエッジサーバへの勾配更新をOtA(Over-the-Air)で送信することで、無線フェデレーション学習のプライバシー面を考察する。 従来の摂動に基づく手法は、トレーニングの精度を犠牲にしてプライバシー保護を提供する。 本研究では,エッジサーバにおけるプライバシリークの最小化とモデル精度の低下を目標とする。
  論文  参考訳（メタデータ） (2022-10-05T13:13:35Z)
• Understanding Clipping for Federated Learning: Convergence and Client-Level Differential Privacy [67.4471689755097]
  本稿では, 切断したFedAvgが, 実質的なデータ均一性でも驚くほど良好に動作できることを実証的に示す。 本稿では,差分プライベート(DP)FedAvgアルゴリズムの収束解析を行い,クリッピングバイアスとクライアント更新の分布との関係を明らかにする。
  論文  参考訳（メタデータ） (2021-06-25T14:47:19Z)
• Federated Learning with Sparsification-Amplified Privacy and Adaptive Optimization [27.243322019117144]
  フェデレートラーニング(FL)により、分散エージェントは、生データを互いに共有することなく、集中型モデルを共同で学習することができる。 スパーシフィケーションを増幅した新しいFLフレームワークを提案する。 提案手法では,ランダムなスペーシフィケーションと各エージェントの勾配摂動を統合し,プライバシー保証を増幅する。
  論文  参考訳（メタデータ） (2020-08-01T20:22:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。