論文の概要: Federated learning with differential privacy and an untrusted aggregator

• arxiv url: http://arxiv.org/abs/2312.10789v2
• Date: Wed, 23 Oct 2024 20:24:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-25 12:48:23.678060
• Title: Federated learning with differential privacy and an untrusted aggregator
• Title（参考訳）: 差分プライバシーと信頼できないアグリゲータによるフェデレーション学習
• Authors: Kunlong Liu, Trinabh Gupta,
• Abstract要約: モバイルデバイス上でのトレーニングモデルのフェデレーション学習が人気を集めている。 現在のシステムは、モデルの正確性、プライバシー保証、デバイスの効率の間に大きなトレードオフがある。 本稿では,このトレードオフを大幅に改善する新しいフェデレーション学習システムであるAeroについて述べる。
• 参考スコア（独自算出の注目度）: 0.5203254931216454
• License:
• Abstract: Federated learning for training models over mobile devices is gaining popularity. Current systems for this task exhibit significant trade-offs between model accuracy, privacy guarantee, and device efficiency. For instance, Oort (OSDI 2021) provides excellent accuracy and efficiency but requires a trusted central server. On the other hand, Orchard (OSDI 2020) provides good accuracy and the rigorous guarantee of differential privacy over an untrusted server, but creates huge overhead for the devices. This paper describes Aero, a new federated learning system that significantly improves this trade-off. Aero guarantees good accuracy, differential privacy over an untrusted server, and keeps the device overhead low. The key idea of Aero is to tune system architecture and design to a specific set of popular, federated learning algorithms. This tuning requires novel optimizations and techniques, e.g., a new protocol to securely aggregate updates from devices. An evaluation of Aero demonstrates that it provides comparable accuracy to plain federated learning (without differential privacy), and it improves efficiency (CPU and network) over Orchard by up to $10^5\times$.
• Abstract（参考訳）: モバイルデバイス上でのトレーニングモデルのフェデレーション学習が人気を集めている。 このタスクの現在のシステムは、モデル精度、プライバシ保証、デバイス効率の間の大きなトレードオフを示す。 例えば、Oort (OSDI 2021) は優れた精度と効率を提供するが、信頼できる中央サーバーを必要とする。 一方、Orchard(OSDI 2020)は、信頼できないサーバ上での差分プライバシーの厳格な保証を提供するが、デバイスに大きなオーバーヘッドをもたらす。 本稿では,このトレードオフを大幅に改善する新しいフェデレーション学習システムであるAeroについて述べる。 Aeroは、信頼性を保証し、信頼できないサーバ上での差分プライバシを保証し、デバイスのオーバーヘッドを低く保つ。 Aeroのキーとなるアイデアは、システムアーキテクチャと設計を、人気の高いフェデレートされた学習アルゴリズムの特定のセットにチューニングすることだ。 このチューニングには、デバイスからの更新を安全に集約する新しいプロトコルなど、新しい最適化とテクニックが必要です。 Aeroの評価では、(差分プライバシーなしで)通常のフェデレーション学習に匹敵する精度を提供し、Orchard上の効率(CPUとネットワーク)を最大10^5\times$で改善している。

関連論文リスト

• DP-DyLoRA: Fine-Tuning Transformer-Based Models On-Device under Differentially Private Federated Learning using Dynamic Low-Rank Adaptation [15.023077875990614]
  フェデレートラーニング(FL)は、クライアントがローカルデータをサーバと共有することなく、グローバルモデルを協調的にトレーニングすることを可能にする。 差分プライバシ(DP)は、クライアントのコントリビューションにランダム性を加えるメカニズムを備えた、正式なプライバシ保証を提供することによって、そのようなリークに対処する。 差分プライバシーと組み合わせてDP-DyLoRAと呼ぶ適応手法を提案する。
  論文  参考訳（メタデータ） (2024-05-10T10:10:37Z)
• Blockchain-enabled Trustworthy Federated Unlearning [50.01101423318312]
  フェデレートアンラーニング(Federated Unlearning)は、分散クライアントのデータオーナシップを保護するための、有望なパラダイムである。 既存の作業では、分散クライアントからの履歴モデルパラメータを保持するために、中央サーバが必要である。 本稿では,ブロックチェーンによる信頼性の高いフェデレーションアンラーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-01-29T07:04:48Z)
• FedET: A Communication-Efficient Federated Class-Incremental Learning Framework Based on Enhanced Transformer [42.19443600254834]
  本稿では,FedET(Federated Enhanced Transformer)という新しいフレームワークを提案する。 FedETは、小さなモジュールであるEnhancerを使って、新しい知識を吸収し、伝達する。 代表的なベンチマークデータセットにおけるFedETの平均精度は、最先端の手法よりも14.1%高い。
  論文  参考訳（メタデータ） (2023-06-27T10:00:06Z)
• FedHiSyn: A Hierarchical Synchronous Federated Learning Framework for Resource and Data Heterogeneity [56.82825745165945]
  フェデレートラーニング(FL)は、データプライバシを保護するために複数のデバイスに格納された分散生データを共有することなく、グローバルモデルのトレーニングを可能にする。 本稿では,階層型同期FLフレームワークであるFedHiSynを提案し,トラグラー効果や時代遅れモデルの問題に対処する。 提案手法は,MNIST,EMNIST,CIFAR10,CIFAR100のデータセットと多種多様なデバイス設定に基づいて評価する。
  論文  参考訳（メタデータ） (2022-06-21T17:23:06Z)
• FedDUAP: Federated Learning with Dynamic Update and Adaptive Pruning Using Shared Data on the Server [64.94942635929284]
  フェデレーテッド・ラーニング(FL)は2つの重要な課題、すなわち限られた計算資源と訓練効率の低下に悩まされている。 本稿では,サーバ上の不感なデータとエッジデバイスの分散データを利用する新しいFLフレームワークであるFedDUAPを提案する。 提案するFLモデルであるFedDUAPは,2つの元の手法を統合することで,精度(最大4.8%),効率(最大2.8倍),計算コスト(最大61.9%)において,ベースラインアプローチを著しく上回っている。
  論文  参考訳（メタデータ） (2022-04-25T10:00:00Z)
• Robust Semi-supervised Federated Learning for Images Automatic Recognition in Internet of Drones [57.468730437381076]
  プライバシー保護型UAV画像認識のための半教師付きフェデレートラーニング(SSFL)フレームワークを提案する。 異なるカメラモジュールを使用したUAVによって収集されたローカルデータの数、特徴、分布には大きな違いがある。 本稿では,クライアントがトレーニングに参加する頻度,すなわちFedFreqアグリゲーションルールに基づくアグリゲーションルールを提案する。
  論文  参考訳（メタデータ） (2022-01-03T16:49:33Z)
• Concept drift detection and adaptation for federated and continual learning [55.41644538483948]
  スマートデバイスは環境から大量のデータを収集することができる。 このデータは機械学習モデルのトレーニングに適しており、その振る舞いを大幅に改善することができる。 そこで本研究では,Concept-Drift-Aware Federated Averagingと呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2021-05-27T17:01:58Z)
• FedSAE: A Novel Self-Adaptive Federated Learning Framework in Heterogeneous Systems [14.242716751043533]
  Federated Learning(FL)は、何千ものエッジデバイスがデータをサーバに同心的にアップロードすることなく、ローカルにモデルをトレーニングできる、新しい分散機械学習である。 我々は、デバイスの自動トレーニングタスクを調整する新しい自己適応型フェデレーションフレームワークFedSAEを導入し、参加者を積極的に選択してパフォーマンス劣化を緩和する。 このフレームワークでは、サーバは、トレーニング損失に基づいて、デバイスのトレーニング値を評価する。 その後、サーバは、通信のオーバーヘッドを減らすために、グローバルモデルにより大きな価値を持つクライアントを選択する。
  論文  参考訳（メタデータ） (2021-04-15T15:14:11Z)
• Federated Learning-based Active Authentication on Mobile Devices [98.23904302910022]
  モバイルデバイス上のユーザアクティブ認証は、デバイスセンサ情報に基づいて登録ユーザを正しく認識できるモデルを学ぶことを目的としている。 Federated Active Authentication (FAA) と呼ばれる新しいユーザーアクティブ認証トレーニングを提案します。 既存のFL/SL法は,同質に分散するデータに依存するため,FAAにとって最適ではないことを示す。
  論文  参考訳（メタデータ） (2021-04-14T22:59:08Z)
• MDLdroid: a ChainSGD-reduce Approach to Mobile Deep Learning for Personal Mobile Sensing [14.574274428615666]
  デバイス上でのディープラーニングの実行には、データのプライバシ保護や、モデルの堅牢性とアップデートの両方に対する低レイテンシ応答など、いくつかのメリットがある。 パーソナルモバイルセンシングアプリケーションは、主にユーザ固有であり、環境の影響を受けやすい。 我々は,デバイス上での協調学習を実現するために,新たな分散モバイルディープラーニングフレームワークであるMDLdroidを提案する。
  論文  参考訳（メタデータ） (2020-02-07T16:55:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。