Fugu-MT 論文翻訳(概要): Low-Cost Privacy-Preserving Decentralized Learning

論文の概要: Low-Cost Privacy-Preserving Decentralized Learning

arxiv url: http://arxiv.org/abs/2403.11795v3
Date: Tue, 11 Mar 2025 10:39:02 GMT
ステータス: 翻訳完了
システム内更新日: 2025-03-12 22:35:51.164357
Title: Low-Cost Privacy-Preserving Decentralized Learning
Title（参考訳）: 低コストプライバシ保護型分散学習
Authors: Sayan Biswas, Davide Frey, Romaric Gaudel, Anne-Marie Kermarrec, Dimitri Lerévérend, Rafael Pires, Rishi Sharma, François Taïani,
Abstract要約: 分散学習(DL)により、ネットワーク内のノードは、生データを共有したり、中央サーバーに依存することなく、モデルを集合的に訓練することができる。本稿では、相関ノイズを利用して、ローカルな敵に対する堅牢なプライバシーを実現する、プライバシーに配慮したDLアルゴリズムZip-DLを紹介する。
参考スコア（独自算出の注目度）: 5.295018540083454
License: http://creativecommons.org/licenses/by-sa/4.0/
Abstract: Decentralized learning (DL) is an emerging paradigm of collaborative machine learning that enables nodes in a network to train models collectively without sharing their raw data or relying on a central server. This paper introduces Zip-DL, a privacy-aware DL algorithm that leverages correlated noise to achieve robust privacy against local adversaries while ensuring efficient convergence at low communication costs. By progressively neutralizing the noise added during distributed averaging, Zip-DL combines strong privacy guarantees with high model accuracy. Its design requires only one communication round per gradient descent iteration, significantly reducing communication overhead compared to competitors. We establish theoretical bounds on both convergence speed and privacy guarantees. Moreover, extensive experiments demonstrating Zip-DL's practical applicability make it outperform state-of-the-art methods in the accuracy vs. vulnerability trade-off. Specifically, Zip-DL (i) reduces membership-inference attack success rates by up to 35% compared to baseline DL, (ii) decreases attack efficacy by up to 13% compared to competitors offering similar utility, and (iii) achieves up to 59% higher accuracy to completely nullify a basic attack scenario, compared to a state-of-the-art privacy-preserving approach under the same threat model. These results position Zip-DL as a practical and efficient solution for privacy-preserving decentralized learning in real-world applications.
Abstract（参考訳）: 分散学習(DL)は、ネットワーク内のノードが、生データを共有したり、中央サーバーに依存することなく、モデルを集合的に訓練することを可能にする、コラボレーション機械学習の新たなパラダイムである。本稿では、低通信コストで効率的な収束を確保しつつ、相関ノイズを利用して、ローカルな敵に対する堅牢なプライバシを実現する、プライバシーに配慮したDLアルゴリズムZip-DLを紹介する。分散平均化時に付加されるノイズを徐々に中和することにより、Zip-DLは強力なプライバシ保証と高いモデル精度を組み合わせる。その設計では、勾配降下イテレーションごとに1ラウンドの通信ラウンドしか必要とせず、競合相手に比べて通信オーバーヘッドが大幅に減少する。我々は収束速度とプライバシー保証の両方に理論的拘束力を確立する。さらに、Zip-DLの実用性を示す広範な実験により、精度と脆弱性のトレードオフにおいて最先端の手法よりも優れている。具体的にはZip-DL (i)ベースラインDLと比較して、メンバーシップ推論攻撃の成功率を最大35%削減する。二類似の効能を有するライバルと比較して攻撃効果を最大13%減少させ、 (iii) 同一の脅威モデル下での最先端のプライバシ保存アプローチと比較して, 攻撃シナリオを完全に無効化する精度は最大59%向上する。これらの結果は、Zip-DLを現実のアプリケーションにおけるプライバシー保護型分散学習の実践的で効率的なソリューションとして位置づけている。

関連論文リスト

FedEM: A Privacy-Preserving Framework for Concurrent Utility Preservation in Federated Learning [17.853502904387376]
Federated Learning (FL)は、分散クライアント間で、ローカルデータを共有せずにモデルの協調的なトレーニングを可能にし、分散システムにおけるプライバシの問題に対処する。適応雑音注入による制御摂動を組み込んだ新しいアルゴリズムであるフェデレートエラー最小化(FedEM)を提案する。ベンチマークデータセットの実験結果から、FedEMはプライバシのリスクを著しく低減し、モデルの正確性を保ち、プライバシ保護とユーティリティ保護の堅牢なバランスを達成している。
論文参考訳（メタデータ） (2025-03-08T02:48:00Z)
DPZV: Resource Efficient ZO Optimization For Differentially Private VFL [9.302691218735406]
Vertical Federated Learning (VFL)は、機能分割されたデータ間で協調的なモデル計算を可能にするが、大規模モデルへのスケーリングではプライバシのリスクに直面する。差分プライバシーを統合するメモリゼロ効率(DP)フレームワークであるDPZVを提案する。本フレームワークは,2点推定によるバックパゲーションを排除し,クライアントメモリ使用率を1次推定に比べて90%削減する。
論文参考訳（メタデータ） (2025-02-27T22:07:16Z)
Enhancing Feature-Specific Data Protection via Bayesian Coordinate Differential Privacy [55.357715095623554]
ローカル微分プライバシー(LDP)は、ユーザーが外部の関係者を信頼することなく、強力なプライバシー保証を提供する。本稿では,ベイジアン・フレームワークであるベイジアン・コーディネート・ディファレンシャル・プライバシ(BCDP)を提案する。
論文参考訳（メタデータ） (2024-10-24T03:39:55Z)
Secure Aggregation Meets Sparsification in Decentralized Learning [1.7010199949406575]
本稿では,分散学習(DL)のための新しいセキュアアグリゲーションプロトコルであるCESARを紹介する。 CESARは、正直だが正反対の敵を確実に擁護し、両者の共謀に対処するために形式的に適応することができる。
論文参考訳（メタデータ） (2024-05-13T12:52:58Z)
Privacy-Preserving, Dropout-Resilient Aggregation in Decentralized Learning [3.9166000694570076]
分散学習(DL)は、集中集約なしでクライアントにトレーニングを分散することで、機械学習の新たなパラダイムを提供する。 DLのピアツーピアモデルは、推論攻撃やプライバシリークを防ぐための課題を提起する。本研究は,プライバシ保護DLのための3つの秘密共有型ドロップアウトレジリエンスアプローチを提案する。
論文参考訳（メタデータ） (2024-04-27T19:17:02Z)
TernaryVote: Differentially Private, Communication Efficient, and Byzantine Resilient Distributed Optimization on Heterogeneous Data [50.797729676285876]
本稿では, 3次圧縮機と多数決機構を組み合わせて, 差分プライバシー, 勾配圧縮, ビザンチンレジリエンスを同時に実現するternaryVoteを提案する。提案アルゴリズムのF差分プライバシー(DP)とビザンチンレジリエンスのレンズによるプライバシー保証を理論的に定量化する。
論文参考訳（メタデータ） (2024-02-16T16:41:14Z)
Sparse Decentralized Federated Learning [35.32297764027417]
分散フェデレートラーニング(DFL)は、中央サーバーなしで協調的なモデルトレーニングを可能にするが、効率、安定性、信頼性の課題に直面している。 Sparse DFL (SDFL) に繋がる共有モデルに空間制約を導入し,新しいアルゴリズムCEPSを提案する。数値実験により,高い信頼性を維持しつつ,コミュニケーションと効率を向上させるための提案アルゴリズムの有効性が検証された。
論文参考訳（メタデータ） (2023-08-31T12:22:40Z)
Hiding in Plain Sight: Differential Privacy Noise Exploitation for Evasion-resilient Localized Poisoning Attacks in Multiagent Reinforcement Learning [0.0]
協調型マルチエージェント強化学習(CMARL)において、知識共有中の敵の推論からエージェントのプライバシを保護するために、差分プライバシ(DP)が導入されている。本稿では,DPノイズを生かして異常検出システムを回避する適応的かつプライバシー保護的かつ回避的局所性中毒発作(PeLPA)を提案する。
論文参考訳（メタデータ） (2023-07-01T08:19:56Z)
Theoretically Principled Federated Learning for Balancing Privacy and Utility [61.03993520243198]
モデルパラメータを歪ませることでプライバシを保護する保護機構の一般学習フレームワークを提案する。フェデレートされた学習における各コミュニケーションラウンドにおいて、各クライアント上の各モデルパラメータに対して、パーソナライズされたユーティリティプライバシトレードオフを実現することができる。
論文参考訳（メタデータ） (2023-05-24T13:44:02Z)
Breaking the Communication-Privacy-Accuracy Tradeoff with $f$-Differential Privacy [51.11280118806893]
サーバが複数のユーザの協調的なデータ分析を,プライバシの懸念と限られた通信能力で調整する,フェデレートされたデータ分析問題を考える。有限出力空間を有する離散値機構の局所的差分プライバシー保証を$f$-differential privacy (DP) レンズを用いて検討する。より具体的には、様々な離散的評価機構の厳密な$f$-DP保証を導出することにより、既存の文献を前進させる。
論文参考訳（メタデータ） (2023-02-19T16:58:53Z)
Over-the-Air Federated Learning with Privacy Protection via Correlated Additive Perturbations [57.20885629270732]
我々は、複数のユーザ/エージェントからエッジサーバへの勾配更新をOtA(Over-the-Air)で送信することで、無線フェデレーション学習のプライバシー面を考察する。従来の摂動に基づく手法は、トレーニングの精度を犠牲にしてプライバシー保護を提供する。本研究では,エッジサーバにおけるプライバシリークの最小化とモデル精度の低下を目標とする。
論文参考訳（メタデータ） (2022-10-05T13:13:35Z)
Decentralized Stochastic Optimization with Inherent Privacy Protection [103.62463469366557]
分散最適化は、現代の協調機械学習、分散推定と制御、大規模センシングの基本的な構成要素である。データが関与して以降、分散最適化アルゴリズムの実装において、プライバシ保護がますます重要になっている。
論文参考訳（メタデータ） (2022-05-08T14:38:23Z)
Sparsified Secure Aggregation for Privacy-Preserving Federated Learning [1.2891210250935146]
セキュアアグリゲーションのための軽量な勾配スペーシフィケーションフレームワークを提案する。提案手法は,セキュアアグリゲーションの通信オーバヘッドを大幅に低減できることを示す。実験により,従来のセキュアなベンチマークと比較すると,我々のフレームワークは通信オーバーヘッドを最大7.8倍削減し,壁時計のトレーニング時間を1.13倍短縮することを示した。
論文参考訳（メタデータ） (2021-12-23T22:44:21Z)
Federated Learning with Sparsification-Amplified Privacy and Adaptive Optimization [27.243322019117144]
フェデレートラーニング(FL)により、分散エージェントは、生データを互いに共有することなく、集中型モデルを共同で学習することができる。スパーシフィケーションを増幅した新しいFLフレームワークを提案する。提案手法では,ランダムなスペーシフィケーションと各エージェントの勾配摂動を統合し,プライバシー保証を増幅する。
論文参考訳（メタデータ） (2020-08-01T20:22:57Z)
Differentially Private Federated Learning with Laplacian Smoothing [72.85272874099644]
フェデレートラーニングは、ユーザ間でプライベートデータを共有せずに、協調的にモデルを学習することで、データのプライバシを保護することを目的としている。敵は、リリースしたモデルを攻撃することによって、プライベートトレーニングデータを推測することができる。差別化プライバシは、トレーニングされたモデルの正確性や実用性を著しく低下させる価格で、このような攻撃に対する統計的保護を提供する。
論文参考訳（メタデータ） (2020-05-01T04:28:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。