論文の概要: Communication-Efficient Distributed Learning with Differential Privacy

• arxiv url: http://arxiv.org/abs/2604.02558v1
• Date: Thu, 02 Apr 2026 22:19:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-06 17:20:24.233275
• Title: Communication-Efficient Distributed Learning with Differential Privacy
• Title（参考訳）: 差分プライバシーを用いたコミュニケーション効率のよい分散学習
• Authors: Xiaoxing Ren, Yuwen Ma, Nicola Bastianello, Karl H. Johansson, Thomas Parisini, Andreas A. Malikopoulos,
• Abstract要約: 我々は,コミュニケーション効率とエージェントデータのプライバシを保証するアルゴリズムを設計する上での課題に焦点を当てる。 我々は,アルゴリズムが有界距離内における問題の定常点に収束することを証明した。 このアルゴリズムは,最先端手法と比較して,同一のプライバシ予算下での分類タスクにおいて,優れた性能を示す。
• 参考スコア（独自算出の注目度）: 4.520252012039036
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: We address nonconvex learning problems over undirected networks. In particular, we focus on the challenge of designing an algorithm that is both communication-efficient and that guarantees the privacy of the agents' data. The first goal is achieved through a local training approach, which reduces communication frequency. The second goal is achieved by perturbing gradients during local training, specifically through gradient clipping and additive noise. We prove that the resulting algorithm converges to a stationary point of the problem within a bounded distance. Additionally, we provide theoretical privacy guarantees within a differential privacy framework that ensure agents' training data cannot be inferred from the trained model shared over the network. We show the algorithm's superior performance on a classification task under the same privacy budget, compared with state-of-the-art methods.
• Abstract（参考訳）: 我々は,非方向ネットワーク上の非凸学習問題に対処する。 特に,コミュニケーション効率とエージェントデータのプライバシを保証するアルゴリズムを設計する上での課題に着目する。 最初の目標は、通信頻度を減らすローカルなトレーニングアプローチによって達成される。 第2の目標は、局所訓練中の勾配の摂動、特に勾配クリッピングと付加雑音によって達成される。 得られたアルゴリズムが有界距離内における問題の定常点に収束することを証明する。 さらに、エージェントのトレーニングデータをネットワーク上で共有されたトレーニングモデルから推論できないように、差分プライバシーフレームワーク内で理論的プライバシ保証を提供します。 このアルゴリズムは, 最先端の手法と比較して, 同一のプライバシー予算下での分類作業において, 優れた性能を示す。

関連論文リスト

• Collaborative Inference over Wireless Channels with Feature Differential Privacy [57.68286389879283]
  複数の無線エッジデバイス間の協調推論は、人工知能(AI)アプリケーションを大幅に強化する可能性がある。 抽出された特徴を抽出することは、プロセス中に機密性の高い個人情報が暴露されるため、重大なプライバシーリスクをもたらす。 本稿では,ネットワーク内の各エッジデバイスが抽出された機能のプライバシを保護し,それらを中央サーバに送信して推論を行う,新たなプライバシ保存協調推論機構を提案する。
  論文  参考訳（メタデータ） (2024-10-25T18:11:02Z)
• Enhancing Privacy in Federated Learning through Local Training [2.1096737598952853]
  我々は,(i)高価なコミュニケーションと(ii)プライバシー保護の課題を克服するために,フェデレート学習アルゴリズムであるFed-PLTを提案する。 i) 中央コーディネータと計算機エージェント間の通信回数を大幅に削減し, 部分的参加と局所訓練の両立を可能にした。
  論文  参考訳（メタデータ） (2024-03-26T10:25:21Z)
• Locally Differentially Private Gradient Tracking for Distributed Online Learning over Directed Graphs [2.1271873498506038]
  本稿では,局所的に個人差分な勾配追跡に基づく分散オンライン学習アルゴリズムを提案する。 提案アルゴリズムは,厳密な局所差分プライバシーを確保しつつ,平均二乗を最適解に収束させることを証明した。
  論文  参考訳（メタデータ） (2023-10-24T18:15:25Z)
• Sparse Decentralized Federated Learning [35.32297764027417]
  分散フェデレートラーニング(DFL)は、中央サーバーなしで協調的なモデルトレーニングを可能にするが、効率、安定性、信頼性の課題に直面している。 Sparse DFL (SDFL) に繋がる共有モデルに空間制約を導入し,新しいアルゴリズムCEPSを提案する。 数値実験により,高い信頼性を維持しつつ,コミュニケーションと効率を向上させるための提案アルゴリズムの有効性が検証された。
  論文  参考訳（メタデータ） (2023-08-31T12:22:40Z)
• Locally Differentially Private Distributed Online Learning with Guaranteed Optimality [1.800614371653704]
  本稿では,分散オンライン学習における差分プライバシーと学習精度を両立させる手法を提案する。 予想される即時後悔の減少を確実にする一方で、このアプローチは有限累積プライバシー予算を同時に確保することができる。 私たちの知る限りでは、このアルゴリズムは厳密な局所的な差分プライバシーと学習精度の両方を確実にする最初のアルゴリズムです。
  論文  参考訳（メタデータ） (2023-06-25T02:05:34Z)
• Differentially Private Stochastic Gradient Descent with Low-Noise [49.981789906200035]
  現代の機械学習アルゴリズムは、データからきめ細かい情報を抽出して正確な予測を提供することを目的としており、プライバシー保護の目標と矛盾することが多い。 本稿では、プライバシを保ちながら優れたパフォーマンスを確保するために、プライバシを保存する機械学習アルゴリズムを開発することの実践的および理論的重要性について論じる。
  論文  参考訳（メタデータ） (2022-09-09T08:54:13Z)
• sqSGD: Locally Private and Communication Efficient Federated Learning [14.60645909629309]
  Federated Learning(FL)は、分散データソースから機械学習モデルをトレーニングするテクニックである。 我々は,通信効率と高次元互換性に対処するsqSGDという勾配学習アルゴリズムを開発した。 実験の結果、sqSGDはローカルのプライバシー制約でLeNetやResNetのような大規模なモデルをうまく学習している。
  論文  参考訳（メタデータ） (2022-06-21T17:45:35Z)
• Federated Learning for Face Recognition with Gradient Correction [52.896286647898386]
  本稿では,顔認識のためのフェデレーション学習に取り組むためのフレームワークであるFedGCを紹介する。 我々は,FedGCが標準ソフトマックスと同様の損失関数を構成することを示す。
  論文  参考訳（メタデータ） (2021-12-14T09:19:29Z)
• Unsupervised Domain-adaptive Hash for Networks [81.49184987430333]
  ドメイン適応型ハッシュ学習はコンピュータビジョンコミュニティでかなりの成功を収めた。 UDAHと呼ばれるネットワークのための教師なしドメイン適応型ハッシュ学習手法を開発した。
  論文  参考訳（メタデータ） (2021-08-20T12:09:38Z)
• Graph-Homomorphic Perturbations for Private Decentralized Learning [64.26238893241322]
  ローカルな見積もりの交換は、プライベートデータに基づくデータの推測を可能にする。 すべてのエージェントで独立して選択された摂動により、パフォーマンスが著しく低下する。 本稿では,特定のヌル空間条件に従って摂動を構成する代替スキームを提案する。
  論文  参考訳（メタデータ） (2020-10-23T10:35:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。