論文の概要: Differentially Private Clustered Federated Learning with Privacy-Preserving Initialization and Normality-Driven Aggregation

• arxiv url: http://arxiv.org/abs/2604.20596v1
• Date: Wed, 22 Apr 2026 14:12:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-23 15:36:11.165851
• Title: Differentially Private Clustered Federated Learning with Privacy-Preserving Initialization and Normality-Driven Aggregation
• Title（参考訳）: プライバシ保護初期化と正規性駆動型アグリゲーションを用いた差分プライベート・クラスタ型フェデレーション学習
• Authors: Jie Xu, Haaris Mehmood, Rogier Van Dalen, Karthikeyan Saravanan, Mete Ozay,
• Abstract要約: フェデレートラーニング(FL)は、エンドデバイスに生データを保存しながら、グローバルモデルのトレーニングを可能にする。 これにもかかわらず、FLはプライベートなユーザー情報を漏洩していることを示しており、実際には、ディファレンシャルプライバシ(DP)やセキュアなベクトル和といった手法と組み合わせて、参加者に正式なプライバシ保証を提供することが多い。 PINAは、各クライアントが軽量なローランク適応(LoRA)アダプタを微調整し、更新の圧縮スケッチをプライベートに共有できる2段階フレームワークである。 第2段階では、PINAは収束と堅牢性を改善する正規性駆動の凝集機構を導入する。
• 参考スコア（独自算出の注目度）: 25.94292199187493
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Federated learning (FL) enables training of a global model while keeping raw data on end-devices. Despite this, FL has shown to leak private user information and thus in practice, it is often coupled with methods such as differential privacy (DP) and secure vector sum to provide formal privacy guarantees to its participants. In realistic cross-device deployments, the data are highly heterogeneous, so vanilla federated learning converges slowly and generalizes poorly. Clustered federated learning (CFL) mitigates this by segregating users into clusters, leading to lower intra-cluster data heterogeneity. Nevertheless, coupling CFL with DP remains challenging: the injected DP noise makes individual client updates excessively noisy, and the server is unable to initialize cluster centroids with the less noisy aggregated updates. To address this challenge, we propose PINA, a two-stage framework that first lets each client fine-tune a lightweight low-rank adaptation (LoRA) adapter and privately share a compressed sketch of the update. The server leverages these sketches to construct robust cluster centroids. In the second stage, PINA introduces a normality-driven aggregation mechanism that improves convergence and robustness. Our method retains the benefits of clustered FL while providing formal privacy guarantees against an untrusted server. Extensive evaluations show that our proposed method outperforms state-of-the-art DP-FL algorithms by an average of 2.9% in accuracy for privacy budgets (epsilon in {2, 8}).
• Abstract（参考訳）: フェデレートラーニング(FL)は、エンドデバイスに生データを保存しながら、グローバルモデルのトレーニングを可能にする。 これにもかかわらず、FLはプライベートなユーザー情報を漏洩していることを示しており、実際には、ディファレンシャルプライバシ(DP)やセキュアなベクトル和といった手法と組み合わせて、参加者に正式なプライバシ保証を提供することが多い。 現実的なクロスデバイスデプロイメントでは、データは極めて均一であるため、バニラフェデレーション学習はゆっくりと収束し、一般化が不十分である。 CFL(Clustered Federated Learning)は、ユーザをクラスタに分離することで、クラスタ内のデータの均一性を低下させることによって、これを緩和する。 注入されたDPノイズは、個々のクライアントの更新を過度にノイズにし、サーバは、よりノイズの少ない集約された更新でクラスタセントロイドを初期化できない。 この課題に対処するために、まず各クライアントが軽量なローランク適応(LoRA)アダプタを微調整し、更新の圧縮スケッチをプライベートに共有できる2段階フレームワークであるPINAを提案する。 サーバはこれらのスケッチを利用して、堅牢なクラスタセントロイドを構築する。 第2段階では、PINAは収束と堅牢性を改善する正規性駆動の凝集機構を導入する。 本手法は、信頼できないサーバに対して正式なプライバシー保証を提供しながら、クラスタ化FLの利点を保っている。 提案手法は,プライバシ予算の精度を平均2.9%向上させる(2, 8} のエプシロン)。

関連論文リスト

• CO-PFL: Contribution-Oriented Personalized Federated Learning for Heterogeneous Networks [51.43780477302533]
  コントリビューション指向型PFL(CO-PFL)は,グローバルアグリゲーションに対する各クライアントのコントリビューションを動的に推定するアルゴリズムである。 CO-PFLは、パーソナライズ精度、堅牢性、スケーラビリティ、収束安定性において、最先端の手法を一貫して超越している。
  論文  参考訳（メタデータ） (2025-10-23T05:10:06Z)
• Pigeon-SL: Robust Split Learning Framework for Edge Intelligence under Malicious Clients [53.496957000114875]
  我々は,M クライアントのうち少なくとも 1 つの完全正直なクラスタを保証する新しいスキームである Pigeon-SL を紹介する。 各グローバルラウンドでは、アクセスポイントがクライアントをN+1クラスタに分割し、バニラSLを介して独立して各クラスタをトレーニングし、共有データセット上での検証損失を評価する。 損失が最も低いクラスタのみが進歩し、悪意のある更新を分離して破棄する。
  論文  参考訳（メタデータ） (2025-08-04T09:34:50Z)
• DMM: Distributed Matrix Mechanism for Differentially-Private Federated Learning Based on Constant-Overhead Linear Secret Resharing [51.336015600778396]
  本稿では,ベスト・オブ・ボス・ワールドを実現するための分散行列機構,分散DPのプライバシ向上,行列機構の実用性向上について紹介する。 我々は、異なるトレーニングイテレーションのクライアント委員会間で、一定の通信オーバーヘッドで機密値をセキュアに転送する、新しい暗号プロトコルを用いてこれを実現する。
  論文  参考訳（メタデータ） (2024-10-21T16:25:14Z)
• Differentially Private Clustered Federated Learning [4.768272342753616]
  フェデレートラーニング(FL)は、厳格なデータプライバシ保証を提供するために、しばしば差分プライバシ(DP)を取り入れる。 以前の研究は、クラスタリングクライアント(クラスタ化FL)を介してバニラFL設定における高構造データ不均一性に対処しようとした。 システム内のDPノイズに対して頑健で,基盤となるクライアントのクラスタを正しく識別する,差分プライベートクラスタリングFLのアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-05-29T17:03:31Z)
• FedLAP-DP: Federated Learning by Sharing Differentially Private Loss Approximations [53.268801169075836]
  我々は,フェデレーション学習のための新しいプライバシ保護手法であるFedLAP-DPを提案する。 公式なプライバシー分析は、FedLAP-DPが典型的な勾配共有方式と同じプライバシーコストを発生させることを示している。 提案手法は, 通常の勾配共有法に比べて高速な収束速度を示す。
  論文  参考訳（メタデータ） (2023-02-02T12:56:46Z)
• Acceleration of Federated Learning with Alleviated Forgetting in Local Training [61.231021417674235]
  フェデレートラーニング(FL)は、プライバシを保護しながら機械学習モデルの分散最適化を可能にする。 我々は,FedRegを提案する。FedRegは,局所的な訓練段階において,知識を忘れることなくFLを加速するアルゴリズムである。 我々の実験は、FedRegはFLの収束率を著しく改善するだけでなく、特にニューラルネットワークアーキテクチャが深い場合にも改善することを示した。
  論文  参考訳（メタデータ） (2022-03-05T02:31:32Z)
• FedMix: Approximation of Mixup under Mean Augmented Federated Learning [60.503258658382]
  フェデレートラーニング(FL)は、エッジデバイスが各デバイス内でデータを直接共有することなく、モデルを集合的に学習することを可能にする。 現在の最先端アルゴリズムは、クライアント間のローカルデータの均一性が増大するにつれて性能劣化に悩まされる。 我々はFedMixという名の新しい拡張アルゴリズムを提案し、これは驚くべきが単純なデータ拡張手法であるMixupにインスパイアされている。
  論文  参考訳（メタデータ） (2021-07-01T06:14:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。