論文の概要: Differentially Private Clustered Federated Learning with Privacy-Preserving Initialization and Normality-Driven Aggregation

• arxiv url: http://arxiv.org/abs/2604.20596v1
• Date: Wed, 22 Apr 2026 14:12:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-23 15:36:11.165851
• Title: Differentially Private Clustered Federated Learning with Privacy-Preserving Initialization and Normality-Driven Aggregation
• Title（参考訳）: プライバシ保護初期化と正規性駆動型アグリゲーションを用いた差分プライベート・クラスタ型フェデレーション学習
• Abstract要約: フェデレートラーニング(FL)は、エンドデバイスに生データを保存しながら、グローバルモデルのトレーニングを可能にする。 これにもかかわらず、FLはプライベートなユーザー情報を漏洩していることを示しており、実際には、ディファレンシャルプライバシ(DP)やセキュアなベクトル和といった手法と組み合わせて、参加者に正式なプライバシ保証を提供することが多い。 PINAは、各クライアントが軽量なローランク適応(LoRA)アダプタを微調整し、更新の圧縮スケッチをプライベートに共有できる2段階フレームワークである。 第2段階では、PINAは収束と堅牢性を改善する正規性駆動の凝集機構を導入する。
• 参考スコア（独自算出の注目度）: 25.94292199187493
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Federated learning (FL) enables training of a global model while keeping raw data on end-devices. Despite this, FL has shown to leak private user information and thus in practice, it is often coupled with methods such as differential privacy (DP) and secure vector sum to provide formal privacy guarantees to its participants. In realistic cross-device deployments, the data are highly heterogeneous, so vanilla federated learning converges slowly and generalizes poorly. Clustered federated learning (CFL) mitigates this by segregating users into clusters, leading to lower intra-cluster data heterogeneity. Nevertheless, coupling CFL with DP remains challenging: the injected DP noise makes individual client updates excessively noisy, and the server is unable to initialize cluster centroids with the less noisy aggregated updates. To address this challenge, we propose PINA, a two-stage framework that first lets each client fine-tune a lightweight low-rank adaptation (LoRA) adapter and privately share a compressed sketch of the update. The server leverages these sketches to construct robust cluster centroids. In the second stage, PINA introduces a normality-driven aggregation mechanism that improves convergence and robustness. Our method retains the benefits of clustered FL while providing formal privacy guarantees against an untrusted server. Extensive evaluations show that our proposed method outperforms state-of-the-art DP-FL algorithms by an average of 2.9% in accuracy for privacy budgets (epsilon in {2, 8}).
• Abstract（参考訳）: フェデレートラーニング(FL)は、エンドデバイスに生データを保存しながら、グローバルモデルのトレーニングを可能にする。 これにもかかわらず、FLはプライベートなユーザー情報を漏洩していることを示しており、実際には、ディファレンシャルプライバシ(DP)やセキュアなベクトル和といった手法と組み合わせて、参加者に正式なプライバシ保証を提供することが多い。 現実的なクロスデバイスデプロイメントでは、データは極めて均一であるため、バニラフェデレーション学習はゆっくりと収束し、一般化が不十分である。 CFL(Clustered Federated Learning)は、ユーザをクラスタに分離することで、クラスタ内のデータの均一性を低下させることによって、これを緩和する。 注入されたDPノイズは、個々のクライアントの更新を過度にノイズにし、サーバは、よりノイズの少ない集約された更新でクラスタセントロイドを初期化できない。 この課題に対処するために、まず各クライアントが軽量なローランク適応(LoRA)アダプタを微調整し、更新の圧縮スケッチをプライベートに共有できる2段階フレームワークであるPINAを提案する。 サーバはこれらのスケッチを利用して、堅牢なクラスタセントロイドを構築する。 第2段階では、PINAは収束と堅牢性を改善する正規性駆動の凝集機構を導入する。 本手法は、信頼できないサーバに対して正式なプライバシー保証を提供しながら、クラスタ化FLの利点を保っている。 提案手法は,プライバシ予算の精度を平均2.9%向上させる(2, 8} のエプシロン)。

関連論文リスト

• Byzantine-Robust and Differentially Private Federated Optimization under Weaker Assumptions [89.52532304099522]
  フェデレートラーニング(FL)は、クライアントが生データを集中せずに共有モデルを共同でトレーニングすることを可能にし、固有のプライバシーレベルを提供する。 グラデーションとモデル更新は機密情報を漏洩する可能性があるが、悪意のあるサーバはビザンティン操作のような敵攻撃をマウントする可能性がある。 これらの脆弱性は、統合されたフレームワーク内の差分プライバシー(DP)とビザンチンの堅牢性に対処する必要性を強調している。 Byz-Clip21-SGD2Mを提案する。
  論文  参考訳（メタデータ） (2026-03-24T17:39:09Z)
• CO-PFL: Contribution-Oriented Personalized Federated Learning for Heterogeneous Networks [51.43780477302533]
  コントリビューション指向型PFL(CO-PFL)は,グローバルアグリゲーションに対する各クライアントのコントリビューションを動的に推定するアルゴリズムである。 CO-PFLは、パーソナライズ精度、堅牢性、スケーラビリティ、収束安定性において、最先端の手法を一貫して超越している。
  論文  参考訳（メタデータ） (2025-10-23T05:10:06Z)
• Pigeon-SL: Robust Split Learning Framework for Edge Intelligence under Malicious Clients [53.496957000114875]
  我々は,M クライアントのうち少なくとも 1 つの完全正直なクラスタを保証する新しいスキームである Pigeon-SL を紹介する。 各グローバルラウンドでは、アクセスポイントがクライアントをN+1クラスタに分割し、バニラSLを介して独立して各クラスタをトレーニングし、共有データセット上での検証損失を評価する。 損失が最も低いクラスタのみが進歩し、悪意のある更新を分離して破棄する。
  論文  参考訳（メタデータ） (2025-08-04T09:34:50Z)
• DMM: Distributed Matrix Mechanism for Differentially-Private Federated Learning Based on Constant-Overhead Linear Secret Resharing [51.336015600778396]
  本稿では,ベスト・オブ・ボス・ワールドを実現するための分散行列機構,分散DPのプライバシ向上,行列機構の実用性向上について紹介する。 我々は、異なるトレーニングイテレーションのクライアント委員会間で、一定の通信オーバーヘッドで機密値をセキュアに転送する、新しい暗号プロトコルを用いてこれを実現する。
  論文  参考訳（メタデータ） (2024-10-21T16:25:14Z)
• Differentially Private Clustered Federated Learning [4.768272342753616]
  フェデレートラーニング(FL)は、厳格なデータプライバシ保証を提供するために、しばしば差分プライバシ(DP)を取り入れる。 以前の研究は、クラスタリングクライアント(クラスタ化FL)を介してバニラFL設定における高構造データ不均一性に対処しようとした。 システム内のDPノイズに対して頑健で,基盤となるクライアントのクラスタを正しく識別する,差分プライベートクラスタリングFLのアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-05-29T17:03:31Z)
• DP-DyLoRA: Fine-Tuning Transformer-Based Models On-Device under Differentially Private Federated Learning using Dynamic Low-Rank Adaptation [15.023077875990614]
  フェデレートラーニング(FL)は、クライアントがローカルデータをサーバと共有することなく、グローバルモデルを協調的にトレーニングすることを可能にする。 差分プライバシ(DP)は、クライアントのコントリビューションにランダム性を加えるメカニズムを備えた、正式なプライバシ保証を提供することによって、そのようなリークに対処する。 差分プライバシーと組み合わせてDP-DyLoRAと呼ぶ適応手法を提案する。
  論文  参考訳（メタデータ） (2024-05-10T10:10:37Z)
• Compressed Private Aggregation for Scalable and Robust Federated Learning over Massive Networks [34.29747990203208]
  フェデレーション・ラーニング(FL)は、中央サーバーがリモートユーザーのデータを使って機械学習モデルをトレーニングできる新興パラダイムである。 FLは、ローカルデータセットのプライバシ保護、悪意のあるユーザによる攻撃に対する感受性、通信オーバーヘッドといった課題に直面している。 提案する圧縮プライベートアグリゲーション(CPA)は,大規模デプロイメントを極端に低ビットレートで同時通信することを可能にする。
  論文  参考訳（メタデータ） (2023-08-01T13:36:33Z)
• FedLAP-DP: Federated Learning by Sharing Differentially Private Loss Approximations [53.268801169075836]
  我々は,フェデレーション学習のための新しいプライバシ保護手法であるFedLAP-DPを提案する。 公式なプライバシー分析は、FedLAP-DPが典型的な勾配共有方式と同じプライバシーコストを発生させることを示している。 提案手法は, 通常の勾配共有法に比べて高速な収束速度を示す。
  論文  参考訳（メタデータ） (2023-02-02T12:56:46Z)
• Differentially Private Federated Clustering over Non-IID Data [59.611244450530315]
  クラスタリングクラスタ(FedC)問題は、巨大なクライアント上に分散されたラベルなしデータサンプルを、サーバのオーケストレーションの下で有限のクライアントに正確に分割することを目的としている。 本稿では,DP-Fedと呼ばれる差分プライバシー収束手法を用いた新しいFedCアルゴリズムを提案する。 提案するDP-Fedの様々な属性は、プライバシー保護の理論的解析、特に非識別的かつ独立に分散された(非i.d.)データの場合において得られる。
  論文  参考訳（メタデータ） (2023-01-03T05:38:43Z)
• Social-Aware Clustered Federated Learning with Customized Privacy Preservation [38.00035804720786]
  本稿では,ソーシャル・アウェア・クラスタ・フェデレーション・ラーニングの新たな手法を提案する。 モデル更新をソーシャルグループに混ぜ合わせることで、敵はソーシャル層を組み合わせた結果のみを盗むことができるが、個人のプライバシーを盗むことはできない。 FacebookネットワークとMNIST/CIFAR-10データセットの実験は、SCFLが学習ユーティリティを効果的に強化し、ユーザの支払いを改善し、カスタマイズ可能なプライバシ保護を強制できることを検証する。
  論文  参考訳（メタデータ） (2022-12-25T10:16:36Z)
• Acceleration of Federated Learning with Alleviated Forgetting in Local Training [61.231021417674235]
  フェデレートラーニング(FL)は、プライバシを保護しながら機械学習モデルの分散最適化を可能にする。 我々は,FedRegを提案する。FedRegは,局所的な訓練段階において,知識を忘れることなくFLを加速するアルゴリズムである。 我々の実験は、FedRegはFLの収束率を著しく改善するだけでなく、特にニューラルネットワークアーキテクチャが深い場合にも改善することを示した。
  論文  参考訳（メタデータ） (2022-03-05T02:31:32Z)
• Stochastic Coded Federated Learning with Convergence and Privacy Guarantees [8.2189389638822]
  フェデレートラーニング(FL)は、プライバシを保存する分散機械学習フレームワークとして多くの注目を集めている。 本稿では、トラグラー問題を緩和するために、SCFL(Coded Federated Learning)というコード付きフェデレーション学習フレームワークを提案する。 我々は、相互情報差分プライバシー(MI-DP)によるプライバシー保証を特徴付け、連合学習における収束性能を分析する。
  論文  参考訳（メタデータ） (2022-01-25T04:43:29Z)
• FedMix: Approximation of Mixup under Mean Augmented Federated Learning [60.503258658382]
  フェデレートラーニング(FL)は、エッジデバイスが各デバイス内でデータを直接共有することなく、モデルを集合的に学習することを可能にする。 現在の最先端アルゴリズムは、クライアント間のローカルデータの均一性が増大するにつれて性能劣化に悩まされる。 我々はFedMixという名の新しい拡張アルゴリズムを提案し、これは驚くべきが単純なデータ拡張手法であるMixupにインスパイアされている。
  論文  参考訳（メタデータ） (2021-07-01T06:14:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。