論文の概要: Bridging Local and Federated Data Normalization in Federated Learning: A Privacy-Preserving Approach

• arxiv url: http://arxiv.org/abs/2511.11249v1
• Date: Fri, 14 Nov 2025 12:48:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-17 22:42:18.601433
• Title: Bridging Local and Federated Data Normalization in Federated Learning: A Privacy-Preserving Approach
• Title（参考訳）: フェデレーション学習におけるローカルおよびフェデレーションデータの正規化:プライバシ保護アプローチ
• Authors: Melih Coşğun, Mert Gençtürk, Sinem Sav,
• Abstract要約: データを複数のパーティに分散したフェデレーション学習では、正規化がユニークな課題を提示します。 従来のメソッドは、独立したクライアントサイド処理か、パーティに配布する前にデータセット全体を正規化します。 フェデレートされた設定に合わせた、新しい同型暗号化された$k$-thランキング要素(および中央値)の計算を提案する。
• 参考スコア（独自算出の注目度）: 0.10923877073891441
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Data normalization is a crucial preprocessing step for enhancing model performance and training stability. In federated learning (FL), where data remains distributed across multiple parties during collaborative model training, normalization presents unique challenges due to the decentralized and often heterogeneous nature of the data. Traditional methods rely on either independent client-side processing, i.e., local normalization, or normalizing the entire dataset before distributing it to parties, i.e., pooled normalization. Local normalization can be problematic when data distributions across parties are non-IID, while the pooled normalization approach conflicts with the decentralized nature of FL. In this paper, we explore the adaptation of widely used normalization techniques to FL and define the term federated normalization. Federated normalization simulates pooled normalization by enabling the collaborative exchange of normalization parameters among parties. Thus, it achieves performance on par with pooled normalization without compromising data locality. However, sharing normalization parameters such as the mean introduces potential privacy risks, which we further mitigate through a robust privacy-preserving solution. Our contributions include: (i) We systematically evaluate the impact of various federated and local normalization techniques in heterogeneous FL scenarios, (ii) We propose a novel homomorphically encrypted $k$-th ranked element (and median) calculation tailored for the federated setting, enabling secure and efficient federated normalization, (iii) We propose privacy-preserving implementations of widely used normalization techniques for FL, leveraging multiparty fully homomorphic encryption (MHE).
• Abstract（参考訳）: データ正規化は、モデルパフォーマンスとトレーニングの安定性を向上させるための重要な前処理ステップである。 連立学習(FL)では、コラボレーティブモデルトレーニング中にデータが複数のパーティに分散している。 従来の手法は、独立したクライアント側処理、すなわち局所正規化、あるいはデータセット全体を正規化してからパーティに配布する、すなわちプール正規化のいずれかに依存していた。 局所正規化は、パーティ間でのデータ分布が非IIDである場合に問題となるが、プール化された正規化アプローチはFLの分散の性質と矛盾する。 本稿では、広く使われている正規化技法をFLに適用し、フェデレーション正規化という用語を定義する。 フェデレート正規化(Federated normalization)は、当事者間で正規化パラメータの協調交換を可能にすることで、プール化された正規化をシミュレートする。 これにより、データの局所性を損なうことなく、プール化正規化と同等の性能が得られる。 しかし、平均値などの正規化パラメータを共有すると、潜在的なプライバシーリスクが発生し、堅牢なプライバシー保護ソリューションによってさらに軽減される。 コントリビューションには以下のものがある。 i)異種FLシナリオにおける各種フェデレーションおよび局所正規化手法の影響を系統的に評価する。 (II) 安全かつ効率的な連合正規化を実現するために, フェデレーション設定に適した新しい同型暗号化された$k$-thランク要素(および中央値)計算を提案する。 3)マルチパーティ完全同型暗号(MHE)を活用し,広範に使用されているFLの正規化手法のプライバシ保護実装を提案する。

関連論文リスト

• Heterogeneous Self-Supervised Acoustic Pre-Training with Local Constraints [64.15709757611369]
  異種データを扱うための自己教師付き事前学習手法を提案する。 提案手法は、下流の教師付き微調整タスクに対する自己教師付き事前訓練モデルの適応性を大幅に向上させることができる。
  論文  参考訳（メタデータ） (2025-08-27T15:48:50Z)
• Client Contribution Normalization for Enhanced Federated Learning [4.726250115737579]
  スマートフォンやラップトップを含むモバイルデバイスは、分散化された異種データを生成する。 フェデレートラーニング(FL)は、データ共有のない分散デバイス間でグローバルモデルの協調トレーニングを可能にすることで、有望な代替手段を提供する。 本稿では、FLにおけるデータ依存的不均一性に着目し、局所的に訓練されたモデルから抽出された平均潜在表現を活用する新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2024-11-10T04:03:09Z)
• An Architecture Built for Federated Learning: Addressing Data Heterogeneity through Adaptive Normalization-Free Feature Recalibration [0.3481075494213406]
  We propose Adaptive Normalization-free Feature Recalibration (ANFR) to combat heterogeneous data in Federated Learning (FL)。 ANFRは、ウェイト標準化とチャネルアテンションを組み合わせて、特徴マップの学習可能なスケーリング要素を生成する。 実験により、ANFRは様々なアグリゲーション法で確立されたベースラインを一貫して上回っていることが示された。
  論文  参考訳（メタデータ） (2024-10-02T20:16:56Z)
• Generalizable Heterogeneous Federated Cross-Correlation and Instance Similarity Learning [60.058083574671834]
  本稿では,新しいFCCL+,フェデレーション相関と非ターゲット蒸留との類似性学習を提案する。 不均一な問題に対しては、無関係な公開データを通信に活用する。 局所的な更新段階における破滅的な忘れ物として、FCCL+はFederated Non Target Distillationを導入している。
  論文  参考訳（メタデータ） (2023-09-28T09:32:27Z)
• Privacy Preserving Bayesian Federated Learning in Heterogeneous Settings [20.33482170846688]
  本稿では,大規模なローカルデータセットがなくても,カスタマイズされたローカルベイズモデルに基づく統合学習フレームワークを提案する。 ネットワークの機能的(アウトプット)空間における事前情報を用いて、異種クライアント間のコラボレーションを容易にする。 標準FLデータセットを用いた実験により、同種および異種両方の設定において、我々のアプローチが強いベースラインより優れていることが示された。
  論文  参考訳（メタデータ） (2023-06-13T17:55:30Z)
• Towards More Suitable Personalization in Federated Learning via Decentralized Partial Model Training [67.67045085186797]
  既存のシステムのほとんどは、中央のFLサーバが失敗した場合、大きな通信負荷に直面しなければならない。 共有パラメータと個人パラメータを交互に更新することで、ディープモデルの「右」をパーソナライズする。 共有パラメータアグリゲーションプロセスをさらに促進するために、ローカルシャープネス最小化を統合するDFedを提案する。
  論文  参考訳（メタデータ） (2023-05-24T13:52:18Z)
• Local Learning Matters: Rethinking Data Heterogeneity in Federated Learning [61.488646649045215]
  フェデレートラーニング(FL)は、クライアントのネットワーク(エッジデバイス)でプライバシ保護、分散ラーニングを行うための有望な戦略である。
  論文  参考訳（メタデータ） (2021-11-28T19:03:39Z)
• FedMix: Approximation of Mixup under Mean Augmented Federated Learning [60.503258658382]
  フェデレートラーニング(FL)は、エッジデバイスが各デバイス内でデータを直接共有することなく、モデルを集合的に学習することを可能にする。 現在の最先端アルゴリズムは、クライアント間のローカルデータの均一性が増大するにつれて性能劣化に悩まされる。 我々はFedMixという名の新しい拡張アルゴリズムを提案し、これは驚くべきが単純なデータ拡張手法であるMixupにインスパイアされている。
  論文  参考訳（メタデータ） (2021-07-01T06:14:51Z)
• Decentralized Local Stochastic Extra-Gradient for Variational Inequalities [125.62877849447729]
  我々は、不均一(非IID)で多くのデバイスに分散する問題データを持つ領域上での分散変分不等式(VIs)を考察する。 我々は、完全に分散化された計算の設定を網羅する計算ネットワークについて、非常に一般的な仮定を行う。 理論的には, モノトン, モノトンおよび非モノトンセッティングにおける収束速度を理論的に解析する。
  論文  参考訳（メタデータ） (2021-06-15T17:45:51Z)
• Robustness and Personalization in Federated Learning: A Unified Approach via Regularization [4.7234844467506605]
  我々は、Fed+と呼ばれる堅牢でパーソナライズされたフェデレーション学習のための一連の方法を提案する。 Fed+の主な利点は、フェデレートトレーニングで見られる現実世界の特徴をよりよく適応することである。 ベンチマークデータセットに関する広範な実験を通じて、Fed+の利点を実証する。
  論文  参考訳（メタデータ） (2020-09-14T10:04:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。