論文の概要: GCA: Global Centroid Alignment in Federated Learning
- arxiv url: http://arxiv.org/abs/2608.22593v1
- Date: Sun, 23 Aug 2026 20:58:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 13:29:43.798093
- Title: GCA: Global Centroid Alignment in Federated Learning
- Title(参考訳): GCA:フェデレートラーニングにおけるグローバルセントロイドアライメント
- Abstract要約: EmphGlobal Centroid Alignment (GCA)は,AEパラメータや勾配を送信せずにクライアントをコーディネートする潜在コード型FLプロトコルである。
1) クライアントはまず、emphreconstructionアップデートを使用してローカルAEをトレーニングし、エンコーダのラテントコードの小さなサブセットをFLサーバにアップロードする。
それぞれのクライアントはエンコーダを更新し、そのローカルの潜伏コードとエンペネレスセントロイドをアンフィアンバース数重み付けで調整し、グローバルに表現されていないパターンを強調する。
- 参考スコア(独自算出の注目度): 14.393322156065524
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Autoencoder (AE)-based federated learning (FL) is attractive for anomaly detection when clients have limited local data. However, conventional FL exchanges AE parameters or gradients, incurring substantial communication overhead and potentially exposing input training data information, since AEs are explicitly optimized to reconstruct their inputs. We introduce \emph{Global Centroid Alignment (GCA)}, a latent-code-mediated FL protocol that coordinates clients without transmitting AE parameters or gradients. In each round, (1) clients first train their local AEs using a \emph{reconstruction} update and upload a small subset of encoder latent codes to the FL server. (2) The server pools these codes, fits a clustering model, and broadcasts only \emph{global latent centroids and their support counts}. (3) Each client then updates its encoder by aligning its local latent codes with the \emph{nearest} centroid using \emph{inverse-count} weighting to emphasize globally underrepresented patterns. Steps (1)--(3) repeat over communication rounds. Because GCA exchanges only sampled latent codes and centroid statistics, its communication cost depends on latent dimensionality and the numbers of uploaded codes and returned centroids rather than on AE model size. Across five tabular and two vision benchmarks, GCA yields higher reconstruction error under a server-side client data extraction attack in all 21 comparisons and clearly lower cosine similarity in 20 of 21 comparisons with FedAvg, FedProx, and FedNova, showing its ability to protect training data. It even improves test accuracy over FedAvg by up to $5.76\%$. GCA achieves extraction defense comparable to DP-FedAvg, remains effective when DP-FedAvg does not reduce target resemblance, and lowers per-round communication by up to $99.15\%$.
- Abstract(参考訳): オートエンコーダ(AE)ベースのフェデレーション学習(FL)は、クライアントがローカルデータに制限がある場合の異常検出に魅力的な機能である。
しかし、従来のFLは、AEパラメータや勾配を交換し、かなりの通信オーバーヘッドを発生させ、AEを明示的に最適化して入力を再構築するため、入力トレーニングデータ情報を公開する可能性がある。
本稿では,AEパラメータや勾配を送信せずにクライアントをコーディネートする潜在コード型FLプロトコルである \emph{Global Centroid Alignment (GCA) を紹介する。
1) 各ラウンドにおいて、クライアントは、まず \emph{reconstruction} アップデートを使用してローカル AE をトレーニングし、エンコーダ潜在コードの小さなサブセットをFLサーバにアップロードする。
2) サーバはこれらのコードをプールし、クラスタリングモデルに適合し、emph{global latent centroidsとそのサポートカウントをブロードキャストする。
(3) 各クライアントは、グローバルに表現されていないパターンを強調するために、emph{inverse-count}重み付けを使用して、ローカルの潜伏符号を \emph{nearest} centroid に整列することで、エンコーダを更新する。
ステップ(1)--(3)通信ラウンドを繰り返す。
GCAはサンプリングされた遅延符号とセントロイド統計のみを交換するため、通信コストはAEモデルのサイズではなく、遅延次元とアップロードされた符号の数と返却セントロイドに依存する。
5つの表と2つのビジョンベンチマークで、GCAは、21のすべての比較において、サーバ側のクライアントデータ抽出攻撃の下で高いリコンストラクションエラーを発生させ、21の比較のうち20のコサイン類似性をFedAvg、FedProx、FedNovaと比較し、トレーニングデータを保護する能力を示している。
さらに、FedAvgに対するテスト精度を最大5.76セントまで向上させる。
GCAはDP-FedAvgに匹敵する抽出防御を達成し、DP-FedAvgがターゲットの類似性を減らさない場合に有効であり、ラウンドごとの通信を99.15$%まで下げる。
関連論文リスト
- FedQHD: Closed-Form Function-Space Federated Reinforcement Learning [18.086374545576792]
統合強化学習は、分散エージェントが生の軌跡を交換することなく、政策や価値見積を協調的に改善することを可能にする。
線形読み出しを用いた超次元(ランダム機能)状態エンコーダを用いたQ-ラーニング手法であるFedQHDを提案する。
このギャップは、サブスペースのミスアライメント、アンカーセット条件付け、正規化バイアスに分解される。
論文 参考訳(メタデータ) (2026-05-27T18:59:40Z) - Improved Baselines with Representation Autoencoders [61.47127824064028]
表現オートエンコーダ(RAE)は、従来のVAEを事前訓練された視覚エンコーダに置き換える。
RAEを単純化し、改善する3つの洞察が得られます。
RAEv2はオリジナルのRAEよりも10倍以上早く収束する。
論文 参考訳(メタデータ) (2026-05-18T12:42:34Z) - What matters for Representation Alignment: Global Information or Spatial Structure? [64.67092609921816]
表現アライメント(REPA)は、強い事前訓練された視覚エンコーダから中間拡散特徴への表現を蒸留することにより、生成訓練を導く。
本稿では,対象表現のどの側面が生成に重要であるか,そのテクスト・グロバル・リビジョン・セマンティック・情報について検討する。
我々はREPAの標準射影層を単純な畳み込み層に置き換え、外部表現のための空間正規化層を導入する。
論文 参考訳(メタデータ) (2025-12-11T16:39:53Z) - Geometric Prior-Guided Federated Prompt Calibration [21.766231067185956]
Federated Prompt Learning (FPL)は、大規模モデルを協調的にトレーニングするためのパラメータ効率の高いソリューションを提供する。
既存の手法は、アグリゲーションや正規化に重点を置いており、局所的なトレーニングバイアスの根本原因に対処できない。
我々は,このバイアスを直接修正する新しいフレームワークであるGeometry-Guided Text Prompt (GGTPC)を提案する。
論文 参考訳(メタデータ) (2025-12-08T06:42:32Z) - FedRE: A Representation Entanglement Framework for Model-Heterogeneous Federated Learning [46.7918908485135]
Federated Representation Entanglement (FedRE) は、クライアント知識の新たな形態を基盤としたフレームワークである。
FedREは、モデルパフォーマンス、プライバシ保護、通信オーバーヘッドの効果的なトレードオフを実現している。
論文 参考訳(メタデータ) (2025-11-27T09:42:22Z) - Cooperative Pseudo Labeling for Unsupervised Federated Classification [62.9387841396335]
Unsupervised Federated Learning (UFL)は、データを共有したりラベル情報にアクセスしたりすることなく、分散クライアント間でグローバルモデルを協調的にトレーニングすることを目的としている。
我々は、新しい方法、 underlinetextbfFederated underlinetextbfCooperative underlinetextbfPseudo underlinetextbfLabeling (textbfFedCoPL)を提案する。
特に、一般的な画像特徴を含む視覚的プロンプトをサーバに集約し、パーソナライズされた知識をコードするテキストプロンプトをローカルに保持する。
論文 参考訳(メタデータ) (2025-10-11T08:18:26Z) - Fed-ZOE: Communication-Efficient Over-the-Air Federated Learning via Zeroth-Order Estimation [15.026407830543086]
Fed-ZOEは、ゼロ階最適化(ZOO)で一般的に使用されるランダム化勾配推定器(RGE)にインスパイアされた効率的なフレームワークである。
Fed-ZOEは、通信コストを大幅に削減しながら、Fed-OtAに匹敵するパフォーマンスを達成する。
論文 参考訳(メタデータ) (2024-12-21T21:24:58Z) - Rethinking Client Drift in Federated Learning: A Logit Perspective [125.35844582366441]
フェデレートラーニング(FL)は、複数のクライアントが分散した方法で協調的に学習し、プライバシ保護を可能にする。
その結果,局所モデルとグローバルモデルとのロジット差は,モデルが継続的に更新されるにつれて増大することがわかった。
我々はFedCSDと呼ばれる新しいアルゴリズムを提案する。FedCSDは、ローカルモデルとグローバルモデルを調整するためのフェデレーションフレームワークにおけるクラスプロトタイプの類似度蒸留である。
論文 参考訳(メタデータ) (2023-08-20T04:41:01Z) - Towards Bias Correction of FedAvg over Nonuniform and Time-Varying
Communications [26.597515045714502]
Federated Learning(FL)は、パラメータサーバ(PS)とクライアントのコレクションが協調して、グローバルな目的を通じてモデルをトレーニングする分散学習フレームワークである。
チャネル条件が時間とともに変化している場合、FedFederated Postponedグローバルモデルは、ゴシップ型情報混合エラーを延期しないことを示す。
論文 参考訳(メタデータ) (2023-06-01T01:52:03Z) - PerAda: Parameter-Efficient Federated Learning Personalization with Generalization Guarantees [95.87604231887353]
既存のpFL手法は高い通信コストと計算コストをもたらすか、テスト通信に弱い。
PerAdaではパラメータ蒸留とpFL pFLが特に試験時間分布において優れた性能を示す。
私たちのコードはhttps://github.com/NV/PerAda.comで公開されています。
論文 参考訳(メタデータ) (2023-02-13T19:00:37Z) - Acceleration of Federated Learning with Alleviated Forgetting in Local
Training [61.231021417674235]
フェデレートラーニング(FL)は、プライバシを保護しながら機械学習モデルの分散最適化を可能にする。
我々は,FedRegを提案する。FedRegは,局所的な訓練段階において,知識を忘れることなくFLを加速するアルゴリズムである。
我々の実験は、FedRegはFLの収束率を著しく改善するだけでなく、特にニューラルネットワークアーキテクチャが深い場合にも改善することを示した。
論文 参考訳(メタデータ) (2022-03-05T02:31:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。