論文の概要: Capture Global Feature Statistics for One-Shot Federated Learning

• arxiv url: http://arxiv.org/abs/2503.06962v1
• Date: Mon, 10 Mar 2025 06:20:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-11 15:51:18.450040
• Title: Capture Global Feature Statistics for One-Shot Federated Learning
• Title（参考訳）: ワンショットフェデレーション学習のための大域的特徴統計
• Authors: Zenghao Guan, Yucan Zhou, Xiaoyan Gu,
• Abstract要約: 従来のフェデレートラーニング(FL)では、サーバとクライアント間の多数の通信が必要になります。 ワンショットFLは、単一の通信ラウンドを通じてグローバルサーバモデルのトレーニングを可能にすることで、上記の欠点を克服するための魅力的な学習パラダイムになっています。 本稿では,フェデレート学習アルゴリズムであるFedCGSを提案する。
• 参考スコア（独自算出の注目度）: 4.853615132393393
• License:
• Abstract: Traditional Federated Learning (FL) necessitates numerous rounds of communication between the server and clients, posing significant challenges including high communication costs, connection drop risks and susceptibility to privacy attacks. One-shot FL has become a compelling learning paradigm to overcome above drawbacks by enabling the training of a global server model via a single communication round. However, existing one-shot FL methods suffer from expensive computation cost on the server or clients and cannot deal with non-IID (Independent and Identically Distributed) data stably and effectively. To address these challenges, this paper proposes FedCGS, a novel Federated learning algorithm that Capture Global feature Statistics leveraging pre-trained models. With global feature statistics, we achieve training-free and heterogeneity-resistant one-shot FL. Furthermore, we extend its application to personalization scenario, where clients only need execute one extra communication round with server to download global statistics. Extensive experimental results demonstrate the effectiveness of our methods across diverse data heterogeneity settings. Code is available at https://github.com/Yuqin-G/FedCGS.
• Abstract（参考訳）: 従来のフェデレートラーニング(FL)は、サーバとクライアント間の多数の通信ラウンドを必要とし、高い通信コスト、コネクションダウンのリスク、プライバシ攻撃に対する感受性など、重大な課題を提起する。 ワンショットFLは、単一の通信ラウンドを通じてグローバルサーバモデルのトレーニングを可能にすることで、上記の欠点を克服するための魅力的な学習パラダイムになっています。 しかし、既存のワンショットFLメソッドはサーバやクライアント上での高価な計算コストに悩まされており、非IID(独立かつIdentically Distributed)データを安定かつ効果的に扱えない。 本稿では,これらの課題に対処するため,FedCGSを提案する。フェデレート学習アルゴリズムは,事前学習モデルを利用したCapture Global feature Statisticsを提案する。 グローバルな特徴統計では,訓練不要で不均一性に耐性のあるワンショットFLが達成される。 さらに、クライアントがグローバルな統計をダウンロードするためには、サーバとの通信ラウンドを1回だけ追加するだけでよい、パーソナライズシナリオにも適用する。 実験結果から,多種多様なデータ不均一性設定にまたがる手法の有効性が示された。 コードはhttps://github.com/Yuqin-G/FedCGSで入手できる。

関連論文リスト

• ConDa: Fast Federated Unlearning with Contribution Dampening [46.074452659791575]
  ConDaは、各クライアントのグローバルモデルに影響を与えるパラメータを追跡することによって、効率的なアンラーニングを実行するフレームワークである。 複数のデータセットで実験を行い、ConDaがクライアントのデータを忘れるのが効果的であることを実証する。
  論文  参考訳（メタデータ） (2024-10-05T12:45:35Z)
• CDFL: Efficient Federated Human Activity Recognition using Contrastive Learning and Deep Clustering [12.472038137777474]
  HAR(Human Activity Recognition)は、多様なセンサーからのデータを介し、人間の行動の自動化とインテリジェントな識別に不可欠である。 中央サーバー上のデータを集約し、集中処理を行うことによる従来の機械学習アプローチは、メモリ集約であり、プライバシの懸念を高める。 本研究は,画像ベースHARのための効率的なフェデレーション学習フレームワークCDFLを提案する。
  論文  参考訳（メタデータ） (2024-07-17T03:17:53Z)
• Personalized federated learning based on feature fusion [2.943623084019036]
  フェデレートされた学習により、分散クライアントは、クライアントのプライバシを保護するためにデータをローカルに保存しながら、トレーニングで協力することができる。 pFedPMと呼ばれる個人化学習手法を提案する。 このプロセスでは、従来のグラデーションアップロードを機能アップロードに置き換え、通信コストを削減し、異種クライアントモデルを可能にする。
  論文  参考訳（メタデータ） (2024-06-24T12:16:51Z)
• An Aggregation-Free Federated Learning for Tackling Data Heterogeneity [50.44021981013037]
  フェデレートラーニング(FL)は、分散データセットからの知識を活用する効果に頼っている。 従来のFLメソッドでは、クライアントが前回のトレーニングラウンドからサーバが集約したグローバルモデルに基づいてローカルモデルを更新するアグリゲート-then-adaptフレームワークを採用している。 我々は,新しいアグリゲーションフリーFLアルゴリズムであるFedAFを紹介する。
  論文  参考訳（メタデータ） (2024-04-29T05:55:23Z)
• Tunable Soft Prompts are Messengers in Federated Learning [55.924749085481544]
  フェデレートラーニング(FL)は、複数の参加者が分散データソースを使用して機械学習モデルを協調的にトレーニングすることを可能にする。 FLにおけるモデルプライバシ保護の欠如は無視できない課題となっている。 そこで本研究では,ソフトプロンプトによって参加者間の情報交換を実現する新しいFLトレーニング手法を提案する。
  論文  参考訳（メタデータ） (2023-11-12T11:01:10Z)
• Towards Instance-adaptive Inference for Federated Learning [80.38701896056828]
  Federated Learning(FL)は、複数のクライアントがローカルトレーニングを集約することで、強力なグローバルモデルを学ぶことができる分散学習パラダイムである。 本稿では,FedInsという新しいFLアルゴリズムを提案する。 我々のFedInsは、Tiny-ImageNet上での通信コストが15%未満で、トップパフォーマンスの手法に対して6.64%の改善など、最先端のFLアルゴリズムよりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-08-11T09:58:47Z)
• DYNAFED: Tackling Client Data Heterogeneity with Global Dynamics [60.60173139258481]
  非イド分散データに対する局所訓練は、偏向局所最適化をもたらす。 自然な解決策は、サーバがデータ分散全体のグローバルなビューを持つように、すべてのクライアントデータをサーバに収集することです。 本稿では,データプライバシを損なうことなく,サーバ上でのグローバルな知識の収集と活用を図る。
  論文  参考訳（メタデータ） (2022-11-20T06:13:06Z)
• Towards Fair Federated Learning with Zero-Shot Data Augmentation [123.37082242750866]
  フェデレーション学習は重要な分散学習パラダイムとして登場し、サーバはクライアントデータにアクセスせずに、多くのクライアントがトレーニングしたモデルからグローバルモデルを集約する。 本稿では, 統計的不均一性を緩和し, フェデレートネットワークにおけるクライアント間での精度向上を図るために, ゼロショットデータ拡張を用いた新しいフェデレーション学習システムを提案する。 Fed-ZDAC (クライアントでのゼロショットデータ拡張によるフェデレーション学習) と Fed-ZDAS (サーバでのゼロショットデータ拡張によるフェデレーション学習) の2種類について検討する。
  論文  参考訳（メタデータ） (2021-04-27T18:23:54Z)
• CatFedAvg: Optimising Communication-efficiency and Classification Accuracy in Federated Learning [2.2172881631608456]
  そこで我々はCatFedAvgというフェデレート学習アルゴリズムを新たに導入した。 コミュニケーション効率は向上するが、NIST戦略のカテゴリカバレッジを用いて学習の質を向上させる。 実験の結果,FedAvgよりもネットワーク転送率が70%低いMデータセットでは,10%の絶対点精度が向上していることがわかった。
  論文  参考訳（メタデータ） (2020-11-14T06:52:02Z)
• WAFFLe: Weight Anonymized Factorization for Federated Learning [88.44939168851721]
  データが機密性やプライベート性を持つドメインでは、ローカルデバイスを離れることなく、分散的に学習できるメソッドには大きな価値があります。 本稿では,フェデレートラーニングのためのウェイト匿名化因子化(WAFFLe)を提案する。これは,インド・バフェット・プロセスとニューラルネットワークの重み要因の共有辞書を組み合わせたアプローチである。
  論文  参考訳（メタデータ） (2020-08-13T04:26:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。