論文の概要: HtFLlib: A Comprehensive Heterogeneous Federated Learning Library and Benchmark
- arxiv url: http://arxiv.org/abs/2506.03954v1
- Date: Wed, 04 Jun 2025 13:44:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-05 21:20:14.360986
- Title: HtFLlib: A Comprehensive Heterogeneous Federated Learning Library and Benchmark
- Title(参考訳): HtFLlib: 総合的不均一なフェデレーション学習ライブラリとベンチマーク
- Authors: Jianqing Zhang, Xinghao Wu, Yanbing Zhou, Xiaoting Sun, Qiqi Cai, Yang Liu, Yang Hua, Zhenzhe Zheng, Jian Cao, Qiang Yang,
- Abstract要約: 従来のフェデレートラーニング(FL)は同種モデルのみをサポートする。
Heterogeneous Federated Learning (HtFL) 法は多種多様な異種モデル間の協調を可能にする。
異種連携学習ライブラリ(HtFLlib)について紹介する。
- 参考スコア(独自算出の注目度): 24.129748996689955
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: As AI evolves, collaboration among heterogeneous models helps overcome data scarcity by enabling knowledge transfer across institutions and devices. Traditional Federated Learning (FL) only supports homogeneous models, limiting collaboration among clients with heterogeneous model architectures. To address this, Heterogeneous Federated Learning (HtFL) methods are developed to enable collaboration across diverse heterogeneous models while tackling the data heterogeneity issue at the same time. However, a comprehensive benchmark for standardized evaluation and analysis of the rapidly growing HtFL methods is lacking. Firstly, the highly varied datasets, model heterogeneity scenarios, and different method implementations become hurdles to making easy and fair comparisons among HtFL methods. Secondly, the effectiveness and robustness of HtFL methods are under-explored in various scenarios, such as the medical domain and sensor signal modality. To fill this gap, we introduce the first Heterogeneous Federated Learning Library (HtFLlib), an easy-to-use and extensible framework that integrates multiple datasets and model heterogeneity scenarios, offering a robust benchmark for research and practical applications. Specifically, HtFLlib integrates (1) 12 datasets spanning various domains, modalities, and data heterogeneity scenarios; (2) 40 model architectures, ranging from small to large, across three modalities; (3) a modularized and easy-to-extend HtFL codebase with implementations of 10 representative HtFL methods; and (4) systematic evaluations in terms of accuracy, convergence, computation costs, and communication costs. We emphasize the advantages and potential of state-of-the-art HtFL methods and hope that HtFLlib will catalyze advancing HtFL research and enable its broader applications. The code is released at https://github.com/TsingZ0/HtFLlib.
- Abstract(参考訳): AIが進化するにつれて、異種モデル間のコラボレーションは、組織やデバイス間での知識伝達を可能にすることによって、データの不足を克服するのに役立つ。
従来のフェデレートラーニング(FL)は同種モデルのみをサポートし、異種モデルアーキテクチャとクライアント間のコラボレーションを制限する。
これを解決するために、HtFL法が開発され、データ不均一性問題に同時に対処しながら、多様な異種モデル間の協調を可能にする。
しかし、急速に成長するHtFL法の標準化評価と分析のための包括的なベンチマークは欠落している。
まず、高度に多様性のあるデータセット、モデルの不均一性シナリオ、および異なるメソッドの実装が、HtFLメソッド間の容易かつ公平な比較を行うハードルとなる。
第2に,HtFL法の有効性とロバスト性は,医療領域やセンサ信号のモダリティなど,様々なシナリオにおいて明らかにされていない。
このギャップを埋めるために、私たちは、複数のデータセットとヘテロジニティシナリオを統合化して、研究および実践的なアプリケーションのための堅牢なベンチマークを提供する、使いやすく拡張可能なフレームワークである、最初のHtFLlib(Heterogeneous Federated Learning Library)を紹介します。
具体的には、(1)ドメイン、モダリティ、およびデータ不均一性のシナリオにまたがる12のデータセット、(2)3つのモダリティにまたがる小さなものから大規模なものまで、(3)10の代表的なHtFLメソッドを実装したモジュール化され、拡張が容易なHtFLコードベース、(4)正確性、収束性、計算コスト、通信コストの観点から体系的な評価を行う。
我々は、最先端のHtFL手法の利点と可能性を強調し、HtFLlibがHtFL研究の進展を触媒し、より広範な応用を可能にすることを期待する。
コードはhttps://github.com/TsingZ0/HtFLlibで公開されている。
関連論文リスト
- A Unified Solution to Diverse Heterogeneities in One-shot Federated Learning [16.120630244663452]
One-Shot Federated Learning (OSFL)は、サーバとクライアント間の通信を1ラウンドに制限する。
FedHydraは、モデルとデータの不均一性の両方に効果的に対処するために設計された、統一された、データフリーのOSFLフレームワークである。
論文 参考訳(メタデータ) (2024-10-28T15:20:52Z) - Comparative Evaluation of Clustered Federated Learning Methods [0.5242869847419834]
CFL(Clustered Federated Learning)は、クライアントを均質なグループに分割することを目的としている。
本稿では,2つの最先端CFLアルゴリズムの性能について,フェデレートラーニング(FL)におけるデータ不均一性の分類法を提案する。
我々の目的は、CFLのパフォーマンスとデータ異種シナリオの関係をより明確に理解することである。
論文 参考訳(メタデータ) (2024-10-18T07:01:56Z) - Adaptive Guidance for Local Training in Heterogeneous Federated Learning [23.92461217732838]
Heterogeneous Federated Learning (HtFL) におけるモデルの不均一性
本稿では,FedL2Gを提案する。
FedL2Gは、最先端の7つの手法を著しく上回っている。
論文 参考訳(メタデータ) (2024-10-09T02:31:49Z) - FLASH: Federated Learning Across Simultaneous Heterogeneities [54.80435317208111]
FLASH (Federated Learning Across Simultaneous Heterogeneities) は軽量かつ柔軟なクライアント選択アルゴリズムである。
ヘテロジニティの幅広い情報源の下で、最先端のFLフレームワークよりも優れています。
最先端のベースラインよりも大幅に、一貫性のある改善を実現している。
論文 参考訳(メタデータ) (2024-02-13T20:04:39Z) - Fake It Till Make It: Federated Learning with Consensus-Oriented
Generation [52.82176415223988]
コンセンサス指向生成による連合学習(FedCOG)を提案する。
FedCOGは、補完的なデータ生成と知識蒸留に基づくモデルトレーニングという、クライアント側の2つの重要なコンポーネントで構成されています。
古典的および実世界のFLデータセットの実験は、FedCOGが一貫して最先端の手法より優れていることを示している。
論文 参考訳(メタデータ) (2023-12-10T18:49:59Z) - Heterogeneous Federated Learning: State-of-the-art and Research
Challenges [117.77132819796105]
不均一フェデレートラーニング(HFL)はより困難であり、それに対応するソリューションは多様で複雑である。
HFLの新たな進歩を概説し,既存のHFL手法の新たな分類法を提案する。
HFLにおけるいくつかの重要かつ将来的な研究方向性について論じる。
論文 参考訳(メタデータ) (2023-07-20T06:32:14Z) - Faster Adaptive Federated Learning [84.38913517122619]
フェデレートラーニングは分散データの出現に伴って注目を集めている。
本稿では,クロスサイロFLにおけるモーメントに基づく分散低減手法に基づく適応アルゴリズム(FAFED)を提案する。
論文 参考訳(メタデータ) (2022-12-02T05:07:50Z) - Efficient Split-Mix Federated Learning for On-Demand and In-Situ
Customization [107.72786199113183]
フェデレートラーニング(FL)は、複数の参加者が生データを共有せずに学習をコラボレーションするための分散ラーニングフレームワークを提供する。
本稿では, モデルサイズとロバスト性をその場でカスタマイズできる, 不均一な参加者のための新しいスプリット・ミクス・FL戦略を提案する。
論文 参考訳(メタデータ) (2022-03-18T04:58:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。