論文の概要: FedImp: Enhancing Federated Learning Convergence with Impurity-Based Weighting
- arxiv url: http://arxiv.org/abs/2608.14654v1
- Date: Fri, 31 Jul 2026 05:46:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-23 14:54:39.944866
- Title: FedImp: Enhancing Federated Learning Convergence with Impurity-Based Weighting
- Title(参考訳): FedImp: 不純物に基づく重み付けによるフェデレーション学習の収束を強化する
- Abstract要約: フェデレートラーニング(FL)は、デバイスがローカルデータのプライバシを保持しながらグローバルモデルをトレーニングすることを可能にする。
FLにおける大きな課題は、デバイス間でのデータの非独立性とIdentically分散(非IID)性である。
ローカルデータの情報内容に基づいて各デバイスへのコントリビューションを定量化する新しいアルゴリズムであるFederated Impurity Weighting (FedImp)を提案する。
- 参考スコア(独自算出の注目度): 2.441001020367009
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated Learning (FL) is a collaborative paradigm that enables multiple devices to train a global model while preserving local data privacy. A major challenge in FL is the non-Independent and Identically Distributed (non-IID) nature of data across devices, which hinders training efficiency and slows convergence. To tackle this, we propose Federated Impurity Weighting (FedImp), a novel algorithm that quantifies each device contribution based on the informational content of its local data. These contributions are normalized to compute distinct aggregation weights for the global model update. Extensive experiments on EMNIST and CIFAR-10 datasets show that FedImp significantly improves convergence speed, reducing communication rounds by up to 64.4%, 27.8%, and 66.7% on EMNIST, and 44.2%, 44%, and 25.6% on CIFAR-10 compared to FedAvg, FedProx, and FedAdp, respectively. Under highly imbalanced data distributions, FedImp outperforms all baselines and achieves the highest accuracy. Overall, FedImp offers an effective solution to enhance FL efficiency in non-IID settings.
- Abstract(参考訳): Federated Learning(FL)は、複数のデバイスがローカルデータのプライバシを保持しながらグローバルモデルをトレーニングできるコラボレーションパラダイムである。
FLにおける大きな課題は、デバイス間でのデータの非独立性とIdentically分散(非IID)性であり、トレーニングの効率を阻害し、収束を遅くする。
そこで本稿では,FedImp(Federated Impurity Weighting)を提案する。FedImpは,ローカルデータの情報内容に基づいて,各デバイスへのコントリビューションを定量化する新しいアルゴリズムである。
これらの貢献は、グローバルモデル更新のための異なる集約重みを計算するために正規化される。
EMNISTとCIFAR-10データセットの大規模な実験により、FedImpは、FedAvg、FedProx、FedAdpと比較して、EMNISTで64.4%、27.8%、66.7%、CIFAR-10で44.2%、44%、25.6%まで、コンバージェンス速度を大幅に改善した。
高度に不均衡なデータ分散の下では、FedImpはすべてのベースラインを上回り、最高の精度を達成する。
全体として、FedImpは非IID設定におけるFL効率を向上させる効果的なソリューションを提供する。
関連論文リスト
- FedTVD: Balancing Data Quality and Quantity for Robust Federated Learning [1.7205106391379026]
Federated Learning (FL)は、分散クライアントデバイス間の協調的なモデルトレーニングを可能にする。
我々は,データ品質と量の両方を考慮して,集約中のクライアントのコントリビューションを重み付けする新しいFLアルゴリズムであるFedTVDを提案する。
FedTVDは、すべてのデータセットで最先端のメソッドを一貫して上回ることを示す。
論文 参考訳(メタデータ) (2026-08-10T07:45:25Z) - FedLBW: A Loss-Based Weighting Strategy for Federated Learning on Non-IID Data in Wireless Networks [2.4851820343103035]
フェデレートラーニング(FL)は、プライバシを保持しながら、分散クライアント間でのコラボレーティブ機械学習(ML)を可能にする。
FedAvgのような従来のFLアルゴリズムは、クライアント更新を重み付けするためにデータセットのサイズのみに依存している。
FedLBW(Federated Learning with Loss-Based Weighting)は、各クライアントの更新を検証損失の逆の重みに割り当てる新しいアグリゲーション手法である。
論文 参考訳(メタデータ) (2026-08-07T09:21:37Z) - Optimized Federated Knowledge Distillation with Distributed Neural Architecture Search [7.461859467262201]
フェデレートラーニング(FL)は、データを集中せずに協調的なモデルトレーニングを可能にする。
既存のFLアプローチは、集約、パーソナライゼーション、知識蒸留の改善を通じてこれらの課題を軽減する。
この研究は、クライアント側ニューラルアーキテクチャ選択とサーバ協調知識の蒸留を組み合わせた蒸留駆動FLフレームワークであるFedKDNASを紹介する。
論文 参考訳(メタデータ) (2026-05-20T15:50:49Z) - FedPBS: Proximal-Balanced Scaling Federated Learning Model for Robust Personalized Training for Non-IID Data [0.2840208039211775]
フェデレートラーニング(FL)は、分散クライアントのセットで、機械学習モデルを共同でトレーニングすることを可能にする。
我々はこれらの課題に対処するために、FedBSとFedProxの相補的なアイデアを結合するFLアルゴリズムであるFedPBSを提案する。
論文 参考訳(メタデータ) (2026-03-14T11:44:27Z) - Adaptive Dual-Weighting Framework for Federated Learning via Out-of-Distribution Detection [53.45696787935487]
Federated Learning (FL)は、大規模分散サービスノード間の協調的なモデルトレーニングを可能にする。
実世界のサービス指向デプロイメントでは、異種ユーザ、デバイス、アプリケーションシナリオによって生成されたデータは本質的にIIDではない。
FLoodは、オフ・オブ・ディストリビューション(OOD)検出にインスパイアされた新しいFLフレームワークである。
論文 参考訳(メタデータ) (2026-02-01T05:54:59Z) - Efficient Federated Learning with Heterogeneous Data and Adaptive Dropout [62.73150122809138]
Federated Learning(FL)は、複数のエッジデバイスを使用したグローバルモデルの協調トレーニングを可能にする、有望な分散機械学習アプローチである。
動的不均一モデルアグリゲーション(FedDH)と適応ドロップアウト(FedAD)の2つの新しい手法を備えたFedDHAD FLフレームワークを提案する。
これら2つの手法を組み合わせることで、FedDHADは精度(最大6.7%)、効率(最大2.02倍高速)、コスト(最大15.0%小型)で最先端のソリューションを大幅に上回っている。
論文 参考訳(メタデータ) (2025-07-14T16:19:00Z) - An Aggregation-Free Federated Learning for Tackling Data Heterogeneity [50.44021981013037]
フェデレートラーニング(FL)は、分散データセットからの知識を活用する効果に頼っている。
従来のFLメソッドでは、クライアントが前回のトレーニングラウンドからサーバが集約したグローバルモデルに基づいてローカルモデルを更新するアグリゲート-then-adaptフレームワークを採用している。
我々は,新しいアグリゲーションフリーFLアルゴリズムであるFedAFを紹介する。
論文 参考訳(メタデータ) (2024-04-29T05:55:23Z) - FedSkip: Combatting Statistical Heterogeneity with Federated Skip
Aggregation [95.85026305874824]
我々はFedSkipと呼ばれるデータ駆動型アプローチを導入し、フェデレーション平均化を定期的にスキップし、ローカルモデルをクロスデバイスに分散することで、クライアントの最適化を改善する。
我々は、FedSkipがはるかに高い精度、より良いアグリゲーション効率、競合する通信効率を達成することを示すために、さまざまなデータセットに関する広範な実験を行う。
論文 参考訳(メタデータ) (2022-12-14T13:57:01Z) - FedHiSyn: A Hierarchical Synchronous Federated Learning Framework for
Resource and Data Heterogeneity [56.82825745165945]
フェデレートラーニング(FL)は、データプライバシを保護するために複数のデバイスに格納された分散生データを共有することなく、グローバルモデルのトレーニングを可能にする。
本稿では,階層型同期FLフレームワークであるFedHiSynを提案し,トラグラー効果や時代遅れモデルの問題に対処する。
提案手法は,MNIST,EMNIST,CIFAR10,CIFAR100のデータセットと多種多様なデバイス設定に基づいて評価する。
論文 参考訳(メタデータ) (2022-06-21T17:23:06Z) - FedMix: Approximation of Mixup under Mean Augmented Federated Learning [60.503258658382]
フェデレートラーニング(FL)は、エッジデバイスが各デバイス内でデータを直接共有することなく、モデルを集合的に学習することを可能にする。
現在の最先端アルゴリズムは、クライアント間のローカルデータの均一性が増大するにつれて性能劣化に悩まされる。
我々はFedMixという名の新しい拡張アルゴリズムを提案し、これは驚くべきが単純なデータ拡張手法であるMixupにインスパイアされている。
論文 参考訳(メタデータ) (2021-07-01T06:14:51Z) - FedGroup: Efficient Clustered Federated Learning via Decomposed
Data-Driven Measure [18.083188787905083]
本稿では,新しいクラスタ型フェデレーション学習(CFL)フレームワークであるFedGroupを提案する。
FEMNISTではFedAvgに比べて絶対テスト精度が+14.1%向上することが示された。
また、いくつかのオープンデータセット上でFedGroupとFedGrouProx(FedProxと組み合わせた)を評価します。
論文 参考訳(メタデータ) (2020-10-14T08:15:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。