論文の概要: FedTVD: Balancing Data Quality and Quantity for Robust Federated Learning
- arxiv url: http://arxiv.org/abs/2608.09221v1
- Date: Mon, 10 Aug 2026 07:45:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:37.129162
- Title: FedTVD: Balancing Data Quality and Quantity for Robust Federated Learning
- Title(参考訳): FedTVD:ロバストなフェデレーションラーニングのためのデータ品質と量とのバランス
- Authors: Radwan Selo, Majid Kundroo, Taehong Kim,
- Abstract要約: Federated Learning (FL)は、分散クライアントデバイス間の協調的なモデルトレーニングを可能にする。
我々は,データ品質と量の両方を考慮して,集約中のクライアントのコントリビューションを重み付けする新しいFLアルゴリズムであるFedTVDを提案する。
FedTVDは、すべてのデータセットで最先端のメソッドを一貫して上回ることを示す。
- 参考スコア(独自算出の注目度): 1.7205106391379026
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Federated Learning (FL) enables collaborative model training across distributed client devices while preserving data privacy. However, FL faces significant challenges due to data heterogeneity, particularly in terms of label distribution skewness and variations in dataset sizes, which can lead to biased model updates and hinder convergence. To address this, we propose FedTVD, a novel FL algorithm that weights client contributions during aggregation by considering both data quality and quantity. Unlike traditional FL approaches such as FedAvg, which rely solely on dataset size for client weighting, FedTVD integrates Total Variation Distance (TVD) to measure the divergence between each client's local label distribution and a uniform global distribution. Clients with highly skewed distributions receive lower weights, preventing unbalanced datasets with imbalances from disproportionately influencing the global model. At the same time, dataset size is incorporated to ensure scalability and fairness. This dual-weighting mechanism effectively mitigates the impact of data imbalance, leading to more stable and generalized global models. Experimental results show that FedTVD consistently outperforms state-of-the-art methods across all datasets (FMNIST, CIFAR-10, and CIFAR-100) and all levels of data heterogeneity. Notably, it achieves up to 10.6% improvement over FedAvg on CIFAR-10 under highly skewed data, while maintaining top performance even under moderate and IID settings.
- Abstract(参考訳): フェデレートラーニング(FL)は、データプライバシを保持しながら、分散クライアントデバイス間で協調的なモデルトレーニングを可能にする。
しかし、FLはデータの不均一性、特にラベル分布の歪度やデータセットサイズの変化によって大きな課題に直面しており、バイアスのあるモデル更新や収束を妨げる可能性がある。
そこで本研究では,データ品質と量の両方を考慮し,集約中のクライアントのコントリビューションを重み付けする新しいFLアルゴリズムであるFedTVDを提案する。
クライアントの重み付けにデータセットサイズのみに依存するFedAvgのような従来のFLアプローチとは異なり、FedTVDはトータル変量距離(TVD)を統合し、各クライアントのローカルラベル分布とグローバル分布のばらつきを測定する。
高度に歪んだ分布を持つクライアントは、より低い重みを受け、不均衡なデータセットがグローバルモデルに不均衡に影響を及ぼすのを防ぐ。
同時に、スケーラビリティと公平性を確保するために、データセットのサイズも組み込まれている。
この二重重み付け機構は、データ不均衡の影響を効果的に緩和し、より安定で一般化されたグローバルモデルをもたらす。
実験結果から,FedTVDはすべてのデータセット(FMNIST, CIFAR-10, CIFAR-100)およびすべてのレベルのデータヘテロジニティを一貫して上回ることがわかった。
特に、CIFAR-10のFedAvgよりも10.6%向上し、中等度およびID設定下でも最高性能を維持している。
関連論文リスト
- FedLBW: A Loss-Based Weighting Strategy for Federated Learning on Non-IID Data in Wireless Networks [2.4851820343103035]
フェデレートラーニング(FL)は、プライバシを保持しながら、分散クライアント間でのコラボレーティブ機械学習(ML)を可能にする。
FedAvgのような従来のFLアルゴリズムは、クライアント更新を重み付けするためにデータセットのサイズのみに依存している。
FedLBW(Federated Learning with Loss-Based Weighting)は、各クライアントの更新を検証損失の逆の重みに割り当てる新しいアグリゲーション手法である。
論文 参考訳(メタデータ) (2026-08-07T09:21:37Z) - FedPBS: Proximal-Balanced Scaling Federated Learning Model for Robust Personalized Training for Non-IID Data [0.2840208039211775]
フェデレートラーニング(FL)は、分散クライアントのセットで、機械学習モデルを共同でトレーニングすることを可能にする。
我々はこれらの課題に対処するために、FedBSとFedProxの相補的なアイデアを結合するFLアルゴリズムであるFedPBSを提案する。
論文 参考訳(メタデータ) (2026-03-14T11:44:27Z) - Adaptive Dual-Weighting Framework for Federated Learning via Out-of-Distribution Detection [53.45696787935487]
Federated Learning (FL)は、大規模分散サービスノード間の協調的なモデルトレーニングを可能にする。
実世界のサービス指向デプロイメントでは、異種ユーザ、デバイス、アプリケーションシナリオによって生成されたデータは本質的にIIDではない。
FLoodは、オフ・オブ・ディストリビューション(OOD)検出にインスパイアされた新しいFLフレームワークである。
論文 参考訳(メタデータ) (2026-02-01T05:54:59Z) - CO-PFL: Contribution-Oriented Personalized Federated Learning for Heterogeneous Networks [51.43780477302533]
コントリビューション指向型PFL(CO-PFL)は,グローバルアグリゲーションに対する各クライアントのコントリビューションを動的に推定するアルゴリズムである。
CO-PFLは、パーソナライズ精度、堅牢性、スケーラビリティ、収束安定性において、最先端の手法を一貫して超越している。
論文 参考訳(メタデータ) (2025-10-23T05:10:06Z) - FedCFA: Alleviating Simpson's Paradox in Model Aggregation with Counterfactual Federated Learning [42.01078736755334]
フェデレートラーニング(FL)はデータプライバシと分散最適化のための有望な技術である。
既存のFLメソッドは、クライアントをサーバモデルに合わせるか、クライアントモデルを制御変数に修正することで問題を解決しようとする。
本稿では,FedCFAを提案する。FedCFAは,対実的学習を用いて対実的サンプルを生成する新しいFLフレームワークである。
論文 参考訳(メタデータ) (2024-12-25T13:35:54Z) - An Aggregation-Free Federated Learning for Tackling Data Heterogeneity [50.44021981013037]
フェデレートラーニング(FL)は、分散データセットからの知識を活用する効果に頼っている。
従来のFLメソッドでは、クライアントが前回のトレーニングラウンドからサーバが集約したグローバルモデルに基づいてローカルモデルを更新するアグリゲート-then-adaptフレームワークを採用している。
我々は,新しいアグリゲーションフリーFLアルゴリズムであるFedAFを紹介する。
論文 参考訳(メタデータ) (2024-04-29T05:55:23Z) - Leveraging Foundation Models to Improve Lightweight Clients in Federated
Learning [16.684749528240587]
Federated Learning(FL)は、世界中に散在するクライアントが機密データを漏らさずにグローバルモデルを共同で学習することを可能にする、分散トレーニングパラダイムである。
FLは、クライアント間での不均一なデータ分散という形で大きな課題に直面しており、パフォーマンスとロバスト性は低下している。
本稿では,軽量クライアントモデルの連合訓練を支援し,推論コストを低く抑えつつ,不均一なデータ設定下での性能を向上させる基礎モデル蒸留について紹介する。
論文 参考訳(メタデータ) (2023-11-14T19:10:56Z) - FedSkip: Combatting Statistical Heterogeneity with Federated Skip
Aggregation [95.85026305874824]
我々はFedSkipと呼ばれるデータ駆動型アプローチを導入し、フェデレーション平均化を定期的にスキップし、ローカルモデルをクロスデバイスに分散することで、クライアントの最適化を改善する。
我々は、FedSkipがはるかに高い精度、より良いアグリゲーション効率、競合する通信効率を達成することを示すために、さまざまなデータセットに関する広範な実験を行う。
論文 参考訳(メタデータ) (2022-12-14T13:57:01Z) - FedDM: Iterative Distribution Matching for Communication-Efficient
Federated Learning [87.08902493524556]
フェデレートラーニング(FL)は近年、学術や産業から注目を集めている。
我々は,複数の局所的代理関数からグローバルなトレーニング目標を構築するためのFedDMを提案する。
そこで本研究では,各クライアントにデータ集合を構築し,元のデータから得られた損失景観を局所的にマッチングする。
論文 参考訳(メタデータ) (2022-07-20T04:55:18Z) - Towards Fair Federated Learning with Zero-Shot Data Augmentation [123.37082242750866]
フェデレーション学習は重要な分散学習パラダイムとして登場し、サーバはクライアントデータにアクセスせずに、多くのクライアントがトレーニングしたモデルからグローバルモデルを集約する。
本稿では, 統計的不均一性を緩和し, フェデレートネットワークにおけるクライアント間での精度向上を図るために, ゼロショットデータ拡張を用いた新しいフェデレーション学習システムを提案する。
Fed-ZDAC (クライアントでのゼロショットデータ拡張によるフェデレーション学習) と Fed-ZDAS (サーバでのゼロショットデータ拡張によるフェデレーション学習) の2種類について検討する。
論文 参考訳(メタデータ) (2021-04-27T18:23:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。