論文の概要: Multi-Level Analyzation of Imbalance to Resolve Non-IID-Ness in Federated Learning
- arxiv url: http://arxiv.org/abs/2606.10250v1
- Date: Mon, 08 Jun 2026 23:36:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-10 15:40:58.229106
- Title: Multi-Level Analyzation of Imbalance to Resolve Non-IID-Ness in Federated Learning
- Title(参考訳): フェデレート学習における非IID-Ness解消のための不均衡のマルチレベル解析
- Authors: Haengbok Chung, Jae Sung Lee,
- Abstract要約: クラス不均衡は、パフォーマンスを著しく低下させるディープラーニングにおける一般的な問題である。
我々はPNB損失関数とCBR損失関数の2つの主成分からなるFedBBを提案する。
X線および自然画像データセットに関する様々な実験により、FedBBはパフォーマンスと効率の両方で他のアルゴリズムより優れていることが示されている。
- 参考スコア(独自算出の注目度): 4.791233143264229
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Class imbalance is a common problem in deep learning that severely degrades performance. In federated learning (FL), it is a critical factor contributing to non-identically distributed data (non-IID). Building on several previous attempts, we define and analyze imbalance issues in FL at three levels: inter-case, inter-class, and inter-client. Inter-case imbalance addresses the imbalance in every single class; inter-class imbalance compares the number of data between different classes. Inter-client imbalance represents different skewness of local data between clients. Based on these concepts, we propose FedBB, which consists of two main components: (1) Positive Negative Balanced (PNB) loss function addresses the inter-case and inter-class imbalances in local training, enhancing generalization on highly skewed local client datasets. It optimizes both multi-label and multi-class classifications by assigning higher weights to minority cases or classes. (2) Client Balanced Reweighting (CBR) reweights clients based on inter-client imbalance during model aggregation, giving greater weight to models trained on less skewed datasets. Various experiments on X-ray and natural image datasets demonstrate that FedBB outperforms other algorithms in both performance and efficiency. Additionally, it requires limited statistical information, which is beneficial for privacy protection. Through ablation studies, we proved that PNB loss and CBR independently contribute to performance. As FedBB aims to build a global model that accurately classifies all classes, it can serve as a baseline for the generic and personalized FL.
- Abstract(参考訳): クラス不均衡は、パフォーマンスを著しく低下させるディープラーニングにおける一般的な問題である。
フェデレートラーニング(FL)では、非ID分散データ(非IID)に寄与する重要な要因である。
これまでのいくつかの試みに基づいて、FLにおける不均衡問題を3つのレベル(ケース間、クラス間、クライアント間)で定義し分析する。
ケース間不均衡は各クラスの不均衡に対処し、クラス間不均衡は異なるクラス間でのデータ数を比較する。
クライアント間不均衡は、クライアント間のローカルデータの歪度が異なる。
これらの概念に基づいて, 1) PNB損失関数は, 局所訓練におけるケース間およびクラス間不均衡に対処し, 高度に歪んだローカルクライアントデータセットの一般化を向上する。
マイノリティケースやクラスにより高い重みを割り当てることで、マルチラベルとマルチクラスの両方の分類を最適化する。
2) クライアントバランス再重み付け(CBR)は、モデルアグリゲーション中のクライアント間の不均衡に基づいてクライアントを再重み付けする。
X線および自然画像データセットに関する様々な実験により、FedBBはパフォーマンスと効率の両方で他のアルゴリズムより優れていることが示されている。
さらに、プライバシー保護に役立つ限られた統計情報を必要とする。
アブレーション研究を通じて,PNB損失とCBRが独立して性能に寄与することが証明された。
FedBBは、すべてのクラスを正確に分類するグローバルモデルを構築しようとしているため、汎用的でパーソナライズされたFLのベースラインとして機能することができる。
関連論文リスト
- FedSM: Robust Semantics-Guided Feature Mixup for Bias Reduction in Federated Learning with Long-Tail Data [44.91570926822939]
フェデレートラーニング(FL)は、プライベートデータを共有することなく、分散クライアント間で協調的なモデルトレーニングを可能にする。
FLは、非IIDおよびロングテールデータ分布による偏りのあるグローバルモデルに悩まされている。
textbfFedSMは、セマンティクスに基づく機能ミックスアップによって、このバイアスを軽減する新しいクライアント中心のフレームワークである。
論文 参考訳(メタデータ) (2025-10-31T07:09:41Z) - FILM: Framework for Imbalanced Learning Machines based on a new unbiased performance measure and a new ensemble-based technique [37.94431794242543]
本研究は,バイナリ分類タスクの非バランスなデータセットを扱う際の課題に対処する。
標準評価指標は、しばしば少数民族の不均等な表現に偏っている。
本稿では, バイアスを著しく低減した新しい指標Unbiased Integration Coefficientsを提案する。
論文 参考訳(メタデータ) (2025-03-06T12:15:56Z) - Hybrid-Regularized Magnitude Pruning for Robust Federated Learning under Covariate Shift [2.298932494750101]
クライアント側トレーニング分布の不整合がフェデレート学習モデルの性能を著しく低下させることを示す。
本稿では,ニューラルネットワークの疎結合性,冗長性,堅牢性を改善するために,フラニングとクライアントトレーニングの正規化を組み合わせた新しいFLフレームワークを提案する。
論文 参考訳(メタデータ) (2024-12-19T16:22:37Z) - Towards Instance-adaptive Inference for Federated Learning [80.38701896056828]
Federated Learning(FL)は、複数のクライアントがローカルトレーニングを集約することで、強力なグローバルモデルを学ぶことができる分散学習パラダイムである。
本稿では,FedInsという新しいFLアルゴリズムを提案する。
我々のFedInsは、Tiny-ImageNet上での通信コストが15%未満で、トップパフォーマンスの手法に対して6.64%の改善など、最先端のFLアルゴリズムよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-08-11T09:58:47Z) - Addressing Class Variable Imbalance in Federated Semi-supervised
Learning [10.542178602467885]
我々は,クラス変数の不均衡を解決するために,FCVI(Federated Semi-supervised Learning for Class Variable Im Balance)を提案する。
FCVIは、クラス数の変化によるデータの不均衡を軽減するために使用される。
クライアントのプライバシを維持しながら,ベースライン方式よりもはるかに優れた手法であることが実証された。
論文 参考訳(メタデータ) (2023-03-21T12:50:17Z) - FedABC: Targeting Fair Competition in Personalized Federated Learning [76.9646903596757]
フェデレートラーニングは、クライアントのローカルプライベートデータにアクセスすることなく、モデルを協調的にトレーニングすることを目的としている。
我々はFedABCと呼ばれるバイナリ分類によるFederated Averagingと呼ばれる新規で汎用的なPFLフレームワークを提案する。
特に、各クライアントに1対1のトレーニング戦略を採用して、クラス間の不公平な競争を軽減する。
論文 参考訳(メタデータ) (2023-02-15T03:42:59Z) - Integrating Local Real Data with Global Gradient Prototypes for
Classifier Re-Balancing in Federated Long-Tailed Learning [60.41501515192088]
フェデレートラーニング(FL)は、グローバルモデルを協調的にトレーニングする複数のクライアントを含む、人気のある分散ラーニングパラダイムになっています。
データサンプルは通常、現実世界の長い尾の分布に従っており、分散化された長い尾のデータのFLは、貧弱なグローバルモデルをもたらす。
本研究では、局所的な実データとグローバルな勾配のプロトタイプを統合し、局所的なバランスの取れたデータセットを形成する。
論文 参考訳(メタデータ) (2023-01-25T03:18:10Z) - Fed-CBS: A Heterogeneity-Aware Client Sampling Mechanism for Federated
Learning via Class-Imbalance Reduction [76.26710990597498]
本研究では,ランダムに選択したクライアントからのグループデータのクラス不均衡が,性能の大幅な低下につながることを示す。
我々のキーとなる観測に基づいて、我々は効率的なクライアントサンプリング機構、すなわちフェデレートクラスバランスサンプリング(Fed-CBS)を設計する。
特に、クラス不均衡の尺度を提案し、その後、同型暗号化を用いてプライバシー保護方式でこの尺度を導出する。
論文 参考訳(メタデータ) (2022-09-30T05:42:56Z) - An Experimental Study of Class Imbalance in Federated Learning [0.8122270502556371]
本稿では,クラス不均衡度(MID)と,クライアント間のクラス不均衡度(WCS)の局所的差という,クラス不均衡度を定義するための2つの新しい指標を提案する。
以上の結果から,MIDが向上し,WCSが大きくなると,グローバルモデルの性能が低下することが示唆された。
論文 参考訳(メタデータ) (2021-09-09T08:26:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。