論文の概要: Class-Grouped Normalized Momentum and Faster Hyperparameter Exploration to Tackle Class Imbalance in Federated Learning

• arxiv url: http://arxiv.org/abs/2607.01474v1
• Date: Wed, 01 Jul 2026 21:09:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-03 19:45:08.594114
• Title: Class-Grouped Normalized Momentum and Faster Hyperparameter Exploration to Tackle Class Imbalance in Federated Learning
• Title（参考訳）: フェデレーション学習におけるクラス群正規化モーメントとタックルクラス不均衡に対する高速ハイパーパラメータ探索
• Abstract要約: クラス不均衡は、未表現のクラスが予測性能の低下に苦しむ連邦学習(FL)において重要な課題となる。 本稿では,FLにおけるクライアントサイドであるFedCGNMを提案する。 そこで本研究では,X-armed-bandit(XAB)に基づくアルゴリズムであるFedHOOを導入する。
• 参考スコア（独自算出の注目度）: 16.216002257704826
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Class imbalance poses a critical challenge in federated learning (FL), where underrepresented classes suffer from poor predictive performance yet cannot be addressed by standard centralized techniques due to privacy and heterogeneity constraints. We propose FedCGNM (Federated Class-Grouped Normalized Momentum), a client-side optimizer in FL that partitions classes into a small number of groups based on minimum within-group variance, maintains a momentum per group, normalizes each group momentum to unit length, and uses the summation of the normalized group momentums as an update direction. This design both equalizes gradient magnitude across majority and minority groups and mitigates the noise inherent in rare-class gradients. We further provide a theoretical convergence analysis explicitly accounting for time-varying resampling-rates. Additionally, to efficiently optimize these rates in small-client regimes, we introduce FedHOO, an X-armed-bandit (XAB) based algorithm that exploits federated parallelism that evaluates many combinations of two candidate rates per client at linear cost. Empirical evaluation on four public long-tailed benchmarks and a proprietary chip-defect dataset demonstrates that FedCGNM consistently outperforms baselines, with FedHOO yielding further gains in small-scale federations.
• Abstract（参考訳）: クラス不均衡は、未表現のクラスが予測性能の低下に悩まされるが、プライバシと不均一性の制約により標準的な集中型技術では対処できない、連邦学習(FL)において重要な課題である。 FLのクライアントサイドオプティマイザであるFedCGNM(Federated Class-Grouped Normalized Momentum)を提案し,クラスを最小内部の分散に基づいて少数のグループに分割し,グループごとのモーメントを維持し,各グループモーメントを単位長に正規化し,正規化されたグループモーメントの和を更新方向として利用する。 この設計は、多数派と少数派の間で勾配の大きさを等しくし、希少な勾配に固有の雑音を緩和する。 さらに,時間変化による再サンプリング率を明示的に考慮した理論的収束解析を行う。 さらに、これらのレートを小さなクライアント方式で効率的に最適化するために、線形コストでクライアント毎の2つの候補レートの多くの組み合わせを評価する、X-armed-bandit(XAB)ベースのアルゴリズムであるFedHOOを導入する。 4つの公開長尾ベンチマークとプロプライエタリなチップ欠陥データセットに関する実証的な評価は、FedCGNMがベースラインを一貫して上回り、FedHOOは小規模のフェデレーションでさらに上昇していることを示している。

関連論文リスト

• Data-Free Client Contribution Estimation via Logit Maximization for Federated Learning [26.920835271145492]
  logit(CELM)に基づくクラスワイドコントリビューション推定と集約フレームワークを提案する。 CELMは、生データやクライアントメタデータ、補助的な公開データセットの共有を必要としない。 制御された非IIDおよび病理ラベル分割に基づく代表視覚ベンチマークのアプローチを評価する。
  論文  参考訳（メタデータ） (2026-05-17T05:49:48Z)
• FedSLoP: Memory-Efficient Federated Learning with Low-Rank Gradient Projection [5.476264433576713]
  FedSLoPは効率的なフェデレート学習アルゴリズムである。 We show that FedSLoP converges to a first-order stationary point at a rate of $O (1/sqrNT)$。
  論文  参考訳（メタデータ） (2026-04-27T03:47:50Z)
• GRCF: Two-Stage Groupwise Ranking and Calibration Framework for Multimodal Sentiment Analysis [20.77940776708036]
  ペアワイズな順序学習フレームワークは、比較から学ぶことで相対的な順序を捉える。 彼らは全ての比較に均一な重要性を割り当て、ハード・ツー・ランクのサンプルに適応的に焦点をあてることに失敗した。 本稿では,グループ相対的政策最適化の理念を取り入れた二段階群ランク付け・フレームワークを提案する。 GRCFは、コア回帰ベンチマークで最先端のパフォーマンスを達成すると同時に、分類タスクにおいて強力な一般化性を示す。
  論文  参考訳（メタデータ） (2026-01-14T16:26:44Z)
• NDCG-Consistent Softmax Approximation with Accelerated Convergence [67.10365329542365]
  本稿では,ランキングの指標と直接一致した新たな損失定式化を提案する。 提案したRG損失を高効率な Alternating Least Squares (ALS) 最適化手法と統合する。 実世界のデータセットに対する実証的な評価は、我々のアプローチが同等または上位のパフォーマンスを達成することを示す。
  論文  参考訳（メタデータ） (2025-06-11T06:59:17Z)
• Interaction-Aware Gaussian Weighting for Clustered Federated Learning [58.92159838586751]
  フェデレートラーニング(FL)は、プライバシを維持しながらモデルをトレーニングするための分散パラダイムとして登場した。 本稿では,新たなクラスタリングFL法であるFedGWC(Federated Gaussian Weighting Clustering)を提案する。 ベンチマークデータセットを用いた実験により,FedGWCはクラスタの品質と分類精度において,既存のFLアルゴリズムよりも優れていることがわかった。
  論文  参考訳（メタデータ） (2025-02-05T16:33:36Z)
• How does promoting the minority fraction affect generalization? A theoretical study of the one-hidden-layer neural network on group imbalance [64.1656365676171]
  グループ不均衡は経験的リスク最小化において既知の問題である。 本稿では,個々の集団がサンプルの複雑さ,収束率,平均および群レベルの試験性能に与える影響を定量化する。
  論文  参考訳（メタデータ） (2024-03-12T04:38:05Z)
• Adaptive Learning Rate for Follow-the-Regularized-Leader: Competitive Analysis and Best-of-Both-Worlds [46.30750729936261]
  FTRL(Follow-The-Regularized-Leader)は、オンライン学習における効果的で汎用的なアプローチとして知られている。 逐次意思決定問題としてFTRLの学習率を調整する問題を定式化する。 我々は,この下限の定数係数内で上限を達成できる学習率の更新ルールを提案する。
  論文  参考訳（メタデータ） (2024-03-01T18:03:49Z)
• FedABC: Targeting Fair Competition in Personalized Federated Learning [76.9646903596757]
  フェデレートラーニングは、クライアントのローカルプライベートデータにアクセスすることなく、モデルを協調的にトレーニングすることを目的としている。 我々はFedABCと呼ばれるバイナリ分類によるFederated Averagingと呼ばれる新規で汎用的なPFLフレームワークを提案する。 特に、各クライアントに1対1のトレーニング戦略を採用して、クラス間の不公平な競争を軽減する。
  論文  参考訳（メタデータ） (2023-02-15T03:42:59Z)
• Fed-CBS: A Heterogeneity-Aware Client Sampling Mechanism for Federated Learning via Class-Imbalance Reduction [76.26710990597498]
  本研究では,ランダムに選択したクライアントからのグループデータのクラス不均衡が,性能の大幅な低下につながることを示す。 我々のキーとなる観測に基づいて、我々は効率的なクライアントサンプリング機構、すなわちフェデレートクラスバランスサンプリング(Fed-CBS)を設計する。 特に、クラス不均衡の尺度を提案し、その後、同型暗号化を用いてプライバシー保護方式でこの尺度を導出する。
  論文  参考訳（メタデータ） (2022-09-30T05:42:56Z)
• Improved Multi-label Classification under Temporal Concept Drift: Rethinking Group-Robust Algorithms in a Label-Wise Setting [10.655403615541141]
  ドキュメント分類では、非常に稀なクラスを含む数百のクラスを扱うことが多い。 クラス不均衡とドリフトは、トレーニングデータを再サンプリングすることで軽減されることがあるが、もし対象の分布が未知の将来の事象によって決定されたらどうだろうか? グループレベルの格差を軽減するために提案した,複数のグループロバスト最適化アルゴリズムを評価した。 Invariant Risk Minimization and Spectral Decoupling outperform sample-based approach to class im Balance and concept drift。
  論文  参考訳（メタデータ） (2022-03-15T13:08:03Z)
• Heterogeneous Federated Learning via Grouped Sequential-to-Parallel Training [60.892342868936865]
  フェデレートラーニング(Federated Learning, FL)は、プライバシ保護のためのコラボレーション機械学習パラダイムである。 本稿では,この課題に対処するため,データヘテロジニアス・ロバストFLアプローチであるFedGSPを提案する。 その結果,FedGSPは7つの最先端アプローチと比較して平均3.7%の精度向上を実現していることがわかった。
  論文  参考訳（メタデータ） (2022-01-31T03:15:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。