論文の概要: Neural Collapse-Inspired Multi-Label Federated Learning under Label-Distribution Skew

• arxiv url: http://arxiv.org/abs/2509.12544v1
• Date: Tue, 16 Sep 2025 00:53:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-17 17:50:52.828108
• Title: Neural Collapse-Inspired Multi-Label Federated Learning under Label-Distribution Skew
• Title（参考訳）: ニューラルネットワークによる多ラベルフェデレーション学習
• Authors: Can Peng, Yuyuan Liu, Yingyu Yang, Pramit Saha, Qianye Yang, J. Alison Noble,
• Abstract要約: フェデレートラーニング(FL)は、分散クライアント間の協調モデルトレーニングを可能にする。 多くの実世界のアプリケーション、特に医用画像のような領域では、しばしばマルチラベル設定を含む。 本稿では,クライアント間で特徴分布を整列させ,高品質でクラスタ化された表現を学習する手法を提案する。
• 参考スコア（独自算出の注目度）: 13.59179877525954
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated Learning (FL) enables collaborative model training across distributed clients while preserving data privacy. However, the performance of deep learning often deteriorates in FL due to decentralized and heterogeneous data. This challenge is further amplified in multi-label scenarios, where data exhibit complex characteristics such as label co-occurrence, inter-label dependency, and discrepancies between local and global label relationships. While most existing FL research primarily focuses on single-label classification, many real-world applications, particularly in domains such as medical imaging, often involve multi-label settings. In this paper, we address this important yet underexplored scenario in FL, where clients hold multi-label data with skewed label distributions. Neural Collapse (NC) describes a geometric structure in the latent feature space where features of each class collapse to their class mean with vanishing intra-class variance, and the class means form a maximally separated configuration. Motivated by this theory, we propose a method to align feature distributions across clients and to learn high-quality, well-clustered representations. To make the NC-structure applicable to multi-label settings, where image-level features may contain multiple semantic concepts, we introduce a feature disentanglement module that extracts semantically specific features. The clustering of these disentangled class-wise features is guided by a predefined shared NC structure, which mitigates potential conflicts between client models due to diverse local data distributions. In addition, we design regularisation losses to encourage compact clustering in the latent feature space. Experiments conducted on four benchmark datasets across eight diverse settings demonstrate that our approach outperforms existing methods, validating its effectiveness in this challenging FL scenario.
• Abstract（参考訳）: フェデレートラーニング(FL)は、データプライバシを保持しながら、分散クライアント間で協調的なモデルトレーニングを可能にする。 しかし、深層学習の性能は、分散データや異種データによってFLで劣化することが多い。 この課題は、ラベルの共起、ラベル間の依存性、ローカルとグローバルの関係の相違など、データが複雑な特徴を示すマルチラベルシナリオにおいてさらに増幅される。 既存のFL研究は主にシングルラベルの分類に焦点を当てているが、医療画像のような領域における多くの現実世界の応用は、しばしばマルチラベルの設定を含む。 本稿では、クライアントがスキューラベルの分布を持つマルチラベルデータを保持するFLにおいて、この重要かつ未探索なシナリオに対処する。 ニューラル・コラプス (NC) は、各クラスの特徴がクラス内の分散を消し去ることでクラス平均に崩壊する潜在特徴空間における幾何学的構造を記述し、クラス平均は最大に分離された構成を形成する。 この理論を動機として,クライアント間で特徴分布を整列させ,高品質なクラスタリング表現を学習する手法を提案する。 画像レベルの特徴が複数のセマンティック概念を含むようなマルチラベル設定にNC構造を適用できるようにするため、セマンティックな特徴を抽出する機能非絡みモジュールを提案する。 これらの不整合クラスワイド機能のクラスタリングは、さまざまなローカルデータ分散に起因するクライアントモデル間の潜在的な衝突を緩和する、事前に定義された共有NC構造によって導かれる。 さらに、潜在特徴空間におけるコンパクトクラスタリングを促進するために、正規化損失を設計する。 8つの異なる設定で4つのベンチマークデータセットで実施された実験は、我々のアプローチが既存の手法より優れており、この挑戦的なFLシナリオでの有効性が検証されていることを示している。

関連論文リスト

• FedPall: Prototype-based Adversarial and Collaborative Learning for Federated Learning with Feature Drift [29.2377620193847]
  フェデレートラーニング(FL)は、複数のパーティからのデータを備えた集中型サーバにおいて、グローバルモデルの協調的なトレーニングを可能にする。 本稿では,FedPallを提案する。FedPallは,プロトタイプベースの対数学習を利用して特徴空間を統一し,協調学習によって特徴空間内のクラス情報を強化するためのフレームワークである。 3つの代表的な特徴ドリフトデータセットの評価結果は、FLシナリオにおける特徴ドリフトデータを用いた分類において、FedPallの一貫して優れた性能を示している。
  論文  参考訳（メタデータ） (2025-07-07T08:58:39Z)
• Self-supervised Latent Space Optimization with Nebula Variational Coding [87.20343320266215]
  本稿では,クラスタ化埋め込みに繋がる変分推論モデルを提案する。 textbfnebula anchorsと呼ばれる潜伏空間に新たな変数を導入し、トレーニング中に潜伏変数がクラスタを形成するように誘導する。 各潜在機能は最も近いアンカーでラベル付けできるため、クラスタ間の分離をより明確にするために、自己教師付き方法でメートル法学習を適用することも提案する。
  論文  参考訳（メタデータ） (2025-06-02T08:13:32Z)
• FedEPA: Enhancing Personalization and Modality Alignment in Multimodal Federated Learning [9.531634844824596]
  フェデレートラーニング(FL)は、プライバシを保持しながら、複数のパーティで分散モデルトレーニングを可能にする。 ほとんどのFLシステムは、クライアントが非リアルタイムデータのみを保持し、実際の適用性を制限していると仮定している。 マルチモーダル学習のための新しいFLフレームワークであるFedEPAを提案する。
  論文  参考訳（メタデータ） (2025-04-16T12:32:37Z)
• Unbiased Max-Min Embedding Classification for Transductive Few-Shot Learning: Clustering and Classification Are All You Need [83.10178754323955]
  わずかなショットラーニングにより、モデルがいくつかのラベル付き例から一般化できる。 本稿では,Unbiased Max-Min Embedding Classification (UMMEC)法を提案する。 本手法は最小ラベル付きデータを用いて分類性能を著しく向上させ, 注釈付きLの最先端化を推し進める。
  論文  参考訳（メタデータ） (2025-03-28T07:23:07Z)
• Boosting Federated Learning with FedEntOpt: Mitigating Label Skew by Entropy-Based Client Selection [13.851391819710367]
  ディープラーニングドメインは通常、最適なパフォーマンスのために大量のデータを必要とします。 FedEntOptは、ラベル配布スキューによるパフォーマンスの問題を軽減するように設計されている。 低い参加率とクライアントのドロップアウトのシナリオでは、堅牢で優れたパフォーマンスを示す。
  論文  参考訳（メタデータ） (2024-11-02T13:31:36Z)
• Federated Contrastive Learning for Personalized Semantic Communication [55.46383524190467]
  我々は,パーソナライズされたセマンティックコミュニケーションを支援することを目的とした,協調型コントラスト学習フレームワークを設計する。 FedCLは、複数のクライアントにわたるローカルセマンティックエンコーダと、基地局が所有するグローバルセマンティックデコーダの協調トレーニングを可能にする。 分散クライアント間の異種データセットから生じるセマンティック不均衡問題に対処するために,コントラスト学習を用いてセマンティックセントロイドジェネレータを訓練する。
  論文  参考訳（メタデータ） (2024-06-13T14:45:35Z)
• Decoupled Subgraph Federated Learning [57.588938805581044]
  複数のクライアントに分散したグラフ構造化データに対するフェデレーション学習の課題に対処する。 我々は、このシナリオのための新しいフレームワーク、FedStructを紹介します。 半教師付きノード分類のための6つのデータセットを用いて実験結果を用いてFedStructの有効性を検証する。
  論文  参考訳（メタデータ） (2024-02-29T13:47:23Z)
• FedAnchor: Enhancing Federated Semi-Supervised Learning with Label Contrastive Loss for Unlabeled Clients [19.3885479917635]
  Federated Learning(FL)は、デバイス間で共有されたグローバルモデルの協調トレーニングを促進する分散学習パラダイムである。 本稿では,サーバ上のラベル付きアンカーデータにのみ訓練された分類ヘッドと組み合わせて,アンカーヘッドと呼ばれるユニークな二重ヘッド構造を導入する,革新的なFSSL手法であるFedAnchorを提案する。 提案手法は, 高信頼度モデル予測サンプルに基づいて, 疑似ラベル技術に係わる検証バイアスと過度に適合する問題を緩和する。
  論文  参考訳（メタデータ） (2024-02-15T18:48:21Z)
• Unifying and Personalizing Weakly-supervised Federated Medical Image Segmentation via Adaptive Representation and Aggregation [1.121358474059223]
  フェデレートラーニング(FL)は、データプライバシとセキュリティを損なうことなく、複数のサイトが協力して強力なディープモデルをトレーニングすることを可能にする。 微粒な監督を施した弱く監督されたセグメンテーションは、アノテーションコストを下げる大きな可能性を秘めているため、ますます注目されている。 医用画像セグメンテーションのための新しいFLフレームワークであるFedICRAを提案する。
  論文  参考訳（メタデータ） (2023-04-12T06:32:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。