論文の概要: Data-Free Contribution Estimation in Federated Learning using Gradient von Neumann Entropy
- arxiv url: http://arxiv.org/abs/2604.22562v1
- Date: Fri, 24 Apr 2026 13:55:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-27 15:36:26.485861
- Title: Data-Free Contribution Estimation in Federated Learning using Gradient von Neumann Entropy
- Title(参考訳): グラディエント・フォン・ノイマンエントロピーを用いたフェデレート学習におけるデータ自由寄与推定
- Authors: Asim Ukaye, Mubarak Abdu-Aguye, Nurbek Tastan, Karthik Nandakumar,
- Abstract要約: 最終層更新の行列フォン・ノイマン(スペクトル)エントロピーに基づくデータフリー信号を導入する。
CIFAR-10/100と自然分割されたFEMNISTとFedISICのベンチマークでは、エントロピー由来のスコアはスタンドアロンクライアントの精度と一貫して高い相関を示す。
結果とデータフリーコントリビューション推定ベースラインを比較し,スペクトルエントロピーがクライアントコントリビューションの有用な指標であることを示す。
- 参考スコア(独自算出の注目度): 26.920835271145492
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Client contribution estimation in Federated Learning is necessary for identifying clients' importance and for providing fair rewards. Current methods often rely on server-side validation data or self-reported client information, which can compromise privacy or be susceptible to manipulation. We introduce a data-free signal based on the matrix von Neumann (spectral) entropy of the final-layer updates, which measures the diversity of the information contributed. We instantiate two practical schemes: (i) SpectralFed, which uses normalized entropy as aggregation weights, and (ii) SpectralFuse, which fuses entropy with class-specific alignment via a rank-adaptive Kalman filter for per-round stability. Across CIFAR-10/100 and the naturally partitioned FEMNIST and FedISIC benchmarks, entropy-derived scores show a consistently high correlation with standalone client accuracy under diverse non-IID regimes - without validation data or client metadata. We compare our results with data-free contribution estimation baselines and show that spectral entropy serves as a useful indicator of client contribution.
- Abstract(参考訳): フェデレートラーニングにおけるクライアントコントリビューションの推定は、クライアントの重要性を特定し、公正な報酬を提供するために必要である。
現在のメソッドは、しばしばサーバ側のバリデーションデータや自己報告されたクライアント情報に依存しており、プライバシーを侵害したり、操作に影響を受けやすい。
最終層更新の行列フォン・ノイマン(スペクトル)エントロピーに基づくデータフリー信号を導入し,情報提供の多様性を計測する。
私たちは2つの実用的なスキームをインスタンス化する。
一 集積重量として正規化エントロピーを用いるスペクトルFed
(ii)階級適応カルマンフィルタを用いてエントロピーとクラス固有のアライメントを融合し、ラウンドごとの安定性を実現する。
CIFAR-10/100と自然に分割されたFEMNISTとFedISICベンチマークを通じて、エントロピー由来のスコアは、バリデーションデータやクライアントメタデータなしで、多種多様な非IIDレギュレーションの下で、スタンドアロンのクライアント精度と一貫して高い相関を示す。
結果とデータフリーコントリビューション推定ベースラインを比較し,スペクトルエントロピーがクライアントコントリビューションの有用な指標であることを示す。
関連論文リスト
- CO-PFL: Contribution-Oriented Personalized Federated Learning for Heterogeneous Networks [51.43780477302533]
コントリビューション指向型PFL(CO-PFL)は,グローバルアグリゲーションに対する各クライアントのコントリビューションを動的に推定するアルゴリズムである。
CO-PFLは、パーソナライズ精度、堅牢性、スケーラビリティ、収束安定性において、最先端の手法を一貫して超越している。
論文 参考訳(メタデータ) (2025-10-23T05:10:06Z) - FedHiP: Heterogeneity-Invariant Personalized Federated Learning Through Closed-Form Solutions [22.424881385529783]
我々は、勾配に基づく更新を避けるために、解析的(つまり、クローズドフォーム)な解を通じて、FedHiPと呼ばれる不均質不変な個人化フェデレーション学習スキームを提案する。
提案手法は,分析的局所学習,分析的グローバルアグリゲーション,分析的局所パーソナライゼーションの3段階を含む。
ベンチマークデータセットの実験は、我々のFedHiPスキームの優位性を検証し、最先端のベースラインを少なくとも5.79%-20.97%の精度で上回った。
論文 参考訳(メタデータ) (2025-08-06T14:15:57Z) - Interaction-Aware Gaussian Weighting for Clustered Federated Learning [58.92159838586751]
フェデレートラーニング(FL)は、プライバシを維持しながらモデルをトレーニングするための分散パラダイムとして登場した。
本稿では,新たなクラスタリングFL法であるFedGWC(Federated Gaussian Weighting Clustering)を提案する。
ベンチマークデータセットを用いた実験により,FedGWCはクラスタの品質と分類精度において,既存のFLアルゴリズムよりも優れていることがわかった。
論文 参考訳(メタデータ) (2025-02-05T16:33:36Z) - Privacy-preserving Quantification of Non-IID Degree in Federated Learning [22.194684042923406]
フェデレーテッド・ラーニング(FL)は、生データを共有することなく、複数のコラボレータに対して、マシンラーニングに対するプライバシ保護アプローチを提供する。
異なるクライアントにまたがる非独立かつ非独立に分散された(非IID)データセットの存在は、FLにとって大きな課題である。
本稿では,累積分布関数を用いて,フェデレーション環境における非IID度を定量的に定義する。
論文 参考訳(メタデータ) (2024-06-14T03:08:53Z) - Personalized Federated Learning under Mixture of Distributions [98.25444470990107]
本稿では,ガウス混合モデル(GMM)を用いたPFL(Personalized Federated Learning)を提案する。
FedGMMはオーバーヘッドを最小限に抑え、新しいクライアントに適応する付加的なアドバンテージを持ち、不確実な定量化を可能にします。
PFL分類と新しいサンプル検出の両方において, 合成データセットとベンチマークデータセットの実証評価により, 提案手法の優れた性能を示した。
論文 参考訳(メタデータ) (2023-05-01T20:04:46Z) - Adaptive Federated Learning via New Entropy Approach [14.595709494370372]
Federated Learning (FL) は、分散機械学習フレームワークとして注目されている。
本稿では,不均一クライアント間のパラメータ偏差を軽減するために,entropy理論(FedEnt)に基づく適応型FEDerated Learningアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-03-27T07:57:04Z) - Fed-CBS: A Heterogeneity-Aware Client Sampling Mechanism for Federated
Learning via Class-Imbalance Reduction [76.26710990597498]
本研究では,ランダムに選択したクライアントからのグループデータのクラス不均衡が,性能の大幅な低下につながることを示す。
我々のキーとなる観測に基づいて、我々は効率的なクライアントサンプリング機構、すなわちフェデレートクラスバランスサンプリング(Fed-CBS)を設計する。
特に、クラス不均衡の尺度を提案し、その後、同型暗号化を用いてプライバシー保護方式でこの尺度を導出する。
論文 参考訳(メタデータ) (2022-09-30T05:42:56Z) - Toward Understanding the Influence of Individual Clients in Federated
Learning [52.07734799278535]
フェデレーションラーニングにより、クライアントはプライベートデータを中央サーバーに送信することなく、グローバルモデルを共同でトレーニングできます。
em-Influenceという新しい概念を定義し、パラメータに対するこの影響を定量化し、このメトリクスを推定する効果的な効率的なモデルを提案しました。
論文 参考訳(メタデータ) (2020-12-20T14:34:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。