論文の概要: Data-Free Distillation Improves Efficiency and Privacy in Federated
Thorax Disease Analysis
- arxiv url: http://arxiv.org/abs/2310.18346v2
- Date: Tue, 31 Oct 2023 09:13:18 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-01 21:45:37.422790
- Title: Data-Free Distillation Improves Efficiency and Privacy in Federated
Thorax Disease Analysis
- Title(参考訳): データフリー蒸留による胸部疾患解析の効率化とプライバシ向上
- Authors: Ming Li and Guang Yang
- Abstract要約: 大規模、多中心、マルチスキャナ設定における胸部疾患の解析は、厳格なプライバシーポリシーによって制限されることが多い。
我々は,データフリー蒸留に基づくFLアプローチであるFedKDFを紹介する。
FedKDFでは、サーバは軽量なジェネレータを使用して、プライベートデータやプロキシデータセットへのアクセスを必要とせずに、異なるクライアントからの知識を集約する。
- 参考スコア(独自算出の注目度): 11.412151951949102
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Thorax disease analysis in large-scale, multi-centre, and multi-scanner
settings is often limited by strict privacy policies. Federated learning (FL)
offers a potential solution, while traditional parameter-based FL can be
limited by issues such as high communication costs, data leakage, and
heterogeneity. Distillation-based FL can improve efficiency, but it relies on a
proxy dataset, which is often impractical in clinical practice. To address
these challenges, we introduce a data-free distillation-based FL approach
FedKDF. In FedKDF, the server employs a lightweight generator to aggregate
knowledge from different clients without requiring access to their private data
or a proxy dataset. FedKDF combines the predictors from clients into a single,
unified predictor, which is further optimized using the learned knowledge in
the lightweight generator. Our empirical experiments demonstrate that FedKDF
offers a robust solution for efficient, privacy-preserving federated thorax
disease analysis.
- Abstract(参考訳): 大規模なマルチセンタ、マルチスキャナの設定における胸骨疾患の分析は、厳格なプライバシーポリシーによって制限されることが多い。
フェデレートラーニング(FL)は潜在的な解決策を提供するが、従来のパラメータベースのFLは高い通信コスト、データ漏洩、不均一性といった問題によって制限される。
蒸留ベースのFLは効率を向上するが、しばしば臨床実践では実用的ではないプロキシデータセットに依存している。
これらの課題に対処するために,fedkdfによるデータフリー蒸留式flアプローチを提案する。
FedKDFでは、サーバは軽量なジェネレータを使用して、プライベートデータやプロキシデータセットへのアクセスを必要とせずに、異なるクライアントからの知識を集約する。
fedkdfは、クライアントからの予測器を単一の統一予測器に統合し、軽量ジェネレータの学習知識を使用してさらに最適化する。
実験の結果,fedkdfは効率的でプライバシーを保った連合胸腺疾患解析にロバストなソリューションを提供することがわかった。
関連論文リスト
- Privacy-preserving Federated Primal-dual Learning for Non-convex and Non-smooth Problems with Model Sparsification [51.04894019092156]
FL(Federated Learning)は,FLオーケストレーション(PS)の下でクライアント上でモデルをトレーニングする,急速に成長する領域として認識されている。
本稿では,非滑らかなFL問題に対して,新しい一次分離アルゴリズムを提案し,保証する。
その独特な洞察力のある性質とその分析も提示される。
論文 参考訳(メタデータ) (2023-10-30T14:15:47Z) - PS-FedGAN: An Efficient Federated Learning Framework Based on Partially
Shared Generative Adversarial Networks For Data Privacy [56.347786940414935]
分散計算のための効果的な学習パラダイムとして、フェデレートラーニング(FL)が登場した。
本研究は,部分的なGANモデル共有のみを必要とする新しいFLフレームワークを提案する。
PS-FedGANと名付けられたこの新しいフレームワークは、異種データ分散に対処するためのGANリリースおよびトレーニングメカニズムを強化する。
論文 参考訳(メタデータ) (2023-05-19T05:39:40Z) - Federated Learning with Uncertainty-Based Client Clustering for
Fleet-Wide Fault Diagnosis [5.684489493030555]
フェデレートラーニングは、複数のオペレータのデータセットを活用して分散化されたアセット障害診断モデルをトレーニングする、有望なソリューションとして登場した。
本稿では、データセットの類似性に基づいて、クライアントをフェデレーション用にクラスタリングする新しいクラスタリングベースのFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-04-26T04:23:59Z) - FedSkip: Combatting Statistical Heterogeneity with Federated Skip
Aggregation [95.85026305874824]
我々はFedSkipと呼ばれるデータ駆動型アプローチを導入し、フェデレーション平均化を定期的にスキップし、ローカルモデルをクロスデバイスに分散することで、クライアントの最適化を改善する。
我々は、FedSkipがはるかに高い精度、より良いアグリゲーション効率、競合する通信効率を達成することを示すために、さまざまなデータセットに関する広範な実験を行う。
論文 参考訳(メタデータ) (2022-12-14T13:57:01Z) - Federated Learning with Privacy-Preserving Ensemble Attention
Distillation [63.39442596910485]
Federated Learning(FL)は、多くのローカルノードがトレーニングデータを分散化しながら、中央モデルを協調的にトレーニングする機械学習パラダイムである。
本稿では,未ラベル公開データを利用した一方向オフライン知識蒸留のためのプライバシー保護FLフレームワークを提案する。
我々の技術は、既存のFLアプローチのような分散的で異質なローカルデータを使用するが、より重要なのは、プライバシー漏洩のリスクを著しく低減することです。
論文 参考訳(メタデータ) (2022-10-16T06:44:46Z) - Fine-tuning Global Model via Data-Free Knowledge Distillation for
Non-IID Federated Learning [86.59588262014456]
フェデレートラーニング(Federated Learning, FL)は、プライバシ制約下での分散学習パラダイムである。
サーバ内のグローバルモデル(FedFTG)を微調整するデータフリー知識蒸留法を提案する。
私たちのFedFTGは最先端(SOTA)のFLアルゴリズムよりも優れており、FedAvg、FedProx、FedDyn、SCAFFOLDの強化のための強力なプラグインとして機能します。
論文 参考訳(メタデータ) (2022-03-17T11:18:17Z) - Improving Performance of Federated Learning based Medical Image Analysis
in Non-IID Settings using Image Augmentation [1.5469452301122177]
フェデレーテッド・ラーニング(FL)は、厳格なプライバシー制約の下で働く義務のある患者、人々、企業、業界に属する機密データを利用するのに適したソリューションである。
FLはデータプライバシとセキュリティの問題を主にあるいは部分的にサポートし、複数のエッジデバイスや組織が、複数のローカルデータを使用してグローバルモデルのトレーニングに、それらを必要とせずにコントリビュートするための、モデルの代替手段を提供する。
本稿では,FLの非IIDデータ問題に対処するため,画像の増大によりクライアントのデータ分散を動的にバランスさせる手法を提案する。
論文 参考訳(メタデータ) (2021-12-12T10:05:42Z) - Local Learning Matters: Rethinking Data Heterogeneity in Federated
Learning [61.488646649045215]
フェデレートラーニング(FL)は、クライアントのネットワーク(エッジデバイス)でプライバシ保護、分散ラーニングを行うための有望な戦略である。
論文 参考訳(メタデータ) (2021-11-28T19:03:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。