論文の概要: Reliable Federated Disentangling Network for Non-IID Domain Feature
- arxiv url: http://arxiv.org/abs/2301.12798v2
- Date: Mon, 18 Sep 2023 03:23:21 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-20 00:48:25.856757
- Title: Reliable Federated Disentangling Network for Non-IID Domain Feature
- Title(参考訳): 非IID領域特徴に対する信頼フェデレーション分散ネットワーク
- Authors: Meng Wang, Kai Yu, Chun-Mei Feng, Yiming Qian, Ke Zou, Lianyu Wang,
Rick Siow Mong Goh, Yong Liu, Huazhu Fu
- Abstract要約: 本稿では、RFedDisと呼ばれる新しい信頼性のあるフェデレーション・ディエンタングリング・ネットワークを提案する。
我々の知る限り、提案するRFedDisは、明らかな不確実性と特徴の混在に基づくFLアプローチを開発する最初の試みである。
提案するRFedDisは,他の最先端FL手法と比較して信頼性の高い優れた性能を提供する。
- 参考スコア(独自算出の注目度): 62.73267904147804
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated learning (FL), as an effective decentralized distributed learning
approach, enables multiple institutions to jointly train a model without
sharing their local data. However, the domain feature shift caused by different
acquisition devices/clients substantially degrades the performance of the FL
model. Furthermore, most existing FL approaches aim to improve accuracy without
considering reliability (e.g., confidence or uncertainty). The predictions are
thus unreliable when deployed in safety-critical applications. Therefore,
aiming at improving the performance of FL in non-Domain feature issues while
enabling the model more reliable. In this paper, we propose a novel reliable
federated disentangling network, termed RFedDis, which utilizes feature
disentangling to enable the ability to capture the global domain-invariant
cross-client representation and preserve local client-specific feature
learning. Meanwhile, to effectively integrate the decoupled features, an
uncertainty-aware decision fusion is also introduced to guide the network for
dynamically integrating the decoupled features at the evidence level, while
producing a reliable prediction with an estimated uncertainty. To the best of
our knowledge, our proposed RFedDis is the first work to develop an FL approach
based on evidential uncertainty combined with feature disentangling, which
enhances the performance and reliability of FL in non-IID domain features.
Extensive experimental results show that our proposed RFedDis provides
outstanding performance with a high degree of reliability as compared to other
state-of-the-art FL approaches.
- Abstract(参考訳): 効果的な分散学習アプローチとしてのフェデレートラーニング(FL)は、複数の機関がローカルデータを共有せずにモデルを共同で訓練することを可能にする。
しかし、異なる取得装置/クライアントによるドメインの特徴シフトはFLモデルの性能を著しく低下させる。
さらに、既存のflアプローチの多くは、信頼性(信頼性や不確実性など)を考慮せずに精度を向上させることを目的としている。
したがって、安全クリティカルなアプリケーションにデプロイすると、予測は信頼できない。
したがって、モデルをより信頼性の高いものにしながら、非ドメイン機能問題におけるflの性能向上を目指す。
本稿では,グローバルなドメイン不変のクロスクライアント表現をキャプチャし,ローカルクライアント固有の特徴学習を保存可能にするために,機能拡張を利用するRFedDisと呼ばれる,信頼性の高いフェデレーションデタングルネットワークを提案する。
また,分離された特徴を効果的に統合するために,不確実性を考慮した決定融合を導入することで,不確実性を推定した信頼性の高い予測を行うとともに,分離された特徴をエビデンスレベルで動的に統合する手法を提案する。
我々の知る限り、提案するRFedDisは明らかに不確実性に基づくFLアプローチと特徴分離を組み合わせた最初の取り組みであり、非IID領域の特徴におけるFLの性能と信頼性を向上させる。
提案するRFedDisは,他の最先端FL手法と比較して,信頼性の高い優れた性能を実現している。
関連論文リスト
- PS-FedGAN: An Efficient Federated Learning Framework Based on Partially
Shared Generative Adversarial Networks For Data Privacy [56.347786940414935]
分散計算のための効果的な学習パラダイムとして、フェデレートラーニング(FL)が登場した。
本研究は,部分的なGANモデル共有のみを必要とする新しいFLフレームワークを提案する。
PS-FedGANと名付けられたこの新しいフレームワークは、異種データ分散に対処するためのGANリリースおよびトレーニングメカニズムを強化する。
論文 参考訳(メタデータ) (2023-05-19T05:39:40Z) - FederatedTrust: A Solution for Trustworthy Federated Learning [3.202927443898192]
IoT(Internet of Things)の急速な拡張により、中央集権型機械学習(ML/DL)メソッドの課題が提示された。
データプライバシに関する懸念に対処するため、フェデレートラーニング(FL)のような、協調的でプライバシ保護のML/DL技術が登場した。
論文 参考訳(メタデータ) (2023-02-20T09:02:24Z) - FedFM: Anchor-based Feature Matching for Data Heterogeneity in Federated
Learning [91.74206675452888]
本稿では,各クライアントの特徴を共有カテゴリーのアンカーにマッチさせる新しいFedFM法を提案する。
効率と柔軟性を向上させるため,FedFM-Liteと呼ばれるFedFM変種を提案し,クライアントは同期時間と通信帯域幅のコストを少なくしてサーバと通信する。
論文 参考訳(メタデータ) (2022-10-14T08:11:34Z) - Communication-Efficient Diffusion Strategy for Performance Improvement
of Federated Learning with Non-IID Data [10.112913394578703]
フェデレートラーニング(FL)は、集中学習におけるプライバシー漏洩問題に対処する新しい学習パラダイムである。
FLでは,非独立かつ同一に分散した(非IID)特性を持つユーザは,グローバルモデルの性能を低下させる可能性がある。
非IIDデータを用いたFL性能を最大化するために,機械学習モデル(FedDif)の新たな拡散戦略を提案する。
論文 参考訳(メタデータ) (2022-07-15T14:28:41Z) - Disentangled Federated Learning for Tackling Attributes Skew via
Invariant Aggregation and Diversity Transferring [104.19414150171472]
属性は、クライアント間の一貫した最適化方向から、現在の連邦学習(FL)フレームワークを歪めます。
本稿では,ドメイン固有属性とクロス不変属性を2つの補足枝に分離するために,非絡み付きフェデレーション学習(DFL)を提案する。
実験により、DFLはSOTA FL法と比較して高い性能、より良い解釈可能性、より高速な収束率でFLを促進することが確認された。
論文 参考訳(メタデータ) (2022-06-14T13:12:12Z) - SAFARI: Sparsity enabled Federated Learning with Limited and Unreliable
Communications [23.78596067797334]
フェデレートラーニング(FL)は、エッジデバイスが分散形式でモデルを協調的に学習することを可能にする。
そこで本稿では,SAFARIと呼ばれる通信効率とバイアス低減の両面を兼ね備えたFLフレームワークを提案する。
信頼性の低い通信によって生じるバイアスを補正し、補償するために、クライアントモデル間に新しい類似性を利用する。
論文 参考訳(メタデータ) (2022-04-05T16:26:36Z) - Fine-tuning Global Model via Data-Free Knowledge Distillation for
Non-IID Federated Learning [118.27470037607846]
フェデレートラーニング(Federated Learning, FL)は、プライバシ制約下での分散学習パラダイムである。
サーバ内のグローバルモデル(FedFTG)を微調整するデータフリー知識蒸留法を提案する。
私たちのFedFTGは最先端(SOTA)のFLアルゴリズムよりも優れており、FedAvg、FedProx、FedDyn、SCAFFOLDの強化のための強力なプラグインとして機能します。
論文 参考訳(メタデータ) (2022-03-17T11:18:17Z) - DearFSAC: An Approach to Optimizing Unreliable Federated Learning via
Deep Reinforcement Learning [3.516494777812123]
本稿では,DearFSAC (Defect-AwaRe Federated soft actor-critic) を提案する。
DearFSACは、独立および同一分散(IID)と非IID設定の2つのデータセットに対して、既存の3つのアプローチより優れている。
論文 参考訳(メタデータ) (2022-01-30T01:47:43Z) - Stochastic-Sign SGD for Federated Learning with Theoretical Guarantees [49.91477656517431]
量子化に基づく解法は、フェデレートラーニング(FL)において広く採用されている。
上記のプロパティをすべて享受する既存のメソッドはありません。
本稿では,SIGNSGDに基づく直感的かつ理論的に簡易な手法を提案し,そのギャップを埋める。
論文 参考訳(メタデータ) (2020-02-25T15:12:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。