Fugu-MT 論文翻訳(概要): RSCFed: Random Sampling Consensus Federated Semi-supervised Learning

論文の概要: RSCFed: Random Sampling Consensus Federated Semi-supervised Learning

arxiv url: http://arxiv.org/abs/2203.13993v1
Date: Sat, 26 Mar 2022 05:10:44 GMT
ステータス: 処理完了
システム内更新日: 2022-03-29 14:41:57.185671
Title: RSCFed: Random Sampling Consensus Federated Semi-supervised Learning
Title（参考訳）: rscfed:ランダムサンプリングコンセンサス連合半教師付き学習
Authors: Xiaoxiao Liang, Yiqun Lin, Huazhu Fu, Lei Zhu, Xiaomeng Li
Abstract要約: Federated semi-supervised learning (FSSL)は、完全にラベル付けされた、完全にラベル付けされていないクライアントをトレーニングしたり、部分的にラベル付けされたクライアントをトレーニングすることで、グローバルなモデルを導出することを目的としている。我々は,完全ラベルのクライアント,完全ラベルのクライアント,あるいは部分的にラベル付けされたクライアントのモデル間の不均一な信頼性を考慮して,ランダムサンプリング統合学習(RSCFed)を提案する。
参考スコア（独自算出の注目度）: 40.998176838813045
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Federated semi-supervised learning (FSSL) aims to derive a global model by training fully-labeled and fully-unlabeled clients or training partially labeled clients. The existing approaches work well when local clients have independent and identically distributed (IID) data but fail to generalize to a more practical FSSL setting, i.e., Non-IID setting. In this paper, we present a Random Sampling Consensus Federated learning, namely RSCFed, by considering the uneven reliability among models from fully-labeled clients, fully-unlabeled clients or partially labeled clients. Our key motivation is that given models with large deviations from either labeled clients or unlabeled clients, the consensus could be reached by performing random sub-sampling over clients. To achieve it, instead of directly aggregating local models, we first distill several sub-consensus models by random sub-sampling over clients and then aggregating the sub-consensus models to the global model. To enhance the robustness of sub-consensus models, we also develop a novel distance-reweighted model aggregation method. Experimental results show that our method outperforms state-of-the-art methods on three benchmarked datasets, including both natural and medical images. The code is available at https://github.com/XMed-Lab/RSCFed.
Abstract（参考訳）: fssl(federated semi-supervised learning)は、完全にラベル付きでラベルなしのクライアントをトレーニングしたり、部分的にラベル付けされたクライアントをトレーニングすることで、グローバルモデルを導出することを目的としている。既存のアプローチは、ローカルクライアントが独立して同じ分散(IID)データを持っているが、より実用的なFSSL設定、すなわち非IID設定に一般化できない場合にうまく機能する。本稿では,完全ラベルクライアント,完全ラベルクライアント,部分ラベルクライアントからのモデル間の不均一な信頼性を考慮して,ランダムサンプリングコンセンサス連合学習,すなわちrscfedを提案する。私たちの主な動機は、ラベル付きクライアントまたはラベルなしクライアントから大きな逸脱があるモデルを考えると、クライアント上でランダムなサブサンプリングを行うことでコンセンサスに到達できるということです。ローカルモデルを直接集約する代わりに、まずクライアント上でランダムなサブサンプリングを行うことでいくつかのサブコンセンサスモデルを蒸留し、次に、サブコンセンサスモデルをグローバルモデルに集約する。サブコンセンサスモデルのロバスト性を高めるため,新しい距離重み付けモデルアグリゲーション法を開発した。実験の結果,本手法は,自然画像と医用画像を含む3つのベンチマークデータセットにおいて,最先端の手法よりも優れていた。コードはhttps://github.com/xmed-lab/rscfedで入手できる。

関連論文リスト

Learning Unlabeled Clients Divergence for Federated Semi-Supervised Learning via Anchor Model Aggregation [10.282711631100845]
SemiAnAggはアンカーモデルを通じて未ラベルのクライアントコントリビューションを学習する。 SemiAnAggは4つの広く使用されているFedSemiベンチマークにおいて、最先端の新たな結果を達成する。
論文参考訳（メタデータ） (2024-07-14T20:50:40Z)
Multi-Level Additive Modeling for Structured Non-IID Federated Learning [54.53672323071204]
我々は、異種クライアント間のより良い知識共有のために、マルチレベル付加モデル(MAM)と呼ばれるマルチレベル構造で編成されたモデルを訓練する。フェデレートMAM(FeMAM)では、各クライアントは各レベル毎に少なくとも1つのモデルに割り当てられ、そのパーソナライズされた予測は、各レベルに割り当てられたモデルの出力を合計する。実験により、FeMAMは既存のクラスタリングFLおよびパーソナライズされたFLメソッドを様々な非IID設定で超越していることが示された。
論文参考訳（メタデータ） (2024-05-26T07:54:53Z)
LEFL: Low Entropy Client Sampling in Federated Learning [6.436397118145477]
Federated Learning(FL)は、複数のクライアントが協力して、プライベートデータを使用して単一のグローバルモデルを最適化する、機械学習パラダイムである。本稿では,モデルが学習した高レベルの特徴に基づいて,クライアントのクラスタリングを1回行うことで,新たなサンプリング手法LEFLを提案する。提案手法で選択したサンプルクライアントは,グローバルなデータ分布に対して,相対エントロピーが低いことを示す。
論文参考訳（メタデータ） (2023-12-29T01:44:20Z)
Towards Instance-adaptive Inference for Federated Learning [80.38701896056828]
Federated Learning(FL)は、複数のクライアントがローカルトレーニングを集約することで、強力なグローバルモデルを学ぶことができる分散学習パラダイムである。本稿では,FedInsという新しいFLアルゴリズムを提案する。我々のFedInsは、Tiny-ImageNet上での通信コストが15%未満で、トップパフォーマンスの手法に対して6.64%の改善など、最先端のFLアルゴリズムよりも優れていることを示す。
論文参考訳（メタデータ） (2023-08-11T09:58:47Z)
FedDRL: A Trustworthy Federated Learning Model Fusion Method Based on Staged Reinforcement Learning [7.846139591790014]
2段階のアプローチに基づく強化学習を用いたモデル融合手法であるFedDRLを提案する。最初の段階では、我々の手法は悪意あるモデルをフィルタリングし、信頼されたクライアントモデルを選択してモデル融合に参加する。第2段階では、FedDRLアルゴリズムは信頼されたクライアントモデルの重みを適応的に調整し、最適なグローバルモデルを集約する。
論文参考訳（メタデータ） (2023-07-25T17:24:32Z)
FedSampling: A Better Sampling Strategy for Federated Learning [81.85411484302952]
フェデレートラーニング(FL)は、プライバシを保存する方法で分散化されたデータからモデルを学習するための重要なテクニックである。既存のFLメソッドは通常、各ラウンドでローカルモデル学習のために一様にクライアントをサンプリングする。フェデレート学習のための新しいデータ一様サンプリング戦略(FedSampling)を提案する。
論文参考訳（メタデータ） (2023-06-25T13:38:51Z)
Personalized Federated Learning through Local Memorization [10.925242558525683]
フェデレーション学習により、クライアントはデータをローカルに保ちながら、統計的モデルを協調的に学習することができる。最近のパーソナライズされた学習方法は、他のクライアントで利用可能な知識を活用しながら、各クライアントに対して別々のモデルを訓練する。本稿では,この手法が最先端手法よりも精度と公平性を著しく向上することを示す。
論文参考訳（メタデータ） (2021-11-17T19:40:07Z)
Federated Noisy Client Learning [105.00756772827066]
フェデレートラーニング(FL)は、複数のローカルクライアントに依存する共有グローバルモデルを協調的に集約する。標準FLメソッドは、集約されたモデル全体のパフォーマンスを損なううるノイズの多いクライアントの問題を無視します。本稿では,Fed-NCL (Federated Noisy Client Learning) を提案する。
論文参考訳（メタデータ） (2021-06-24T11:09:17Z)
Personalized Federated Learning by Structured and Unstructured Pruning under Data Heterogeneity [3.291862617649511]
クライアントレベルの目的からパーソナライズされたモデルを得るための新しいアプローチを提案する。このパーソナライズを実現するために、各クライアントの小さなサブネットワークを見つける。
論文参考訳（メタデータ） (2021-05-02T22:10:46Z)
Federated Unsupervised Representation Learning [56.715917111878106]
フェデレート非教師表現学習(FURL)と呼ばれるフェデレーション学習における新しい問題を定式化し、教師なしの共通表現モデルを学習する。 FedCAは2つの主要なモジュールで構成されている: 辞書モジュールは、各クライアントからのサンプルの表現を集約し、表現空間の整合性のためにすべてのクライアントと共有し、アライメントモジュールは、公開データに基づいてトレーニングされたベースモデル上で各クライアントの表現を整合させる。
論文参考訳（メタデータ） (2020-10-18T13:28:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。