Fugu-MT 論文翻訳(概要): FedTriNet: A Pseudo Labeling Method with Three Players for Federated Semi-supervised Learning

論文の概要: FedTriNet: A Pseudo Labeling Method with Three Players for Federated Semi-supervised Learning

arxiv url: http://arxiv.org/abs/2109.05612v1
Date: Sun, 12 Sep 2021 21:00:25 GMT
ステータス: 処理完了
システム内更新日: 2021-09-16 08:38:41.912785
Title: FedTriNet: A Pseudo Labeling Method with Three Players for Federated Semi-supervised Learning
Title（参考訳）: fedtrinet:federated semi-supervised learningのための3人のプレーヤによる擬似ラベリング手法
Authors: Liwei Che and Zewei Long and Jiaqi Wang and Yaqing Wang and Houping Xiao and Fenglong Ma
Abstract要約: 本稿では,FedTriNetという新しいフェデレーション付き半教師付き学習手法を提案する。特に,3つのネットワークと動的品質制御機構を用いて,ラベルのないデータに対して高品質な擬似ラベルを生成することを提案する。 3つの公開データセットの実験結果は、提案されたFedTriNetが最先端のベースラインを上回っていることを示している。
参考スコア（独自算出の注目度）: 24.720014822365684
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Federated Learning has shown great potentials for the distributed data utilization and privacy protection. Most existing federated learning approaches focus on the supervised setting, which means all the data stored in each client has labels. However, in real-world applications, the client data are impossible to be fully labeled. Thus, how to exploit the unlabeled data should be a new challenge for federated learning. Although a few studies are attempting to overcome this challenge, they may suffer from information leakage or misleading information usage problems. To tackle these issues, in this paper, we propose a novel federated semi-supervised learning method named FedTriNet, which consists of two learning phases. In the first phase, we pre-train FedTriNet using labeled data with FedAvg. In the second phase, we aim to make most of the unlabeled data to help model learning. In particular, we propose to use three networks and a dynamic quality control mechanism to generate high-quality pseudo labels for unlabeled data, which are added to the training set. Finally, FedTriNet uses the new training set to retrain the model. Experimental results on three publicly available datasets show that the proposed FedTriNet outperforms state-of-the-art baselines under both IID and Non-IID settings.
Abstract（参考訳）: Federated Learningは、分散データ利用とプライバシ保護に大きな可能性を示している。既存の連合学習のアプローチのほとんどは教師付き設定にフォーカスしており、つまり各クライアントに格納されているすべてのデータはラベルを持っている。しかし、現実世界のアプリケーションでは、クライアントデータが完全にラベル付けされることは不可能である。したがって、ラベルのないデータをどう活用するかは、連邦学習の新しい課題である。この課題を克服しようとする研究はいくつかあるが、情報漏洩や誤った情報利用の問題に悩まされている。本稿では,2つの学習フェーズからなるFedTriNetという,新しいフェデレーション付き半教師付き学習手法を提案する。第1フェーズでは、ラベル付きデータとFedAvgを使ってFedTriNetを事前訓練します。第2フェーズでは、ラベルのないデータの大半をモデル学習に役立てることを目指しています。特に3つのネットワークと動的品質制御機構を用いて、トレーニングセットに追加されるラベルなしデータの高品質な擬似ラベルを生成することを提案する。最後に、FedTriNetはモデルの再トレーニングに新しいトレーニングセットを使用する。 3つの公開データセットの実験結果から、提案されたFedTriNetは、IIDと非IID設定の両方で最先端のベースラインを上回っている。

関連論文リスト

FedAnchor: Enhancing Federated Semi-Supervised Learning with Label Contrastive Loss for Unlabeled Clients [19.3885479917635]
Federated Learning(FL)は、デバイス間で共有されたグローバルモデルの協調トレーニングを促進する分散学習パラダイムである。本稿では,サーバ上のラベル付きアンカーデータにのみ訓練された分類ヘッドと組み合わせて,アンカーヘッドと呼ばれるユニークな二重ヘッド構造を導入する,革新的なFSSL手法であるFedAnchorを提案する。提案手法は, 高信頼度モデル予測サンプルに基づいて, 疑似ラベル技術に係わる検証バイアスと過度に適合する問題を緩和する。
論文参考訳（メタデータ） (2024-02-15T18:48:21Z)
Dual-Perspective Knowledge Enrichment for Semi-Supervised 3D Object Detection [55.210991151015534]
本稿では, DPKE という新しい2次元知識豊か化手法を提案する。我々のDPKEは、データパースペクティブと機能パースペクティブという2つの観点から、限られたトレーニングデータ、特にラベルなしデータの知識を豊かにしています。
論文参考訳（メタデータ） (2024-01-10T08:56:07Z)
Distribution Shift Matters for Knowledge Distillation with Webly Collected Images [91.66661969598755]
異なる分布間の知識蒸留という新しい手法を提案する(KD$3$)。まず,教師ネットワークと学生ネットワークの併用予測に基づいて,Webで収集したデータから有用なトレーニングインスタンスを動的に選択する。また、MixDistributionと呼ばれる新しいコントラスト学習ブロックを構築して、新しい分散のインスタンスアライメントで摂動データを生成します。
論文参考訳（メタデータ） (2023-07-21T10:08:58Z)
Hierarchical Supervision and Shuffle Data Augmentation for 3D Semi-Supervised Object Detection [90.32180043449263]
最先端の3Dオブジェクト検出器は通常、高品質な3Dアノテーションを備えた大規模データセットで訓練される。自然な治療法は、限られた量のラベル付きサンプルと豊富なラベル付きサンプルを活用することで、半教師付き学習(SSL)を採用することである。本稿では,HSSDA(Hierarchical Supervision and Shuffle Data Augmentation)の新たなアプローチを提案する。
論文参考訳（メタデータ） (2023-04-04T02:09:32Z)
FedIL: Federated Incremental Learning from Decentralized Unlabeled Data with Convergence Analysis [23.70951896315126]
この研究は、サーバを小さなラベル付きデータセットで検討し、ラベルなしデータを複数のクライアントで半教師付き学習に使用することを意図している。本稿では,サーバ内のラベル付きデータとクライアント内のラベルなしデータをどのように利用するかという問題に対処するため,一般化されたモデルであるFederated Incremental Learning (FedIL)を提案する。
論文参考訳（メタデータ） (2023-02-23T07:12:12Z)
Open-Set Semi-Supervised Learning for 3D Point Cloud Understanding [62.17020485045456]
半教師付き学習(SSL)では、ラベル付きデータと同じ分布からラベル付きデータが引き出されることが一般的である。サンプル重み付けによりラベルなしデータを選択的に活用することを提案する。
論文参考訳（メタデータ） (2022-05-02T16:09:17Z)
PointMatch: A Consistency Training Framework for Weakly Supervised Semantic Segmentation of 3D Point Clouds [117.77841399002666]
本稿では,データ自体から十分な情報を探索するために整合性正規化を適用することで,データとラベルの両面に立つ新しいフレームワークであるPointMatchを提案する。提案したPointMatchは、ScanNet-v2データセットとS3DISデータセットの両方で、様々な弱い教師付きスキームの下で最先端のパフォーマンスを実現する。
論文参考訳（メタデータ） (2022-02-22T07:26:31Z)
FedCon: A Contrastive Framework for Federated Semi-Supervised Learning [26.520767887801142]
Federated Semi-Supervised Learning (FedSSL)は、学術と工業の両方の研究者から注目を集めている。 FedConはFedSSLに新たな学習パラダイム、すなわちコントラクト学習を導入する。
論文参考訳（メタデータ） (2021-09-09T19:47:21Z)
Federated Semi-Supervised Learning with Inter-Client Consistency & Disjoint Learning [78.88007892742438]
ラベル付きデータの位置に基づくFSSL(Federated Semi-Supervised Learning)の2つの重要なシナリオについて検討する。フェデレートマッチング(FedMatch)と呼ばれる新しい手法を提案する。
論文参考訳（メタデータ） (2020-06-22T09:43:41Z)
Exploiting Unlabeled Data in Smart Cities using Federated Learning [2.362412515574206]
フェデレートラーニングは、プライバシー侵害を回避し、データの利用を増やすための効果的なテクニックである。ラベルなしデータを利用した半教師付きフェデレーション学習手法FedSemを提案する。その結果,FedSemは学習過程におけるラベルなしデータを利用して精度を最大8%向上できることがわかった。
論文参考訳（メタデータ） (2020-01-10T13:25:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。