Fugu-MT 論文翻訳(概要): Contrast with Major Classifier Vectors for Federated Medical Relation Extraction with Heterogeneous Label Distribution

論文の概要: Contrast with Major Classifier Vectors for Federated Medical Relation Extraction with Heterogeneous Label Distribution

arxiv url: http://arxiv.org/abs/2301.05376v1
Date: Fri, 13 Jan 2023 03:22:07 GMT
ステータス: 処理完了
システム内更新日: 2023-01-16 14:34:50.115566
Title: Contrast with Major Classifier Vectors for Federated Medical Relation Extraction with Heterogeneous Label Distribution
Title（参考訳）: 不均質なラベル分布を持つ統合医療関係抽出のための主要分類ベクトルとの対比
Authors: Chunhui Du and Hao He and Yaohui Jin
Abstract要約: 対照的に、医療関係抽出では、複数のクライアントが生の医療データを共有せずにディープネットワークを協調的にトレーニングすることができる。本稿では、全てのクライアントのモデルを完全に活用し、サーバ上の平均メソッドではなくアンサンブルでクラスベクトルのグループを得る、テクトマジュール分類ベクトルという新しい概念を提案する。 FedCMCは、生データ、抽出された表現、ラベルの分布をリークすることなく、わずかな量のパラメータの転送しか必要としない。
参考スコア（独自算出の注目度）: 14.760896137686846
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Federated medical relation extraction enables multiple clients to train a deep network collaboratively without sharing their raw medical data. In order to handle the heterogeneous label distribution across clients, most of the existing works only involve enforcing regularization between local and global models during optimization. In this paper, we fully utilize the models of all clients and propose a novel concept of \textit{major classifier vectors}, where a group of class vectors is obtained in an ensemble rather than the weighted average method on the server. The major classifier vectors are then distributed to all clients and the local training of each client is Contrasted with Major Classifier vectors (FedCMC), so the local model is not prone to overfitting to the local label distribution. FedCMC requires only a small amount of additional transfer of classifier parameters without any leakage of raw data, extracted representations, and label distributions. Our extensive experiments show that FedCMC outperforms the other state-of-the-art FL algorithms on three medical relation extraction datasets.
Abstract（参考訳）: 統合医療関係抽出により、複数のクライアントが生の医療データを共有せずにディープネットワークを協調的にトレーニングできる。クライアント間の異種ラベルの分散を扱うために、既存の作業のほとんどは最適化中にローカルモデルとグローバルモデル間の正規化を強制することだけを含む。本稿では,全クライアントのモデルを完全に活用し,サーバ上の重み付け平均法ではなく,アンサンブルでクラスベクトル群が得られるような,新しい概念である \textit{major classifier vectors} を提案する。主要な分類器ベクトルはすべてのクライアントに配布され、各クライアントの局所的な訓練はメジャー分類器ベクトル(FedCMC)と対比されるため、局所モデルは局所的なラベル分布に過度に適合しない。 FedCMCは、原データ、抽出された表現、ラベルの分布をリークすることなく、わずかな量の分類器パラメータの転送しか必要としない。我々は,FedCMCが3つの医療関係抽出データセットにおいて,他の最先端FLアルゴリズムよりも優れていることを示した。

関連論文リスト

Federated Learning with Label-Masking Distillation [33.80340338038264]
フェデレーション学習は、複数のローカルクライアントに分散したデータ上でモデルを協調的にトレーニングするための、プライバシ保護の方法を提供する。クライアントのユーザ動作が異なるため、異なるクライアント間のラベルの分布は著しく異なる。本稿では,FedLMDと呼ばれるラベルマスキング蒸留手法を提案し,各クライアントのラベル分布を知覚することで,フェデレーション学習を容易にする。
論文参考訳（メタデータ） (2024-09-20T00:46:04Z)
Exploiting Label Skews in Federated Learning with Model Concatenation [39.38427550571378]
Federated Learning(FL)は、生データを交換することなく、さまざまなデータオーナでディープラーニングを実行するための、有望なソリューションとして登場した。非IID型では、ラベルスキューは困難であり、画像分類やその他のタスクで一般的である。我々は,これらの局所モデルをグローバルモデルの基礎として分解する,シンプルで効果的なアプローチであるFedConcatを提案する。
論文参考訳（メタデータ） (2023-12-11T10:44:52Z)
Rethinking Semi-Supervised Federated Learning: How to co-train fully-labeled and fully-unlabeled client imaging data [6.322831694506287]
分離フェデレートラーニング(IsoFed)は、半教師付きフェデレートラーニング(SSFL)に特化して設計されたラーニングスキームである。本稿では,教師付きモデルと半教師付きモデルの簡易な平均化を回避し,SSFLに特化して設計した新しい学習手法を提案する。特に、我々のトレーニングアプローチは、(a)ラベル付きおよびラベルなしのクライアントモデルの独立したアグリゲーションと、(b)すべてのクライアントで独立したグローバルモデルのローカルな自己教師付き事前トレーニングという2つの部分で構成されています。
論文参考訳（メタデータ） (2023-10-28T20:41:41Z)
Rethinking Client Drift in Federated Learning: A Logit Perspective [125.35844582366441]
フェデレートラーニング(FL)は、複数のクライアントが分散した方法で協調的に学習し、プライバシ保護を可能にする。その結果,局所モデルとグローバルモデルとのロジット差は,モデルが継続的に更新されるにつれて増大することがわかった。我々はFedCSDと呼ばれる新しいアルゴリズムを提案する。FedCSDは、ローカルモデルとグローバルモデルを調整するためのフェデレーションフレームワークにおけるクラスプロトタイプの類似度蒸留である。
論文参考訳（メタデータ） (2023-08-20T04:41:01Z)
Beyond ADMM: A Unified Client-variance-reduced Adaptive Federated Learning Framework [82.36466358313025]
我々はFedVRAと呼ばれる原始二重FLアルゴリズムを提案し、このアルゴリズムはグローバルモデルの分散還元レベルとバイアスを適応的に制御することができる。半教師付き画像分類タスクに基づく実験は,既存の手法よりもFedVRAの方が優れていることを示す。
論文参考訳（メタデータ） (2022-12-03T03:27:51Z)
Rethinking Data Heterogeneity in Federated Learning: Introducing a New Notion and Standard Benchmarks [65.34113135080105]
我々は、現在のセットアップにおけるデータ不均一性の問題が必ずしも問題であるだけでなく、FL参加者にとって有益であることを示す。私たちの観察は直感的である。私たちのコードはhttps://github.com/MMorafah/FL-SC-NIIDで利用可能です。
論文参考訳（メタデータ） (2022-09-30T17:15:19Z)
Efficient Distribution Similarity Identification in Clustered Federated Learning via Principal Angles Between Client Data Subspaces [59.33965805898736]
クラスタ学習は、クライアントをクラスタにグループ化することで、有望な結果をもたらすことが示されている。既存のFLアルゴリズムは基本的に、クライアントを同様のディストリビューションでグループ化しようとしている。以前のFLアルゴリズムは、訓練中に間接的に類似性を試みていた。
論文参考訳（メタデータ） (2022-09-21T17:37:54Z)
FRAug: Tackling Federated Learning with Non-IID Features via Representation Augmentation [31.12851987342467]
Federated Learning(FL)は、複数のクライアントが協調してディープラーニングモデルをトレーニングする分散学習パラダイムである。本稿では,FRAug(Federated Representation Augmentation)を提案する。当社のアプローチでは,通常は小さなクライアントデータセットを増大させるために,埋め込み空間にクライアント固有の合成サンプルを生成する。
論文参考訳（メタデータ） (2022-05-30T07:43:42Z)
FedAvg with Fine Tuning: Local Updates Lead to Representation Learning [54.65133770989836]
Federated Averaging (FedAvg)アルゴリズムは、クライアントノードでのいくつかのローカルな勾配更新と、サーバでのモデル平均更新の交互化で構成されている。我々は、FedAvgの出力の一般化の背景には、クライアントのタスク間の共通データ表現を学習する能力があることを示す。異種データを用いたフェデレーション画像分類におけるFedAvgの表現学習能力を示す実証的証拠も提供する。
論文参考訳（メタデータ） (2022-05-27T00:55:24Z)
FedSLD: Federated Learning with Shared Label Distribution for Medical Image Classification [6.0088002781256185]
分類タスクのための共有ラベル分布(FedSLD)を用いたフェデレートラーニングを提案する。 FedSLDは、分布の知識が与えられた場合、最適化中に各データサンプルの局所的な目的への貢献を調整する。その結果,FedSLDは従来のFL最適化アルゴリズムよりもコンバージェンス性能が高いことがわかった。
論文参考訳（メタデータ） (2021-10-15T21:38:25Z)
Federated Semi-supervised Medical Image Classification via Inter-client Relation Matching [58.26619456972598]
フェデレートラーニング(FL)は、ディープ・ネットワークのトレーニングのために、分散医療機関とのコラボレーションで人気が高まっている。本報告では,実践的かつ困難なFL問題であるtextitFederated Semi-supervised Learning (FSSL)について検討する。本稿では, 従来の整合性正規化機構を改良し, クライアント間関係マッチング方式を提案する。
論文参考訳（メタデータ） (2021-06-16T07:58:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。