論文の概要: Dealing With Heterogeneous 3D MR Knee Images: A Federated Few-Shot
Learning Method With Dual Knowledge Distillation
- arxiv url: http://arxiv.org/abs/2303.14357v1
- Date: Sat, 25 Mar 2023 04:46:25 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-28 20:20:48.201006
- Title: Dealing With Heterogeneous 3D MR Knee Images: A Federated Few-Shot
Learning Method With Dual Knowledge Distillation
- Title（参考訳）: 異種3次元mr膝画像の扱い : 二重知識蒸留を用いた連発型少数ショット学習法
- Authors: Xiaoxiao He, Chaowei Tan, Bo Liu, Liping Si, Weiwu Yao, Liang Zhao, Di
Liu, Qilong Zhangli, Qi Chang, Kang Li and Dimitris N. Metaxas
- Abstract要約: フェデレーション学習は、データを集約することなく、クライアント間のトレーニングを可能にする。
臨床機関は、現地での研修に十分な教師付きデータを持っていない。
大企業は高解像度の画像とラベルでデータリポジトリをコンパイルするリソースを持っている。
- 参考スコア（独自算出の注目度）: 39.40515099843844
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Federated Learning has gained popularity among medical institutions since it
enables collaborative training between clients (e.g., hospitals) without
aggregating data. However, due to the high cost associated with creating
annotations, especially for large 3D image datasets, clinical institutions do
not have enough supervised data for training locally. Thus, the performance of
the collaborative model is subpar under limited supervision. On the other hand,
large institutions have the resources to compile data repositories with
high-resolution images and labels. Therefore, individual clients can utilize
the knowledge acquired in the public data repositories to mitigate the shortage
of private annotated images. In this paper, we propose a federated few-shot
learning method with dual knowledge distillation. This method allows joint
training with limited annotations across clients without jeopardizing privacy.
The supervised learning of the proposed method extracts features from limited
labeled data in each client, while the unsupervised data is used to distill
both feature and response-based knowledge from a national data repository to
further improve the accuracy of the collaborative model and reduce the
communication cost. Extensive evaluations are conducted on 3D magnetic
resonance knee images from a private clinical dataset. Our proposed method
shows superior performance and less training time than other semi-supervised
federated learning methods. Codes and additional visualization results are
available at https://github.com/hexiaoxiao-cs/fedml-knee.
- Abstract（参考訳）: 統合学習は、データを集約することなくクライアント(病院など)間の協調的なトレーニングを可能にするため、医療機関の間で人気を集めている。
しかし、特に大規模な3次元画像データセットのアノテーション作成に伴うコストが高いため、臨床機関は局所的なトレーニングに十分な教師付きデータを持っていない。
したがって、協調モデルの性能は限定的な監督下にある。
一方、大企業には、高解像度の画像やラベルでデータリポジトリをコンパイルするリソースがある。
そのため、個々のクライアントは、公開データリポジトリで取得した知識を利用して、プライベートアノテート画像の不足を軽減することができる。
本稿では, 二重知識蒸留を用いた連成数ショット学習法を提案する。
この方法では、プライバシーを損なうことなく、クライアント間で限定的なアノテーションによる共同トレーニングを可能にする。
提案手法の教師付き学習は,各クライアントのラベル付き限られたデータから特徴を抽出し,教師なしデータは,特徴と応答に基づく知識の両方を国家データリポジトリから抽出し,協調モデルの精度をさらに向上し,通信コストを低減する。
民間臨床データから3次元磁気共鳴膝画像について広範な評価を行った。
提案手法は,他の半教師付きフェデレーション学習法よりも優れた性能と訓練時間を示す。
コードと追加の可視化結果はhttps://github.com/hexiaoxiao-cs/fedml-kneeで確認できる。
関連論文リスト
- CL3: A Collaborative Learning Framework for the Medical Data Ensuring Data Privacy in the Hyperconnected Environment [1.223961905359498]
ハイパーコネクテッドな環境では、医療機関は機密性の高い患者情報を共有・送信する際にデータプライバシに関心を持つ。
トランスファー、フェデレーション、インクリメンタルラーニングを含む協調学習フレームワークは、効率的でセキュアでスケーラブルなモデルを生成することができる。
本研究の目的は、CL3と呼ばれる協調学習フレームワークを用いて、胸部X線画像を用いたCOVID-19の検出に対処することである。
論文 参考訳（メタデータ） (2024-10-10T13:29:12Z) - Federated Semi-supervised Learning for Medical Image Segmentation with intra-client and inter-client Consistency [10.16245019262119]
フェデレートラーニングは、ローカルデータ交換なしで、分離されたクライアントの共有モデルをトレーニングすることを目的としている。
本研究では,医用画像セグメンテーションのための新しい半教師付き学習フレームワークを提案する。
論文 参考訳（メタデータ） (2024-03-19T12:52:38Z) - Medical Federated Model with Mixture of Personalized and Sharing
Components [31.068735334318088]
本稿では,その問題に対処するための新しい個人化学習フレームワークを提案する。
ローカルデータ間の類似性を認識したパーソナライズされたモデルが得られる。
また,計算効率を大幅に向上させる効率的な計算コスト削減手法を提案する。
論文 参考訳（メタデータ） (2023-06-26T07:50:32Z) - Federated Learning with Privacy-Preserving Ensemble Attention
Distillation [63.39442596910485]
Federated Learning(FL)は、多くのローカルノードがトレーニングデータを分散化しながら、中央モデルを協調的にトレーニングする機械学習パラダイムである。
本稿では,未ラベル公開データを利用した一方向オフライン知識蒸留のためのプライバシー保護FLフレームワークを提案する。
我々の技術は、既存のFLアプローチのような分散的で異質なローカルデータを使用するが、より重要なのは、プライバシー漏洩のリスクを著しく低減することです。
論文 参考訳（メタデータ） (2022-10-16T06:44:46Z) - Distributed Contrastive Learning for Medical Image Segmentation [16.3860181959878]
監視されたディープラーニングは、高いパフォーマンスを達成するために大量のラベル付きデータを必要とします。
医用画像解析では、各サイトは限られた量のデータとラベルしか持たず、学習を効果的にしない。
アノテーションを限定した医用画像セグメンテーションのための2つのフェデレーション型自己教師型学習フレームワークを提案する。
論文 参考訳（メタデータ） (2022-08-07T20:47:05Z) - Few-Shot Non-Parametric Learning with Deep Latent Variable Model [50.746273235463754]
遅延変数を用いた圧縮による非パラメトリック学習(NPC-LV)を提案する。
NPC-LVは、ラベルなしデータが多いがラベル付きデータはほとんどないデータセットの学習フレームワークである。
我々は,NPC-LVが低データ構造における画像分類における3つのデータセットの教師あり手法よりも優れていることを示す。
論文 参考訳（メタデータ） (2022-06-23T09:35:03Z) - Federated Contrastive Learning for Volumetric Medical Image Segmentation [16.3860181959878]
フェデレートラーニング(FL)は、プライバシのためのトレーニングデータをローカルに保持しながら、共有モデルを学ぶことで、この点において役立つ。
従来のFLはトレーニングのために完全にラベル付けされたデータを必要とする。
そこで本研究では,アノテーションを限定したボリューム・メディカル・イメージ・セグメンテーションのためのFCLフレームワークを提案する。
論文 参考訳（メタデータ） (2022-04-23T03:47:23Z) - Federated Cycling (FedCy): Semi-supervised Federated Learning of
Surgical Phases [57.90226879210227]
FedCyは、FLと自己教師付き学習を組み合わせた半教師付き学習(FSSL)手法で、ラベル付きビデオとラベルなしビデオの両方の分散データセットを利用する。
外科的段階の自動認識作業において,最先端のFSSL法よりも顕著な性能向上を示した。
論文 参考訳（メタデータ） (2022-03-14T17:44:53Z) - Federated Semi-supervised Medical Image Classification via Inter-client
Relation Matching [58.26619456972598]
フェデレートラーニング(FL)は、ディープ・ネットワークのトレーニングのために、分散医療機関とのコラボレーションで人気が高まっている。
本報告では,実践的かつ困難なFL問題であるtextitFederated Semi-supervised Learning (FSSL)について検討する。
本稿では, 従来の整合性正規化機構を改良し, クライアント間関係マッチング方式を提案する。
論文 参考訳（メタデータ） (2021-06-16T07:58:00Z) - CosSGD: Nonlinear Quantization for Communication-efficient Federated
Learning [62.65937719264881]
フェデレーション学習は、これらのクライアントのローカルデータを中央サーバに転送することなく、クライアント間での学習を促進する。
圧縮勾配降下のための非線形量子化を提案し、フェデレーションラーニングで容易に利用することができる。
本システムは,訓練過程の収束と精度を維持しつつ,通信コストを最大3桁まで削減する。
論文 参考訳（メタデータ） (2020-12-15T12:20:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。