論文の概要: Distributed Contrastive Learning for Medical Image Segmentation
- arxiv url: http://arxiv.org/abs/2208.03808v1
- Date: Sun, 7 Aug 2022 20:47:05 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-09 12:57:33.686452
- Title: Distributed Contrastive Learning for Medical Image Segmentation
- Title(参考訳): 医用画像分割のための分散コントラスト学習
- Authors: Yawen Wu, Dewen Zeng, Zhepeng Wang, Yiyu Shi, Jingtong Hu
- Abstract要約: 監視されたディープラーニングは、高いパフォーマンスを達成するために大量のラベル付きデータを必要とします。
医用画像解析では、各サイトは限られた量のデータとラベルしか持たず、学習を効果的にしない。
アノテーションを限定した医用画像セグメンテーションのための2つのフェデレーション型自己教師型学習フレームワークを提案する。
- 参考スコア(独自算出の注目度): 16.3860181959878
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Supervised deep learning needs a large amount of labeled data to achieve high
performance. However, in medical imaging analysis, each site may only have a
limited amount of data and labels, which makes learning ineffective. Federated
learning (FL) can learn a shared model from decentralized data. But traditional
FL requires fully-labeled data for training, which is very expensive to obtain.
Self-supervised contrastive learning (CL) can learn from unlabeled data for
pre-training, followed by fine-tuning with limited annotations. However, when
adopting CL in FL, the limited data diversity on each site makes federated
contrastive learning (FCL) ineffective. In this work, we propose two federated
self-supervised learning frameworks for volumetric medical image segmentation
with limited annotations. The first one features high accuracy and fits
high-performance servers with high-speed connections. The second one features
lower communication costs, suitable for mobile devices. In the first framework,
features are exchanged during FCL to provide diverse contrastive data to each
site for effective local CL while keeping raw data private. Global structural
matching aligns local and remote features for a unified feature space among
different sites. In the second framework, to reduce the communication cost for
feature exchanging, we propose an optimized method FCLOpt that does not rely on
negative samples. To reduce the communications of model download, we propose
the predictive target network update (PTNU) that predicts the parameters of the
target network. Based on PTNU, we propose the distance prediction (DP) to
remove most of the uploads of the target network. Experiments on a cardiac MRI
dataset show the proposed two frameworks substantially improve the segmentation
and generalization performance compared with state-of-the-art techniques.
- Abstract(参考訳): 教師付きディープラーニングは、ハイパフォーマンスを達成するために大量のラベル付きデータを必要とする。
しかし、医用画像解析では、各サイトは限られた量のデータとラベルしか持たず、学習を効果的にしない。
連合学習(fl)は分散データから共有モデルを学ぶことができる。
しかし、従来のFLはトレーニングのために完全にラベル付けされたデータが必要です。
自己教師付きコントラスト学習(CL)は、事前学習のためのラベルのないデータから学習し、その後限られたアノテーションで微調整を行う。
しかし、FLにおいてCLを採用する場合、各サイト上の限られたデータ多様性は、FCL(Federated contrastive learning)を非効率にする。
そこで本研究では,限定的なアノテーションによる音量的医用画像セグメンテーションのための2つの教師付き自己教師付き学習フレームワークを提案する。
1つは高精度で高速接続の高性能サーバに適合する。
2番目は通信コストが低く、モバイルデバイスに適している。
第1のフレームワークでは、機能はFCL中に交換され、各サイトに多様なコントラストデータを提供し、生データをプライベートに保ちながら効果的なローカルCLを提供する。
グローバル構造マッチングは、異なるサイト間の統一された機能空間のために、ローカルとリモートの機能を調整する。
第2のフレームワークでは、機能交換の通信コストを削減するため、負のサンプルに依存しない最適化されたFCLOptを提案する。
そこで本研究では,モデルダウンロードの通信量を削減するために,ターゲットネットワークのパラメータを予測する予測対象ネットワーク更新(ptnu)を提案する。
PTNUに基づいて、ターゲットネットワークのアップロードの大部分を削除するための距離予測(DP)を提案する。
心臓MRIデータセットを用いた実験により,提案した2つのフレームワークは,最先端技術と比較してセグメンテーションと一般化性能を大幅に改善した。
関連論文リスト
- Communication-Efficient Hybrid Federated Learning for E-health with Horizontal and Vertical Data Partitioning [67.49221252724229]
E-Healthは、スマートデバイスや医療機関が患者のデータを共同で収集することを可能にする。
eヘルスにフェデレートされた学習を適用することは、多くの課題に直面します。
医療データは水平および垂直に分割される。
HFLとVFLの単純な組み合わせには、訓練効率の低下、難聴収束分析、パラメータチューニング戦略の欠如など、制限がある。
論文 参考訳(メタデータ) (2024-04-15T19:45:07Z) - Communication Efficient ConFederated Learning: An Event-Triggered SAGA
Approach [67.27031215756121]
Federated Learning(FL)は、さまざまなデータソース上のローカルデータを収集することなく、モデルトレーニングをターゲットとする機械学習パラダイムである。
単一のサーバを使用するStandard FLは、限られた数のユーザしかサポートできないため、学習能力の低下につながる。
本研究では,多数のユーザに対応するために,emphConfederated Learning(CFL)と呼ばれるマルチサーバFLフレームワークを検討する。
論文 参考訳(メタデータ) (2024-02-28T03:27:10Z) - Semi-Federated Learning: Convergence Analysis and Optimization of A
Hybrid Learning Framework [70.83511997272457]
本稿では,ベースステーション(BS)とデバイスの両方を活用するセミフェデレーション学習(SemiFL)パラダイムを提案し,中央集権学習(CL)とFLのハイブリッド実装を提案する。
我々はこの難解な問題を解くための2段階のアルゴリズムを提案し、ビームフォーマに閉形式解を提供する。
論文 参考訳(メタデータ) (2023-10-04T03:32:39Z) - Adaptive Model Pruning and Personalization for Federated Learning over
Wireless Networks [72.59891661768177]
フェデレーション学習(FL)は、データプライバシを保護しながら、エッジデバイス間での分散学習を可能にする。
これらの課題を克服するために、部分的なモデルプルーニングとパーソナライズを備えたFLフレームワークを検討する。
このフレームワークは、学習モデルを、データ表現を学ぶためにすべてのデバイスと共有されるモデルプルーニングと、特定のデバイスのために微調整されるパーソナライズされた部分とで、グローバルな部分に分割する。
論文 参考訳(メタデータ) (2023-09-04T21:10:45Z) - Unifying and Personalizing Weakly-supervised Federated Medical Image
Segmentation via Adaptive Representation and Aggregation [1.121358474059223]
フェデレートラーニング(FL)は、データプライバシとセキュリティを損なうことなく、複数のサイトが協力して強力なディープモデルをトレーニングすることを可能にする。
微粒な監督を施した弱く監督されたセグメンテーションは、アノテーションコストを下げる大きな可能性を秘めているため、ますます注目されている。
医用画像セグメンテーションのための新しいFLフレームワークであるFedICRAを提案する。
論文 参考訳(メタデータ) (2023-04-12T06:32:08Z) - Online Data Selection for Federated Learning with Limited Storage [53.46789303416799]
ネットワークデバイス間での分散機械学習を実現するために、フェデレートラーニング(FL)が提案されている。
デバイス上のストレージがFLの性能に与える影響はまだ調査されていない。
本研究では,デバイス上のストレージを限定したFLのオンラインデータ選択について検討する。
論文 参考訳(メタデータ) (2022-09-01T03:27:33Z) - Federated Self-Supervised Contrastive Learning and Masked Autoencoder
for Dermatological Disease Diagnosis [15.20791611477636]
皮膚科疾患の診断において, 移動皮膚科補助医が収集した個人データは, 患者の移動体に分散して存在する。
本稿では,ラベルが限定された皮膚疾患診断のための2つの自己指導型学習フレームワークを提案する。
皮膚疾患データセットの実験は、最先端のフレームワークよりも提案したフレームワークの精度が優れていることを示している。
論文 参考訳(メタデータ) (2022-08-24T02:49:35Z) - Personalizing Federated Medical Image Segmentation via Local Calibration [9.171482226385551]
ひとつのモデルを使って、異なるサイトからさまざまなデータ分布に適応することは、非常に難しい。
現場間一貫性を活用するために,textbfLocal textbfCalibration (LC-Fed) を用いたパーソナライズドフェデレーションフレームワークを提案する。
提案手法は,最先端のパーソナライズされたFL法よりも優れた性能を示す。
論文 参考訳(メタデータ) (2022-07-11T06:30:31Z) - Federated Contrastive Learning for Volumetric Medical Image Segmentation [16.3860181959878]
フェデレートラーニング(FL)は、プライバシのためのトレーニングデータをローカルに保持しながら、共有モデルを学ぶことで、この点において役立つ。
従来のFLはトレーニングのために完全にラベル付けされたデータを必要とする。
そこで本研究では,アノテーションを限定したボリューム・メディカル・イメージ・セグメンテーションのためのFCLフレームワークを提案する。
論文 参考訳(メタデータ) (2022-04-23T03:47:23Z) - Acceleration of Federated Learning with Alleviated Forgetting in Local
Training [61.231021417674235]
フェデレートラーニング(FL)は、プライバシを保護しながら機械学習モデルの分散最適化を可能にする。
我々は,FedRegを提案する。FedRegは,局所的な訓練段階において,知識を忘れることなくFLを加速するアルゴリズムである。
我々の実験は、FedRegはFLの収束率を著しく改善するだけでなく、特にニューラルネットワークアーキテクチャが深い場合にも改善することを示した。
論文 参考訳(メタデータ) (2022-03-05T02:31:32Z) - Communication-Efficient Hierarchical Federated Learning for IoT
Heterogeneous Systems with Imbalanced Data [42.26599494940002]
フェデレートラーニング(Federated Learning, FL)は、複数のノードが協調してディープラーニングモデルをトレーニングできる分散ラーニング方法論である。
本稿では,IoTヘテロジニアスシステムにおける階層FLの可能性について検討する。
複数のエッジノード上でのユーザ割り当てとリソース割り当てに最適化されたソリューションを提案する。
論文 参考訳(メタデータ) (2021-07-14T08:32:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。