論文の概要: Optimizing Federated Learning for Medical Image Classification on
Distributed Non-iid Datasets with Partial Labels
- arxiv url: http://arxiv.org/abs/2303.06180v1
- Date: Fri, 10 Mar 2023 19:23:33 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-14 20:32:01.835278
- Title: Optimizing Federated Learning for Medical Image Classification on
Distributed Non-iid Datasets with Partial Labels
- Title(参考訳): 部分ラベルを持つ分散非iidデータセットを用いた医用画像分類のためのフェデレーション学習の最適化
- Authors: Pranav Kulkarni, Adway Kanhere, Paul H. Yi, Vishwa S. Parekh
- Abstract要約: FedFBNは、事前トレーニングされたネットワークをモデルバックエンドとして使用することで、トランスファーラーニングからインスピレーションを得る、フェデレーション付き学習フレームワークである。
我々は,FedFBNと現在のFL戦略を,部分ラベルと完全ラベルを持つシナリオをまたいだ合成イド玩具データセットと大規模非イドデータセットを用いて評価した。
- 参考スコア(独自算出の注目度): 3.6704226968275258
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Numerous large-scale chest x-ray datasets have spearheaded expert-level
detection of abnormalities using deep learning. However, these datasets focus
on detecting a subset of disease labels that could be present, thus making them
distributed and non-iid with partial labels. Recent literature has indicated
the impact of batch normalization layers on the convergence of federated
learning due to domain shift associated with non-iid data with partial labels.
To that end, we propose FedFBN, a federated learning framework that draws
inspiration from transfer learning by using pretrained networks as the model
backend and freezing the batch normalization layers throughout the training
process. We evaluate FedFBN with current FL strategies using synthetic iid toy
datasets and large-scale non-iid datasets across scenarios with partial and
complete labels. Our results demonstrate that FedFBN outperforms current
aggregation strategies for training global models using distributed and non-iid
data with partial labels.
- Abstract(参考訳): 多数の大規模胸部X線データセットが深層学習を用いて専門家レベルの異常検出を先導している。
しかし、これらのデータセットは、存在する可能性のある疾患ラベルのサブセットを検出することに重点を置いている。
最近の文献では、部分ラベルを持つ非iidデータに関連する領域シフトによる連合学習の収束に及ぼすバッチ正規化層の影響が示されている。
そこで本研究では,プリトレーニングネットワークをモデルバックエンドとして使用し,トレーニングプロセスを通じてバッチ正規化レイヤを凍結することにより,トランスファー学習からインスピレーションを得たフェデレーション学習フレームワークfederated learningを提案する。
本研究では,合成iid玩具データセットと大規模非iidデータセットを用いて,fedfbnを現在のfl戦略で評価する。
その結果,federfbnは,部分ラベルを用いた分散および非iidデータを用いたグローバルモデルの学習において,現在の集約戦略よりも優れていることがわかった。
関連論文リスト
- Continuous Contrastive Learning for Long-Tailed Semi-Supervised Recognition [50.61991746981703]
現在の最先端のLTSSLアプローチは、大規模な未ラベルデータに対して高品質な擬似ラベルに依存している。
本稿では,長期学習における様々な提案を統一する新しい確率的枠組みを提案する。
我々は、信頼度とスムーズな擬似ラベルを用いて、我々のフレームワークをラベルなしデータに拡張する、連続的コントラスト学習手法であるCCLを導入する。
論文 参考訳(メタデータ) (2024-10-08T15:06:10Z) - Federated Impression for Learning with Distributed Heterogeneous Data [19.50235109938016]
フェデレートラーニング(FL)は、データを共有することなく、クライアント間で分散データセットから学習できるパラダイムを提供する。
FLでは、データ収集プロトコルや患者人口の多様さにより、異なる保健所のデータに準最適収束が一般的である。
我々は,グローバル情報を表す合成データをフェデレーションとして復元することで,破滅的な忘れを緩和するFedImpresを提案する。
論文 参考訳(メタデータ) (2024-09-11T15:37:52Z) - Exploiting Label Skews in Federated Learning with Model Concatenation [39.38427550571378]
Federated Learning(FL)は、生データを交換することなく、さまざまなデータオーナでディープラーニングを実行するための、有望なソリューションとして登場した。
非IID型では、ラベルスキューは困難であり、画像分類やその他のタスクで一般的である。
我々は,これらの局所モデルをグローバルモデルの基礎として分解する,シンプルで効果的なアプローチであるFedConcatを提案する。
論文 参考訳(メタデータ) (2023-12-11T10:44:52Z) - All Points Matter: Entropy-Regularized Distribution Alignment for
Weakly-supervised 3D Segmentation [67.30502812804271]
擬似ラベルは、弱い教師付き3Dセグメンテーションタスクに広く使われており、学習に使えるのはスパース・グラウンド・トラス・ラベルのみである。
本稿では,生成した擬似ラベルを正規化し,擬似ラベルとモデル予測とのギャップを効果的に狭めるための新しい学習戦略を提案する。
論文 参考訳(メタデータ) (2023-05-25T08:19:31Z) - FedMT: Federated Learning with Mixed-type Labels [41.272679061636794]
フェデレートラーニング(FL)では、分類器は複数のデータセンターからのデータ交換なしにデータセットに基づいて訓練される。
この制限は、様々な臨床センターが異なる基準に準拠している病気の診断のような領域で特に顕著になる。
本稿では,FL と混合型ラベルを併用した FL の重要かつ未探索な設定について述べる。
我々はFedMTと呼ばれるモデルに依存しない手法を導入し、ラベル空間対応とプロジェクト分類スコアを推定して損失関数を構築する。
論文 参考訳(メタデータ) (2022-10-05T06:27:25Z) - Rethinking Data Heterogeneity in Federated Learning: Introducing a New
Notion and Standard Benchmarks [65.34113135080105]
我々は、現在のセットアップにおけるデータ不均一性の問題が必ずしも問題であるだけでなく、FL参加者にとって有益であることを示す。
私たちの観察は直感的である。
私たちのコードはhttps://github.com/MMorafah/FL-SC-NIIDで利用可能です。
論文 参考訳(メタデータ) (2022-09-30T17:15:19Z) - Incorporating Semi-Supervised and Positive-Unlabeled Learning for
Boosting Full Reference Image Quality Assessment [73.61888777504377]
フル参照(FR)画像品質評価(IQA)は、その知覚的差異をプリズム品質基準で測定することにより、歪み画像の視覚的品質を評価する。
ラベルなしデータは、画像劣化または復元プロセスから容易に収集することができ、ラベルなしのトレーニングデータを利用してFR-IQA性能を高めることを奨励する。
本稿では, 半教師付き, 正の未ラベル学習(PU)を用いて, ラベルなしデータを活用し, オフレーヤの悪影響を軽減することを提案する。
論文 参考訳(メタデータ) (2022-04-19T09:10:06Z) - Learning Semantic Segmentation from Multiple Datasets with Label Shifts [101.24334184653355]
本論文では,ラベル空間が異なる複数のデータセットを対象としたモデルの自動学習手法であるUniSegを提案する。
具体的には,ラベルの相反と共起を考慮に入れた2つの損失を提案する。
論文 参考訳(メタデータ) (2022-02-28T18:55:19Z) - FedSLD: Federated Learning with Shared Label Distribution for Medical
Image Classification [6.0088002781256185]
分類タスクのための共有ラベル分布(FedSLD)を用いたフェデレートラーニングを提案する。
FedSLDは、分布の知識が与えられた場合、最適化中に各データサンプルの局所的な目的への貢献を調整する。
その結果,FedSLDは従来のFL最適化アルゴリズムよりもコンバージェンス性能が高いことがわかった。
論文 参考訳(メタデータ) (2021-10-15T21:38:25Z) - Learning from Partially Overlapping Labels: Image Segmentation under
Annotation Shift [68.6874404805223]
腹部臓器分節の文脈におけるラベルの重複から学ぶためのいくつかの方法を提案する。
半教師付きアプローチと適応的クロスエントロピー損失を組み合わせることで、不均一な注釈付きデータをうまく活用できることが判明した。
論文 参考訳(メタデータ) (2021-07-13T09:22:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。