論文の概要: FedRare: Federated Learning with Intra- and Inter-Client Contrast for
Effective Rare Disease Classification
- arxiv url: http://arxiv.org/abs/2206.13803v1
- Date: Tue, 28 Jun 2022 07:37:38 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-02 13:17:26.809345
- Title: FedRare: Federated Learning with Intra- and Inter-Client Contrast for
Effective Rare Disease Classification
- Title(参考訳): fedrare: 効果的なまれな疾患分類のためのクライアント間コントラストとクライアント間コントラストを用いたフェデレーション学習
- Authors: Nannan Wu, Li Yu, Xin Yang, Kwang-Ting Cheng, and Zengqiang Yan
- Abstract要約: フェデレーテッド・ラーニング(FL)は、異なる医療機関やクライアントがデータプライバシーの漏洩なしに協力的にモデルをトレーニングできるようにする。
本稿では,医療画像分類のための新しいFLフレームワークであるFedRareを提案する。
10サイクルの連邦設定の下では、FedRareは平均9.60%と5.90%のバランスの取れた精度で上昇する。
- 参考スコア(独自算出の注目度): 29.69137726688905
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated learning (FL), enabling different medical institutions or clients
to train a model collaboratively without data privacy leakage, has drawn great
attention in medical imaging communities recently. Though inter-client data
heterogeneity has been thoroughly studied, the class imbalance problem due to
the existence of rare diseases still is under-explored. In this paper, we
propose a novel FL framework FedRare for medical image classification
especially on dealing with data heterogeneity with the existence of rare
diseases. In FedRare, each client trains a model locally to extract
highly-separable latent features for classification via intra-client supervised
contrastive learning. Considering the limited data on rare diseases, we build
positive sample queues for augmentation (i.e. data re-sampling). The server in
FedRare would collect the latent features from clients and automatically select
the most reliable latent features as guidance sent back to clients. Then, each
client is jointly trained by an inter-client contrastive loss to align its
latent features to the federated latent features of full classes. In this way,
the parameter/feature variances across clients are effectively minimized,
leading to better convergence and performance improvements. Experimental
results on the publicly-available dataset for skin lesion diagnosis demonstrate
FedRare's superior performance. Under the 10-client federated setting where
four clients have no rare disease samples, FedRare achieves an average increase
of 9.60% and 5.90% in balanced accuracy compared to the baseline framework
FedAvg and the state-of-the-art approach FedIRM respectively. Considering the
board existence of rare diseases in clinical scenarios, we believe FedRare
would benefit future FL framework design for medical image classification. The
source code of this paper is publicly available at
https://github.com/wnn2000/FedRare.
- Abstract(参考訳): 異なる医療機関やクライアントがデータのプライバシーリークなしに協調的にモデルを訓練できるフェデレーション・ラーニング(fl)は、近年医療画像コミュニティに大きな注目を集めている。
クライアント間データの不均一性は十分に研究されているが、希少な疾患の存在によるクラス不均衡の問題はまだ未発見である。
本稿では,医療画像分類のための新しいFLフレームワークであるFedRareを提案する。
FedRareでは、各クライアントがローカルにモデルをトレーニングし、クライアント内で教師付きコントラスト学習を通じて、分類のための高度に分離可能な潜在特徴を抽出する。
稀な疾患に関する限られたデータを考えると、増大のための正のサンプルキュー(データ再サンプリング)を構築する。
fedrareのサーバはクライアントから潜在機能を収集し、クライアントに送信されるガイダンスとして最も信頼できる潜在機能を自動的に選択する。
次に、各クライアントは、クライアント間のコントラスト損失によって共同でトレーニングされ、潜在機能と全クラスの潜在機能とを一致させる。
このようにして、クライアント間のパラメータ/機能分散が効果的に最小化され、コンバージェンスとパフォーマンスが向上する。
皮膚病変診断の公開データセットにおける実験結果から,fedrareの優れた性能が示された。
4つのクライアントがまれな疾患のサンプルを持っていない10クライアントフェデレーションの環境では、fedrareはベースラインフレームワークfedavgと最先端アプローチfedermと比較して平均9.60%と5.90%のバランスのとれた精度を達成している。
臨床シナリオにおけるまれな疾患のボードの存在を考えると、FedRareは将来の医療画像分類のためのFLフレームワーク設計に役立つだろう。
本論文のソースコードはhttps://github.com/wnn2000/FedRare.comで公開されている。
関連論文リスト
- Addressing Imbalance for Class Incremental Learning in Medical Image Classification [14.242875524728495]
不均衡の悪影響を軽減するために2つのプラグイン法を導入する。
まず、多数派に対する分類バイアスを軽減するために、CILバランスの取れた分類損失を提案する。
第2に,組込み空間におけるクラス間重複を緩和するだけでなく,クラス内コンパクト性も緩和する分布マージン損失を提案する。
論文 参考訳(メタデータ) (2024-07-18T17:59:44Z) - Iterative Online Image Synthesis via Diffusion Model for Imbalanced
Classification [29.730360798234294]
医用画像分類におけるクラス不均衡問題に対処するための反復オンライン画像合成フレームワークを提案する。
このフレームワークにはオンライン画像合成(OIS)と精度適応サンプリング(AAS)という2つの重要なモジュールが組み込まれている。
不均衡な分類に対処するための提案手法の有効性を評価するため,HAM10000およびAPTOSデータセットを用いて実験を行った。
論文 参考訳(メタデータ) (2024-03-13T10:51:18Z) - Bias Mitigating Few-Shot Class-Incremental Learning [17.185744533050116]
クラス増分学習は,限定された新規クラスサンプルを用いて,新規クラスを継続的に認識することを目的としている。
最近の手法では,段階的なセッションで特徴抽出器を微調整することにより,ベースクラスとインクリメンタルクラスの精度の不均衡を緩和している。
本研究では,FSCIL問題におけるモデルバイアスを緩和する新しい手法を提案する。
論文 参考訳(メタデータ) (2024-02-01T10:37:41Z) - Dual Compensation Residual Networks for Class Imbalanced Learning [98.35401757647749]
そこで本研究では,尾と頭の両方に適合する2次元補償残差ネットワークを提案する。
オーバーフィッティングを引き起こす重要な要因は、トレーニングとテールクラスのテストデータの間に深刻な特徴ドリフトがあることである。
また,不適合問題を軽減するためにResidual Balanced Multi-Proxies分類器を提案する。
論文 参考訳(メタデータ) (2023-08-25T04:06:30Z) - No Fear of Classifier Biases: Neural Collapse Inspired Federated
Learning with Synthetic and Fixed Classifier [10.491645205483051]
本稿では、FLの分類器バイアス問題に対して、学習中に合成・固定されたETF分類器を用いて解を提案する。
FLにおけるETF構造をよりよく適応するために,高一般化とパーソナライズの両方を実現するために,いくつかの効果的なモジュールを考案した。
本手法は,CIFAR-10,CIFAR-100,Tiny-ImageNet上での最先端性能を実現する。
論文 参考訳(メタデータ) (2023-03-17T15:38:39Z) - Density-Aware Personalized Training for Risk Prediction in Imbalanced
Medical Data [89.79617468457393]
不均衡率(クラス密度差)のトレーニングモデルは、最適以下の予測につながる可能性がある。
この不均衡問題に対するモデルトレーニングのためのフレームワークを提案する。
実世界の医療データセットにおけるモデルの性能向上を実証する。
論文 参考訳(メタデータ) (2022-07-23T00:39:53Z) - Dynamic Bank Learning for Semi-supervised Federated Image Diagnosis with
Class Imbalance [65.61909544178603]
クラス不均衡半教師付きFL(imFed-Semi)の実用的かつ困難な問題について検討する。
このImFed-Semi問題は、クラス比例情報を利用してクライアントトレーニングを改善する新しい動的銀行学習方式によって解決される。
25,000個のCTスライスによる頭蓋内出血診断と10,015個の皮膚内視鏡画像による皮膚病変診断の2つの公開実世界の医療データセットに対するアプローチを評価した。
論文 参考訳(メタデータ) (2022-06-27T06:51:48Z) - Deep Reinforcement Learning for Multi-class Imbalanced Training [64.9100301614621]
我々は、極めて不均衡なデータセットをトレーニングするために、強化学習に基づく不均衡な分類フレームワークを導入する。
特注報酬関数とエピソード学習手順を定式化し、特にマルチクラス不均衡トレーニングを扱えるようにした。
実世界の臨床ケーススタディを用いて,提案手法が現状の非バランス学習法より優れていることを示す。
論文 参考訳(メタデータ) (2022-05-24T13:39:59Z) - SuperCon: Supervised Contrastive Learning for Imbalanced Skin Lesion
Classification [9.265557367859637]
SuperConは、皮膚病変分類におけるクラス不均衡問題を克服するための2段階のトレーニング戦略である。
2段階のトレーニング戦略は,クラス不均衡の分類問題に効果的に対処し,F1スコアとAUCスコアの点で既存の作業を大幅に改善する。
論文 参考訳(メタデータ) (2022-02-11T15:19:36Z) - No Fear of Heterogeneity: Classifier Calibration for Federated Learning
with Non-IID Data [78.69828864672978]
実世界のフェデレーションシステムにおける分類モデルのトレーニングにおける中心的な課題は、非IIDデータによる学習である。
このアルゴリズムは, 近似されたssian混合モデルからサンプリングした仮想表現を用いて分類器を調整する。
実験の結果,CIFAR-10,CIFAR-100,CINIC-10など,一般的なフェデレーション学習ベンチマークにおけるCCVRの現状が示された。
論文 参考訳(メタデータ) (2021-06-09T12:02:29Z) - Deep F-measure Maximization for End-to-End Speech Understanding [52.36496114728355]
本稿では,F測度に対する微分可能な近似法を提案し,標準バックプロパゲーションを用いてネットワークをトレーニングする。
我々は、アダルト、コミュニティ、犯罪の2つの標準フェアネスデータセットの実験を行い、ATISデータセットの音声・インテリジェンス検出と音声・COCOデータセットの音声・イメージ概念分類を行った。
これらの4つのタスクのすべてにおいて、F測定は、クロスエントロピー損失関数で訓練されたモデルと比較して、最大8%の絶対的な絶対的な改善を含む、マイクロF1スコアの改善をもたらす。
論文 参考訳(メタデータ) (2020-08-08T03:02:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。