論文の概要: Surgical Aggregation: A Federated Learning Framework for Harmonizing
Distributed Datasets with Diverse Tasks
- arxiv url: http://arxiv.org/abs/2301.06683v1
- Date: Tue, 17 Jan 2023 03:53:29 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-18 14:56:16.288213
- Title: Surgical Aggregation: A Federated Learning Framework for Harmonizing
Distributed Datasets with Diverse Tasks
- Title（参考訳）: 外科的アグリゲーション:多様なタスクで分散データセットを調和させるための連合学習フレームワーク
- Authors: Pranav Kulkarni, Adway Kanhere, Paul H. Yi, Vishwa S. Parekh
- Abstract要約: 本稿では,異なる疾患ラベルを持つ分散データセットから知識を'グローバル'ディープラーニングモデルに集約するフレームワークを提案する。
以上の結果から,外科的アグリゲーションが臨床的に有用な深層学習モデルの開発に有効であることが示唆された。
- 参考スコア（独自算出の注目度）: 3.6704226968275258
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI-assisted characterization of chest x-rays (CXR) has the potential to
provide substantial benefits across many clinical applications. Many
large-scale public CXR datasets have been curated for detection of
abnormalities using deep learning. However, each of these datasets focus on
detecting a subset of disease labels that could be present in a CXR, thus
limiting their clinical utility. Furthermore, the distributed nature of these
datasets, along with data sharing regulations, make it difficult to share and
create a complete representation of disease labels. We propose surgical
aggregation, a federated learning framework for aggregating knowledge from
distributed datasets with different disease labels into a 'global' deep
learning model. We randomly divided the NIH Chest X-Ray 14 dataset into
training (70%), validation (10%), and test (20%) splits with no patient overlap
and conducted two experiments. In the first experiment, we pruned the disease
labels to create two 'toy' datasets containing 11 and 8 labels respectively
with 4 overlapping labels. For the second experiment, we pruned the disease
labels to create two disjoint 'toy' datasets with 7 labels each. We observed
that the surgically aggregated 'global' model resulted in excellent performance
across both experiments when compared to a 'baseline' model trained on complete
disease labels. The overlapping and disjoint experiments had an AUROC of 0.87
and 0.86 respectively, compared to the baseline AUROC of 0.87. We used surgical
aggregation to harmonize the NIH Chest X-Ray 14 and CheXpert datasets into a
'global' model with an AUROC of 0.85 and 0.83 respectively. Our results show
that surgical aggregation could be used to develop clinically useful deep
learning models by aggregating knowledge from distributed datasets with diverse
tasks, a step forward towards bridging the gap from bench to bedside.
- Abstract（参考訳）: AIによる胸部X線の評価(CXR)は、多くの臨床応用において大きなメリットをもたらす可能性がある。
多くの大規模公開CXRデータセットは、ディープラーニングを用いて異常を検出するためにキュレーションされている。
しかし、これらのデータセットは、CXRに存在する可能性のある疾患ラベルのサブセットを検出することに集中しており、臨床効果を制限している。
さらに、これらのデータセットの分散的な性質とデータ共有規則は、病気ラベルの完全な表現の共有と作成を困難にしている。
異なる疾患ラベルを持つ分散データセットから知識を'グローバル'なディープラーニングモデルに集約する,統合学習フレームワークである外科的アグリゲーションを提案する。
NIH Chest X-Ray 14データセットをトレーニング(70%)、検証(10%)、テスト(20%)にランダムに分割し、2つの実験を行った。
最初の実験では、11のラベルと8のラベルを含む2つの「toy」データセットを4つのラベルを重ね合わせて作成した。
2つ目の実験では、病気のラベルを刈り取って、それぞれ7つのラベルを持つ2つの“toy”データセットを作成しました。
その結果,全疾患ラベルをトレーニングした「ベースライン」モデルと比較して,外科的に集約した「グローバル」モデルが両実験とも優れた成績を示した。
重なり合う実験と解離実験はそれぞれ0.87のAUROCと0.86のAUROCを持つ。
NIH Chest X-Ray 14 と CheXpert のデータセットを,AUROC 0.85 と 0.83 の「グローバル」モデルに調和させた。
以上より,多種多様な課題を伴う分散データセットから知識を集約することで,臨床上有用な深層学習モデルの開発に外科的アグリゲーションが活用できる可能性が示唆された。
関連論文リスト
- Fake It Till Make It: Federated Learning with Consensus-Oriented
Generation [52.82176415223988]
コンセンサス指向生成による連合学習(FedCOG)を提案する。
FedCOGは、補完的なデータ生成と知識蒸留に基づくモデルトレーニングという、クライアント側の2つの重要なコンポーネントで構成されています。
古典的および実世界のFLデータセットの実験は、FedCOGが一貫して最先端の手法より優れていることを示している。
論文 参考訳（メタデータ） (2023-12-10T18:49:59Z) - PFL-GAN: When Client Heterogeneity Meets Generative Models in
Personalized Federated Learning [55.930403371398114]
パーソナライズドラーニング(PFL)のための新しいGAN(Generative Adversarial Network)の共有と集約戦略を提案する。
PFL-GANは、異なるシナリオにおけるクライアントの不均一性に対処する。より具体的には、まずクライアント間の類似性を学び、次に重み付けされた協調データアグリゲーションを開発する。
いくつかのよく知られたデータセットに対する厳密な実験による実験結果は、PFL-GANの有効性を示している。
論文 参考訳（メタデータ） (2023-08-23T22:38:35Z) - FedSoup: Improving Generalization and Personalization in Federated
Learning via Selective Model Interpolation [32.36334319329364]
クロスサイロフェデレーション学習(FL)は、データセンタに分散したデータセット上での機械学習モデルの開発を可能にする。
近年の研究では、現在のFLアルゴリズムは、分布シフトに直面した場合、局所的な性能とグローバルな性能のトレードオフに直面している。
地域とグローバルのパフォーマンスのトレードオフを最適化する新しいフェデレーションモデルスープ手法を提案する。
論文 参考訳（メタデータ） (2023-07-20T00:07:29Z) - FCA: Taming Long-tailed Federated Medical Image Classification by
Classifier Anchoring [26.07488492998861]
フェデレートラーニング(Federated Learning)は、データを共有することなく、ディープモデルを協調的にトレーニングすることを可能にする。
我々は、各クライアントにパーソナライズされた分類器を追加して、フェデレーションモデルのガイドとデバイアスを行うことにより、フェデレーション分類器アンカー(FCA)を提案する。
FCAは、連合型長い尾状皮膚病変の分類と頭蓋内出血の分類において、大きなマージンを有する最先端の方法よりも優れている。
論文 参考訳（メタデータ） (2023-05-01T09:36:48Z) - Intra-class Adaptive Augmentation with Neighbor Correction for Deep
Metric Learning [99.14132861655223]
深層学習のためのクラス内適応拡張(IAA)フレームワークを提案する。
クラスごとのクラス内変動を合理的に推定し, 適応型合成試料を生成し, 硬質試料の採掘を支援する。
本手法は,検索性能の最先端手法を3%～6%向上させる。
論文 参考訳（メタデータ） (2022-11-29T14:52:38Z) - Scalable Collaborative Learning via Representation Sharing [53.047460465980144]
フェデレートラーニング(FL)とスプリットラーニング(SL)は、データを(デバイス上で)プライベートにしながら協調学習を可能にする2つのフレームワークである。
FLでは、各データ保持者がモデルをローカルにトレーニングし、集約のために中央サーバにリリースする。
SLでは、クライアントは個々のカット層アクティベーション(スマッシュされたデータ)をサーバにリリースし、そのレスポンス(推論とバックの伝搬の両方)を待つ必要があります。
本研究では, クライアントがオンライン知識蒸留を通じて, 対照的な損失を生かして協調する, プライバシ保護機械学習の新しいアプローチを提案する。
論文 参考訳（メタデータ） (2022-11-20T10:49:22Z) - Adaptive Personlization in Federated Learning for Highly Non-i.i.d. Data [37.667379000751325]
フェデレートラーニング(Federated Learning, FL)は、医療機関にグローバルモデルにおけるコラボレーションの見通しを提供する分散ラーニング手法である。
本研究では,FLの中間的半言語モデルを生成する適応階層クラスタリング手法について検討する。
本実験は, 分類精度の標準的なFL法と比較して, 不均質分布において有意な性能向上を示した。
論文 参考訳（メタデータ） (2022-07-07T17:25:04Z) - No Fear of Heterogeneity: Classifier Calibration for Federated Learning
with Non-IID Data [78.69828864672978]
実世界のフェデレーションシステムにおける分類モデルのトレーニングにおける中心的な課題は、非IIDデータによる学習である。
このアルゴリズムは, 近似されたssian混合モデルからサンプリングした仮想表現を用いて分類器を調整する。
実験の結果,CIFAR-10,CIFAR-100,CINIC-10など,一般的なフェデレーション学習ベンチマークにおけるCCVRの現状が示された。
論文 参考訳（メタデータ） (2021-06-09T12:02:29Z) - Auto-FedAvg: Learnable Federated Averaging for Multi-Institutional
Medical Image Segmentation [7.009650174262515]
フェデレーションラーニング(FL)は、各参加者のプライバシーを維持しながら共同モデルのトレーニングを可能にします。
FedAvgは、FLプロセス中にサーバ上で分散学習されたモデルを集約するために、各クライアントのデータセットサイズに由来する固定重みを使用する標準的なアルゴリズムである。
本研究では,凝集重みを動的に調整した新しいデータ駆動型アプローチ,auto-fedavgを設計した。
論文 参考訳（メタデータ） (2021-04-20T18:29:44Z) - Robust Finite Mixture Regression for Heterogeneous Targets [70.19798470463378]
本稿では,サンプルクラスタの探索と,複数の不完全な混合型ターゲットを同時にモデル化するFMRモデルを提案する。
我々は、高次元の学習フレームワークの下で、無症状のオラクルのパフォーマンス境界をモデルに提供します。
その結果,我々のモデルは最先端の性能を達成できることがわかった。
論文 参考訳（メタデータ） (2020-10-12T03:27:07Z) - Fuzziness-based Spatial-Spectral Class Discriminant Information
Preserving Active Learning for Hyperspectral Image Classification [0.456877715768796]
本研究では,局所的・グローバルな識別情報保存手法の内外におけるファジィに基づく空間スペクトルを提案する。
ベンチマークHSIデータセットによる実験結果から,FLG法が生成,極端学習機械,スパース多相ロジスティック回帰に与える影響が示された。
論文 参考訳（メタデータ） (2020-05-28T18:58:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。