論文の概要: Auto-FedAvg: Learnable Federated Averaging for Multi-Institutional
Medical Image Segmentation
- arxiv url: http://arxiv.org/abs/2104.10195v1
- Date: Tue, 20 Apr 2021 18:29:44 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-22 14:18:35.958483
- Title: Auto-FedAvg: Learnable Federated Averaging for Multi-Institutional
Medical Image Segmentation
- Title(参考訳): Auto-FedAvg:多施設画像分割のための学習可能なフェデレーション
- Authors: Yingda Xia, Dong Yang, Wenqi Li, Andriy Myronenko, Daguang Xu,
Hirofumi Obinata, Hitoshi Mori, Peng An, Stephanie Harmon, Evrim Turkbey,
Baris Turkbey, Bradford Wood, Francesca Patella, Elvira Stellato, Gianpaolo
Carrafiello, Anna Ierardi, Alan Yuille, Holger Roth
- Abstract要約: フェデレーションラーニング(FL)は、各参加者のプライバシーを維持しながら共同モデルのトレーニングを可能にします。
FedAvgは、FLプロセス中にサーバ上で分散学習されたモデルを集約するために、各クライアントのデータセットサイズに由来する固定重みを使用する標準的なアルゴリズムである。
本研究では,凝集重みを動的に調整した新しいデータ駆動型アプローチ,auto-fedavgを設計した。
- 参考スコア(独自算出の注目度): 7.009650174262515
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Federated learning (FL) enables collaborative model training while preserving
each participant's privacy, which is particularly beneficial to the medical
field. FedAvg is a standard algorithm that uses fixed weights, often
originating from the dataset sizes at each client, to aggregate the distributed
learned models on a server during the FL process. However, non-identical data
distribution across clients, known as the non-i.i.d problem in FL, could make
this assumption for setting fixed aggregation weights sub-optimal. In this
work, we design a new data-driven approach, namely Auto-FedAvg, where
aggregation weights are dynamically adjusted, depending on data distributions
across data silos and the current training progress of the models. We
disentangle the parameter set into two parts, local model parameters and global
aggregation parameters, and update them iteratively with a
communication-efficient algorithm. We first show the validity of our approach
by outperforming state-of-the-art FL methods for image recognition on a
heterogeneous data split of CIFAR-10. Furthermore, we demonstrate our
algorithm's effectiveness on two multi-institutional medical image analysis
tasks, i.e., COVID-19 lesion segmentation in chest CT and pancreas segmentation
in abdominal CT.
- Abstract(参考訳): 連合学習(英語: federated learning, ffl)は、各参加者のプライバシーを保ちながら、協調的なモデルトレーニングを可能にする。
FedAvgは、FLプロセス中にサーバ上で分散学習されたモデルを集約するために、各クライアントのデータセットサイズに由来する固定重みを使用する標準的なアルゴリズムである。
しかし、FLの非i.d問題として知られるクライアント間での非同一データ分布は、固定集約重みを準最適に設定する前提となる。
本研究では,データサイロ間のデータ分布やモデルの現在のトレーニング進捗に応じて,アグリゲーションの重み付けを動的に調整する,Auto-FedAvgという新しいデータ駆動型アプローチを設計する。
パラメータを局所モデルパラメータとグローバルアグリゲーションパラメータの2つの部分に分割し,通信効率のよいアルゴリズムで反復的に更新する。
まず,cifar-10の異種データ分割による画像認識における最先端fl法の有効性を示す。
さらに,胸部CTのCOVID-19病変分画と腹部CTの膵臓分画という2つの多施設医療画像解析課題に対して,本アルゴリズムの有効性を実証した。
関連論文リスト
- Dual-Criterion Model Aggregation in Federated Learning: Balancing Data Quantity and Quality [0.0]
フェデレートラーニング(FL)は、プライバシ保護のための協調学習の鍵となる方法の1つとなっている。
集約アルゴリズムは、システムの有効性と安全性を確保する上で最も重要なコンポーネントの1つとして認識される。
本研究では,クライアントノードからのデータ量と品質を含む新しい二項重み付けアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-11-12T14:09:16Z) - FedGS: Federated Gradient Scaling for Heterogeneous Medical Image Segmentation [0.4499833362998489]
そこで本研究では,FedGSという新しいFLアグリゲーション手法を提案する。
FedGSは、特に小さな病変に対して、PolypGenとLiTSデータセット間で、FedAvgよりも優れたパフォーマンスを示している。
論文 参考訳(メタデータ) (2024-08-21T15:26:21Z) - PeFAD: A Parameter-Efficient Federated Framework for Time Series Anomaly Detection [51.20479454379662]
私たちはaを提案します。
フェデレートされた異常検出フレームワークであるPeFADは、プライバシーの懸念が高まっている。
我々は、4つの実際のデータセットに対して広範な評価を行い、PeFADは既存の最先端ベースラインを最大28.74%上回っている。
論文 参考訳(メタデータ) (2024-06-04T13:51:08Z) - An Aggregation-Free Federated Learning for Tackling Data Heterogeneity [50.44021981013037]
フェデレートラーニング(FL)は、分散データセットからの知識を活用する効果に頼っている。
従来のFLメソッドでは、クライアントが前回のトレーニングラウンドからサーバが集約したグローバルモデルに基づいてローカルモデルを更新するアグリゲート-then-adaptフレームワークを採用している。
我々は,新しいアグリゲーションフリーFLアルゴリズムであるFedAFを紹介する。
論文 参考訳(メタデータ) (2024-04-29T05:55:23Z) - FissionFusion: Fast Geometric Generation and Hierarchical Souping for Medical Image Analysis [0.7751705157998379]
十分に注釈付けされた医療データセットの不足は、ImageNetのような広範なデータセットやCLIPのような事前訓練されたモデルからの移行学習を活用する必要がある。
モデルスープは、In-Domain(ID)タスクのパフォーマンスを改善し、out-of-Distribution(OOD)データセットに対する堅牢性を高めることを目的とした、複数の微調整されたモデルの平均である。
本稿では,様々なレベルのモデルの局所的および大域的集約を伴う階層的統合手法を提案する。
論文 参考訳(メタデータ) (2024-03-20T06:48:48Z) - Prompt Tuning for Parameter-efficient Medical Image Segmentation [79.09285179181225]
2つの医用画像データセットのセマンティックセグメンテーションにパラメータ効率が良いが効果的な適応を実現するために,いくつかのコントリビューションを提案し,検討する。
我々はこのアーキテクチャを、オンライン生成プロトタイプへの割り当てに基づく専用密集型セルフスーパービジョンスキームで事前訓練する。
得られたニューラルネットワークモデルにより、完全に微調整されたモデルとパラメータに適応したモデルとのギャップを緩和できることを実証する。
論文 参考訳(メタデータ) (2022-11-16T21:55:05Z) - Adapting the Mean Teacher for keypoint-based lung registration under
geometric domain shifts [75.51482952586773]
ディープニューラルネットワークは一般的に、ラベル付きトレーニングデータが多く必要であり、トレーニングデータとテストデータの間のドメインシフトに弱い。
本稿では,ラベル付きソースからラベル付きターゲットドメインへのモデルの適用により,画像登録のための幾何学的領域適応手法を提案する。
本手法は,ベースラインモデルの精度を目標データに適合させながら,ベースラインモデルの50%/47%を継続的に改善する。
論文 参考訳(メタデータ) (2022-07-01T12:16:42Z) - ST-FL: Style Transfer Preprocessing in Federated Learning for COVID-19
Segmentation [1.6799377888527687]
新型コロナウイルスのイメージセグメンテーションのための,ST-FL(Style Transfer Federated Learning)と呼ばれるGAN拡張型フェデレーション学習モデルを提案する。
FLクライアントノード上での広範囲なデータ品質の変化は、COVID-19胸部CT画像のセグメンテーションにおいて、サブ最適化されたFLモデルに繋がることを示す。
論文 参考訳(メタデータ) (2022-03-25T14:33:02Z) - Auto-FedRL: Federated Hyperparameter Optimization for
Multi-institutional Medical Image Segmentation [48.821062916381685]
Federated Learning(FL)は、明示的なデータ共有を避けながら協調的なモデルトレーニングを可能にする分散機械学習技術である。
本稿では,Auto-FedRLと呼ばれる,効率的な強化学習(RL)に基づくフェデレーションハイパーパラメータ最適化アルゴリズムを提案する。
提案手法の有効性は,CIFAR-10データセットと2つの実世界の医用画像セグメンテーションデータセットの不均一なデータ分割に対して検証される。
論文 参考訳(メタデータ) (2022-03-12T04:11:42Z) - Model Fusion with Kullback--Leibler Divergence [58.20269014662046]
異種データセットから学習した後続分布を融合する手法を提案する。
我々のアルゴリズムは、融合モデルと個々のデータセット後部の両方に対する平均場仮定に依存している。
論文 参考訳(メタデータ) (2020-07-13T03:27:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。