論文の概要: Auto-FedRL: Federated Hyperparameter Optimization for
Multi-institutional Medical Image Segmentation
- arxiv url: http://arxiv.org/abs/2203.06338v1
- Date: Sat, 12 Mar 2022 04:11:42 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-20 02:37:09.345856
- Title: Auto-FedRL: Federated Hyperparameter Optimization for
Multi-institutional Medical Image Segmentation
- Title(参考訳): Auto-FedRL:多施設医用画像分割のためのフェデレーションハイパーパラメータ最適化
- Authors: Pengfei Guo, Dong Yang, Ali Hatamizadeh, An Xu, Ziyue Xu, Wenqi Li,
Can Zhao, Daguang Xu, Stephanie Harmon, Evrim Turkbey, Baris Turkbey,
Bradford Wood, Francesca Patella, Elvira Stellato, Gianpaolo Carrafiello,
Vishal M. Patel, Holger R. Roth
- Abstract要約: Federated Learning(FL)は、明示的なデータ共有を避けながら協調的なモデルトレーニングを可能にする分散機械学習技術である。
本稿では,Auto-FedRLと呼ばれる,効率的な強化学習(RL)に基づくフェデレーションハイパーパラメータ最適化アルゴリズムを提案する。
提案手法の有効性は,CIFAR-10データセットと2つの実世界の医用画像セグメンテーションデータセットの不均一なデータ分割に対して検証される。
- 参考スコア(独自算出の注目度): 48.821062916381685
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated learning (FL) is a distributed machine learning technique that
enables collaborative model training while avoiding explicit data sharing. The
inherent privacy-preserving property of FL algorithms makes them especially
attractive to the medical field. However, in case of heterogeneous client data
distributions, standard FL methods are unstable and require intensive
hyperparameter tuning to achieve optimal performance. Conventional
hyperparameter optimization algorithms are impractical in real-world FL
applications as they involve numerous training trials, which are often not
affordable with limited compute budgets. In this work, we propose an efficient
reinforcement learning~(RL)-based federated hyperparameter optimization
algorithm, termed Auto-FedRL, in which an online RL agent can dynamically
adjust hyperparameters of each client based on the current training progress.
Extensive experiments are conducted to investigate different search strategies
and RL agents. The effectiveness of the proposed method is validated on a
heterogeneous data split of the CIFAR-10 dataset as well as two real-world
medical image segmentation datasets for COVID-19 lesion segmentation in chest
CT and pancreas segmentation in abdominal CT.
- Abstract(参考訳): Federated Learning(FL)は、明示的なデータ共有を避けながら協調的なモデルトレーニングを可能にする分散機械学習技術である。
flアルゴリズムの固有のプライバシー保護特性は、医療分野に特に魅力的である。
しかし、ヘテロジニアスなクライアントデータ分布の場合、標準fl法は不安定であり、最適な性能を得るためには集中的なハイパーパラメータチューニングが必要となる。
従来のハイパーパラメータ最適化アルゴリズムは、多くのトレーニングトライアルを含む現実世界のFLアプリケーションでは実用的ではない。
本研究では、オンラインRLエージェントが、現在のトレーニング進捗に基づいて各クライアントのハイパーパラメータを動的に調整できるAuto-FedRLと呼ばれる、効率的な強化学習〜(RL)ベースのフェデレーション付きハイパーパラメータ最適化アルゴリズムを提案する。
様々な探索戦略とrlエージェントを調査するために広範な実験が行われている。
提案法の有効性は,cifar-10データセットの異種データ分割と,胸部ctにおけるcovid-19病変分画と腹部ctにおける膵臓分画のための2つの実世界医用画像分画データセットを用いて検証した。
関連論文リスト
- FedMRL: Data Heterogeneity Aware Federated Multi-agent Deep Reinforcement Learning for Medical Imaging [12.307490659840845]
我々は,データの不均一性に対処する新しいマルチエージェント深層強化学習フレームワークであるFedMRLを紹介する。
FedMRLは、クライアント間の公平性を促進するために、新たな損失関数を導入し、最終グローバルモデルのバイアスを防ぐ。
その結果,FedMRLが最先端技術よりも優れていることが示された。
論文 参考訳(メタデータ) (2024-07-08T10:10:07Z) - Communication-Efficient Hybrid Federated Learning for E-health with Horizontal and Vertical Data Partitioning [67.49221252724229]
E-Healthは、スマートデバイスや医療機関が患者のデータを共同で収集することを可能にする。
eヘルスにフェデレートされた学習を適用することは、多くの課題に直面します。
医療データは水平および垂直に分割される。
HFLとVFLの単純な組み合わせには、訓練効率の低下、難聴収束分析、パラメータチューニング戦略の欠如など、制限がある。
論文 参考訳(メタデータ) (2024-04-15T19:45:07Z) - FedLALR: Client-Specific Adaptive Learning Rates Achieve Linear Speedup
for Non-IID Data [54.81695390763957]
フェデレートラーニング(Federated Learning)は、分散機械学習の手法である。
我々は,AMSGradの異種局所変種であるFedLALRを提案し,各クライアントが学習率を調整する。
クライアントが指定した自動調整型学習率スケジューリングが,クライアント数に対して収束し,線形高速化を実現することを示す。
論文 参考訳(メタデータ) (2023-09-18T12:35:05Z) - Learning Better with Less: Effective Augmentation for Sample-Efficient
Visual Reinforcement Learning [57.83232242068982]
データ拡張(DA)は、ビジュアル強化学習(RL)アルゴリズムのサンプル効率を高める重要な手法である。
サンプル効率のよい視覚的RLを実現する上で, DAのどの属性が有効かは明らかになっていない。
本研究は,DAの属性が有効性に与える影響を評価するための総合的な実験を行う。
論文 参考訳(メタデータ) (2023-05-25T15:46:20Z) - Federated Offline Reinforcement Learning [55.326673977320574]
マルチサイトマルコフ決定プロセスモデルを提案する。
我々は,オフラインRLを対象とした最初のフェデレーション最適化アルゴリズムを設計する。
提案アルゴリズムでは,学習ポリシーの準最適性は,データが分散していないような速度に匹敵する,理論的保証を与える。
論文 参考訳(メタデータ) (2022-06-11T18:03:26Z) - Deceive D: Adaptive Pseudo Augmentation for GAN Training with Limited
Data [125.7135706352493]
GAN(Generative Adversarial Network)は、高忠実度画像を合成するために、訓練に十分なデータを必要とする。
近年の研究では、差別者の過度な適合により、限られたデータでGANを訓練することは困難であることが示されている。
本稿では,APA (Adaptive Pseudo Augmentation) と呼ばれる新しい手法を提案する。
論文 参考訳(メタデータ) (2021-11-12T18:13:45Z) - Federated Ensemble Model-based Reinforcement Learning in Edge Computing [21.840086997141498]
フェデレートラーニング(Federated Learning、FL)は、プライバシ保護のための分散機械学習パラダイムである。
モデルベースRLとアンサンブル知識蒸留をFLに効果的に組み込む新しいFRLアルゴリズムを提案する。
具体的には、FLと知識蒸留を利用して、クライアント向けの動的モデルのアンサンブルを作成し、環境と相互作用することなく、単にアンサンブルモデルを使用することでポリシーを訓練する。
論文 参考訳(メタデータ) (2021-09-12T16:19:10Z) - Genetic CFL: Optimization of Hyper-Parameters in Clustered Federated
Learning [4.710427287359642]
Federated Learning(FL)は、クライアントサーバアーキテクチャ、エッジコンピューティング、リアルタイムインテリジェンスを統合した、ディープラーニングのための分散モデルである。
FLは機械学習(ML)に革命を起こす能力を持っているが、技術的制限、通信オーバーヘッド、非IID(独立で同一の分散データ)、プライバシー上の懸念による実装の実践性に欠ける。
本稿では,遺伝的クラスタ化FL(Genetic CFL)と呼ばれるハイブリッドアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-07-15T10:16:05Z) - Auto-FedAvg: Learnable Federated Averaging for Multi-Institutional
Medical Image Segmentation [7.009650174262515]
フェデレーションラーニング(FL)は、各参加者のプライバシーを維持しながら共同モデルのトレーニングを可能にします。
FedAvgは、FLプロセス中にサーバ上で分散学習されたモデルを集約するために、各クライアントのデータセットサイズに由来する固定重みを使用する標準的なアルゴリズムである。
本研究では,凝集重みを動的に調整した新しいデータ駆動型アプローチ,auto-fedavgを設計した。
論文 参考訳(メタデータ) (2021-04-20T18:29:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。