論文の概要: Towards Scheduling Federated Deep Learning using Meta-Gradients for
Inter-Hospital Learning
- arxiv url: http://arxiv.org/abs/2107.01707v1
- Date: Sun, 4 Jul 2021 18:45:58 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-07 00:36:39.836479
- Title: Towards Scheduling Federated Deep Learning using Meta-Gradients for
Inter-Hospital Learning
- Title(参考訳): メタグラディエントを用いた総合的な深層学習のスケジューリング
- Authors: Rasheed el-Bouri, Tingting Zhu, David A. Clifton
- Abstract要約: 複数の病院データセンターから抽出した患者データを利用して、患者のプライバシを犠牲にすることなく機械学習モデルをトレーニングする。
本研究では,学生と教師の連携によるスケジューリングアルゴリズムを開発した。
メタグラディエントを用いてトレーニングされたスケジューラは、トレーニングを効果的に編成し、その結果、多様なデータセット上で機械学習モデルをトレーニングできることが示される。
- 参考スコア(独自算出の注目度): 15.005982599243318
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Given the abundance and ease of access of personal data today, individual
privacy has become of paramount importance, particularly in the healthcare
domain. In this work, we aim to utilise patient data extracted from multiple
hospital data centres to train a machine learning model without sacrificing
patient privacy. We develop a scheduling algorithm in conjunction with a
student-teacher algorithm that is deployed in a federated manner. This allows a
central model to learn from batches of data at each federal node. The teacher
acts between data centres to update the main task (student) algorithm using the
data that is stored in the various data centres. We show that the scheduler,
trained using meta-gradients, can effectively organise training and as a result
train a machine learning model on a diverse dataset without needing explicit
access to the patient data. We achieve state-of-the-art performance and show
how our method overcomes some of the problems faced in the federated learning
such as node poisoning. We further show how the scheduler can be used as a
mechanism for transfer learning, allowing different teachers to work together
in training a student for state-of-the-art performance.
- Abstract(参考訳): 個人データへのアクセスの充実と容易さを考えると、個人のプライバシーは特に医療分野において最重要になっている。
本研究では,複数の病院から抽出した患者データを活用し,患者のプライバシを犠牲にすることなく機械学習モデルをトレーニングすることを目的とする。
本研究では,教師と教師が連携して配置するスケジューリングアルゴリズムを開発した。
これにより、中央モデルは各連邦ノードのデータのバッチから学ぶことができる。
教師は、様々なデータセンターに格納されたデータを使用して、メインタスク(スチューデント)アルゴリズムを更新するために、データセンター間で行動する。
メタグラディエントを用いてトレーニングされたスケジューラは、効果的にトレーニングを組織化でき、その結果、患者データに明示的にアクセスすることなく、多様なデータセット上で機械学習モデルをトレーニングできることを示す。
本手法は,ノード中毒などのフェデレート学習において直面する問題に対して,その克服方法を示すものである。
さらに,スケジューラを転校学習のメカニズムとして活用し,各教師が連携して学生を訓練し,最先端のパフォーマンスを発揮できることを示す。
関連論文リスト
- Comparing Federated Stochastic Gradient Descent and Federated Averaging for Predicting Hospital Length of Stay [0.0]
入院期間(LOS)を確実に予測することは,病院における資源配分の効率化に不可欠である。
従来の予測モデリングツールは、医療機関がプライバシー規則を定めているため、十分なデータと多様なデータを取得するのが難しいことが多い。
このモデリング手法は、病院外の機密データを抽出することなく、異なる病院からの分散データソースをモデル化することで協調的なモデルトレーニングを促進する。
論文 参考訳(メタデータ) (2024-07-17T17:00:20Z) - Decentralized Learning with Multi-Headed Distillation [12.90857834791378]
プライベートデータによる分散学習は、機械学習の中心的な問題である。
本研究では, 個別の非IDデータを持つ複数のエージェントが相互に学習できる, 蒸留に基づく分散学習手法を提案する。
論文 参考訳(メタデータ) (2022-11-28T21:01:43Z) - When Accuracy Meets Privacy: Two-Stage Federated Transfer Learning
Framework in Classification of Medical Images on Limited Data: A COVID-19
Case Study [77.34726150561087]
新型コロナウイルスのパンデミックが急速に広がり、世界の医療資源が不足している。
CNNは医療画像の解析に広く利用され、検証されている。
論文 参考訳(メタデータ) (2022-03-24T02:09:41Z) - Federated Cycling (FedCy): Semi-supervised Federated Learning of
Surgical Phases [57.90226879210227]
FedCyは、FLと自己教師付き学習を組み合わせた半教師付き学習(FSSL)手法で、ラベル付きビデオとラベルなしビデオの両方の分散データセットを利用する。
外科的段階の自動認識作業において,最先端のFSSL法よりも顕著な性能向上を示した。
論文 参考訳(メタデータ) (2022-03-14T17:44:53Z) - 2021 BEETL Competition: Advancing Transfer Learning for Subject
Independence & Heterogenous EEG Data Sets [89.84774119537087]
我々は、診断とBCI(Brain-Computer-Interface)に関する2つの伝達学習課題を設計する。
第1タスクは、患者全体にわたる自動睡眠ステージアノテーションに対処する医療診断に重点を置いている。
タスク2はBrain-Computer Interface (BCI)に集中しており、被験者とデータセットの両方にわたる運動画像のデコードに対処する。
論文 参考訳(メタデータ) (2022-02-14T12:12:20Z) - Practical Challenges in Differentially-Private Federated Survival
Analysis of Medical Data [57.19441629270029]
本稿では,ニューラルネットワークの本質的特性を活用し,生存分析モデルの訓練過程を関連づける。
小さな医療データセットと少数のデータセンターの現実的な設定では、このノイズはモデルを収束させるのが難しくなります。
DPFed-post は,私的フェデレート学習方式に後処理の段階を追加する。
論文 参考訳(メタデータ) (2022-02-08T10:03:24Z) - PMFL: Partial Meta-Federated Learning for heterogeneous tasks and its
applications on real-world medical records [11.252157002705484]
フェデレートされた機械学習は、異なるソースからの分散データを利用する汎用的で柔軟なツールである。
本稿では,この問題を解決するために,フェデレートラーニングとメタラーニングを統合した新しいアルゴリズムを提案する。
我々は,異種医療データセットの処理において,アルゴリズムが最速のトレーニング速度を得ることができ,最高の性能が得られることを示す。
論文 参考訳(メタデータ) (2021-12-10T03:55:03Z) - Memory-aware curriculum federated learning for breast cancer
classification [2.244916866651468]
早期乳癌検診では, 定期検診が推奨される。
このような階級不均衡に対する潜在的な解決策は、複数の機関で力を合わせている。
近年,協調学習のための効果的なツールとして,連合学習が登場している。
論文 参考訳(メタデータ) (2021-07-06T09:50:20Z) - FLOP: Federated Learning on Medical Datasets using Partial Networks [84.54663831520853]
新型コロナウイルスの感染拡大で医療資源が不足している。
新型コロナウイルスの診断を緩和するために、さまざまなデータ駆動型ディープラーニングモデルが開発されている。
患者のプライバシー上の懸念から、データそのものはまだ乏しい。
我々は、textbfPartial Networks (FLOP) を用いた、シンプルで効果的な textbfFederated textbfL textbfon Medical データセットを提案する。
論文 参考訳(メタデータ) (2021-02-10T01:56:58Z) - Dual-Teacher: Integrating Intra-domain and Inter-domain Teachers for
Annotation-efficient Cardiac Segmentation [65.81546955181781]
本稿では,新しい半教師付きドメイン適応手法,すなわちDual-Teacherを提案する。
学生モデルは、2つの教師モデルによってラベル付けされていない対象データとラベル付けされた情報源データの知識を学習する。
提案手法では, ラベルなしデータとモダリティ間データとを並列に利用でき, 性能が向上することを示した。
論文 参考訳(メタデータ) (2020-07-13T10:00:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。