論文の概要: Vertical Federated Knowledge Transfer via Representation Distillation
for Healthcare Collaboration Networks
- arxiv url: http://arxiv.org/abs/2302.05675v1
- Date: Sat, 11 Feb 2023 12:15:37 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-14 19:10:08.895429
- Title: Vertical Federated Knowledge Transfer via Representation Distillation
for Healthcare Collaboration Networks
- Title（参考訳）: 医療連携ネットワークのための表現蒸留による垂直連系知識伝達
- Authors: Chung-ju Huang and Leye Wang and Xiao Han
- Abstract要約: 本稿では,新しいクロスホスピタル表現蒸留コンポーネントをベースとした,垂直結合型知識伝達機構(VFedTrans)の統一フレームワークを提案する。
各病院では, 共用サンプルのフェデレーション表現から知識を伝達し, 局所的なサンプルの表現を豊かにする局所的表現型モジュールを学習する。
実生活の医療データセットに関する実験は、我々のフレームワークの知識伝達の有効性を検証する。
- 参考スコア（独自算出の注目度）: 9.121410198690088
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Collaboration between healthcare institutions can significantly lessen the
imbalance in medical resources across various geographic areas. However,
directly sharing diagnostic information between institutions is typically not
permitted due to the protection of patients' highly sensitive privacy. As a
novel privacy-preserving machine learning paradigm, federated learning (FL)
makes it possible to maximize the data utility among multiple medical
institutions. These feature-enrichment FL techniques are referred to as
vertical FL (VFL). Traditional VFL can only benefit multi-parties' shared
samples, which strongly restricts its application scope. In order to improve
the information-sharing capability and innovation of various healthcare-related
institutions, and then to establish a next-generation open medical
collaboration network, we propose a unified framework for vertical federated
knowledge transfer mechanism (VFedTrans) based on a novel cross-hospital
representation distillation component. Specifically, our framework includes
three steps. First, shared samples' federated representations are extracted by
collaboratively modeling multi-parties' joint features with current efficient
vertical federated representation learning methods. Second, for each hospital,
we learn a local-representation-distilled module, which can transfer the
knowledge from shared samples' federated representations to enrich local
samples' representations. Finally, each hospital can leverage local samples'
representations enriched by the distillation module to boost arbitrary
downstream machine learning tasks. The experiments on real-life medical
datasets verify the knowledge transfer effectiveness of our framework.
- Abstract（参考訳）: 医療機関間のコラボレーションは、様々な地域にわたる医療資源の不均衡を著しく軽減することができる。
しかし、患者の高感度プライバシーの保護のため、組織間で診断情報を直接共有することは一般的には許されない。
新たなプライバシ保存機械学習パラダイムとして、フェデレーション学習(fl)は、複数の医療機関間でのデータユーティリティを最大化可能にする。
これらの特徴強化FL技術は垂直FL(VFL)と呼ばれる。
従来のvflは、マルチパートの共有サンプルにのみメリットがあるため、アプリケーションのスコープが強く制限される。
医療関連機関の情報共有能力と革新性を向上し,次世代のオープン医療連携ネットワークを構築するために,新たなクロスホスピタルな表現蒸留コンポーネントをベースとした,垂直統合知識伝達機構(VFedTrans)の統一フレームワークを提案する。
具体的には、フレームワークには3つのステップがあります。
まず、多人数共同特徴と現在の効率的な垂直表現学習手法を協調的にモデル化することにより、共有サンプルのフェデレーション表現を抽出する。
第二に、各病院において、局所表現蒸留モジュールを学習し、共有サンプルの連合表現から知識を伝達し、局所サンプルの表現を豊かにすることができる。
最後に、各病院は蒸留モジュールによって強化されたローカルサンプルの表現を利用して、任意の下流機械学習タスクを増強することができる。
実生活医療データセットに関する実験は,このフレームワークの知識伝達効率を検証する。
関連論文リスト
- FedMM: Federated Multi-Modal Learning with Modality Heterogeneity in
Computational Pathology [3.802258033231335]
Federated Multi-Modal (FedMM) は、複数の単一モード特徴抽出器を訓練し、その後の分類性能を向上させる学習フレームワークである。
FedMMは、精度とAUCメトリクスの2つのベースラインを特に上回っている。
論文 参考訳（メタデータ） (2024-02-24T16:58:42Z) - Collaborative Training of Medical Artificial Intelligence Models with
non-uniform Labels [0.07176066267895696]
強力で堅牢なディープラーニングモデルを構築するには、大規模なマルチパーティデータセットによるトレーニングが必要だ。
このようなデータに対する協調学習のためのフレキシブル・フェデレーション・ラーニング(FFL)を提案する。
不均質なラベル付きデータセットを持つことで、FFLベースのトレーニングがパフォーマンスを著しく向上させることを示す。
論文 参考訳（メタデータ） (2022-11-24T13:48:54Z) - Federated Learning with Privacy-Preserving Ensemble Attention
Distillation [63.39442596910485]
Federated Learning(FL)は、多くのローカルノードがトレーニングデータを分散化しながら、中央モデルを協調的にトレーニングする機械学習パラダイムである。
本稿では,未ラベル公開データを利用した一方向オフライン知識蒸留のためのプライバシー保護FLフレームワークを提案する。
我々の技術は、既存のFLアプローチのような分散的で異質なローカルデータを使用するが、より重要なのは、プライバシー漏洩のリスクを著しく低減することです。
論文 参考訳（メタデータ） (2022-10-16T06:44:46Z) - MS Lesion Segmentation: Revisiting Weighting Mechanisms for Federated
Learning [92.91544082745196]
フェデレートラーニング(FL)は医用画像解析に広く用いられている。
FLのパフォーマンスは、多発性硬化症(MS)病変セグメンテーションタスクに制限される。
2つの効果的な再重み付け機構によるFLMS病変分割フレームワークを提案する。
論文 参考訳（メタデータ） (2022-05-03T14:06:03Z) - Federated Contrastive Learning for Volumetric Medical Image Segmentation [16.3860181959878]
フェデレートラーニング(FL)は、プライバシのためのトレーニングデータをローカルに保持しながら、共有モデルを学ぶことで、この点において役立つ。
従来のFLはトレーニングのために完全にラベル付けされたデータを必要とする。
そこで本研究では,アノテーションを限定したボリューム・メディカル・イメージ・セグメンテーションのためのFCLフレームワークを提案する。
論文 参考訳（メタデータ） (2022-04-23T03:47:23Z) - Federated Learning in Multi-Center Critical Care Research: A Systematic
Case Study using the eICU Database [24.31499341763427]
データを交換することなく、異なるユニットでモデルを訓練する方法として、フェデレートラーニング(FL)が提案されている。
FLが利用可能なeICUデータセットに与える影響について検討し,各ICU滞在の生存率を予測する。
論文 参考訳（メタデータ） (2022-04-20T09:03:09Z) - Closing the Generalization Gap of Cross-silo Federated Medical Image
Segmentation [66.44449514373746]
クロスサイロ・フェデレーション・ラーニング (FL) は近年, 深層学習による医用画像解析において注目されている。
FLでトレーニングされたモデルと、集中的なトレーニングでトレーニングされたモデルの間にはギャップがある。
本稿では,クライアントの問題を回避し,ドリフトギャップを解消するための新しいトレーニングフレームワークであるFedSMを提案する。
論文 参考訳（メタデータ） (2022-03-18T19:50:07Z) - Federated Cycling (FedCy): Semi-supervised Federated Learning of
Surgical Phases [57.90226879210227]
FedCyは、FLと自己教師付き学習を組み合わせた半教師付き学習(FSSL)手法で、ラベル付きビデオとラベルなしビデオの両方の分散データセットを利用する。
外科的段階の自動認識作業において,最先端のFSSL法よりも顕著な性能向上を示した。
論文 参考訳（メタデータ） (2022-03-14T17:44:53Z) - Federated Semi-supervised Medical Image Classification via Inter-client
Relation Matching [58.26619456972598]
フェデレートラーニング(FL)は、ディープ・ネットワークのトレーニングのために、分散医療機関とのコラボレーションで人気が高まっている。
本報告では,実践的かつ困難なFL問題であるtextitFederated Semi-supervised Learning (FSSL)について検討する。
本稿では, 従来の整合性正規化機構を改良し, クライアント間関係マッチング方式を提案する。
論文 参考訳（メタデータ） (2021-06-16T07:58:00Z) - FedDG: Federated Domain Generalization on Medical Image Segmentation via
Episodic Learning in Continuous Frequency Space [63.43592895652803]
フェデレーションラーニングは、分散医療機関がプライバシ保護を備えた共有予測モデルを共同で学習することを可能にします。
臨床展開では、連合学習で訓練されたモデルは、連邦外の完全に見えない病院に適用された場合、パフォーマンス低下に苦しむ可能性がある。
そこで本研究では,この問題に対してELCFS(Episodic Learning in Continuous frequency Space)と呼ばれる新しいアプローチを提案する。
本手法の有効性は,2つの医用画像分割作業における最先端および深部アブレーション実験よりも優れていた。
論文 参考訳（メタデータ） (2021-03-10T13:05:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。