論文の概要: Communication Efficient Tensor Factorization for Decentralized
Healthcare Networks
- arxiv url: http://arxiv.org/abs/2109.01718v1
- Date: Fri, 3 Sep 2021 19:47:08 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-07 16:32:04.671748
- Title: Communication Efficient Tensor Factorization for Decentralized
Healthcare Networks
- Title(参考訳): 分散型医療ネットワークのためのコミュニケーション効率の良いテンソル因子化
- Authors: Jing Ma, Qiuchen Zhang, Jian Lou, Li Xiong, Sivasubramanium Bhavani,
Joyce C. Ho
- Abstract要約: 本稿では,通信効率の高い分散テンソル分解法であるCiderTFを提案する。
2つの実世界のEHRデータセットの実験は、CiderTFが99.99%の通信削減で同等の収束を達成することを示した。
- 参考スコア(独自算出の注目度): 12.57461555027056
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Tensor factorization has been proved as an efficient unsupervised learning
approach for health data analysis, especially for computational phenotyping,
where the high-dimensional Electronic Health Records (EHRs) with patients
history of medical procedures, medications, diagnosis, lab tests, etc., are
converted to meaningful and interpretable medical concepts. Federated tensor
factorization distributes the tensor computation to multiple workers under the
coordination of a central server, which enables jointly learning the phenotypes
across multiple hospitals while preserving the privacy of the patient
information. However, existing federated tensor factorization algorithms
encounter the single-point-failure issue with the involvement of the central
server, which is not only easily exposed to external attacks, but also limits
the number of clients sharing information with the server under restricted
uplink bandwidth. In this paper, we propose CiderTF, a communication-efficient
decentralized generalized tensor factorization, which reduces the uplink
communication cost by leveraging a four-level communication reduction strategy
designed for a generalized tensor factorization, which has the flexibility of
modeling different tensor distribution with multiple kinds of loss functions.
Experiments on two real-world EHR datasets demonstrate that CiderTF achieves
comparable convergence with the communication reduction up to 99.99%.
- Abstract(参考訳): テンソル因子分解は、医療処置、医薬品、診断、検査などの患者歴を持つ高次元電子健康記録(ehrs)が有意義で解釈可能な医療概念に変換される、健康データ分析のための効率的な教師なし学習アプローチとして証明されている。
フェデレートテンソル因子化は、テンソル計算を中央サーバの調整の下で複数のワーカーに分散し、患者情報のプライバシーを維持しながら複数の病院間で表現型を共同学習することを可能にする。
しかし、既存のフェデレーションテンソル分解アルゴリズムは、外部攻撃に簡単に晒されるだけでなく、アップリンク帯域の制限下でサーバと情報を共有するクライアントの数を制限する中央サーバの関与によって、単一ポイントフェール問題に遭遇する。
本稿では,多種類の損失関数を持つ異なるテンソル分布をモデル化する柔軟性を有する一般化テンソル因子化のために設計された4レベル通信削減戦略を活用することで,アップリンク通信コストを削減する通信効率の高い分散テンソル因子化であるCiderTFを提案する。
2つの実世界のEHRデータセットの実験は、CiderTFが99.99%の通信削減で同等の収束を達成することを示した。
関連論文リスト
- Communication-Efficient Federated Learning through Adaptive Weight
Clustering and Server-Side Distillation [10.541541376305245]
Federated Learning(FL)は、複数のデバイスにわたるディープニューラルネットワークの協調トレーニングのための有望なテクニックである。
FLは、トレーニング中に繰り返しサーバー・クライアント間の通信によって、過剰な通信コストによって妨げられる。
本稿では,動的重みクラスタリングとサーバ側知識蒸留を組み合わせた新しいアプローチであるFedCompressを提案する。
論文 参考訳(メタデータ) (2024-01-25T14:49:15Z) - Leveraging Frequency Domain Learning in 3D Vessel Segmentation [50.54833091336862]
本研究では,Fourier領域学習を3次元階層分割モデルにおけるマルチスケール畳み込みカーネルの代用として活用する。
管状血管分割作業において,新しいネットワークは顕著なサイス性能(ASACA500が84.37%,ImageCASが80.32%)を示した。
論文 参考訳(メタデータ) (2024-01-11T19:07:58Z) - Communication-Efficient Decentralized Federated Learning via One-Bit
Compressive Sensing [52.402550431781805]
分散連合学習(DFL)は、様々なアプリケーションにまたがる実用性によって人気を博している。
集中型バージョンと比較して、DFLの多数のノード間で共有モデルをトレーニングするのはより難しい。
我々は,iADM (iexact alternating direction method) の枠組みに基づく新しいアルゴリズムを開発した。
論文 参考訳(メタデータ) (2023-08-31T12:22:40Z) - Medical Federated Model with Mixture of Personalized and Sharing
Components [31.068735334318088]
本稿では,その問題に対処するための新しい個人化学習フレームワークを提案する。
ローカルデータ間の類似性を認識したパーソナライズされたモデルが得られる。
また,計算効率を大幅に向上させる効率的な計算コスト削減手法を提案する。
論文 参考訳(メタデータ) (2023-06-26T07:50:32Z) - Fusing Structural and Functional Connectivities using Disentangled VAE
for Detecting MCI [9.916963496386089]
階層型構造機能接続ファジング(HSCF)モデルを提案し,脳構造機能接続行列を構築した。
公的なアルツハイマー病神経画像イニシアチブデータベース上で行われた幅広いテストの結果、提案モデルは競合するアプローチよりも優れた性能を示した。
論文 参考訳(メタデータ) (2023-06-16T05:22:25Z) - Distributed Learning over Networks with Graph-Attention-Based
Personalization [49.90052709285814]
分散ディープラーニングのためのグラフベースパーソナライズアルゴリズム(GATTA)を提案する。
特に、各エージェントのパーソナライズされたモデルは、グローバルな部分とノード固有の部分で構成される。
グラフ内の各エージェントを1つのノードとして扱うことにより、ノード固有のパラメータを特徴として扱うことにより、グラフアテンション機構の利点を継承することができる。
論文 参考訳(メタデータ) (2023-05-22T13:48:30Z) - Scale-Space Hypernetworks for Efficient Biomedical Imaging [0.0]
内部再スケーリング要因の異なるCNNのスペクトルを学習するSSHN(Scale-Space HyperNetworks)を導入する。
SSHNはトレーニングコストのごく一部で、より優れた精度と効率のトレードオフを提供する。
論文 参考訳(メタデータ) (2023-04-11T18:38:57Z) - Fundamental Limits of Communication Efficiency for Model Aggregation in
Distributed Learning: A Rate-Distortion Approach [54.311495894129585]
本研究では,分散学習におけるモデルアグリゲーションの通信コストの限界について,速度歪みの観点から検討する。
SignSGDでは,ワーカノード間の相関を利用した通信利得が重要であることがわかった。
論文 参考訳(メタデータ) (2022-06-28T13:10:40Z) - Truncated tensor Schatten p-norm based approach for spatiotemporal
traffic data imputation with complicated missing patterns [77.34726150561087]
本研究は, モード駆動繊維による3症例の欠失を含む, 4症例の欠失パターンについて紹介する。
本モデルでは, 目的関数の非性にもかかわらず, 乗算器の交互データ演算法を統合することにより, 最適解を導出する。
論文 参考訳(メタデータ) (2022-05-19T08:37:56Z) - Federated Split Vision Transformer for COVID-19 CXR Diagnosis using
Task-Agnostic Training [28.309185925167565]
フェデレートラーニングは、複数の病院で患者のCXRデータを収集することなく、胸部X線(CXR)画像上の新型コロナウイルス診断のためのニューラルネットワークトレーニングを可能にする。
直感的に分解可能な構成を持つ最近開発されたディープラーニングアーキテクチャであるVision Transformerは、性能を犠牲にすることなく、分割学習に最適であることを示す。
本研究は,医用画像の協調学習におけるTransformerの適合性を確認し,将来的な実世界の実現に向けての道筋をたどるものである。
論文 参考訳(メタデータ) (2021-11-02T02:54:30Z) - Decentralized Local Stochastic Extra-Gradient for Variational
Inequalities [125.62877849447729]
我々は、不均一(非IID)で多くのデバイスに分散する問題データを持つ領域上での分散変分不等式(VIs)を考察する。
我々は、完全に分散化された計算の設定を網羅する計算ネットワークについて、非常に一般的な仮定を行う。
理論的には, モノトン, モノトンおよび非モノトンセッティングにおける収束速度を理論的に解析する。
論文 参考訳(メタデータ) (2021-06-15T17:45:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。