論文の概要: Anatomical 3D Style Transfer Enabling Efficient Federated Learning with Extremely Low Communication Costs

• arxiv url: http://arxiv.org/abs/2410.20102v1
• Date: Sat, 26 Oct 2024 07:00:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-29 12:22:47.788699
• Title: Anatomical 3D Style Transfer Enabling Efficient Federated Learning with Extremely Low Communication Costs
• Title（参考訳）: 極めて低通信コストで効率的なフェデレーション学習を実現する解剖学的3Dスタイルの伝達
• Authors: Yuto Shibata, Yasunori Kudo, Yohei Sugawara,
• Abstract要約: 本稿では,多臓器分割作業に3Dスタイル転送を利用する新しいフェデレートラーニング(FL)手法を提案する。 これらのクラスターに基づいてスタイルを混ぜることで、解剖学的情報を保存し、モデルに組織内多様性を学習させる。 実験により,通信コストが極めて制限された場合においても,本手法は精度を維持可能であることが示された。
• 参考スコア（独自算出の注目度）: 1.3654846342364306
• License:
• Abstract: In this study, we propose a novel federated learning (FL) approach that utilizes 3D style transfer for the multi-organ segmentation task. The multi-organ dataset, obtained by integrating multiple datasets, has high scalability and can improve generalization performance as the data volume increases. However, the heterogeneity of data owing to different clients with diverse imaging conditions and target organs can lead to severe overfitting of local models. To align models that overfit to different local datasets, existing methods require frequent communication with the central server, resulting in higher communication costs and risk of privacy leakage. To achieve an efficient and safe FL, we propose an Anatomical 3D Frequency Domain Generalization (A3DFDG) method for FL. A3DFDG utilizes structural information of human organs and clusters the 3D styles based on the location of organs. By mixing styles based on these clusters, it preserves the anatomical information and leads models to learn intra-organ diversity, while aligning the optimization of each local model. Experiments indicate that our method can maintain its accuracy even in cases where the communication cost is highly limited (=1.25% of the original cost) while achieving a significant difference compared to baselines, with a higher global dice similarity coefficient score of 4.3%. Despite its simplicity and minimal computational overhead, these results demonstrate that our method has high practicality in real-world scenarios where low communication costs and a simple pipeline are required. The code used in this project will be publicly available.
• Abstract（参考訳）: 本研究では,多臓器セグメンテーションタスクに3Dスタイル転送を利用する新しいフェデレーションラーニング(FL)手法を提案する。 複数のデータセットを統合することで得られるマルチ組織データセットは、スケーラビリティが高く、データボリュームが増加するにつれて、一般化性能を向上させることができる。 しかし、様々な画像条件と対象臓器を持つ異なるクライアントによるデータの異質性は、局所モデルの高度なオーバーフィッティングにつながる可能性がある。 異なるローカルデータセットに過度に適合するモデルを調整するために、既存の方法は中央サーバとの頻繁な通信を必要とし、通信コストとプライバシー漏洩のリスクが高くなる。 FLの効率と安全性を実現するために,FLの解剖学的3次元周波数領域一般化法(A3DFDG)を提案する。 A3DFDGは人間の臓器の構造情報を利用して、臓器の位置に基づいて3Dスタイルをクラスタ化する。 これらのクラスターに基づいてスタイルを混ぜることで、解剖学的情報を保存し、各局所モデルの最適化を整合させながら、モデルに組織内多様性を学習させる。 実験により,通信コストが非常に制限された場合(=1.25%)でも,基準値と有意な差がみられ,グローバルなダイス類似度係数のスコアが4.3%である場合においても,精度が維持可能であることが示された。 その単純さと計算オーバーヘッドの最小化にもかかわらず,これらの結果は,低通信コストと簡単なパイプラインを必要とする実世界のシナリオにおいて,本手法が高い実用性を有することを示す。 このプロジェクトで使用されるコードは公開されます。

関連論文リスト

• Can We Theoretically Quantify the Impacts of Local Updates on the Generalization Performance of Federated Learning? [50.03434441234569]
  フェデレートラーニング(FL)は、直接データ共有を必要とせず、さまざまなサイトで機械学習モデルをトレーニングする効果により、大きな人気を集めている。 局所的な更新を伴うFLは通信効率のよい分散学習フレームワークであることが様々なアルゴリズムによって示されているが、局所的な更新によるFLの一般化性能は比較的低い。
  論文  参考訳（メタデータ） (2024-09-05T19:00:18Z)
• A Federated Learning-Friendly Approach for Parameter-Efficient Fine-Tuning of SAM in 3D Segmentation [5.011091042850546]
  医用画像解析に基礎モデルを適用するには、かなりの量のデータでそれらを微調整する必要がある。 このような微調整のためのタスク固有の医療データを中央で収集することは、多くのプライバシー上の懸念を引き起こす。 フェデレーテッド・ラーニング(FL)は、プライベートな分散データをトレーニングするための効果的な手段を提供するが、大規模な基盤モデルをフェデレーテッドする際の通信コストは、すぐに重大なボトルネックとなる可能性がある。
  論文  参考訳（メタデータ） (2024-07-31T16:48:06Z)
• Multi-level Personalized Federated Learning on Heterogeneous and Long-Tailed Data [10.64629029156029]
  マルチレベル・パーソナライズド・フェデレーション・ラーニング(MuPFL)という革新的パーソナライズド・パーソナライズド・ラーニング・フレームワークを導入する。 MuPFLは3つの重要なモジュールを統合している: Biased Activation Value Dropout (BAVD), Adaptive Cluster-based Model Update (ACMU), Prior Knowledge-assisted Fine-tuning (PKCF)。 様々な実世界のデータセットの実験では、MuPFLは極端に非i.d.と長い尾の条件下であっても、最先端のベースラインを一貫して上回っている。
  論文  参考訳（メタデータ） (2024-05-10T11:52:53Z)
• Leveraging Frequency Domain Learning in 3D Vessel Segmentation [50.54833091336862]
  本研究では,Fourier領域学習を3次元階層分割モデルにおけるマルチスケール畳み込みカーネルの代用として活用する。 管状血管分割作業において,新しいネットワークは顕著なサイス性能(ASACA500が84.37%,ImageCASが80.32%)を示した。
  論文  参考訳（メタデータ） (2024-01-11T19:07:58Z)
• pFedES: Model Heterogeneous Personalized Federated Learning with Feature Extractor Sharing [19.403843478569303]
  特徴抽出器の共有に基づくモデル・ヘテロジニアス・パーソナライズされたフェデレーション学習手法を提案する。 これは、各クライアントの異種局所モデルに小さな同種特徴抽出器を組み込む。 テスト精度は1.61%向上し、通信コストと計算コストをそれぞれ99.6%と82.9%削減した。
  論文  参考訳（メタデータ） (2023-11-12T15:43:39Z)
• Vicinal Feature Statistics Augmentation for Federated 3D Medical Volume Segmentation [17.096806029281385]
  FL(Federated Learning)は、複数のクライアント医療機関が、プライバシー保護を備えたディープラーニング(DL)モデルを共同でトレーニングすることを可能にする。 しかし、FLの性能は、小さな機関におけるラベル付きデータの限られた可用性と、機関間での不均一な(すなわち非i.d.)データ分散によって制限される。 我々は,局所的な特徴シフトを効果的に緩和し,プライバシーに配慮したFLセグメンテーションのための協調トレーニングを容易にするために,ビジナルな特徴レベルデータ拡張手法を開発した。
  論文  参考訳（メタデータ） (2023-10-23T21:14:52Z)
• FedLALR: Client-Specific Adaptive Learning Rates Achieve Linear Speedup for Non-IID Data [54.81695390763957]
  フェデレートラーニング(Federated Learning)は、分散機械学習の手法である。 我々は,AMSGradの異種局所変種であるFedLALRを提案し,各クライアントが学習率を調整する。 クライアントが指定した自動調整型学習率スケジューリングが,クライアント数に対して収束し,線形高速化を実現することを示す。
  論文  参考訳（メタデータ） (2023-09-18T12:35:05Z)
• FedDM: Iterative Distribution Matching for Communication-Efficient Federated Learning [87.08902493524556]
  フェデレートラーニング(FL)は近年、学術や産業から注目を集めている。 我々は,複数の局所的代理関数からグローバルなトレーニング目標を構築するためのFedDMを提案する。 そこで本研究では,各クライアントにデータ集合を構築し,元のデータから得られた損失景観を局所的にマッチングする。
  論文  参考訳（メタデータ） (2022-07-20T04:55:18Z)
• Local Learning Matters: Rethinking Data Heterogeneity in Federated Learning [61.488646649045215]
  フェデレートラーニング(FL)は、クライアントのネットワーク(エッジデバイス)でプライバシ保護、分散ラーニングを行うための有望な戦略である。
  論文  参考訳（メタデータ） (2021-11-28T19:03:39Z)
• CosSGD: Nonlinear Quantization for Communication-efficient Federated Learning [62.65937719264881]
  フェデレーション学習は、これらのクライアントのローカルデータを中央サーバに転送することなく、クライアント間での学習を促進する。 圧縮勾配降下のための非線形量子化を提案し、フェデレーションラーニングで容易に利用することができる。 本システムは,訓練過程の収束と精度を維持しつつ,通信コストを最大3桁まで削減する。
  論文  参考訳（メタデータ） (2020-12-15T12:20:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。