論文の概要: Regularized Weight Aggregation in Networked Federated Learning for
Glioblastoma Segmentation
- arxiv url: http://arxiv.org/abs/2301.12617v1
- Date: Mon, 30 Jan 2023 02:26:42 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-31 15:52:31.538314
- Title: Regularized Weight Aggregation in Networked Federated Learning for
Glioblastoma Segmentation
- Title(参考訳): Glioblastoma Segmentationのためのネットワーク型フェデレーション学習における正規化重み集合
- Authors: Muhammad Irfan Khan, Mohammad Ayyaz Azeem, Esa Alhoniemi, Elina
Kontio, Suleiman A. Khan and Mojtaba Jafaritadi
- Abstract要約: 連合学習(FL)では、サーバのグローバルモデルには、重み付けのための効率的なメカニズムが必要である。
本稿では, 実効的で費用効率のよい正規化重み付け手法を提案し, 1ラウンドあたりの協力者を選別するための省力化手法を提案する。
提案手法は原理的であり, かつ, 不均一な非IIDコラボレータに適している。
- 参考スコア(独自算出の注目度): 0.16746114653388383
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In federated learning (FL), the global model at the server requires an
efficient mechanism for weight aggregation and a systematic strategy for
collaboration selection to manage and optimize communication payload. We
introduce a practical and cost-efficient method for regularized weight
aggregation and propose a laborsaving technique to select collaborators per
round. We illustrate the performance of our method, regularized similarity
weight aggregation (RegSimAgg), on the Federated Tumor Segmentation (FeTS) 2022
challenge's federated training (weight aggregation) problem. Our scalable
approach is principled, frugal, and suitable for heterogeneous non-IID
collaborators. Using FeTS2021 evaluation criterion, our proposed algorithm
RegSimAgg stands at 3rd position in the final rankings of FeTS2022 challenge in
the weight aggregation task. Our solution is open sourced at:
\url{https://github.com/dskhanirfan/FeTS2022}
- Abstract(参考訳): 連合学習(FL)では、サーバのグローバルモデルには、重み付けのための効率的なメカニズムと、通信ペイロードの管理と最適化のための協調選択のための体系的な戦略が必要である。
本稿では, 実効的で費用効率のよい正規化重み付け手法を提案し, ラウンドごとの協力者を選別するための省力化手法を提案する。
本稿では,FeTS(Federated tumor Segmentation)2022のフェデレーション・トレーニング(重み付け)問題に対する正規化類似度重み付け法(RegSimAgg)の性能について述べる。
我々のスケーラブルなアプローチは原則であり、フラガアルであり、異種非IIDコラボレータに適している。
FeTS2021の評価基準を用いて、提案アルゴリズムのRegSimAggは、重み付けタスクにおけるFeTS2022チャレンジの最終ランキングで3位である。
私たちのソリューションは、下記でオープンソースです。
関連論文リスト
- Collaborative and Efficient Personalization with Mixtures of Adaptors [5.195669033269619]
マルチタスク学習問題に対処するパラメータ効率の枠組みを提案する。
FLoRAL(Federated Low-Rank Adaptive Learning)と呼ぶフレームワークがあります。
人工データセットと実世界のフェデレートされたマルチタスク問題に関する有望な実験結果を示す。
論文 参考訳(メタデータ) (2024-10-04T15:11:15Z) - Cohort Squeeze: Beyond a Single Communication Round per Cohort in Cross-Device Federated Learning [51.560590617691005]
各コホートから「より多くのジュースを抽出できるかどうか」を単一の通信ラウンドでできることよりも検討する。
本手法は,デバイス間通信におけるFLモデルのトレーニングに必要な通信コストを最大74%削減する。
論文 参考訳(メタデータ) (2024-06-03T08:48:49Z) - FedDisco: Federated Learning with Discrepancy-Aware Collaboration [41.828780724903744]
離散性を考慮した協調学習(FedDisco)による新しいアグリゲーション手法を提案する。
当社のFedDiscoはいくつかの最先端の手法より優れており、多くの既存手法に簡単に組み込んでパフォーマンスをさらに向上させることができる。
論文 参考訳(メタデータ) (2023-05-30T17:20:51Z) - Hierarchical Over-the-Air FedGradNorm [50.756991828015316]
MTL(Multi-task Learning)は、単一の共有ネットワークで複数の関連するタスクを同時に学習する学習パラダイムである。
我々は,HOTA-FedGradNormと呼ばれる動的重み付け戦略を用いた階層的オーバー・ザ・エア(HOTA)PFLを提案する。
論文 参考訳(メタデータ) (2022-12-14T18:54:46Z) - GTFLAT: Game Theory Based Add-On For Empowering Federated Learning
Aggregation Techniques [0.3867363075280543]
GTFLATはゲーム理論に基づくアドオンであり、重要な研究課題に対処する。
モデル集約フェーズにおける平均化に対してより効果的な適応重みを設定することにより、フェデレーション学習アルゴリズムは、より優れたパフォーマンスと訓練効率を実現することができるのか?
その結果、GTFLATを平均するとトップ1テストの精度は1.38%向上し、通信ラウンドは21.06%削減された。
論文 参考訳(メタデータ) (2022-12-08T06:39:51Z) - Optimizing Server-side Aggregation For Robust Federated Learning via
Subspace Training [80.03567604524268]
クライアント間の非IIDデータ分散と中毒攻撃は、現実世界のフェデレーション学習システムにおける2つの大きな課題である。
サーバ側集約プロセスを最適化する汎用的なアプローチであるSmartFLを提案する。
本稿では,SmartFLの収束と一般化能力に関する理論的解析を行う。
論文 参考訳(メタデータ) (2022-11-10T13:20:56Z) - Energy-Efficient and Federated Meta-Learning via Projected Stochastic
Gradient Ascent [79.58680275615752]
エネルギー効率のよいメタラーニングフレームワークを提案する。
各タスクは別々のエージェントによって所有されていると仮定するため、メタモデルをトレーニングするために限られたタスクが使用される。
論文 参考訳(メタデータ) (2021-05-31T08:15:44Z) - Meta-Generating Deep Attentive Metric for Few-shot Classification [53.07108067253006]
本稿では,新しい数ショット学習タスクのための特定のメトリックを生成するための,新しい深度メタジェネレーション手法を提案する。
本研究では,各タスクの識別基準を生成するのに十分なフレキシブルな3層深い注意ネットワークを用いて,メトリクスを構造化する。
特に挑戦的なケースでは、最先端の競合他社よりも驚くほどパフォーマンスが向上しています。
論文 参考訳(メタデータ) (2020-12-03T02:07:43Z) - Revisiting LSTM Networks for Semi-Supervised Text Classification via
Mixed Objective Function [106.69643619725652]
我々は,単純なBiLSTMモデルであっても,クロスエントロピー損失でトレーニングした場合に,競争的な結果が得られるようなトレーニング戦略を開発する。
いくつかのベンチマークデータセット上で,テキスト分類タスクの最先端結果について報告する。
論文 参考訳(メタデータ) (2020-09-08T21:55:22Z) - An Efficient Framework for Clustered Federated Learning [26.24231986590374]
本稿では,ユーザがクラスタに分散するフェデレーション学習(FL)の問題に対処する。
反復フェデレーションクラスタリングアルゴリズム(IFCA)を提案する。
ニューラルネットワークのような非分割問題では,アルゴリズムが効率的であることを示す。
論文 参考訳(メタデータ) (2020-06-07T08:48:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。