論文の概要: Surgical Aggregation: Federated Class-Heterogeneous Learning
- arxiv url: http://arxiv.org/abs/2301.06683v5
- Date: Fri, 5 Jan 2024 17:18:56 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-08 18:46:02.358258
- Title: Surgical Aggregation: Federated Class-Heterogeneous Learning
- Title(参考訳): 外科的アグリゲーション:連合型クラスヘテロジェンス学習
- Authors: Pranav Kulkarni, Adway Kanhere, Paul H. Yi, Vishwa S. Parekh
- Abstract要約: 分類異種データセットから知識を集約するための統合学習フレームワークである外科的アグリゲーションを提案する。
シミュレーションおよび実世界のクラス不均一なデータセットを,独立および同一に分散した(iid)および非iid設定の両方にわたって評価した。
- 参考スコア(独自算出の注目度): 4.468858802955592
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The release of numerous chest x-ray datasets has spearheaded the development
of deep learning models with expert-level performance. However, they have
limited interoperability due to class-heterogeneity -- a result of inconsistent
labeling schemes and partial annotations. Therefore, it is challenging to
leverage these datasets in aggregate to train models with a complete
representation of abnormalities that may occur within the thorax. In this work,
we propose surgical aggregation, a federated learning framework for aggregating
knowledge from class-heterogeneous datasets and learn a model that can
simultaneously predict the presence of all disease labels present across the
datasets. We evaluate our method using simulated and real-world
class-heterogeneous datasets across both independent and identically
distributed (iid) and non-iid settings. Our results show that surgical
aggregation outperforms current methods, has better generalizability, and is a
crucial first step towards tackling class-heterogeneity in federated learning
to facilitate the development of clinically-useful models using previously
non-interoperable chest x-ray datasets.
- Abstract(参考訳): 多くの胸部X線データセットのリリースは、エキスパートレベルのパフォーマンスを持つディープラーニングモデルの開発を先導している。
しかし、クラスヘテロゲニティのため相互運用性は限られており、一貫性のないラベリングスキームと部分アノテーションの結果である。
したがって、これらのデータセットを集約的に活用して、胸骨内で発生する可能性のある異常の完全な表現を持つモデルを訓練することは困難である。
本研究では,分類異種データセットから知識を集約する統合学習フレームワークである外科的アグリゲーションを提案し,データセット全体に存在するすべての疾患ラベルの存在を同時に予測できるモデルを学習する。
本手法は,独立分布と同一分布(iid)と非iid設定の両方にまたがるシミュレーションおよび実世界のクラスヘテロジェンスデータセットを用いて評価する。
以上の結果から,従来の非操作型胸部x線データを用いた臨床応用モデルの開発を促進するために,外科的アグリゲーションが現在の方法よりも優れ,汎用性が向上し,フェデレーション学習におけるクラスヘテロゲニティに取り組む上で重要な第一歩であることが示された。
関連論文リスト
- Fake It Till Make It: Federated Learning with Consensus-Oriented
Generation [52.82176415223988]
コンセンサス指向生成による連合学習(FedCOG)を提案する。
FedCOGは、補完的なデータ生成と知識蒸留に基づくモデルトレーニングという、クライアント側の2つの重要なコンポーネントで構成されています。
古典的および実世界のFLデータセットの実験は、FedCOGが一貫して最先端の手法より優れていることを示している。
論文 参考訳(メタデータ) (2023-12-10T18:49:59Z) - PFL-GAN: When Client Heterogeneity Meets Generative Models in
Personalized Federated Learning [55.930403371398114]
パーソナライズドラーニング(PFL)のための新しいGAN(Generative Adversarial Network)の共有と集約戦略を提案する。
PFL-GANは、異なるシナリオにおけるクライアントの不均一性に対処する。より具体的には、まずクライアント間の類似性を学び、次に重み付けされた協調データアグリゲーションを開発する。
いくつかのよく知られたデータセットに対する厳密な実験による実験結果は、PFL-GANの有効性を示している。
論文 参考訳(メタデータ) (2023-08-23T22:38:35Z) - FedSoup: Improving Generalization and Personalization in Federated
Learning via Selective Model Interpolation [32.36334319329364]
クロスサイロフェデレーション学習(FL)は、データセンタに分散したデータセット上での機械学習モデルの開発を可能にする。
近年の研究では、現在のFLアルゴリズムは、分布シフトに直面した場合、局所的な性能とグローバルな性能のトレードオフに直面している。
地域とグローバルのパフォーマンスのトレードオフを最適化する新しいフェデレーションモデルスープ手法を提案する。
論文 参考訳(メタデータ) (2023-07-20T00:07:29Z) - FCA: Taming Long-tailed Federated Medical Image Classification by
Classifier Anchoring [26.07488492998861]
フェデレートラーニング(Federated Learning)は、データを共有することなく、ディープモデルを協調的にトレーニングすることを可能にする。
我々は、各クライアントにパーソナライズされた分類器を追加して、フェデレーションモデルのガイドとデバイアスを行うことにより、フェデレーション分類器アンカー(FCA)を提案する。
FCAは、連合型長い尾状皮膚病変の分類と頭蓋内出血の分類において、大きなマージンを有する最先端の方法よりも優れている。
論文 参考訳(メタデータ) (2023-05-01T09:36:48Z) - Intra-class Adaptive Augmentation with Neighbor Correction for Deep
Metric Learning [99.14132861655223]
深層学習のためのクラス内適応拡張(IAA)フレームワークを提案する。
クラスごとのクラス内変動を合理的に推定し, 適応型合成試料を生成し, 硬質試料の採掘を支援する。
本手法は,検索性能の最先端手法を3%~6%向上させる。
論文 参考訳(メタデータ) (2022-11-29T14:52:38Z) - Scalable Collaborative Learning via Representation Sharing [53.047460465980144]
フェデレートラーニング(FL)とスプリットラーニング(SL)は、データを(デバイス上で)プライベートにしながら協調学習を可能にする2つのフレームワークである。
FLでは、各データ保持者がモデルをローカルにトレーニングし、集約のために中央サーバにリリースする。
SLでは、クライアントは個々のカット層アクティベーション(スマッシュされたデータ)をサーバにリリースし、そのレスポンス(推論とバックの伝搬の両方)を待つ必要があります。
本研究では, クライアントがオンライン知識蒸留を通じて, 対照的な損失を生かして協調する, プライバシ保護機械学習の新しいアプローチを提案する。
論文 参考訳(メタデータ) (2022-11-20T10:49:22Z) - Adaptive Personlization in Federated Learning for Highly Non-i.i.d. Data [37.667379000751325]
フェデレートラーニング(Federated Learning, FL)は、医療機関にグローバルモデルにおけるコラボレーションの見通しを提供する分散ラーニング手法である。
本研究では,FLの中間的半言語モデルを生成する適応階層クラスタリング手法について検討する。
本実験は, 分類精度の標準的なFL法と比較して, 不均質分布において有意な性能向上を示した。
論文 参考訳(メタデータ) (2022-07-07T17:25:04Z) - No Fear of Heterogeneity: Classifier Calibration for Federated Learning
with Non-IID Data [78.69828864672978]
実世界のフェデレーションシステムにおける分類モデルのトレーニングにおける中心的な課題は、非IIDデータによる学習である。
このアルゴリズムは, 近似されたssian混合モデルからサンプリングした仮想表現を用いて分類器を調整する。
実験の結果,CIFAR-10,CIFAR-100,CINIC-10など,一般的なフェデレーション学習ベンチマークにおけるCCVRの現状が示された。
論文 参考訳(メタデータ) (2021-06-09T12:02:29Z) - Auto-FedAvg: Learnable Federated Averaging for Multi-Institutional
Medical Image Segmentation [7.009650174262515]
フェデレーションラーニング(FL)は、各参加者のプライバシーを維持しながら共同モデルのトレーニングを可能にします。
FedAvgは、FLプロセス中にサーバ上で分散学習されたモデルを集約するために、各クライアントのデータセットサイズに由来する固定重みを使用する標準的なアルゴリズムである。
本研究では,凝集重みを動的に調整した新しいデータ駆動型アプローチ,auto-fedavgを設計した。
論文 参考訳(メタデータ) (2021-04-20T18:29:44Z) - Robust Finite Mixture Regression for Heterogeneous Targets [70.19798470463378]
本稿では,サンプルクラスタの探索と,複数の不完全な混合型ターゲットを同時にモデル化するFMRモデルを提案する。
我々は、高次元の学習フレームワークの下で、無症状のオラクルのパフォーマンス境界をモデルに提供します。
その結果,我々のモデルは最先端の性能を達成できることがわかった。
論文 参考訳(メタデータ) (2020-10-12T03:27:07Z) - Fuzziness-based Spatial-Spectral Class Discriminant Information
Preserving Active Learning for Hyperspectral Image Classification [0.456877715768796]
本研究では,局所的・グローバルな識別情報保存手法の内外におけるファジィに基づく空間スペクトルを提案する。
ベンチマークHSIデータセットによる実験結果から,FLG法が生成,極端学習機械,スパース多相ロジスティック回帰に与える影響が示された。
論文 参考訳(メタデータ) (2020-05-28T18:58:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。