Fugu-MT 論文翻訳(概要): Federated Clustering: An Unsupervised Cluster-Wise Training for Decentralized Data Distributions

論文の概要: Federated Clustering: An Unsupervised Cluster-Wise Training for Decentralized Data Distributions

arxiv url: http://arxiv.org/abs/2408.10664v1
Date: Tue, 20 Aug 2024 09:05:44 GMT
ステータス: 処理完了
システム内更新日: 2024-08-21 14:24:42.810134
Title: Federated Clustering: An Unsupervised Cluster-Wise Training for Decentralized Data Distributions
Title（参考訳）: Federated Clustering: 分散データ分散のための教師なしクラスタワイズトレーニング
Authors: Mirko Nardi, Lorenzo Valerio, Andrea Passarella,
Abstract要約: Federated Cluster-Wise Refinement(FedCRef)には、同様のデータ分散を備えたクラスタ上でモデルを協調的にトレーニングするクライアントが含まれている。これらのグループでは、クライアントは、各データ分布を表す共有モデルを共同でトレーニングし、データの関連性を高めるために、ローカルクラスタを継続的に精錬する。この反復的処理により,ネットワーク全体にわたる潜在的なデータ分布を同定し,それぞれにロバストな表現モデルを構築することができる。
参考スコア（独自算出の注目度）: 1.6385815610837167
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Federated Learning (FL) is a pivotal approach in decentralized machine learning, especially when data privacy is crucial and direct data sharing is impractical. While FL is typically associated with supervised learning, its potential in unsupervised scenarios is underexplored. This paper introduces a novel unsupervised federated learning methodology designed to identify the complete set of categories (global K) across multiple clients within label-free, non-uniform data distributions, a process known as Federated Clustering. Our approach, Federated Cluster-Wise Refinement (FedCRef), involves clients that collaboratively train models on clusters with similar data distributions. Initially, clients with diverse local data distributions (local K) train models on their clusters to generate compressed data representations. These local models are then shared across the network, enabling clients to compare them through reconstruction error analysis, leading to the formation of federated groups.In these groups, clients collaboratively train a shared model representing each data distribution, while continuously refining their local clusters to enhance data association accuracy. This iterative process allows our system to identify all potential data distributions across the network and develop robust representation models for each. To validate our approach, we compare it with traditional centralized methods, establishing a performance baseline and showcasing the advantages of our distributed solution. We also conduct experiments on the EMNIST and KMNIST datasets, demonstrating FedCRef's ability to refine and align cluster models with actual data distributions, significantly improving data representation precision in unsupervised federated settings.
Abstract（参考訳）: フェデレートラーニング(FL)は、分散機械学習における重要なアプローチであり、特にデータのプライバシが重要であり、直接的なデータ共有が現実的でない場合である。 FLは典型的には教師あり学習と結びついているが、教師なしのシナリオにおけるそのポテンシャルは過小評価されている。本稿では,フェデレートクラスタリング(Federated Clustering)と呼ばれるプロセスにおいて,ラベルのない非一様データ分散において,複数のクライアントにまたがるカテゴリの完全な集合(グローバルK)を特定するために設計された,教師なしのフェデレーション学習手法を提案する。当社のアプローチであるFederated Cluster-Wise Refinement (FedCRef)は、類似したデータ分布を持つクラスタ上でモデルを協調的にトレーニングするクライアントを伴います。当初、さまざまなローカルデータ分散(ローカルK)を持つクライアントは、圧縮データ表現を生成するために、クラスタ上でモデルを訓練する。これらのローカルモデルはネットワーク全体で共有され、リコンストラクションエラー解析によりクライアントがそれらを比較できるようになり、フェデレートされたグループが形成され、これらのグループでは、クライアントは、各データ分布を表す共有モデルを協調的にトレーニングし、ローカルクラスタを継続的に修正し、データの関連性を高める。この反復的処理により,ネットワーク全体にわたる潜在的なデータ分布を同定し,それぞれにロバストな表現モデルを構築することができる。このアプローチを検証するため、従来の集中型手法と比較し、パフォーマンスベースラインを確立し、分散ソリューションの利点を示します。我々はまた、EMNISTとKMNISTデータセットの実験を行い、FedCRefのクラスタモデルを実際のデータ分布と整合させ、教師なしのフェデレーション設定におけるデータの表現精度を大幅に向上させる能力を示す。

関連論文リスト

FedSPD: A Soft-clustering Approach for Personalized Decentralized Federated Learning [18.38030098837294]
フェデレーション学習は、分散クライアントがローカルデータを使用して機械学習モデルを協調的にトレーニングするためのフレームワークである。分散環境のための効率的パーソナライズされたフェデレーション学習アルゴリズムであるFedSPDを提案する。低接続性ネットワークにおいてもFedSPDが正確なモデルを学ぶことを示す。
論文参考訳（メタデータ） (2024-10-24T15:48:34Z)
A Bayesian Framework for Clustered Federated Learning [14.426129993432193]
連邦学習(FL)の主な課題の1つは、非独立で同一に分散された(非IID)クライアントデータを扱うことである。本稿では、クライアントをクラスタに関連付けるクラスタ化FLのための統一ベイズフレームワークを提案する。この作業は、クライアントとクラスタの関連に関する洞察を提供し、新しい方法でクライアントの知識共有を可能にする。
論文参考訳（メタデータ） (2024-10-20T19:11:24Z)
FedClust: Tackling Data Heterogeneity in Federated Learning through Weight-Driven Client Clustering [26.478852701376294]
フェデレートラーニング(Federated Learning, FL)は、分散機械学習のパラダイムである。 FLの主な課題の1つは、クライアントデバイスにまたがる不均一なデータ分散の存在である。我々は,局所モデル重みとクライアントのデータ分布の相関を利用したCFLの新しい手法であるFedClustを提案する。
論文参考訳（メタデータ） (2024-07-09T02:47:16Z)
Federated Learning with Projected Trajectory Regularization [65.6266768678291]
フェデレーション学習は、ローカルデータを共有せずに、分散クライアントから機械学習モデルの共同トレーニングを可能にする。連合学習における重要な課題の1つは、クライアントにまたがる識別できない分散データを扱うことである。本稿では,データ問題に対処するための予測軌道正則化(FedPTR)を備えた新しいフェデレーション学習フレームワークを提案する。
論文参考訳（メタデータ） (2023-12-22T02:12:08Z)
CADIS: Handling Cluster-skewed Non-IID Data in Federated Learning with Clustered Aggregation and Knowledge DIStilled Regularization [3.3711670942444014]
フェデレーション学習は、エッジデバイスがデータを公開することなく、グローバルモデルを協調的にトレーニングすることを可能にする。我々は、実際のデータセットで発見されたクラスタスキュード非IIDと呼ばれる新しいタイプの非IIDデータに取り組む。本稿では,クラスタ間の平等を保証するアグリゲーション方式を提案する。
論文参考訳（メタデータ） (2023-02-21T02:53:37Z)
Integrating Local Real Data with Global Gradient Prototypes for Classifier Re-Balancing in Federated Long-Tailed Learning [60.41501515192088]
フェデレートラーニング(FL)は、グローバルモデルを協調的にトレーニングする複数のクライアントを含む、人気のある分散ラーニングパラダイムになっています。データサンプルは通常、現実世界の長い尾の分布に従っており、分散化された長い尾のデータのFLは、貧弱なグローバルモデルをもたらす。本研究では、局所的な実データとグローバルな勾配のプロトタイプを統合し、局所的なバランスの取れたデータセットを形成する。
論文参考訳（メタデータ） (2023-01-25T03:18:10Z)
Efficient Distribution Similarity Identification in Clustered Federated Learning via Principal Angles Between Client Data Subspaces [59.33965805898736]
クラスタ学習は、クライアントをクラスタにグループ化することで、有望な結果をもたらすことが示されている。既存のFLアルゴリズムは基本的に、クライアントを同様のディストリビューションでグループ化しようとしている。以前のFLアルゴリズムは、訓練中に間接的に類似性を試みていた。
論文参考訳（メタデータ） (2022-09-21T17:37:54Z)
Decentralized federated learning of deep neural networks on non-iid data [0.6335848702857039]
分散環境でパーソナライズされたディープラーニングモデルを学ぶことの難しさに対処する。本稿では,PENS(Performance-Based Neighbor Selection)という手法を提案する。 PENSは強力なベースラインに比べて高い精度を達成することができる。
論文参考訳（メタデータ） (2021-07-18T19:05:44Z)
Exploiting Shared Representations for Personalized Federated Learning [54.65133770989836]
本稿では,クライアント間の共有データ表現と,クライアント毎のユニークなローカルヘッダを学習するための,新しいフェデレーション学習フレームワークとアルゴリズムを提案する。提案アルゴリズムは, クライアント間の分散計算能力を利用して, 表現の更新毎に低次元の局所パラメータに対して, 多数の局所更新を行う。この結果は、データ分布間の共有低次元表現を学習することを目的とした、幅広い種類の問題に対するフェデレーション学習以上の関心を持っている。
論文参考訳（メタデータ） (2021-02-14T05:36:25Z)
Decentralised Learning from Independent Multi-Domain Labels for Person Re-Identification [69.29602103582782]
ディープラーニングは多くのコンピュータビジョンタスクで成功している。しかし、プライバシー問題に対する意識の高まりは、特に人物の再識別(Re-ID)において、ディープラーニングに新たな課題をもたらす。我々は,複数のプライバシ保護されたローカルモデル(ローカルクライアント)を同時に学習することにより,汎用的なグローバルモデル(中央サーバ)を構築するための,フェデレート・パーソナライゼーション(FedReID)と呼ばれる新しいパラダイムを提案する。このクライアントサーバ共同学習プロセスは、プライバシコントロールの下で反復的に実行されるため、分散データを共有したり、収集したりすることなく、分散学習を実現することができる。
論文参考訳（メタデータ） (2020-06-07T13:32:33Z)
Multi-Center Federated Learning [62.57229809407692]
本稿では,フェデレート学習のための新しい多中心集約機構を提案する。非IIDユーザデータから複数のグローバルモデルを学び、同時にユーザとセンタ間の最適なマッチングを導出する。ベンチマークデータセットによる実験結果から,本手法はいくつかの一般的なフェデレーション学習法より優れていることが示された。
論文参考訳（メタデータ） (2020-05-03T09:14:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。