Fugu-MT 論文翻訳(概要): SCALA: Split Federated Learning with Concatenated Activations and Logit Adjustments

論文の概要: SCALA: Split Federated Learning with Concatenated Activations and Logit Adjustments

arxiv url: http://arxiv.org/abs/2405.04875v1
Date: Wed, 8 May 2024 08:12:21 GMT
ステータス: 処理完了
システム内更新日: 2024-05-09 15:04:15.605078
Title: SCALA: Split Federated Learning with Concatenated Activations and Logit Adjustments
Title（参考訳）: SCALA: 統合アクティベーションとログ調整によるフェデレーション学習の分離
Authors: Jiarong Yang, Yuan Liu,
Abstract要約: Split Federated Learning(SFL)は、サーバとクライアントの間で学習プロセスを戦略的に分割する分散機械学習フレームワークである。本稿では,SCALA(Concatenated Activations and Logit Adjustments)を用いたSFLを提案する。
参考スコア（独自算出の注目度）: 4.826527560777905
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Split Federated Learning (SFL) is a distributed machine learning framework which strategically divides the learning process between a server and clients and collaboratively trains a shared model by aggregating local models updated based on data from distributed clients. However, data heterogeneity and partial client participation result in label distribution skew, which severely degrades the learning performance. To address this issue, we propose SFL with Concatenated Activations and Logit Adjustments (SCALA). Specifically, the activations from the client-side models are concatenated as the input of the server-side model so as to centrally adjust label distribution across different clients, and logit adjustments of loss functions on both server-side and client-side models are performed to deal with the label distribution variation across different subsets of participating clients. Theoretical analysis and experimental results verify the superiority of the proposed SCALA on public datasets.
Abstract（参考訳）: Split Federated Learning (SFL)は、分散機械学習フレームワークで、サーバとクライアントの間で学習プロセスを戦略的に分割し、分散クライアントのデータに基づいて更新されたローカルモデルを集約することにより、共有モデルを協調的にトレーニングする。しかし、データの不均一性と部分的クライアント参加は、学習性能を著しく低下させるラベル分布スキューをもたらす。本稿では,SCALA(Concatenated Activations and Logit Adjustments)を用いたSFLを提案する。具体的には、サーバ側モデルからのアクティベーションをサーバ側モデルの入力として連結して、異なるクライアント間でラベル分布を集中的に調整し、サーバ側モデルとクライアント側モデルの両方における損失関数のロジット調整を行い、参加クライアントの異なるサブセット間でラベル分布のばらつきに対処する。理論的解析と実験により、パブリックデータセット上でのSCALAの優位性を検証した。

関連論文リスト

A Bayesian Framework for Clustered Federated Learning [14.426129993432193]
連邦学習(FL)の主な課題の1つは、非独立で同一に分散された(非IID)クライアントデータを扱うことである。本稿では、クライアントをクラスタに関連付けるクラスタ化FLのための統一ベイズフレームワークを提案する。この作業は、クライアントとクラスタの関連に関する洞察を提供し、新しい方法でクライアントの知識共有を可能にする。
論文参考訳（メタデータ） (2024-10-20T19:11:24Z)
FedClust: Tackling Data Heterogeneity in Federated Learning through Weight-Driven Client Clustering [26.478852701376294]
フェデレートラーニング(Federated Learning, FL)は、分散機械学習のパラダイムである。 FLの主な課題の1つは、クライアントデバイスにまたがる不均一なデータ分散の存在である。我々は,局所モデル重みとクライアントのデータ分布の相関を利用したCFLの新しい手法であるFedClustを提案する。
論文参考訳（メタデータ） (2024-07-09T02:47:16Z)
Towards Client Driven Federated Learning [7.528642177161784]
私たちは、クライアントを駆動する新しいFLフレームワークであるクライアント駆動フェデレートラーニング(CDFL:Client-Driven Federated Learning)を紹介します。 CDFLでは、各クライアントは、ローカルにトレーニングされたモデルをサーバにアップロードし、ローカルタスクに合わせてカスタマイズされたモデルを受け取ることで、独立して非同期にモデルを更新する。
論文参考訳（メタデータ） (2024-05-24T10:17:49Z)
FedClust: Optimizing Federated Learning on Non-IID Data through Weight-Driven Client Clustering [28.057411252785176]
Federated Learning(FL)は、分散型デバイス上で、ローカルデータを公開せずにコラボレーティブなモデルトレーニングを可能にする、新興の分散機械学習パラダイムである。本稿では,局所モデル重みとクライアントデータ分布の相関を利用した新しいCFL手法であるFedClustを提案する。
論文参考訳（メタデータ） (2024-03-07T01:50:36Z)
Towards Instance-adaptive Inference for Federated Learning [80.38701896056828]
Federated Learning(FL)は、複数のクライアントがローカルトレーニングを集約することで、強力なグローバルモデルを学ぶことができる分散学習パラダイムである。本稿では,FedInsという新しいFLアルゴリズムを提案する。我々のFedInsは、Tiny-ImageNet上での通信コストが15%未満で、トップパフォーマンスの手法に対して6.64%の改善など、最先端のFLアルゴリズムよりも優れていることを示す。
論文参考訳（メタデータ） (2023-08-11T09:58:47Z)
Scalable Collaborative Learning via Representation Sharing [53.047460465980144]
フェデレートラーニング(FL)とスプリットラーニング(SL)は、データを(デバイス上で)プライベートにしながら協調学習を可能にする2つのフレームワークである。 FLでは、各データ保持者がモデルをローカルにトレーニングし、集約のために中央サーバにリリースする。 SLでは、クライアントは個々のカット層アクティベーション(スマッシュされたデータ)をサーバにリリースし、そのレスポンス(推論とバックの伝搬の両方)を待つ必要があります。本研究では, クライアントがオンライン知識蒸留を通じて, 対照的な損失を生かして協調する, プライバシ保護機械学習の新しいアプローチを提案する。
論文参考訳（メタデータ） (2022-11-20T10:49:22Z)
Fed-CBS: A Heterogeneity-Aware Client Sampling Mechanism for Federated Learning via Class-Imbalance Reduction [76.26710990597498]
本研究では,ランダムに選択したクライアントからのグループデータのクラス不均衡が,性能の大幅な低下につながることを示す。我々のキーとなる観測に基づいて、我々は効率的なクライアントサンプリング機構、すなわちフェデレートクラスバランスサンプリング(Fed-CBS)を設計する。特に、クラス不均衡の尺度を提案し、その後、同型暗号化を用いてプライバシー保護方式でこの尺度を導出する。
論文参考訳（メタデータ） (2022-09-30T05:42:56Z)
Efficient Distribution Similarity Identification in Clustered Federated Learning via Principal Angles Between Client Data Subspaces [59.33965805898736]
クラスタ学習は、クライアントをクラスタにグループ化することで、有望な結果をもたらすことが示されている。既存のFLアルゴリズムは基本的に、クライアントを同様のディストリビューションでグループ化しようとしている。以前のFLアルゴリズムは、訓練中に間接的に類似性を試みていた。
論文参考訳（メタデータ） (2022-09-21T17:37:54Z)
A Bayesian Federated Learning Framework with Online Laplace Approximation [144.7345013348257]
フェデレートラーニングは、複数のクライアントが協力してグローバルに共有されたモデルを学ぶことを可能にする。クライアント側とサーバ側の両方の後方部を近似するために,オンラインラプラス近似を用いた新しいFLフレームワークを提案する。提案手法の利点を実証し,いくつかのベンチマークで最新の結果を得た。
論文参考訳（メタデータ） (2021-02-03T08:36:58Z)
Blockchain Assisted Decentralized Federated Learning (BLADE-FL): Performance Analysis and Resource Allocation [119.19061102064497]
ブロックチェーンをFL、すなわちブロックチェーン支援分散学習(BLADE-FL)に統合することで、分散FLフレームワークを提案する。提案されたBLADE-FLのラウンドでは、各クライアントはトレーニング済みモデルを他のクライアントにブロードキャストし、受信したモデルに基づいてブロックを生成し、次のラウンドのローカルトレーニングの前に生成されたブロックからモデルを集約します。遅延クライアントがblade-flの学習性能に与える影響を調査し,最適なk,学習パラメータ,遅延クライアントの割合の関係を特徴付ける。
論文参考訳（メタデータ） (2021-01-18T07:19:08Z)
Client Adaptation improves Federated Learning with Simulated Non-IID Clients [1.0896567381206714]
クライアント間でデータを独立に分散する(非IID)場合、クライアントが適応可能で堅牢なモデルを学ぶための連合学習手法を提案する。学習したクライアント固有の条件付けを追加することで、モデルの性能が向上し、オーディオドメインと画像ドメインの両方から、バランスのとれた、バランスのとれたデータセットに対して、アプローチが機能することを示します。
論文参考訳（メタデータ） (2020-07-09T13:48:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。