論文の概要: TreeCSS: An Efficient Framework for Vertical Federated Learning

• arxiv url: http://arxiv.org/abs/2408.01691v1
• Date: Sat, 3 Aug 2024 07:11:57 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-06 18:51:05.742303
• Title: TreeCSS: An Efficient Framework for Vertical Federated Learning
• Title（参考訳）: TreeCSS: 垂直的フェデレーション学習のための効率的なフレームワーク
• Authors: Qinbo Zhang, Xiao Yan, Yukai Ding, Quanqing Xu, Chuang Hu, Xiaokai Zhou, Jiawei Jiang,
• Abstract要約: VFLは、データサンプルの特徴が異なる参加者で分割されている場合を考慮している。 本稿では2つの主要なステップを加速する効率的なVFLフレームワークとしてTreeCSSを提案する。 結果は、バニラVFLと比較して、TreeCSSはトレーニングを最大2.93倍加速し、同等のモデルの精度を達成することを示している。
• 参考スコア（独自算出の注目度）: 11.458855512283042
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Vertical federated learning (VFL) considers the case that the features of data samples are partitioned over different participants. VFL consists of two main steps, i.e., identify the common data samples for all participants (alignment) and train model using the aligned data samples (training). However, when there are many participants and data samples, both alignment and training become slow. As such, we propose TreeCSS as an efficient VFL framework that accelerates the two main steps. In particular, for sample alignment, we design an efficient multi-party private set intersection (MPSI) protocol called Tree-MPSI, which adopts a tree-based structure and a data-volume-aware scheduling strategy to parallelize alignment among the participants. As model training time scales with the number of data samples, we conduct coreset selection (CSS) to choose some representative data samples for training. Our CCS method adopts a clustering-based scheme for security and generality, which first clusters the features locally on each participant and then merges the local clustering results to select representative samples. In addition, we weight the samples according to their distances to the centroids to reflect their importance to model training. We evaluate the effectiveness and efficiency of our TreeCSS framework on various datasets and models. The results show that compared with vanilla VFL, TreeCSS accelerates training by up to 2.93x and achieves comparable model accuracy.
• Abstract（参考訳）: 垂直連合学習(VFL)は、データサンプルの特徴が異なる参加者間で分割されている場合を考える。 VFLは2つの主要なステップ、すなわち、すべての参加者(アライメント)の共通データサンプルと、アライメントされたデータサンプル(トレーニング)を使用したトレインモデルからなる。 しかし、多くの参加者とデータサンプルが存在すると、アライメントとトレーニングの両方が遅くなります。 そこで我々は2つの主要なステップを加速する効率的なVFLフレームワークとしてTreeCSSを提案する。 特に、サンプルアライメントのために、ツリーベース構造とデータボリューム対応スケジューリング戦略を採用し、参加者間のアライメントを並列化するための、効率的なマルチパーティ・プライベート・セット・アグリゲーション(MPSI)プロトコルであるTree-MPSIを設計する。 モデルトレーニング時間はデータサンプルの数とともにスケールするので、コアセット選択(CSS)を行い、トレーニング用の代表的なデータサンプルを選択します。 CCS法では,まず各参加者に局所的に特徴をクラスタリングし,次に局所的なクラスタリング結果をマージして代表サンプルを選択する,セキュリティと汎用性のためのクラスタリング方式を採用している。 さらに、モデルトレーニングの重要性を反映して、遠心体との距離に応じてサンプルを重み付けする。 さまざまなデータセットやモデルに対して,TreeCSSフレームワークの有効性と有効性を評価する。 結果は、バニラVFLと比較して、TreeCSSはトレーニングを最大2.93倍加速し、同等のモデルの精度を達成することを示している。

関連論文リスト

• Deep Domain Isolation and Sample Clustered Federated Learning for Semantic Segmentation [2.515027627030043]
  本稿では,2次元セグメンテーションタスクにおける参加者間の共変量変化の影響を初めて検討する。 我々は、モデルの勾配空間内で直接画像領域を分離するディープドメイン分離(DDI)を開発する。 我々は,このクラスタリングアルゴリズムをSCFL(Sample Clustered Federated Learning)フレームワークを通じて活用する。
  論文  参考訳（メタデータ） (2024-10-04T12:43:07Z)
• Replica Tree-based Federated Learning using Limited Data [6.572149681197959]
  本研究では,RepTreeFLという新しいフェデレーション学習フレームワークを提案する。 ソリューションの中核はレプリカの概念であり、モデルアーキテクチャをコピーし、ローカルなデータ分散を摂動することで、各クライアントを複製します。 当社のアプローチでは,データ分布の多様さで多数のモデルを集約することで,限られたデータと少数のクライアントから学習することが可能である。
  論文  参考訳（メタデータ） (2023-12-28T17:47:25Z)
• FedSampling: A Better Sampling Strategy for Federated Learning [81.85411484302952]
  フェデレートラーニング(FL)は、プライバシを保存する方法で分散化されたデータからモデルを学習するための重要なテクニックである。 既存のFLメソッドは通常、各ラウンドでローカルモデル学習のために一様にクライアントをサンプリングする。 フェデレート学習のための新しいデータ一様サンプリング戦略(FedSampling)を提案する。
  論文  参考訳（メタデータ） (2023-06-25T13:38:51Z)
• DPP-based Client Selection for Federated Learning with Non-IID Data [97.1195165400568]
  本稿では,統合学習(FL)のコミュニケーションボトルネックに対処するクライアント選択(CS)手法を提案する。 まず、FLにおけるCSの効果を分析し、各学習ラウンドにおけるトレーニングデータセットの多様化に参加者を適切に選択することで、FLトレーニングを加速させることができることを示す。 我々は、データプロファイリングと決定点プロセス(DPP)サンプリング技術を活用し、DPPに基づく参加者選択(FL-DP$3$S)によるフェデレートラーニング(Federated Learning)と呼ばれるアルゴリズムを開発する。
  論文  参考訳（メタデータ） (2023-03-30T13:14:54Z)
• GLASU: A Communication-Efficient Algorithm for Federated Learning with Vertically Distributed Graph Data [44.02629656473639]
  本稿では,クライアントとサーバ間でバックボーンGNNを分割するモデル分割手法と通信効率のよいGLASUを提案する。 提案アルゴリズムは,実世界のデータセットに対する理論的解析と広範な数値実験を行い,中央集権的な学習を行うと,バックボーンのGNNと性能が一致するGNNモデルを効果的に訓練することを示した。
  論文  参考訳（メタデータ） (2023-03-16T17:47:55Z)
• Visual Prompt Based Personalized Federated Learning [83.04104655903846]
  pFedPTと呼ばれる画像分類タスクのための新しいPFLフレームワークを提案し、クライアントのローカルデータ配信情報を暗黙的に表現するためにパーソナライズされた視覚的プロンプトを利用する。 CIFAR10とCIFAR100データセットの実験では、pFedPTは様々な設定でいくつかの最先端(SOTA)PFLアルゴリズムより優れていた。
  論文  参考訳（メタデータ） (2023-03-15T15:02:15Z)
• Stochastic Clustered Federated Learning [21.811496586350653]
  本稿では,一般の非IID問題に対する新しいクラスタ化フェデレーション学習手法であるStoCFLを提案する。 詳細は、StoCFLは、任意の割合のクライアント参加と新しく加入したクライアントをサポートする柔軟なCFLフレームワークを実装しています。 その結果,StoCFLはクラスタ数の不明な場合でも,有望なクラスタ結果が得られることがわかった。
  論文  参考訳（メタデータ） (2023-03-02T01:39:16Z)
• Optimizing Server-side Aggregation For Robust Federated Learning via Subspace Training [80.03567604524268]
  クライアント間の非IIDデータ分散と中毒攻撃は、現実世界のフェデレーション学習システムにおける2つの大きな課題である。 サーバ側集約プロセスを最適化する汎用的なアプローチであるSmartFLを提案する。 本稿では,SmartFLの収束と一般化能力に関する理論的解析を行う。
  論文  参考訳（メタデータ） (2022-11-10T13:20:56Z)
• Towards Similarity-Aware Time-Series Classification [51.2400839966489]
  時系列データマイニングの基本課題である時系列分類(TSC)について検討する。 グラフニューラルネットワーク(GNN)を用いて類似情報をモデル化するフレームワークであるSimTSCを提案する。
  論文  参考訳（メタデータ） (2022-01-05T02:14:57Z)
• No Fear of Heterogeneity: Classifier Calibration for Federated Learning with Non-IID Data [78.69828864672978]
  実世界のフェデレーションシステムにおける分類モデルのトレーニングにおける中心的な課題は、非IIDデータによる学習である。 このアルゴリズムは, 近似されたssian混合モデルからサンプリングした仮想表現を用いて分類器を調整する。 実験の結果,CIFAR-10,CIFAR-100,CINIC-10など,一般的なフェデレーション学習ベンチマークにおけるCCVRの現状が示された。
  論文  参考訳（メタデータ） (2021-06-09T12:02:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。