論文の概要: Vertical Federated Principal Component Analysis and Its Kernel Extension
on Feature-wise Distributed Data
- arxiv url: http://arxiv.org/abs/2203.01752v1
- Date: Thu, 3 Mar 2022 14:58:29 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-04 22:28:38.080280
- Title: Vertical Federated Principal Component Analysis and Its Kernel Extension
on Feature-wise Distributed Data
- Title(参考訳): 特徴量分散データにおける垂直結合主成分分析とそのカーネル拡張
- Authors: Yiu-ming Cheung, Juyong Jiang, Feng Yu, and Jian Lou
- Abstract要約: 本稿では,垂直分割データセット設定下での教師なしフェデレーション学習について検討する。
本稿では,垂直分割データセット (VFedPCA) 法における連合主成分分析法を提案する。
また, 非線形次元減少の利点を生かし, 垂直結合型先進カーネル主成分分析法(VFedAKPCA)を提案する。
- 参考スコア(独自算出の注目度): 35.72930187906397
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Despite enormous research interest and rapid application of federated
learning (FL) to various areas, existing studies mostly focus on supervised
federated learning under the horizontally partitioned local dataset setting.
This paper will study the unsupervised FL under the vertically partitioned
dataset setting. Accordingly, we propose the federated principal component
analysis for vertically partitioned dataset (VFedPCA) method, which reduces the
dimensionality across the joint datasets over all the clients and extracts the
principal component feature information for downstream data analysis. We
further take advantage of the nonlinear dimensionality reduction and propose
the vertical federated advanced kernel principal component analysis (VFedAKPCA)
method, which can effectively and collaboratively model the nonlinear nature
existing in many real datasets. In addition, we study two communication
topologies. The first is a server-client topology where a semi-trusted server
coordinates the federated training, while the second is the fully-decentralized
topology which further eliminates the requirement of the server by allowing
clients themselves to communicate with their neighbors. Extensive experiments
conducted on five types of real-world datasets corroborate the efficacy of
VFedPCA and VFedAKPCA under the vertically partitioned FL setting. Code is
available at: https://github.com/juyongjiang/VFedPCA-VFedAKPCA
- Abstract(参考訳): 様々な分野へのフェデレーション学習(fl)の膨大な研究関心と急速な応用にもかかわらず、既存の研究は主に水平分割されたローカルデータセットの設定下での教師付きフェデレーション学習に焦点を当てている。
本稿では,垂直分割データセット設定下での教師なしFLについて検討する。
そこで本研究では,全クライアントのジョイントデータセット間の寸法を低減し,下流データ解析のための主成分特徴情報を抽出した,垂直分割データセット(vfedpca)のためのフェデレート主成分分析を提案する。
さらに, 非線形次元の低減を生かし, 多くの実データセットに存在する非線形特性を効果的かつ協調的にモデル化できる垂直結合型先進カーネル主成分分析法(VFedAKPCA)を提案する。
さらに,2つの通信トポロジについて検討する。
ひとつはサーバクライアントトポロジで、半信頼のサーバがフェデレーショントレーニングをコーディネートするのに対して、もうひとつは完全な分散トポロジであり、クライアント自身が隣人と通信できるようにすることで、サーバの要件をさらに排除する。
vfedpcaとvfedakpcaを垂直分割したfl設定下での5種類の実世界データセットの広範な実験を行った。
https://github.com/juyongjiang/VFedPCA-VFedAKPCA
関連論文リスト
- FedAli: Personalized Federated Learning with Aligned Prototypes through Optimal Transport [9.683642138601464]
フェデレートラーニング(FL)は、生データを共有することなく、複数のデバイス間で協調してパーソナライズされたモデルトレーニングを可能にする。
入力埋め込みを学習可能なプロトタイプに近づけるPrototypesレイヤのアライメントを導入する。
我々はFedAliを異種センサによる人間の活動認識と視覚ベンチマークのデータセットで評価し、既存のFL戦略よりも優れていることを示した。
論文 参考訳(メタデータ) (2024-11-15T21:35:21Z) - Vertical Federated Learning Hybrid Local Pre-training [4.31644387824845]
垂直フェデレート学習(VFL)のための新しいVFLハイブリッド局所事前学習(VFLHLP)手法を提案する。
VFLHLPはまず、参加者のローカルデータに基づいて、ローカルネットワークを事前訓練する。
そして、これらの事前学習ネットワークを使用して、ラベル付きパーティのサブモデルを調整するか、あるいは、アライメントされたデータ上で下流のフェデレーション学習中に、他のパーティの表現学習を強化する。
論文 参考訳(メタデータ) (2024-05-20T08:57:39Z) - FedEmb: A Vertical and Hybrid Federated Learning Algorithm using Network
And Feature Embedding Aggregation [24.78757412559944]
Federated Learning(FL)は、分散クライアント上の機械学習モデルの分散トレーニングのための新興パラダイムである。
本稿では,垂直およびハイブリッド学習をモデル化するための一般化アルゴリズムであるFedEmbを提案する。
実験結果から,FedEmbは特徴分割と対象空間分散の両問題に対処する有効な方法であることがわかった。
論文 参考訳(メタデータ) (2023-11-30T16:01:51Z) - An Efficient Virtual Data Generation Method for Reducing Communication
in Federated Learning [34.39250699866746]
いくつかの古典的なスキームでは、サーバがローカルモデルから参加者のトレーニングデータに関する補助情報を抽出し、中央ダミーデータセットを構築することができると仮定している。
サーバはダミーデータセットを使用して、集約されたグローバルモデルを微調整し、より少ない通信ラウンドでターゲットテストの精度を達成する。
本稿では、上記のソリューションをデータベースの通信効率FLフレームワークにまとめる。
論文 参考訳(メタデータ) (2023-06-21T08:07:07Z) - Vertical Federated Learning over Cloud-RAN: Convergence Analysis and
System Optimization [82.12796238714589]
高速かつ正確なモデルアグリゲーションを実現するために,クラウド無線アクセスネットワーク(Cloud-RAN)ベースの垂直FLシステムを提案する。
アップリンクとダウンリンクの両方の伝送を考慮した垂直FLアルゴリズムの収束挙動を特徴付ける。
我々は,連続凸近似と代替凸探索に基づくシステム最適化アルゴリズムを開発した,連系トランシーバとフロントホール量子化設計によるシステム最適化フレームワークを構築した。
論文 参考訳(メタデータ) (2023-05-04T09:26:03Z) - UDRN: Unified Dimensional Reduction Neural Network for Feature Selection
and Feature Projection [37.03465340777392]
次元還元(DR)は、高次元データを最小定義された最適化目標を持つ低次元潜在空間にマッピングする。
FSは次元の重要なサブセットの選択に重点を置いているが、データ分散(構造)を破壊するリスクがある
FPは全ての入力特徴を低次元空間に結合し、データ構造を維持することを目的としている。
我々は、FSとFPをエンドツーエンドで統合する統一的なフレームワークUDRN(Unified dimensional Reduction Neural-network)を開発した。
論文 参考訳(メタデータ) (2022-07-08T10:30:20Z) - Fair and efficient contribution valuation for vertical federated
learning [49.50442779626123]
フェデレートラーニング(Federated Learning)は、データを共有することなく、分散データソース上で機械学習モデルをトレーニングするための一般的な技術である。
シェープリー値(Shapley value, SV)は、協調ゲーム理論から派生した、証明可能なフェアコントリビューション評価指標である。
本稿では,SVに基づく垂直結合シェープ値(VerFedSV)と呼ばれるコントリビューション評価指標を提案する。
論文 参考訳(メタデータ) (2022-01-07T19:57:15Z) - Edge-assisted Democratized Learning Towards Federated Analytics [67.44078999945722]
本稿では,エッジ支援型民主化学習機構であるEdge-DemLearnの階層的学習構造を示す。
また、Edge-DemLearnを柔軟なモデルトレーニングメカニズムとして検証し、リージョンに分散制御と集約の方法論を構築する。
論文 参考訳(メタデータ) (2020-12-01T11:46:03Z) - Privacy-Preserving Asynchronous Federated Learning Algorithms for
Multi-Party Vertically Collaborative Learning [151.47900584193025]
本稿では,非同期フェデレーションSGD(AFSGD-VP)アルゴリズムとその垂直分割データ上でのSVRGおよびSAGA変種を提案する。
我々の知る限り、AFSGD-VPとそのSVRGおよびSAGAの変種は、垂直に分割されたデータのための最初の非同期フェデレーション学習アルゴリズムである。
論文 参考訳(メタデータ) (2020-08-14T08:08:15Z) - Federated Doubly Stochastic Kernel Learning for Vertically Partitioned
Data [93.76907759950608]
本稿では,垂直分割データに対する2倍のカーネル学習アルゴリズムを提案する。
本稿では,FDSKLがカーネルを扱う場合,最先端のフェデレーション学習手法よりもはるかに高速であることを示す。
論文 参考訳(メタデータ) (2020-08-14T05:46:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。