論文の概要: FederatedScope-GNN: Towards a Unified, Comprehensive and Efficient
Package for Federated Graph Learning
- arxiv url: http://arxiv.org/abs/2204.05562v1
- Date: Tue, 12 Apr 2022 06:48:06 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-13 13:42:19.589080
- Title: FederatedScope-GNN: Towards a Unified, Comprehensive and Efficient
Package for Federated Graph Learning
- Title(参考訳): FederatedScope-GNN:Federated Graph Learningのための統一的で包括的で効率的なパッケージを目指して
- Authors: Zhen Wang, Weirui Kuang, Yuexiang Xie, Liuyi Yao, Yaliang Li, Bolin
Ding, Jingren Zhou
- Abstract要約: フェデレートグラフ学習(FGL)は、その特徴と要求のため、十分にサポートされていない。
本稿では,FGLパッケージ作成の課題について論じ,実装パッケージであるFederatedScope-GNN(FS-G)について述べる。
我々は,FS-Gの有効性を広範囲な実験によって検証し,同時にコミュニティにとってのFGLに関する貴重な洞察を得る。
- 参考スコア(独自算出の注目度): 65.48760613529033
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The incredible development of federated learning (FL) has benefited various
tasks in the domains of computer vision and natural language processing, and
the existing frameworks such as TFF and FATE has made the deployment easy in
real-world applications. However, federated graph learning (FGL), even though
graph data are prevalent, has not been well supported due to its unique
characteristics and requirements. The lack of FGL-related framework increases
the efforts for accomplishing reproducible research and deploying in real-world
applications. Motivated by such strong demand, in this paper, we first discuss
the challenges in creating an easy-to-use FGL package and accordingly present
our implemented package FederatedScope-GNN (FS-G), which provides (1) a unified
view for modularizing and expressing FGL algorithms; (2) comprehensive DataZoo
and ModelZoo for out-of-the-box FGL capability; (3) an efficient model
auto-tuning component; and (4) off-the-shelf privacy attack and defense
abilities. We validate the effectiveness of FS-G by conducting extensive
experiments, which simultaneously gains many valuable insights about FGL for
the community. Moreover, we employ FS-G to serve the FGL application in
real-world E-commerce scenarios, where the attained improvements indicate great
potential business benefits. We publicly release FS-G at
https://github.com/alibaba/FederatedScope to promote FGL's research and enable
broad applications that would otherwise be infeasible due to the lack of a
dedicated package.
- Abstract(参考訳): 連邦学習(FL)の驚くべき発展は、コンピュータビジョンと自然言語処理の分野における様々なタスクに恩恵をもたらし、TFFやFATEといった既存のフレームワークは、現実世界のアプリケーションでデプロイを容易にした。
しかし,FGL(Federated Graph Learning)は,グラフデータが広く普及しているにもかかわらず,その特徴や要件から十分にサポートされていない。
fgl関連フレームワークの欠如は、再現可能な研究と実際のアプリケーションへのデプロイを達成する努力を増加させる。
そこで本稿では,この強い需要に動機づけられて,まず,使いやすいfglパッケージを作成する際の課題について論じるとともに,(1)fglアルゴリズムのモジュール化と表現のための統一的なビューを提供するfs-g(package federatedscope-gnn),(2)アウト・オブ・ボックスのfgl機能のための包括的なdatazooとmodelzoo,(3)効率的なモデル自動チューニングコンポーネント,(4)既製のプライバシー攻撃と防御能力を提供する。
我々は,FS-Gの有効性を広範囲な実験によって検証し,同時にコミュニティにとってのFGLに関する貴重な洞察を得る。
さらに、実世界のEコマースシナリオでFGLアプリケーションを提供するためにFS-Gを使用します。
私たちは、fglの研究を促進し、専用のパッケージがないため実現不可能な幅広いアプリケーションを可能にするために、fs-gをhttps://github.com/alibaba/federatedscopeで公開しています。
関連論文リスト
- FedSSP: Federated Graph Learning with Spectral Knowledge and Personalized Preference [31.796411806840087]
フェデレートされたグラフ学習(pFGL)は、プライバシーを損なうことなく、グラフニューラルネットワーク(GNN)の分散トレーニングを容易にする。
それまでのpFGLメソッドは、非ジェネリックな知識を全世界で誤って共有し、パーソナライズされたソリューションをローカルにカスタマイズできなかった。
提案するpFGLフレームワークであるFedSSPを提案する。
論文 参考訳(メタデータ) (2024-10-26T07:09:27Z) - OpenFGL: A Comprehensive Benchmarks for Federated Graph Learning [36.04858706246336]
Federated Graph Learning(FGL)は、直接データ共有なしで複数のローカルシステムにまたがるグラフニューラルネットワークのための、有望な分散トレーニングパラダイムとして登場した。
FGLの普及にもかかわらず、様々な研究背景と実験環境にまたがる実践的応用からの多様なモチベーションは、公正な評価に重大な課題をもたらす。
本稿では,主要なFGLシナリオであるGraph-FLとSubgraph-FLのための統一ベンチマークOpenFGLを提案する。
論文 参考訳(メタデータ) (2024-08-29T06:40:01Z) - SpreadFGL: Edge-Client Collaborative Federated Graph Learning with Adaptive Neighbor Generation [16.599474223790843]
Federated Graph Learning (FGL)は、分類タスクのために複数のクライアントで協調的なトレーニングを可能にすることで、広く注目を集めている。
本研究では,エッジ・クライアント・コラボレーションにおける情報フローの促進を目的とした新しいFGLフレームワークSpreadFGLを提案する。
本研究では,SpreadFGLが最先端のアルゴリズムに対して精度が高く,より高速な収束を実現することを示す。
論文 参考訳(メタデータ) (2024-07-14T09:34:19Z) - HiFGL: A Hierarchical Framework for Cross-silo Cross-device Federated Graph Learning [12.073150043485084]
Federated Graph Learning (FGL)は、分散グラフデータから高品質な表現を学習するための有望な方法として登場した。
クロスデバイスFGLのための階層型フェデレーショングラフ学習フレームワークを提案する。
具体的には、異種クライアント上でのフェデレーション付きGNNトレーニングを保護するために、統一階層型アーキテクチャを考案する。
論文 参考訳(メタデータ) (2024-06-15T12:34:40Z) - FedGTA: Topology-aware Averaging for Federated Graph Learning [44.11777886421429]
Federated Graph Learning(FGL)は、大規模サブグラフの協調トレーニングを可能にする分散機械学習パラダイムである。
多くのFGL最適化戦略はグラフ構造を無視し、満足できない性能と緩やかな収束を示す。
FedGTA(Federated Graph Topology-Aware Aggregation, FedGTA)は,局所的スムーシング信頼度と近傍の混合特徴を最適化するパーソナライズされた最適化戦略である。
論文 参考訳(メタデータ) (2024-01-22T08:31:53Z) - Unlocking the Potential of Prompt-Tuning in Bridging Generalized and
Personalized Federated Learning [49.72857433721424]
Vision Transformer (ViT) と Visual Prompt Tuning (VPT) は、様々なコンピュータビジョンタスクの効率を改善して最先端のパフォーマンスを実現する。
本稿では,GFL(Generalized FL)とPFL(Personalized FL)を組み合わせた新しいアルゴリズムSGPTを提案する。
論文 参考訳(メタデータ) (2023-10-27T17:22:09Z) - FederatedScope-LLM: A Comprehensive Package for Fine-tuning Large
Language Models in Federated Learning [70.38817963253034]
本稿では, ファインチューニング LLM のこれらの課題について論じ, 本パッケージ FS-LLM を主な貢献として紹介する。
我々は、FLシナリオにおける将来の拡張のために、包括的フェデレーションパラメータ効率の良い微調整アルゴリズムの実装と汎用プログラミングインタフェースを提供する。
本研究では, FS-LLM の有効性を検証し, FL 設定におけるパラメータ効率の高いパラメータ調整アルゴリズムを用いて, 高度な LLM のベンチマークを行う。
論文 参考訳(メタデータ) (2023-09-01T09:40:36Z) - FederatedScope: A Comprehensive and Flexible Federated Learning Platform
via Message Passing [63.87056362712879]
我々は,メッセージ指向フレームワークを基盤とした,新しい総合的なフェデレート学習プラットフォームであるFederatedScopeを提案する。
手続き型フレームワークと比較して、提案されたメッセージ指向フレームワークは異種メッセージ交換を表現するのに柔軟である。
我々は、FederatedScopeの正確性と効率性を検証するために、提供された簡易かつ包括的なFLベンチマークについて一連の実験を行った。
論文 参考訳(メタデータ) (2022-04-11T11:24:21Z) - Fine-tuning Global Model via Data-Free Knowledge Distillation for
Non-IID Federated Learning [86.59588262014456]
フェデレートラーニング(Federated Learning, FL)は、プライバシ制約下での分散学習パラダイムである。
サーバ内のグローバルモデル(FedFTG)を微調整するデータフリー知識蒸留法を提案する。
私たちのFedFTGは最先端(SOTA)のFLアルゴリズムよりも優れており、FedAvg、FedProx、FedDyn、SCAFFOLDの強化のための強力なプラグインとして機能します。
論文 参考訳(メタデータ) (2022-03-17T11:18:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。