論文の概要: FedGraphNN: A Federated Learning System and Benchmark for Graph Neural
Networks
- arxiv url: http://arxiv.org/abs/2104.07145v1
- Date: Wed, 14 Apr 2021 22:11:35 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-17 07:22:19.322701
- Title: FedGraphNN: A Federated Learning System and Benchmark for Graph Neural
Networks
- Title(参考訳): FedGraphNN: グラフニューラルネットワークのためのフェデレーション学習システムとベンチマーク
- Authors: Chaoyang He, Keshav Balasubramanian, Emir Ceyani, Yu Rong, Peilin
Zhao, Junzhou Huang, Murali Annavaram, Salman Avestimehr
- Abstract要約: グラフニューラルネットワーク(GNN)の研究は、グラフ構造データから表現を学ぶGNNの能力のおかげで急速に成長しています。
GNNトレーニングのための大量の実世界のグラフデータを集中させることは、ユーザ側のプライバシー上の懸念から禁じられている。
GNNベースのFL研究を促進するためのオープンリサーチフェデレーション学習システムとベンチマークであるFedGraphNNを紹介します。
- 参考スコア(独自算出の注目度): 68.64678614325193
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph Neural Network (GNN) research is rapidly growing thanks to the capacity
of GNNs to learn representations from graph-structured data. However,
centralizing a massive amount of real-world graph data for GNN training is
prohibitive due to user-side privacy concerns, regulation restrictions, and
commercial competition. Federated learning (FL), a trending distributed
learning paradigm, aims to solve this challenge while preserving privacy.
Despite recent advances in vision and language domains, there is no suitable
platform for the federated training of GNNs. To this end, we introduce
FedGraphNN, an open research federated learning system and a benchmark to
facilitate GNN-based FL research. FedGraphNN is built on a unified formulation
of federated GNNs and supports commonly used datasets, GNN models, FL
algorithms, and flexible APIs. We also contribute a new molecular dataset,
hERG, to promote research exploration. Our experimental results present
significant challenges in federated GNN training: federated GNNs perform worse
in most datasets with a non-I.I.D split than centralized GNNs; the GNN model
that attains the best result in the centralized setting may not hold its
advantage in the federated setting. These results imply that more research
efforts are needed to unravel the mystery behind federated GNN training.
Moreover, our system performance analysis demonstrates that the FedGraphNN
system is computationally affordable to most research labs with limited GPUs.
We maintain the source code at https://github.com/FedML-AI/FedGraphNN.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)の研究は、グラフ構造化データから表現を学習するGNNの能力のおかげで急速に増加している。
しかし、GNNトレーニングのための大量の実世界のグラフデータの集中化は、ユーザ側のプライバシの懸念、規制規制、商業的競争のために禁止されている。
分散学習パラダイムであるフェデレーション学習(fl)は、プライバシを維持しながらこの課題を解決することを目的としている。
近年のビジョンと言語領域の進歩にもかかわらず、GNNの連携トレーニングに適したプラットフォームは存在しない。
この目的のために,オープンリサーチフェデレーション学習システムであるFedGraphNNと,GNNベースのFL研究を促進するベンチマークを紹介する。
FedGraphNNは、フェデレーション付きGNNの統一的な定式化に基づいて構築されており、一般的に使用されるデータセット、GNNモデル、FLアルゴリズム、フレキシブルAPIをサポートする。
我々はまた、新しい分子データセットhERGを研究の促進に貢献する。
フェデレートされたGNNは、集中型GNNよりも非I.Dスプリットのほとんどのデータセットでは、フェデレートされたGNNトレーニングにおいて、最も優れた結果が得られるGNNモデルは、フェデレーションされた設定では、その優位性を保たない可能性がある。
これらの結果は、federated gnnトレーニングの背後にある謎を解明するために、さらなる研究努力が必要であることを示唆している。
さらに,本システムの性能解析により,FedGraphNNシステムはGPUに制限のあるほとんどの研究室で計算コストが安いことを示した。
ソースコードはhttps://github.com/FedML-AI/FedGraphNNで管理しています。
関連論文リスト
- Information Flow in Graph Neural Networks: A Clinical Triage Use Case [49.86931948849343]
グラフニューラルネットワーク(GNN)は、マルチモーダルグラフとマルチリレーショナルグラフを処理する能力によって、医療やその他の領域で人気を集めている。
GNNにおける埋め込み情報のフローが知識グラフ(KG)におけるリンクの予測に与える影響について検討する。
以上の結果から,ドメイン知識をGNN接続に組み込むことで,KGと同じ接続を使用する場合や,制約のない埋め込み伝搬を行う場合よりも優れた性能が得られることが示された。
論文 参考訳(メタデータ) (2023-09-12T09:18:12Z) - FedHGN: A Federated Framework for Heterogeneous Graph Neural Networks [45.94642721490744]
不均一グラフニューラルネットワーク(HGNN)は、従来のGNNよりも、型付きグラフデータやリレーショナルグラフデータからより効果的に学習することができる。
より大きなパラメータ空間では、HGNNはより多くのトレーニングデータを必要とする可能性がある。
我々は,HGNNのための新規かつ汎用的なFGLフレームワークであるFedHGNを提案する。
論文 参考訳(メタデータ) (2023-05-16T18:01:49Z) - Distributed Graph Neural Network Training: A Survey [51.77035975191926]
グラフニューラルネットワーク(GNN)は、グラフに基づいてトレーニングされたディープラーニングモデルの一種で、さまざまな領域にうまく適用されている。
GNNの有効性にもかかわらず、GNNが大規模グラフに効率的にスケールすることは依然として困難である。
治療法として、分散コンピューティングは大規模GNNをトレーニングするための有望なソリューションとなる。
論文 参考訳(メタデータ) (2022-11-01T01:57:00Z) - Federated Graph Neural Networks: Overview, Techniques and Challenges [16.62839758251491]
グラフニューラルネットワーク(GNN)が注目されている。
社会がデータプライバシーに関心を持つようになるにつれ、GNNはこの新しい標準に適応する必要性に直面している。
このことが近年、フェデレートグラフニューラルネットワーク(FedGNN)の研究の急速な発展につながっている。
論文 参考訳(メタデータ) (2022-02-15T09:05:35Z) - Wide and Deep Graph Neural Network with Distributed Online Learning [174.8221510182559]
グラフニューラルネットワーク(GNN)は、ネットワークデータから表現を学習するための、自然に分散したアーキテクチャである。
オンライン学習は、この問題を克服するためにテスト時にGNNを再トレーニングするために利用することができる。
本稿では,分散オンライン学習機構で更新可能な新しいアーキテクチャであるWide and Deep GNN(WD-GNN)を開発する。
論文 参考訳(メタデータ) (2021-07-19T23:56:48Z) - SpreadGNN: Serverless Multi-task Federated Learning for Graph Neural
Networks [13.965982814292971]
グラフニューラルネットワーク(GNN)は、グラフ機械学習問題の第一選択方法である。
GNNトレーニングのための大量の実世界のグラフデータを集中させることは、ユーザ側のプライバシー上の懸念から禁じられている。
本研究では,新しいマルチタスク・フェデレーション・トレーニング・フレームワークであるSpreadGNNを提案する。
論文 参考訳(メタデータ) (2021-06-04T22:20:47Z) - A Unified Lottery Ticket Hypothesis for Graph Neural Networks [82.31087406264437]
本稿では,グラフ隣接行列とモデルの重み付けを同時に行う統一GNNスペーシフィケーション(UGS)フレームワークを提案する。
グラフ宝くじ(GLT)をコアサブデータセットとスパースサブネットワークのペアとして定義することにより、人気のある宝くじチケット仮説を初めてGNNsにさらに一般化します。
論文 参考訳(メタデータ) (2021-02-12T21:52:43Z) - Wide and Deep Graph Neural Networks with Distributed Online Learning [175.96910854433574]
グラフニューラルネットワーク(GNN)は、自然に分散したアーキテクチャでネットワークデータから表現を学習する。
オンライン学習は、テスト時にGNNを再トレーニングするために使用することができ、この問題を克服することができる。
本稿では,分散オンライン学習機構で容易に更新できる新しいアーキテクチャであるWide and Deep GNN(WD-GNN)を提案する。
論文 参考訳(メタデータ) (2020-06-11T12:48:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。