論文の概要: Homophily Heterogeneity Matters in Graph Federated Learning: A Spectrum Sharing and Complementing Perspective
- arxiv url: http://arxiv.org/abs/2502.13732v1
- Date: Wed, 19 Feb 2025 13:58:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-20 13:59:22.751913
- Title: Homophily Heterogeneity Matters in Graph Federated Learning: A Spectrum Sharing and Complementing Perspective
- Title(参考訳): グラフフェデレーション学習における均質な不均一性 : スペクトル共有と補足的視点
- Authors: Wentao Yu,
- Abstract要約: 我々は、スペクトルグラフニューラルネットワーク(GNN)を導入し、グラフスペクトル特性(FedGSP)をマイニングする新しいフェデレーション学習法を提案する。
一方、提案したFedGSPでは、クライアントが一般的なスペクトル特性を共有できるため、すべてのクライアントがコラボレーションを通じて利益を得ることができる。
一方、我々の理論的な知見に触発されて、提案したFedGSPは、クライアントが欠落するスペクトル特性を取得することで、非ジェネリックスペクトル特性を補完することを可能にする。
- 参考スコア(独自算出の注目度): 3.1700915949553843
- License:
- Abstract: Since heterogeneity presents a fundamental challenge in graph federated learning, many existing methods are proposed to deal with node feature heterogeneity and structure heterogeneity. However, they overlook the critical homophily heterogeneity, which refers to the substantial variation in homophily levels across graph data from different clients. The homophily level represents the proportion of edges connecting nodes that belong to the same class. Due to adapting to their local homophily, local models capture inconsistent spectral properties across different clients, significantly reducing the effectiveness of collaboration. Specifically, local models trained on graphs with high homophily tend to capture low-frequency information, whereas local models trained on graphs with low homophily tend to capture high-frequency information. To effectively deal with homophily heterophily, we introduce the spectral Graph Neural Network (GNN) and propose a novel Federated learning method by mining Graph Spectral Properties (FedGSP). On one hand, our proposed FedGSP enables clients to share generic spectral properties (i.e., low-frequency information), allowing all clients to benefit through collaboration. On the other hand, inspired by our theoretical findings, our proposed FedGSP allows clients to complement non-generic spectral properties by acquiring the spectral properties they lack (i.e., high-frequency information), thereby obtaining additional information gain. Extensive experiments conducted on six homophilic and five heterophilic graph datasets, across both non-overlapping and overlapping settings, validate the superiority of our method over eleven state-of-the-art methods. Notably, our FedGSP outperforms the second-best method by an average margin of 3.28% on all heterophilic datasets.
- Abstract(参考訳): 不均一性はグラフフェデレーション学習において根本的な課題となるため、ノードの特徴的不均一性と構造的不均一性を扱うために多くの既存手法が提案されている。
しかし、彼らは、異なるクライアントからのグラフデータ間でのホモフィリーレベルのかなりの変動を言及した臨界ホモフィリー不均一性を見落としている。
ホモフィリーレベルは、同じクラスに属するノードを接続するエッジの割合を表す。
局所的なホモフィリーに適応するため、局所モデルは異なるクライアント間で一貫性のないスペクトル特性をキャプチャし、コラボレーションの有効性を著しく低下させる。
特に、高いホモフィリーを持つグラフで訓練された局所モデルは低周波情報をキャプチャする傾向にあるが、低いホモフィリーを持つグラフで訓練された局所モデルは高周波情報をキャプチャする傾向にある。
ホモフィリーなヘテロフィリーを効果的に扱うために、スペクトルグラフニューラルネットワーク(GNN)を導入し、グラフスペクトル特性(FedGSP)をマイニングする新しいフェデレート学習法を提案する。
一方、提案したFedGSPでは、クライアントが一般的なスペクトル特性(低周波情報)を共有できるため、すべてのクライアントがコラボレーションを通じて利益を得ることができる。
一方,我々の理論的知見に触発されて提案したFedGSPでは,クライアントが欠落するスペクトル特性(高周波情報)を取得し,付加的な情報取得を行うことで,非遺伝的スペクトル特性を補完することができる。
6つのホモ親和性グラフと5つのヘテロ親和性グラフデータセットを用いて、重なり合う設定と重なり合う設定において、我々の手法が11種類の最先端手法よりも優れていることを検証した。
特に、我々のFedGSPは、全てのヘテロ親和性データセットで平均3.28%のマージンで2番目に良い方法より優れています。
関連論文リスト
- Leveraging Invariant Principle for Heterophilic Graph Structure Distribution Shifts [42.77503881972965]
Heterophilic Graph Neural Networks (HGNN) は、グラフ上の半教師付き学習タスクに対して有望な結果を示している。
この構造差や分布シフトを扱うために、異種グラフ上の不変ノード表現を学習する方法は、まだ解明されていない。
異種情報を組み込んだ不変ノード表現を生成可能なフレームワークである textbfHEI を提案する。
論文 参考訳(メタデータ) (2024-08-18T14:10:34Z) - The Heterophilic Graph Learning Handbook: Benchmarks, Models, Theoretical Analysis, Applications and Challenges [101.83124435649358]
ホモフィリ原理では、同じラベルや類似属性を持つieノードが接続される可能性が高い。
最近の研究で、GNNのパフォーマンスとNNのパフォーマンスが満足できない非自明なデータセットが特定されている。
論文 参考訳(メタデータ) (2024-07-12T18:04:32Z) - Learn from Heterophily: Heterophilous Information-enhanced Graph Neural Network [4.078409998614025]
論理的に異なるラベルを持つノードは意味論的意味に基づいて接続される傾向があるが、グラフニューラルネットワーク(GNN)は、しばしば最適以下の性能を示す。
ヘテロフィリーに固有の意味情報をグラフ学習において効果的に活用できることを示す。
ノード分布を利用して異種情報を統合する新しいグラフ構造を構築する革新的な手法であるHiGNNを提案する。
論文 参考訳(メタデータ) (2024-03-26T03:29:42Z) - Graph Contrastive Learning under Heterophily via Graph Filters [51.46061703680498]
グラフコントラスト学習(CL)法は,GNNエンコーダを用いて得られる拡張ノード表現の類似性を最大化することにより,ノード表現を自己指導的に学習する。
本研究では,ヘテロフィリー下でのグラフ表現学習に有効なグラフCL法であるHLCLを提案する。
我々の広範な実験により、HLCLはヘテロフィリーのベンチマークデータセットや大規模実世界のグラフで最先端のグラフCL法を最大7%上回り、ヘテロフィリーのデータセットでグラフ教師あり学習法を最大10%上回ります。
論文 参考訳(メタデータ) (2023-03-11T08:32:39Z) - Heterophily-Aware Graph Attention Network [42.640057865981156]
グラフニューラルネットワーク(GNN)はグラフ表現学習において顕著な成功を収めている。
既存のヘテロフィル性GNNは、各エッジのヘテロフィリのモデリングを無視する傾向にあり、これはヘテロフィリ問題に取り組む上でも不可欠である。
本稿では,局所分布を基礎となるヘテロフィリーとして完全に探索し,活用することで,新たなヘテロフィア対応グラフ注意ネットワーク(HA-GAT)を提案する。
論文 参考訳(メタデータ) (2023-02-07T03:21:55Z) - Single-Pass Contrastive Learning Can Work for Both Homophilic and
Heterophilic Graph [60.28340453547902]
グラフコントラッシブ・ラーニング(GCL)技術は通常、コントラッシブ・ロスを構築するために単一のインスタンスに対して2つのフォワードパスを必要とする。
既存のGCLアプローチは、強力なパフォーマンス保証を提供していない。
我々はSingle-Pass Graph Contrastive Learning法(SP-GCL)を実装した。
経験的に、SP-GCLが学んだ機能は、計算オーバーヘッドを著しく少なくして、既存の強いベースラインにマッチまたは性能を向上することができる。
論文 参考訳(メタデータ) (2022-11-20T07:18:56Z) - RAW-GNN: RAndom Walk Aggregation based Graph Neural Network [48.139599737263445]
本稿では,新しいアグリゲーション機構を導入し,RAndom Walk Aggregation-based Graph Neural Network(RAW-GNN)法を提案する。
提案手法は,広義のランダムウォークサーチを用いて,ホモフィリー情報と深さ優先の探索を行い,ヘテロフィリー情報を収集する。
従来の地区をパスベースの地区に置き換え、リカレントニューラルネットワークに基づく新しい経路ベースのアグリゲータを導入する。
論文 参考訳(メタデータ) (2022-06-28T12:19:01Z) - Heterogeneous Graph Neural Networks using Self-supervised Reciprocally
Contrastive Learning [102.9138736545956]
不均一グラフニューラルネットワーク(HGNN)は異種グラフのモデリングと解析において非常に一般的な手法である。
我々は,ノード属性とグラフトポロジの各ガイダンスに関する2つの視点を取り入れた,新規で頑健なヘテロジニアスグラフコントラスト学習手法であるHGCLを初めて開発する。
この新しいアプローチでは,属性とトポロジに関連情報を別々にマイニングする手法として,異なるが最も適した属性とトポロジの融合機構を2つの視点に適用する。
論文 参考訳(メタデータ) (2022-04-30T12:57:02Z) - Powerful Graph Convolutioal Networks with Adaptive Propagation Mechanism
for Homophily and Heterophily [38.50800951799888]
グラフ畳み込みネットワーク(GCN)は、グラフ構造化データ処理において大きな影響力を持つため、様々な分野に広く応用されている。
既存の方法は、主に高次近傍を集約したり、即時表現を結合することでヘテロフィリーを扱う。
本稿では, ホモフィリーやヘテロフィリーに応じて自動的に伝播・凝集過程を変更できる新しい伝播機構を提案する。
論文 参考訳(メタデータ) (2021-12-27T08:19:23Z) - Heterogeneous Graph Transformer [49.675064816860505]
Webスケールの不均一グラフモデリングのための不均一グラフ変換器(HGT)アーキテクチャ
動的ヘテロジニアスグラフを扱うために、HGTに相対時間符号化手法を導入する。
Web スケールのグラフデータを扱うため,ヘテロジニアスなミニバッチグラフサンプリングアルゴリズム--HGSampling--を設計し,効率的かつスケーラブルなトレーニングを行う。
論文 参考訳(メタデータ) (2020-03-03T04:49:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。