論文の概要: Modeling Inter-Intra Heterogeneity for Graph Federated Learning

• arxiv url: http://arxiv.org/abs/2412.11402v1
• Date: Mon, 16 Dec 2024 03:02:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-17 13:55:58.810360
• Title: Modeling Inter-Intra Heterogeneity for Graph Federated Learning
• Title（参考訳）: グラフフェデレーション学習のためのイントラ不均一性のモデル化
• Authors: Wentao Yu, Shuo Chen, Yongxin Tong, Tianlong Gu, Chen Gong,
• Abstract要約: We propose a novel Federated learning method by integrally modeling the Inter-Intra Heterogeneity (FedIIH)。 本稿では, サブグラフ間の関係について, 階層的変動モデルを提案し, サブグラフデータの分布全体を多段階的に推定する。 我々のFedIIHは、部分グラフ間の分布類似性を適切に計算するだけでなく、部分グラフ内の無関係な要因に対して頑健な非絡み合った表現も学習する。
• 参考スコア（独自算出の注目度）: 24.09393705700098
• License:
• Abstract: Heterogeneity is a fundamental and challenging issue in federated learning, especially for the graph data due to the complex relationships among the graph nodes. To deal with the heterogeneity, lots of existing methods perform the weighted federation based on their calculated similarities between pairwise clients (i.e., subgraphs). However, their inter-subgraph similarities estimated with the outputs of local models are less reliable, because the final outputs of local models may not comprehensively represent the real distribution of subgraph data. In addition, they ignore the critical intra-heterogeneity which usually exists within each subgraph itself. To address these issues, we propose a novel Federated learning method by integrally modeling the Inter-Intra Heterogeneity (FedIIH). For the inter-subgraph relationship, we propose a novel hierarchical variational model to infer the whole distribution of subgraph data in a multi-level form, so that we can accurately characterize the inter-subgraph similarities with the global perspective. For the intra-heterogeneity, we disentangle the subgraph into multiple latent factors and partition the model parameters into multiple parts, where each part corresponds to a single latent factor. Our FedIIH not only properly computes the distribution similarities between subgraphs, but also learns disentangled representations that are robust to irrelevant factors within subgraphs, so that it successfully considers the inter- and intra- heterogeneity simultaneously. Extensive experiments on six homophilic and five heterophilic graph datasets in both non-overlapping and overlapping settings demonstrate the effectiveness of our method when compared with nine state-of-the-art methods. Specifically, FedIIH averagely outperforms the second-best method by a large margin of 5.79% on all heterophilic datasets.
• Abstract（参考訳）: 不均一性は、特にグラフノード間の複雑な関係のため、グラフデータにおいて、フェデレートドラーニングの基本的な問題であり、難しい問題である。 不均一性に対処するために、既存の多くのメソッドは、計算されたペアワイズクライアント間の類似性(すなわち、サブグラフ)に基づいて重み付けされたフェデレーションを実行する。 しかし、局所モデルの出力と推定される部分グラフ間の類似性は、局所モデルの最終的な出力が部分グラフデータの実際の分布を包括的に表さないため、信頼性が低い。 さらに、彼らは、通常、各部分グラフ自体の中に存在する批判的な内部不均一性を無視している。 これらの課題に対処するために,FedIIH (Inter-Intra Heterogeneity) を統合的にモデル化した新しいフェデレーション学習手法を提案する。 本研究では, サブグラフ間関係において, サブグラフ間の類似性を大局的な視点で正確に特徴付けるために, サブグラフデータの分布全体を多層的に推定する階層的変動モデルを提案する。 ヘテロジニティ(heterogeneity)では、サブグラフを複数の潜在因子に分解し、モデルパラメータを複数の部分に分割する。 我々のFedIIHは、サブグラフ間の分布類似性を適切に計算するだけでなく、サブグラフ内の無関係な要因に頑健な非絡み合った表現も学習し、同時にインター・イン・ヘテロジニティ(英語版)とイントラ・ヘテロジニティ(英語版)を考察する。 非重重重な設定と重なり合う設定における6つのホモ親和性グラフと5つのヘテロ親和性グラフデータセットの大規模な実験は、9つの最先端手法と比較して、我々の手法の有効性を実証している。 特に、FedIIHは、ヘテロ親水性データセットの5.79%という大きなマージンで、第2のベストメソッドを平均的に上回っている。

関連論文リスト

• Heterogeneous Sheaf Neural Networks [17.664754528494132]
  不均一グラフは、多くの実世界の応用における関係構造をモデル化するために一般的に用いられる。 グラフの基盤となるトポロジにおける不均一性をモデル化するために,細胞シーブを用いることを提案する。 HetSheafは、ヘテロジニアス層ニューラルネットワークの一般的なフレームワークであり、ヘテロジニアス層予測器のシリーズを紹介する。
  論文  参考訳（メタデータ） (2024-09-12T13:38:08Z)
• The Heterophilic Graph Learning Handbook: Benchmarks, Models, Theoretical Analysis, Applications and Challenges [101.83124435649358]
  ホモフィリ原理では、同じラベルや類似属性を持つieノードが接続される可能性が高い。 最近の研究で、GNNのパフォーマンスとNNのパフォーマンスが満足できない非自明なデータセットが特定されている。
  論文  参考訳（メタデータ） (2024-07-12T18:04:32Z)
• Disentangled Hyperbolic Representation Learning for Heterogeneous Graphs [29.065531121422204]
  本稿では,分散ハイパーボリックなヘテロジニアスグラフ畳み込みネットワークである$textDis-H2textGCN$を提案する。 提案した$textDis-H2textGCN$を実世界の5つの異種グラフデータセット上で評価した。
  論文  参考訳（メタデータ） (2024-06-14T18:50:47Z)
• Generation is better than Modification: Combating High Class Homophily Variance in Graph Anomaly Detection [51.11833609431406]
  異なるクラス間のホモフィリー分布の差は、ホモフィリックグラフやヘテロフィリックグラフよりも著しく大きい。 我々は、この現象を定量的に記述した、クラスホモフィリーバリアンスと呼ばれる新しい計量を導入する。 その影響を軽減するために,ホモフィリーエッジ生成グラフニューラルネットワーク(HedGe)と呼ばれる新しいGNNモデルを提案する。
  論文  参考訳（メタデータ） (2024-03-15T14:26:53Z)
• Provable Filter for Real-world Graph Clustering [11.7278692671308]
  実用的なグラフを扱うための原則的な方法が緊急に必要である。 我々は、それぞれ高度にホモ親和性とヘテロ親和性を持つ2つのグラフを構築する。 我々は、ホモフィルグラフとヘテロフィルグラフの両方に関する広範な実験を通して、我々のアプローチを検証する。
  論文  参考訳（メタデータ） (2024-03-06T12:37:49Z)
• Graph Out-of-Distribution Generalization with Controllable Data Augmentation [51.17476258673232]
  グラフニューラルネットワーク(GNN)は,グラフ特性の分類において異常な性能を示した。 トレーニングとテストデータの選択バイアスが原因で、分散偏差が広まっています。 仮想サンプルの分布偏差を測定するためのOODキャリブレーションを提案する。
  論文  参考訳（メタデータ） (2023-08-16T13:10:27Z)
• Histopathology Whole Slide Image Analysis with Heterogeneous Graph Representation Learning [78.49090351193269]
  本稿では,WSI分析のために,異なる種類の核間の相互関係を利用する新しいグラフベースのフレームワークを提案する。 具体的には、WSI を各ノードに "nucleus-type" 属性と各エッジに類似した意味属性を持つ異種グラフとして定式化する。 我々のフレームワークは、様々なタスクに対してかなりのマージンで最先端の手法より優れています。
  論文  参考訳（メタデータ） (2023-07-09T14:43:40Z)
• Heterogeneous Graph Neural Networks using Self-supervised Reciprocally Contrastive Learning [102.9138736545956]
  不均一グラフニューラルネットワーク(HGNN)は異種グラフのモデリングと解析において非常に一般的な手法である。 我々は,ノード属性とグラフトポロジの各ガイダンスに関する2つの視点を取り入れた,新規で頑健なヘテロジニアスグラフコントラスト学習手法であるHGCLを初めて開発する。 この新しいアプローチでは,属性とトポロジに関連情報を別々にマイニングする手法として,異なるが最も適した属性とトポロジの融合機構を2つの視点に適用する。
  論文  参考訳（メタデータ） (2022-04-30T12:57:02Z)
• Homogeneous and Heterogeneous Relational Graph for Visible-infrared Person Re-identification [20.30508026932434]
  Visible-infrared person re-identification (VI Re-ID) は、可視光と赤外線のモダリティ間の人物像のマッチングを目的としている。 既存のVI Re-ID法は主に1つの画像から均一な構造関係を抽出することに焦点を当てている。 本稿では,モーダリティ固有のグラフを用いて,各モーダリティ内の同種構造関係をモデル化する。 次に、これらの2つのモジュラリティ固有グラフにおける不均一構造相関について検討する。
  論文  参考訳（メタデータ） (2021-09-18T02:51:16Z)
• Out-of-distribution Generalization via Partial Feature Decorrelation [72.96261704851683]
  本稿では,特徴分解ネットワークと対象画像分類モデルとを協調的に最適化する,PFDL(Partial Feature Deorrelation Learning)アルゴリズムを提案する。 実世界のデータセットを用いた実験により,OOD画像分類データセットにおけるバックボーンモデルの精度が向上することを示した。
  論文  参考訳（メタデータ） (2020-07-30T05:48:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。