論文の概要: GraphMoRE: Mitigating Topological Heterogeneity via Mixture of Riemannian Experts
- arxiv url: http://arxiv.org/abs/2412.11085v1
- Date: Sun, 15 Dec 2024 06:52:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-17 14:00:26.513201
- Title: GraphMoRE: Mitigating Topological Heterogeneity via Mixture of Riemannian Experts
- Title(参考訳): GraphMoRE: リーマンの専門家の混在によるトポロジカル不均質の緩和
- Authors: Zihao Guo, Qingyun Sun, Haonan Yuan, Xingcheng Fu, Min Zhou, Yisen Gao, Jianxin Li,
- Abstract要約: 実世界のグラフは本質的に複雑で多様なトポロジカルパターンを持ち、トポロジカル不均一性(topological heterogeneity)として知られている。
既存のほとんどの研究は、複雑な幾何学的形状と一致するには不十分な1つの定曲率空間でグラフ表現を学習し、結果として高い歪みを伴う低品質な埋め込みをもたらす。
- 参考スコア(独自算出の注目度): 13.701637246257707
- License:
- Abstract: Real-world graphs have inherently complex and diverse topological patterns, known as topological heterogeneity. Most existing works learn graph representation in a single constant curvature space that is insufficient to match the complex geometric shapes, resulting in low-quality embeddings with high distortion. This also constitutes a critical challenge for graph foundation models, which are expected to uniformly handle a wide variety of diverse graph data. Recent studies have indicated that product manifold gains the possibility to address topological heterogeneity. However, the product manifold is still homogeneous, which is inadequate and inflexible for representing the mixed heterogeneous topology. In this paper, we propose a novel Graph Mixture of Riemannian Experts (GraphMoRE) framework to effectively tackle topological heterogeneity by personalized fine-grained topology geometry pattern preservation. Specifically, to minimize the embedding distortion, we propose a topology-aware gating mechanism to select the optimal embedding space for each node. By fusing the outputs of diverse Riemannian experts with learned gating weights, we construct personalized mixed curvature spaces for nodes, effectively embedding the graph into a heterogeneous manifold with varying curvatures at different points. Furthermore, to fairly measure pairwise distances between different embedding spaces, we present a concise and effective alignment strategy. Extensive experiments on real-world and synthetic datasets demonstrate that our method achieves superior performance with lower distortion, highlighting its potential for modeling complex graphs with topological heterogeneity, and providing a novel architectural perspective for graph foundation models.
- Abstract(参考訳): 実世界のグラフは本質的に複雑で多様なトポロジカルパターンを持ち、トポロジカル不均一性(topological heterogeneity)として知られている。
既存のほとんどの研究は、複雑な幾何学的形状と一致するには不十分な1つの定曲率空間でグラフ表現を学習し、結果として高い歪みを伴う低品質な埋め込みをもたらす。
これはまた、多種多様なグラフデータを均一に扱うことが期待されているグラフ基盤モデルにとって重要な課題である。
近年の研究により、積多様体は位相的不均一性に対処できる可能性が示唆されている。
しかし、積多様体はいまだ均質であり、混合ヘテロジニアス位相を表現するには不適切で柔軟性がない。
本稿では,個人化された微粒なトポロジパターンの保存により,トポロジ的不均一性に効果的に取り組むために,リーマン専門家のグラフ混合(Graph Mixture of Riemannian Experts, GraphMoRE)フレームワークを提案する。
具体的には、埋め込み歪みを最小限に抑えるため、各ノードに対して最適な埋め込み空間を選択するトポロジ対応ゲーティング機構を提案する。
学習したゲーティング重みを持つ様々なリーマンの専門家の出力を融合させることで、ノードに対してパーソナライズされた混合曲率空間を構築し、グラフを異なる点で異なる曲率を持つ異質多様体に効果的に埋め込む。
さらに,異なる埋め込み空間間の対距離を適切に測定するために,簡潔かつ効果的なアライメント戦略を提案する。
実世界のデータセットと合成データセットの大規模な実験により,本手法は歪みを小さくして優れた性能を実現し,トポロジ的不均一性を持つ複素グラフのモデル化の可能性を強調し,グラフ基盤モデルに新たなアーキテクチャ的視点を提供する。
関連論文リスト
- Multi-Hyperbolic Space-based Heterogeneous Graph Attention Network [5.816451272912859]
ヘテロジニアスグラフ内の多様なパワーロー構造を捉えるために,マルチハイパーボリック空間に基づくヘテロジニアスグラフアテンションネットワーク(MSGAT)を提案する。
MSGATは、さまざまなグラフ機械学習タスクにおいて最先端のベースラインを上回っている。
論文 参考訳(メタデータ) (2024-11-18T04:55:26Z) - Hyperbolic Heterogeneous Graph Attention Networks [3.0165549581582454]
以前の不均一グラフ埋め込みモデルは、低次元ユークリッド空間におけるベクトル表現として不均一グラフの要素を表す。
メタパスインスタンスを用いた双曲空間におけるベクトル表現を学習するハイパーボリック不均一グラフ注意ネットワーク(HHGAT)を提案する。
本研究では,HHGATがノード分類やクラスタリングタスクにおいて,最先端のヘテロジニアスグラフ埋め込みモデルより優れていることを示す3つの実世界のヘテロジニアスグラフデータセットの実験を行った。
論文 参考訳(メタデータ) (2024-04-15T04:45:49Z) - Improving embedding of graphs with missing data by soft manifolds [51.425411400683565]
グラフ埋め込みの信頼性は、連続空間の幾何がグラフ構造とどの程度一致しているかに依存する。
我々は、この問題を解決することができる、ソフト多様体と呼ばれる新しい多様体のクラスを導入する。
グラフ埋め込みにソフト多様体を用いることで、複雑なデータセット上のデータ解析における任意のタスクを追求するための連続空間を提供できる。
論文 参考訳(メタデータ) (2023-11-29T12:48:33Z) - Contrastive Graph Clustering in Curvature Spaces [74.03252813800334]
本研究では,CONGREGATE という新しいグラフクラスタリングモデルを提案する。
幾何学的クラスタリングを支援するため、理論的に基底とした不均一曲率空間を構築した。
次に、拡張不要な再重み付きコントラスト的アプローチでグラフクラスタをトレーニングする。
論文 参考訳(メタデータ) (2023-05-05T14:04:52Z) - FMGNN: Fused Manifold Graph Neural Network [102.61136611255593]
グラフ表現学習は、様々なグラフタスクにおいて広く研究され、効果が実証されている。
本稿では,異なるマニフォールドにグラフを埋め込む新しいGNNアーキテクチャであるFused Manifold Graph Neural Network (NN)を提案する。
提案実験により,NNはノード分類およびリンク予測タスクのベンチマークにおいて,強いベースラインよりも優れた性能が得られることを示した。
論文 参考訳(メタデータ) (2023-04-03T15:38:53Z) - Geometry Contrastive Learning on Heterogeneous Graphs [50.58523799455101]
本稿では,幾何学コントラスト学習(Geometry Contrastive Learning, GCL)と呼ばれる,新しい自己指導型学習手法を提案する。
GCLはユークリッドと双曲的な視点からヘテロジニアスグラフを同時に見ることができ、リッチな意味論と複雑な構造をモデル化する能力の強い融合を目指している。
4つのベンチマークデータセットの大規模な実験は、提案手法が強いベースラインよりも優れていることを示している。
論文 参考訳(メタデータ) (2022-06-25T03:54:53Z) - Heterogeneous Graph Neural Networks using Self-supervised Reciprocally
Contrastive Learning [102.9138736545956]
不均一グラフニューラルネットワーク(HGNN)は異種グラフのモデリングと解析において非常に一般的な手法である。
我々は,ノード属性とグラフトポロジの各ガイダンスに関する2つの視点を取り入れた,新規で頑健なヘテロジニアスグラフコントラスト学習手法であるHGCLを初めて開発する。
この新しいアプローチでは,属性とトポロジに関連情報を別々にマイニングする手法として,異なるが最も適した属性とトポロジの融合機構を2つの視点に適用する。
論文 参考訳(メタデータ) (2022-04-30T12:57:02Z) - Curvature Graph Generative Adversarial Networks [31.763904668737304]
GAN(Generative Adversarial Network)は,グラフデータの一般化と堅牢な学習に広く利用されている。
既存のGANグラフ表現法は、離散空間におけるランダムウォークやトラバースによって負のサンプルを生成する。
CurvGANは、複数のタスクにまたがる最先端のメソッドよりも一貫して、大幅に優れています。
論文 参考訳(メタデータ) (2022-03-03T10:00:32Z) - Heterogeneous manifolds for curvature-aware graph embedding [6.3351090376024155]
グラフ埋め込みは、広範囲のGraph MLアプリケーションで使用されている。
そのような埋め込みの質は、空間の幾何学がグラフの幾何学と一致するかどうかに決定的に依存する。
論文 参考訳(メタデータ) (2022-02-02T18:18:35Z) - Dist2Cycle: A Simplicial Neural Network for Homology Localization [66.15805004725809]
単純複体は多方向順序関係を明示的にエンコードするグラフの高次元一般化と見なすことができる。
単体錯体の$k$-homological特徴によってパラメータ化された関数のグラフ畳み込みモデルを提案する。
論文 参考訳(メタデータ) (2021-10-28T14:59:41Z) - Hybrid Micro/Macro Level Convolution for Heterogeneous Graph Learning [45.14314180743549]
不均一グラフは、各グラフが複数の種類のノードとエッジから構成される現実的なシナリオで広く普及する。
既存のグラフ畳み込みアプローチのほとんどは均質グラフ用に設計されており、したがって異種グラフを扱うことはできない。
ヘテロジニアスグラフ上の包括的ノード表現を学習するための新しいヘテロジニアスグラフ畳み込み手法であるHGConvを提案する。
論文 参考訳(メタデータ) (2020-12-29T12:12:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。