論文の概要: Hyperbolic Curvature Graph Neural Network

• arxiv url: http://arxiv.org/abs/2212.01793v1
• Date: Sun, 4 Dec 2022 10:45:42 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-06 15:49:07.116524
• Title: Hyperbolic Curvature Graph Neural Network
• Title（参考訳）: 双曲曲線グラフニューラルネットワーク
• Authors: Menglin Yang, Min Zhou, Lujia Pan, Irwin King
• Abstract要約: 本稿では,グラフトポロジーの局所離散曲率と埋め込み空間の連続的大域的曲率の性質について検討する。 離散曲率を用いたハイパーボリック曲率対応グラフニューラルネットワーク(HCGNN)を提案する。 特に、HCGNNは離散曲率を用いて周囲のメッセージパッシングを誘導し、連続曲率を適応的に調整する。
• 参考スコア（独自算出の注目度）: 39.25873010585029
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Hyperbolic space is emerging as a promising learning space for representation learning, owning to its exponential growth volume. Compared with the flat Euclidean space, the curved hyperbolic space is far more ambient and embeddable, particularly for datasets with implicit tree-like architectures, such as hierarchies and power-law distributions. On the other hand, the structure of a real-world network is usually intricate, with some regions being tree-like, some being flat, and others being circular. Directly embedding heterogeneous structural networks into a homogeneous embedding space unavoidably brings inductive biases and distortions. Inspiringly, the discrete curvature can well describe the local structure of a node and its surroundings, which motivates us to investigate the information conveyed by the network topology explicitly in improving geometric learning. To this end, we explore the properties of the local discrete curvature of graph topology and the continuous global curvature of embedding space. Besides, a Hyperbolic Curvature-aware Graph Neural Network, HCGNN, is further proposed. In particular, HCGNN utilizes the discrete curvature to lead message passing of the surroundings and adaptively adjust the continuous curvature simultaneously. Extensive experiments on node classification and link prediction tasks show that the proposed method outperforms various competitive models by a large margin in both high and low hyperbolic graph data. Case studies further illustrate the efficacy of discrete curvature in finding local clusters and alleviating the distortion caused by hyperbolic geometry.
• Abstract（参考訳）: ハイパーボリック・スペースは、指数関数的な成長量を持つ表現学習のための有望な学習空間として現れつつある。 平坦なユークリッド空間と比較すると、曲線双曲空間は、特に階層やパワーロー分布のような暗黙的な木のようなアーキテクチャを持つデータセットに対して、より環境的かつ埋め込み可能である。 一方、現実世界のネットワークの構造は通常複雑であり、一部は木のような構造で、一部は平らで、その他の部分は円形である。 ヘテロジニアス構造ネットワークを均質な埋め込み空間に直接埋め込むことは、誘導的バイアスと歪みをもたらす。 離散曲率ではノードとその周辺部の局所構造をよく記述することができ、ネットワークトポロジが明示的に伝達する情報を幾何学的学習を改善する動機付けている。 この目的のために、グラフトポロジーの局所離散曲率と埋め込み空間の連続的大域曲率の性質を考察する。 さらに,ハイパーボリック曲線対応グラフニューラルネットワーク HCGNN も提案されている。 特に、HCGNNは離散曲率を用いて周囲のメッセージパッシングを誘導し、連続曲率を適応的に調整する。 ノード分類とリンク予測タスクの広範囲な実験により,提案手法は高次グラフデータと低次グラフデータの両方において,大きなマージンで様々な競合モデルを上回る性能を示した。 ケーススタディはさらに、局所的なクラスターの発見と双曲幾何学による歪みの緩和における離散曲率の有効性を説明している。

関連論文リスト

• Topological Neural Networks: Mitigating the Bottlenecks of Graph Neural Networks via Higher-Order Interactions [1.994307489466967]
  この研究は、メッセージパッシングニューラルネットワークにおいて、ネットワークの幅、深さ、グラフトポロジがオーバーカッシング現象に与える影響を明らかにする理論的枠組みから始まる。 この研究は、トポロジカルニューラルネットワークを通して高次相互作用と多関係帰納バイアスへと流れていく。 グラフ注意ネットワークにインスパイアされた2つのトポロジカルアテンションネットワーク(Simplicial and Cell Attention Networks)が提案されている。
  論文  参考訳（メタデータ） (2024-02-10T08:26:06Z)
• Alignment and Outer Shell Isotropy for Hyperbolic Graph Contrastive Learning [69.6810940330906]
  高品質なグラフ埋め込みを学習するための新しいコントラスト学習フレームワークを提案する。 具体的には、階層的なデータ不変情報を効果的にキャプチャするアライメントメトリックを設計する。 双曲空間において、木の性質に関連する葉と高さの均一性に対処する必要があることを示す。
  論文  参考訳（メタデータ） (2023-10-27T15:31:42Z)
• Curve Your Attention: Mixed-Curvature Transformers for Graph Representation Learning [77.1421343649344]
  本稿では,一定曲率空間の積を完全に操作するトランスフォーマーの一般化を提案する。 また、非ユークリッド注意に対するカーネル化されたアプローチを提供し、ノード数とエッジ数に線形に時間とメモリコストでモデルを実行できるようにします。
  論文  参考訳（メタデータ） (2023-09-08T02:44:37Z)
• Geometry Interaction Knowledge Graph Embeddings [153.69745042757066]
  ユークリッド空間,双曲空間,超球空間間の空間構造を対話的に学習する幾何学的相互作用知識グラフ埋め込み(GIE)を提案する。 提案したGIEは、よりリッチなリレーショナル情報、モデルキー推論パターンをキャプチャし、エンティティ間の表現的セマンティックマッチングを可能にする。
  論文  参考訳（メタデータ） (2022-06-24T08:33:43Z)
• ACE-HGNN: Adaptive Curvature Exploration Hyperbolic Graph Neural Network [72.16255675586089]
  本稿では、入力グラフと下流タスクに基づいて最適な曲率を適応的に学習する適応曲率探索ハイパーボリックグラフニューラルネットワークACE-HGNNを提案する。 複数の実世界のグラフデータセットの実験は、競争性能と優れた一般化能力を備えたモデル品質において、顕著で一貫したパフォーマンス改善を示す。
  論文  参考訳（メタデータ） (2021-10-15T07:18:57Z)
• Unit Ball Model for Hierarchical Embeddings in Complex Hyperbolic Space [28.349200177632852]
  双曲空間における階層構造を持つデータの表現を学習することは近年注目を集めている。 複素双曲空間の単位球モデルにおいてグラフ埋め込みを学ぶことを提案する。
  論文  参考訳（メタデータ） (2021-05-09T16:09:54Z)
• Hyperbolic Neural Networks++ [66.16106727715061]
  ニューラルネットワークの基本成分を1つの双曲幾何モデル、すなわちポアンカーの球モデルで一般化する。 実験により, 従来の双曲成分と比較してパラメータ効率が優れ, ユークリッド成分よりも安定性と性能が優れていた。
  論文  参考訳（メタデータ） (2020-06-15T08:23:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。