論文の概要: ClassContrast: Bridging the Spatial and Contextual Gaps for Node Representations
- arxiv url: http://arxiv.org/abs/2410.02158v1
- Date: Thu, 3 Oct 2024 02:44:13 GMT
- ステータス: 処理完了
- システム内更新日: 2024-11-04 08:25:54.880165
- Title: ClassContrast: Bridging the Spatial and Contextual Gaps for Node Representations
- Title（参考訳）: ClassContrast: ノード表現のための空間ギャップとコンテキストギャップをブリッジする
- Authors: Md Joshem Uddin, Astrit Tola, Varin Sikand, Cuneyt Gurcan Akcora, Baris Coskunuzer,
- Abstract要約: グラフニューラルネットワーク(GNN)は、近隣のアグリゲーションスキームを利用してグラフ表現学習の領域に革命をもたらした。
MPGNNは、過密、過密、過密といった重大な問題に直面しており、その効果を妨げている。
本稿では,これらの制約を克服するために,エネルギー景観理論に基づく新しい手法であるクラスコントラストを提案する。
- 参考スコア（独自算出の注目度）: 7.083346385003788
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph Neural Networks (GNNs) have revolutionized the domain of graph representation learning by utilizing neighborhood aggregation schemes in many popular architectures, such as message passing graph neural networks (MPGNNs). This scheme involves iteratively calculating a node's representation vector by aggregating and transforming the representation vectors of its adjacent nodes. Despite their effectiveness, MPGNNs face significant issues, such as oversquashing, oversmoothing, and underreaching, which hamper their effectiveness. Additionally, the reliance of MPGNNs on the homophily assumption, where edges typically connect nodes with similar labels and features, limits their performance in heterophilic contexts, where connected nodes often have significant differences. This necessitates the development of models that can operate effectively in both homophilic and heterophilic settings. In this paper, we propose a novel approach, ClassContrast, grounded in Energy Landscape Theory from Chemical Physics, to overcome these limitations. ClassContrast combines spatial and contextual information, leveraging a physics-inspired energy landscape to model node embeddings that are both discriminative and robust across homophilic and heterophilic settings. Our approach introduces contrast-based homophily matrices to enhance the understanding of class interactions and tendencies. Through extensive experiments, we demonstrate that ClassContrast outperforms traditional GNNs in node classification and link prediction tasks, proving its effectiveness and versatility in diverse real-world scenarios.
- Abstract（参考訳）: グラフニューラルネットワーク(GNN)は、メッセージパッシンググラフニューラルネットワーク(MPGNN)など、多くの一般的なアーキテクチャにおける近傍アグリゲーションスキームを活用することで、グラフ表現学習の領域に革命をもたらした。
このスキームは、隣接するノードの表現ベクトルを集約し変換することで、ノードの表現ベクトルを反復的に計算する。
その効果にもかかわらず、MPGNNは過密、過密、過密といった重大な問題に直面しており、その効果を阻害している。
さらに、エッジがよく類似のラベルや特徴とノードを結び付けるホモフィリーな仮定にMPGNNが依存しているため、接続ノードが大きな違いを持つヘテロ親和性のあるコンテキストでは、そのパフォーマンスが制限される。
これは、ホモ親和性とヘテロ親和性の両方で効果的に動作するモデルの開発を必要とする。
本稿では,これらの制約を克服するために,エネルギー景観理論に基づくクラスコントラストを提案する。
クラスコントラストは空間的および文脈的な情報を組み合わせて、物理にインスパイアされたエネルギーの景観を利用して、ホモ親和性および異好性の両方で差別的かつ堅牢なノード埋め込みをモデル化する。
本手法では,クラス間の相互作用や傾向の理解を深めるために,コントラストに基づくホモフィリ行列を導入する。
大規模な実験を通じて、ClassContrastはノード分類やリンク予測タスクにおいて従来のGNNよりも優れており、様々な実世界のシナリオにおいてその有効性と汎用性を証明している。
関連論文リスト
- Clarify Confused Nodes via Separated Learning [4.282496716373314]
グラフニューラルネットワーク(GNN)は,グラフ指向タスクにおいて顕著な進歩を遂げている。
実世界のグラフは、必ずある種の不均一なノードを含み、伝統的なGNNのホモフィリーな仮定に挑戦する。
我々は,ノードのより信頼性の高い分離を容易にするため,Nighborhood Confusion(NC)と呼ばれる新しいメトリクスを提案する。
論文 参考訳（メタデータ） (2023-06-04T07:26:20Z) - LSGNN: Towards General Graph Neural Network in Node Classification by
Local Similarity [59.41119013018377]
本稿では,ローカル類似性(LocalSim)を用いて,プラグイン・アンド・プレイモジュールとしても機能するノードレベルの重み付き融合を学習する。
そこで本研究では,より情報性の高いマルチホップ情報を抽出するための,新規かつ効率的な初期残留差分接続(IRDC)を提案する。
提案手法,すなわちローカル類似グラフニューラルネットワーク(LSGNN)は,ホモ親和性グラフとヘテロ親和性グラフの両方において,同等あるいは優れた最先端性能を提供できる。
論文 参考訳（メタデータ） (2023-05-07T09:06:11Z) - An Exploration of Conditioning Methods in Graph Neural Networks [8.532288965425805]
物理や化学などの計算タスクでは、相対的な位置や距離といったエッジ属性の使用が不可欠であることが証明された。
弱い条件付け、強い条件付け、純粋な条件付けは、それぞれの属性に因果的に依存する結合ベースの条件付け、ゲーティング、変換に関連する。
この分類は、分離可能な畳み込みから様々な形式のメッセージパッシングネットワークまで、GNNの異なるクラスについて統一的な視点を提供する。
論文 参考訳（メタデータ） (2023-05-03T07:14:12Z) - Hierarchical Contrastive Learning Enhanced Heterogeneous Graph Neural
Network [59.860534520941485]
ヘテロジニアスグラフニューラルネットワーク(HGNN)は、異種情報ネットワーク(HIN)を扱う能力に優れていた。
近年,自己指導型学習は最もエキサイティングな学習パラダイムの1つとなり,ラベルがない場合に大きな可能性を示す。
本稿では,自己教師型HGNNの問題点を考察し,HGNNのための新しいコントラスト学習機構であるHeCoを提案する。
論文 参考訳（メタデータ） (2023-04-24T16:17:21Z) - Discovering the Representation Bottleneck of Graph Neural Networks from
Multi-order Interactions [51.597480162777074]
グラフニューラルネットワーク(GNN)は、ノード機能を伝搬し、インタラクションを構築するためにメッセージパッシングパラダイムに依存している。
最近の研究は、異なるグラフ学習タスクはノード間の異なる範囲の相互作用を必要とすることを指摘している。
科学領域における2つの共通グラフ構築法、すなわち、emphK-nearest neighbor(KNN)グラフとemphfully-connected(FC)グラフについて検討する。
論文 参考訳（メタデータ） (2022-05-15T11:38:14Z) - A Variational Edge Partition Model for Supervised Graph Representation
Learning [51.30365677476971]
本稿では,重なり合うノード群間の相互作用を集約することで,観測されたエッジがどのように生成されるかをモデル化するグラフ生成プロセスを提案する。
それぞれのエッジを複数のコミュニティ固有の重み付きエッジの和に分割し、コミュニティ固有のGNNを定義する。
エッジを異なるコミュニティに分割するGNNベースの推論ネットワーク,これらのコミュニティ固有のGNN,およびコミュニティ固有のGNNを最終分類タスクに組み合わせたGNNベースの予測器を共同で学習するために,変分推論フレームワークを提案する。
論文 参考訳（メタデータ） (2022-02-07T14:37:50Z) - Graph Neural Networks with Feature and Structure Aware Random Walk [7.143879014059894]
典型的な好適なグラフでは、エッジを指向する可能性があり、エッジをそのまま扱うか、あるいは単純に非指向にするかは、GNNモデルの性能に大きな影響を与える。
そこで我々は,グラフの方向性を適応的に学習するモデルを開発し,ノード間の長距離相関を生かした。
論文 参考訳（メタデータ） (2021-11-19T08:54:21Z) - Is Homophily a Necessity for Graph Neural Networks? [50.959340355849896]
グラフニューラルネットワーク(GNN)は、多数のグラフベースの機械学習タスクに適した学習表現において大きな進歩を見せている。
GNNはホモフィリーな仮定によりうまく機能し、異種ノードが接続する異種グラフへの一般化に失敗したと広く信じられている。
最近の研究は、このような不均一な制限を克服する新しいアーキテクチャを設計し、ベースライン性能の低さと、この概念の証拠として、いくつかの異種グラフベンチマークデータセットに対するアーキテクチャの改善を引用している。
我々の実験では、標準グラフ畳み込みネットワーク(GCN)が実際よりも優れた性能を実現できることを実証的に見出した。
論文 参考訳（メタデータ） (2021-06-11T02:44:00Z) - Uniting Heterogeneity, Inductiveness, and Efficiency for Graph
Representation Learning [68.97378785686723]
グラフニューラルネットワーク(GNN)は,グラフ上のノード表現学習の性能を大幅に向上させた。
GNNの過半数クラスは均質グラフのためにのみ設計されており、より有益な異種グラフに劣る適応性をもたらす。
本稿では,低次ノードと高次ノードの両方のエッジに付随するヘテロジニアスなノード特徴をパッケージ化する,新しい帰納的メタパスフリーメッセージパッシング方式を提案する。
論文 参考訳（メタデータ） (2021-04-04T23:31:39Z) - Graph Neural Networks with Heterophily [40.23690407583509]
我々は、ホモフィリーなグラフとヘテロフィリーなグラフのGNNを一般化するCPGNNと呼ばれる新しいフレームワークを提案する。
フレームワークの互換性行列を(純粋なホモフィリーを表す)同一性に置き換えると、GCNに還元されることを示す。
論文 参考訳（メタデータ） (2020-09-28T18:29:36Z) - Beyond Homophily in Graph Neural Networks: Current Limitations and
Effective Designs [28.77753005139331]
半教師付きノード分類タスクにおけるグラフニューラルネットワークのヘテロフィリーまたは低ホモフィリー下での表現力について検討する。
多くの人気のあるGNNは、この設定を一般化することができず、グラフ構造を無視したモデルよりも優れています。
ヘテロフィリーの下でのグラフ構造からの学習を促進する重要な設計の集合を同定する。
論文 参考訳（メタデータ） (2020-06-20T02:05:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。