論文の概要: SimCalib: Graph Neural Network Calibration based on Similarity between Nodes

• arxiv url: http://arxiv.org/abs/2312.11858v1
• Date: Tue, 19 Dec 2023 04:58:37 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-20 17:02:13.353665
• Title: SimCalib: Graph Neural Network Calibration based on Similarity between Nodes
• Title（参考訳）: SimCalib: ノード間の類似性に基づくグラフニューラルネットワークキャリブレーション
• Authors: Boshi Tang, Zhiyong Wu, Xixin Wu, Qiaochu Huang, Jun Chen, Shun Lei, Helen Meng
• Abstract要約: グラフニューラルネットワーク(GNN)は、さまざまなアプリケーションで実証されたグラフデータのモデリングにおいて、優れたパフォーマンスを示している。 理論解析により,GNNキャリブレーションとノードワイド類似性の関係について考察した。 SimCalibと名付けられた新しい校正フレームワークは、グローバルレベルとローカルレベルにおけるノード間の類似性を検討するために提案されている。
• 参考スコア（独自算出の注目度）: 60.92081159963772
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Graph neural networks (GNNs) have exhibited impressive performance in modeling graph data as exemplified in various applications. Recently, the GNN calibration problem has attracted increasing attention, especially in cost-sensitive scenarios. Previous work has gained empirical insights on the issue, and devised effective approaches for it, but theoretical supports still fall short. In this work, we shed light on the relationship between GNN calibration and nodewise similarity via theoretical analysis. A novel calibration framework, named SimCalib, is accordingly proposed to consider similarity between nodes at global and local levels. At the global level, the Mahalanobis distance between the current node and class prototypes is integrated to implicitly consider similarity between the current node and all nodes in the same class. At the local level, the similarity of node representation movement dynamics, quantified by nodewise homophily and relative degree, is considered. Informed about the application of nodewise movement patterns in analyzing nodewise behavior on the over-smoothing problem, we empirically present a possible relationship between over-smoothing and GNN calibration problem. Experimentally, we discover a correlation between nodewise similarity and model calibration improvement, in alignment with our theoretical results. Additionally, we conduct extensive experiments investigating different design factors and demonstrate the effectiveness of our proposed SimCalib framework for GNN calibration by achieving state-of-the-art performance on 14 out of 16 benchmarks.
• Abstract（参考訳）: グラフニューラルネットワーク(GNN)は、さまざまなアプリケーションで実証されたグラフデータのモデリングにおいて、優れたパフォーマンスを示している。 近年,特にコストに敏感なシナリオにおいて,GNNキャリブレーション問題に注目が集まっている。 以前の研究は、この問題に関する実証的な洞察を得て、それに対する効果的なアプローチを考案したが、理論的サポートはまだ不足している。 本稿では,gnnのキャリブレーションとノードワイズ類似性との関係を理論的解析により明らかにする。 SimCalibと名付けられた新しい校正フレームワークは、グローバルレベルとローカルレベルのノード間の類似性を検討するために提案されている。 グローバルレベルでは、現在のノードとクラスプロトタイプの間のマハラノビス距離が統合され、同じクラスの全てのノードと現在のノード間の類似性が暗黙的に考慮される。 局所レベルでは,ノード配置運動ダイナミクスの類似性は,ノードワイズホモフィリーと相対次数で定量化される。 オーバースムーシング問題におけるノードワイズ動作解析におけるノードワイズ移動パターンの適用について,オーバースムーシング問題とgnnキャリブレーション問題との関係を実証的に示す。 実験では,ノードワイズ類似度とモデルキャリブレーション改善の相関関係を理論的結果と一致させた。 さらに,様々な設計因子について広範な実験を行い,提案手法であるsimcalibフレームワークによるgnn校正の有効性を,16ベンチマーク中14ベンチマークで実証した。

関連論文リスト

• SmoothGNN: Smoothing-based GNN for Unsupervised Node Anomaly Detection [14.1365182085686]
  このスムーズな問題は、グラフ学習の分野で大きな課題となるノード表現を区別できないものにする。 異常なノードや通常のノードはスムースなプロセスで異なるパターンを示しており、ノード検出タスクの強化に利用することができる。 本稿では,Smoothing-aware Spectral Graph Neural Networkを導入し,グラフのスペクトル空間と平滑化プロセスとの接続を確立する。
  論文  参考訳（メタデータ） (2024-05-27T14:23:30Z)
• Neural Tangent Kernels Motivate Graph Neural Networks with Cross-Covariance Graphs [94.44374472696272]
  グラフニューラルネットワーク(GNN)の文脈におけるNTKとアライメントについて検討する。 その結果、2層GNNのアライメントの最適性に関する理論的保証が確立された。 これらの保証は、入力と出力データの相互共分散の関数であるグラフシフト演算子によって特徴づけられる。
  論文  参考訳（メタデータ） (2023-10-16T19:54:21Z)
• LSGNN: Towards General Graph Neural Network in Node Classification by Local Similarity [59.41119013018377]
  本稿では,ローカル類似性(LocalSim)を用いて,プラグイン・アンド・プレイモジュールとしても機能するノードレベルの重み付き融合を学習する。 そこで本研究では,より情報性の高いマルチホップ情報を抽出するための,新規かつ効率的な初期残留差分接続(IRDC)を提案する。 提案手法,すなわちローカル類似グラフニューラルネットワーク(LSGNN)は,ホモ親和性グラフとヘテロ親和性グラフの両方において,同等あるいは優れた最先端性能を提供できる。
  論文  参考訳（メタデータ） (2023-05-07T09:06:11Z)
• 2-hop Neighbor Class Similarity (2NCS): A graph structural metric indicative of graph neural network performance [4.051099980410583]
  グラフニューラルネットワーク(GNN)は、多数のドメインにわたるグラフ構造化データに対して最先端のパフォーマンスを実現する。 異なるタイプのノードが接続されるヘテロ親和性グラフでは、GNNは一貫して機能しない。 2-hop Neighbor Class similarity (2NCS) は、GNNのパフォーマンスと、他の指標よりも強く、一貫して相関する新しい定量的グラフ構造特性である。
  論文  参考訳（メタデータ） (2022-12-26T16:16:51Z)
• What Makes Graph Neural Networks Miscalibrated? [48.00374886504513]
  グラフニューラルネットワーク(GNN)の校正特性に関する系統的研究を行う。 我々は,GNNのキャリブレーションに影響を与える5つの要因を同定する: 一般信頼度傾向, ノード単位の予測分布の多様性, 訓練ノード間距離, 相対信頼度, 近傍類似度。 我々は,グラフニューラルネットワークのキャリブレーションに適した新しいキャリブレーション手法であるグラフアテンション温度スケーリング(GATS)を設計する。
  論文  参考訳（メタデータ） (2022-10-12T16:41:42Z)
• Graph Neural Networks with Feature and Structure Aware Random Walk [5.431036185361236]
  典型的な好適なグラフでは、エッジを指向する可能性があり、エッジをそのまま扱うか、あるいは単純に非指向にするかは、GNNモデルの性能に大きな影響を与える。 そこで我々は,グラフの方向性を適応的に学習するモデルを開発し,ノード間の長距離相関を生かした。
  論文  参考訳（メタデータ） (2021-11-19T08:54:21Z)
• Unifying Graph Convolutional Neural Networks and Label Propagation [73.82013612939507]
  LPAとGCNの関係を特徴・ラベルの平滑化と特徴・ラベルの影響の2点の観点から検討した。 理論解析に基づいて,ノード分類のためのGCNとLCAを統一するエンドツーエンドモデルを提案する。 我々のモデルは、既存の特徴に基づく注目モデルよりもタスク指向のノードラベルに基づく学習注意重みと見なすこともできる。
  論文  参考訳（メタデータ） (2020-02-17T03:23:13Z)
• Bilinear Graph Neural Network with Neighbor Interactions [106.80781016591577]
  グラフニューラルネットワーク(GNN)は,グラフデータ上で表現を学習し,予測を行う強力なモデルである。 本稿では,グラフ畳み込み演算子を提案し,隣接するノードの表現の対の相互作用で重み付け和を増大させる。 このフレームワークをBGNN(Bilinear Graph Neural Network)と呼び、隣ノード間の双方向相互作用によるGNN表現能力を向上させる。
  論文  参考訳（メタデータ） (2020-02-10T06:43:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。