論文の概要: Enhancing Knowledge Graph Completion with GNN Distillation and Probabilistic Interaction Modeling

• arxiv url: http://arxiv.org/abs/2505.12272v1
• Date: Sun, 18 May 2025 07:22:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-20 14:57:11.133336
• Title: Enhancing Knowledge Graph Completion with GNN Distillation and Probabilistic Interaction Modeling
• Title（参考訳）: GNN蒸留と確率的相互作用モデリングによる知識グラフ補完の強化
• Authors: Lingzhi Wang, Pengcheng Huang, Haotian Li, Yuliang Wei, Guodong Xin, Rui Zhang, Donglin Zhang, Zhenzhou Ji, Wei Wang,
• Abstract要約: 知識グラフは、様々な領域にまたがる相互接続データを整理するための基本的な構造として機能する。 ディープグラフニューラルネットワーク(GNN)は過度にスムースに苦しむ一方で、埋め込みベースのモデルは抽象的リレーショナルな特徴を捉えることができない。 本稿では,GNN蒸留と抽象確率的相互作用モデリング(APIM)を統合した統合フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 14.550518793230404
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Knowledge graphs (KGs) serve as fundamental structures for organizing interconnected data across diverse domains. However, most KGs remain incomplete, limiting their effectiveness in downstream applications. Knowledge graph completion (KGC) aims to address this issue by inferring missing links, but existing methods face critical challenges: deep graph neural networks (GNNs) suffer from over-smoothing, while embedding-based models fail to capture abstract relational features. This study aims to overcome these limitations by proposing a unified framework that integrates GNN distillation and abstract probabilistic interaction modeling (APIM). GNN distillation approach introduces an iterative message-feature filtering process to mitigate over-smoothing, preserving the discriminative power of node representations. APIM module complements this by learning structured, abstract interaction patterns through probabilistic signatures and transition matrices, allowing for a richer, more flexible representation of entity and relation interactions. We apply these methods to GNN-based models and the APIM to embedding-based KGC models, conducting extensive evaluations on the widely used WN18RR and FB15K-237 datasets. Our results demonstrate significant performance gains over baseline models, showcasing the effectiveness of the proposed techniques. The findings highlight the importance of both controlling information propagation and leveraging structured probabilistic modeling, offering new avenues for advancing knowledge graph completion. And our codes are available at https://anonymous.4open.science/r/APIM_and_GNN-Distillation-461C.
• Abstract（参考訳）: 知識グラフ(KG)は、様々な領域にまたがる相互接続データを整理するための基本的な構造として機能する。 しかしながら、ほとんどのKGは不完全であり、下流のアプリケーションでの有効性を制限している。 知識グラフ補完(KGC)は、リンク不足を推測することでこの問題に対処することを目的としているが、既存の手法では重要な課題に直面している。 本研究の目的は,GNN蒸留と抽象確率的相互作用モデリング(APIM)を統合した統合フレームワークを提案することである。 GNN蒸留法は, ノード表現の識別力を保ちながら, 過平滑化を緩和する反復的メッセージ機能フィルタリング法を導入する。 APIMモジュールは、確率的シグネチャと遷移行列を通じて構造化された抽象的な相互作用パターンを学習することでこれを補完し、エンティティとリレーショナルインタラクションのよりリッチで柔軟な表現を可能にします。 我々はこれらの手法をGNNベースのモデルとAPIMに埋め込みベースのKGCモデルに適用し、広く使われているWN18RRとFB15K-237データセットの広範な評価を行う。 本研究は,提案手法の有効性を示すとともに,ベースラインモデルよりも顕著な性能向上を示した。 この知見は,情報伝達の制御と構造化確率的モデリングの活用の重要性を強調し,知識グラフの完成に向けた新たな道筋を提供する。 私たちのコードはhttps://anonymous.4open.science/r/APIM_and_GNN-Distillation-461Cで公開されています。

関連論文リスト

• Large Language Model Enhancers for Graph Neural Networks: An Analysis from the Perspective of Causal Mechanism Identification [19.389891710579022]
  グラフニューラルネットワーク(GNN)の入力として使用されるノード表現を最適化する機能拡張器として,大規模言語モデル(LLM)を用いて検討する。 解析結果に基づいて,LLMエンハンサーとGNN間の情報伝達を改善するためのプラグアンドプレイ最適化モジュールを設計する。
  論文  参考訳（メタデータ） (2025-05-13T06:29:25Z)
• Deep Sparse Latent Feature Models for Knowledge Graph Completion [24.342670268545085]
  本稿では,知識グラフのためのスパース潜在特徴モデルの新たなフレームワークを提案する。 我々のアプローチは、欠落した三重項を効果的に完成するだけでなく、潜伏構造の明確な解釈可能性も提供する。 提案手法は,潜在コミュニティを明らかにし,解釈可能な表現を生成することにより,性能を著しく向上させる。
  論文  参考訳（メタデータ） (2024-11-24T03:17:37Z)
• Graph as a feature: improving node classification with non-neural graph-aware logistic regression [2.952177779219163]
  Graph-aware Logistic Regression (GLR) はノード分類タスク用に設計された非神経モデルである。 GNNにアクセスできる情報のごく一部しか使わない従来のグラフアルゴリズムとは異なり、提案モデルではノードの特徴とエンティティ間の関係を同時に活用する。
  論文  参考訳（メタデータ） (2024-11-19T08:32:14Z)
• DGNN: Decoupled Graph Neural Networks with Structural Consistency between Attribute and Graph Embedding Representations [62.04558318166396]
  グラフニューラルネットワーク(GNN)は、複雑な構造を持つグラフ上での表現学習の堅牢性を示す。 ノードのより包括的な埋め込み表現を得るために、Decoupled Graph Neural Networks (DGNN)と呼ばれる新しいGNNフレームワークが導入された。 複数のグラフベンチマークデータセットを用いて、ノード分類タスクにおけるDGNNの優位性を検証した。
  論文  参考訳（メタデータ） (2024-01-28T06:43:13Z)
• DEGREE: Decomposition Based Explanation For Graph Neural Networks [55.38873296761104]
  我々は,GNN予測に対する忠実な説明を提供するためにDGREEを提案する。 GNNの情報生成と集約機構を分解することにより、DECREEは入力グラフの特定のコンポーネントのコントリビューションを最終的な予測に追跡することができる。 また,従来の手法で見過ごされるグラフノード間の複雑な相互作用を明らかにするために,サブグラフレベルの解釈アルゴリズムを設計する。
  論文  参考訳（メタデータ） (2023-05-22T10:29:52Z)
• Relation Embedding based Graph Neural Networks for Handling Heterogeneous Graph [58.99478502486377]
  我々は、同種GNNが不均一グラフを扱うのに十分な能力を持つように、シンプルで効率的なフレームワークを提案する。 具体的には、エッジ型関係と自己ループ接続の重要性を埋め込むために、関係1つのパラメータのみを使用する関係埋め込みベースのグラフニューラルネットワーク(RE-GNN)を提案する。
  論文  参考訳（メタデータ） (2022-09-23T05:24:18Z)
• EIGNN: Efficient Infinite-Depth Graph Neural Networks [51.97361378423152]
  グラフニューラルネットワーク(GNN)は多くのアプリケーションでグラフ構造化データのモデリングに広く利用されている。 この制限により、無限深度GNNモデルを提案し、これをEIGNN(Efficient Infinite-Depth Graph Neural Networks)と呼ぶ。 EIGNNは、最近のベースラインよりも長距離依存関係をキャプチャする能力が優れており、常に最先端のパフォーマンスを実現していることを示す。
  論文  参考訳（メタデータ） (2022-02-22T08:16:58Z)
• Learning Intents behind Interactions with Knowledge Graph for Recommendation [93.08709357435991]
  知識グラフ(KG)は、推薦システムにおいてますます重要な役割を果たす。 既存のGNNベースのモデルは、きめ細かいインテントレベルでのユーザ項目関係の特定に失敗します。 本稿では,新しいモデルである知識グラフベースインテントネットワーク(kgin)を提案する。
  論文  参考訳（メタデータ） (2021-02-14T03:21:36Z)
• Amortized Probabilistic Detection of Communities in Graphs [39.56798207634738]
  そこで我々は,アモータイズされたコミュニティ検出のためのシンプルなフレームワークを提案する。 我々はGNNの表現力と最近のアモータイズクラスタリングの手法を組み合わせる。 我々は、合成および実データセットに関するフレームワークから、いくつかのモデルを評価する。
  論文  参考訳（メタデータ） (2020-10-29T16:18:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。