論文の概要: Understanding Expressivity of GNN in Rule Learning

• arxiv url: http://arxiv.org/abs/2303.12306v2
• Date: Wed, 10 Apr 2024 02:32:52 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-11 19:55:03.952514
• Title: Understanding Expressivity of GNN in Rule Learning
• Title（参考訳）: ルール学習におけるGNNの表現性理解
• Authors: Haiquan Qiu, Yongqi Zhang, Yong Li, Quanming Yao,
• Abstract要約: ルール学習は知識グラフ(KG)推論を改善するために重要である。 テールエンティティスコアリングを持つGNNは、共通のフレームワークに統合される。 そこで我々は,KG推論におけるルールをより多く学習するための新しいラベリング戦略を提案する。
• 参考スコア（独自算出の注目度）: 36.04983130825589
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Rule learning is critical to improving knowledge graph (KG) reasoning due to their ability to provide logical and interpretable explanations. Recently, Graph Neural Networks (GNNs) with tail entity scoring achieve the state-of-the-art performance on KG reasoning. However, the theoretical understandings for these GNNs are either lacking or focusing on single-relational graphs, leaving what the kind of rules these GNNs can learn an open problem. We propose to fill the above gap in this paper. Specifically, GNNs with tail entity scoring are unified into a common framework. Then, we analyze their expressivity by formally describing the rule structures they can learn and theoretically demonstrating their superiority. These results further inspire us to propose a novel labeling strategy to learn more rules in KG reasoning. Experimental results are consistent with our theoretical findings and verify the effectiveness of our proposed method. The code is publicly available at https://github.com/LARS-research/Rule-learning-expressivity.
• Abstract（参考訳）: ルール学習は、論理的で解釈可能な説明を提供する能力のために知識グラフ(KG)推論を改善するために重要である。 近年、テールエンティティをスコアリングしたグラフニューラルネットワーク(GNN)は、KG推論における最先端のパフォーマンスを実現している。 しかしながら、これらのGNNの理論的理解は、単一関係グラフが欠如しているか、あるいは集中しているかのいずれかであり、これらのGNNがオープンな問題を学ぶことができるルールの種類を残している。 本稿では,上記のギャップを埋めることを提案する。 具体的には、テールエンティティスコアリングを持つGNNを共通のフレームワークに統合する。 そして,学習可能な規則構造を形式的に記述し,その優越性を理論的に示すことによって,その表現性を解析する。 これらの結果から,KG推論におけるルールをより多く学習するための新しいラベリング戦略の提案がもたらされた。 実験結果は理論的な結果と一致し,提案手法の有効性を検証した。 コードはhttps://github.com/LARS-research/Rule-learning- expressivityで公開されている。

関連論文リスト

• Systematic Reasoning About Relational Domains With Graph Neural Networks [17.49288661342947]
  グラフニューラルネットワーク(GNN)の使用が自然な選択のように思えるリレーショナルドメインの推論に焦点を当てる。 GNNによる推論に関する以前の研究は、トレーニング中に見られるものよりも長い推論チェーンを必要とするテスト例を提示すると、そのようなモデルは失敗する傾向があることを示している。 これは、GNNには、トレーニング例を体系的な方法で一般化する能力がないことを示唆している。
  論文  参考訳（メタデータ） (2024-07-24T16:17:15Z)
• On GNN explanability with activation rules [4.448117354676033]
  我々は,GNNが世界をどのように捉えているのかを理解するために,隠れた層にアクティベーションルールをマイニングすることを提案する。 我々は,各隠蔽層におけるアクティベーションルールを列挙する,効果的で原則化されたアルゴリズムを定義する。 活性化ルールはグラフを分類するためにGNNが使用する特徴について洞察を与える。
  論文  参考訳（メタデータ） (2024-06-17T14:42:59Z)
• ChatRule: Mining Logical Rules with Large Language Models for Knowledge Graph Reasoning [107.61997887260056]
  そこで我々は,知識グラフ上の論理ルールをマイニングするための大規模言語モデルの力を解き放つ新しいフレームワークChatRuleを提案する。 具体的には、このフレームワークは、KGのセマンティック情報と構造情報の両方を活用するLLMベースのルールジェネレータで開始される。 生成されたルールを洗練させるために、ルールランキングモジュールは、既存のKGから事実を取り入れてルール品質を推定する。
  論文  参考訳（メタデータ） (2023-09-04T11:38:02Z)
• Rethinking the Expressive Power of GNNs via Graph Biconnectivity [45.4674360883544]
  本稿では,グラフ双連結性による表現度指標の新たなクラスを導入し,理論と実践の両面での重要性を強調した。 我々は、GD-WL(Generalized Distance Weisfeiler-Lehman)と呼ばれる原理的で効率的なアプローチを導入する。 実際に,GD-WLをTransformerのようなアーキテクチャで実装し,完全な並列化性を保ち,実現可能であることを示す。
  論文  参考訳（メタデータ） (2023-01-23T15:58:59Z)
• RELIANT: Fair Knowledge Distillation for Graph Neural Networks [39.22568244059485]
  グラフニューラルネットワーク(GNN)は、様々なグラフ学習タスクのパフォーマンスを満足することを示した。 知識蒸留(KD)はGNNを圧縮する一般的な方法である。 本稿では,学生モデルが提示するバイアスを軽減するために,RELIANTという原理的枠組みを提案する。
  論文  参考訳（メタデータ） (2023-01-03T15:21:24Z)
• RulE: Knowledge Graph Reasoning with Rule Embedding [69.31451649090661]
  我々は、論理ルールを活用してKG推論を強化する、textbfRulE(ルール埋め込みのためのスタンド)と呼ばれる原則的なフレームワークを提案する。 RulEは、既存の三重項と一階規則からルールの埋め込みを学習し、統一された埋め込み空間において、textbfentities、textbfrelations、textbflogical rulesを共同で表現する。 複数のベンチマークの結果、我々のモデルは既存の埋め込みベースのアプローチやルールベースのアプローチよりも優れています。
  論文  参考訳（メタデータ） (2022-10-24T06:47:13Z)
• Jointly Attacking Graph Neural Network and its Explanations [50.231829335996814]
  グラフニューラルネットワーク(GNN)は多くのグラフ関連タスクのパフォーマンスを向上した。 近年の研究では、GNNは敵の攻撃に対して非常に脆弱であることが示されており、敵はグラフを変更することでGNNの予測を誤認することができる。 本稿では、GNNモデルとその説明の両方を同時に利用して攻撃できる新しい攻撃フレームワーク(GEAttack)を提案する。
  論文  参考訳（メタデータ） (2021-08-07T07:44:33Z)
• Optimization of Graph Neural Networks: Implicit Acceleration by Skip Connections and More Depth [57.10183643449905]
  グラフニューラルネットワーク(GNN)は表現力と一般化のレンズから研究されている。 GNNのダイナミクスを深部スキップ最適化により研究する。 本研究は,GNNの成功に対する最初の理論的支援を提供する。
  論文  参考訳（メタデータ） (2021-05-10T17:59:01Z)
• Theoretically Improving Graph Neural Networks via Anonymous Walk Graph Kernels [25.736529232578178]
  グラフニューラルネットワーク(GNN)は、グラフマイニングで大きな成功を収めました。 一般的なGNNとしてMPGNNは、多くのグラフのサブ構造を識別、検出、カウントできないことが理論的に示されている。 理論的にはグラフ構造を区別する能力の強いGNNモデルであるGSKNを提案する。
  論文  参考訳（メタデータ） (2021-04-07T08:50:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。