論文の概要: Logical Expressiveness of Graph Neural Network for Knowledge Graph
Reasoning
- arxiv url: http://arxiv.org/abs/2303.12306v1
- Date: Wed, 22 Mar 2023 04:49:00 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-23 15:19:43.243766
- Title: Logical Expressiveness of Graph Neural Network for Knowledge Graph
Reasoning
- Title(参考訳): 知識グラフ推論のためのグラフニューラルネットワークの論理表現性
- Authors: Haiquan Qiu, Yongqi Zhang, Yong Li, Quanming Yao
- Abstract要約: 知識グラフ(KG)から学ぶために,グラフニューラルネットワーク(GNN)が最近導入された。
理論的には、GNNを論理表現性から分析し、KGからどのような論理規則を捉えることができるかを明らかにする。
この結果から,GNN の論理的規則を段階的モーダル論理から抽出し,KG 推論における GNN の表現性を解析するための理論的ツールが得られた。
- 参考スコア(独自算出の注目度): 39.808861613284996
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph Neural Networks (GNNs) have been recently introduced to learn from
knowledge graph (KG) and achieved state-of-the-art performance in KG reasoning.
However, a theoretical certification for their good empirical performance is
still absent. Besides, while logic in KG is important for inductive and
interpretable inference, existing GNN-based methods are just designed to fit
data distributions with limited knowledge of their logical expressiveness. We
propose to fill the above gap in this paper. Specifically, we theoretically
analyze GNN from logical expressiveness and find out what kind of logical rules
can be captured from KG. Our results first show that GNN can capture logical
rules from graded modal logic, providing a new theoretical tool for analyzing
the expressiveness of GNN for KG reasoning; and a query labeling trick makes it
easier for GNN to capture logical rules, explaining why SOTA methods are mainly
based on labeling trick. Finally, insights from our theory motivate the
development of an entity labeling method for capturing difficult logical rules.
Experimental results are consistent with our theoretical results and verify the
effectiveness of our proposed method.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)は、知識グラフ(KG)から学習するために最近導入され、KG推論における最先端のパフォーマンスを達成した。
しかし、その優れた経験的業績に対する理論的証明はいまだ欠落している。
さらに、KGの論理は帰納的かつ解釈可能な推論において重要であるが、既存のGNNベースの手法は、論理表現性の限られた知識でデータ分布に適合するように設計されている。
本稿では,上記のギャップを埋めることを提案する。
具体的には、理論的にGNNを論理表現性から分析し、KGからどのような論理規則を捕捉できるかを明らかにする。
この結果から,GNN の論理的ルールを段階的モーダル論理から抽出し,KG 推論のための GNN の表現性を解析するための新たな理論ツールを提供すること,およびクエリラベリングトリックにより GNN が論理的ルールを捕捉しやすくし,なぜ SOTA 手法が主にラベリング手法に基づいているのかを説明する。
最後に、我々の理論からの洞察は、難しい論理規則をキャプチャするエンティティラベリングメソッドの開発を動機付ける。
実験結果は理論的結果と一致し,提案手法の有効性を検証した。
関連論文リスト
- Systematic Reasoning About Relational Domains With Graph Neural Networks [17.49288661342947]
グラフニューラルネットワーク(GNN)の使用が自然な選択のように思えるリレーショナルドメインの推論に焦点を当てる。
GNNによる推論に関する以前の研究は、トレーニング中に見られるものよりも長い推論チェーンを必要とするテスト例を提示すると、そのようなモデルは失敗する傾向があることを示している。
これは、GNNには、トレーニング例を体系的な方法で一般化する能力がないことを示唆している。
論文 参考訳(メタデータ) (2024-07-24T16:17:15Z) - On GNN explanability with activation rules [4.448117354676033]
我々は,GNNが世界をどのように捉えているのかを理解するために,隠れた層にアクティベーションルールをマイニングすることを提案する。
我々は,各隠蔽層におけるアクティベーションルールを列挙する,効果的で原則化されたアルゴリズムを定義する。
活性化ルールはグラフを分類するためにGNNが使用する特徴について洞察を与える。
論文 参考訳(メタデータ) (2024-06-17T14:42:59Z) - ChatRule: Mining Logical Rules with Large Language Models for Knowledge
Graph Reasoning [107.61997887260056]
そこで我々は,知識グラフ上の論理ルールをマイニングするための大規模言語モデルの力を解き放つ新しいフレームワークChatRuleを提案する。
具体的には、このフレームワークは、KGのセマンティック情報と構造情報の両方を活用するLLMベースのルールジェネレータで開始される。
生成されたルールを洗練させるために、ルールランキングモジュールは、既存のKGから事実を取り入れてルール品質を推定する。
論文 参考訳(メタデータ) (2023-09-04T11:38:02Z) - Rethinking the Expressive Power of GNNs via Graph Biconnectivity [45.4674360883544]
本稿では,グラフ双連結性による表現度指標の新たなクラスを導入し,理論と実践の両面での重要性を強調した。
我々は、GD-WL(Generalized Distance Weisfeiler-Lehman)と呼ばれる原理的で効率的なアプローチを導入する。
実際に,GD-WLをTransformerのようなアーキテクチャで実装し,完全な並列化性を保ち,実現可能であることを示す。
論文 参考訳(メタデータ) (2023-01-23T15:58:59Z) - RELIANT: Fair Knowledge Distillation for Graph Neural Networks [39.22568244059485]
グラフニューラルネットワーク(GNN)は、様々なグラフ学習タスクのパフォーマンスを満足することを示した。
知識蒸留(KD)はGNNを圧縮する一般的な方法である。
本稿では,学生モデルが提示するバイアスを軽減するために,RELIANTという原理的枠組みを提案する。
論文 参考訳(メタデータ) (2023-01-03T15:21:24Z) - RulE: Knowledge Graph Reasoning with Rule Embedding [69.31451649090661]
我々は、論理ルールを活用してKG推論を強化する、textbfRulE(ルール埋め込みのためのスタンド)と呼ばれる原則的なフレームワークを提案する。
RulEは、既存の三重項と一階規則からルールの埋め込みを学習し、統一された埋め込み空間において、textbfentities、textbfrelations、textbflogical rulesを共同で表現する。
複数のベンチマークの結果、我々のモデルは既存の埋め込みベースのアプローチやルールベースのアプローチよりも優れています。
論文 参考訳(メタデータ) (2022-10-24T06:47:13Z) - Jointly Attacking Graph Neural Network and its Explanations [50.231829335996814]
グラフニューラルネットワーク(GNN)は多くのグラフ関連タスクのパフォーマンスを向上した。
近年の研究では、GNNは敵の攻撃に対して非常に脆弱であることが示されており、敵はグラフを変更することでGNNの予測を誤認することができる。
本稿では、GNNモデルとその説明の両方を同時に利用して攻撃できる新しい攻撃フレームワーク(GEAttack)を提案する。
論文 参考訳(メタデータ) (2021-08-07T07:44:33Z) - Optimization of Graph Neural Networks: Implicit Acceleration by Skip
Connections and More Depth [57.10183643449905]
グラフニューラルネットワーク(GNN)は表現力と一般化のレンズから研究されている。
GNNのダイナミクスを深部スキップ最適化により研究する。
本研究は,GNNの成功に対する最初の理論的支援を提供する。
論文 参考訳(メタデータ) (2021-05-10T17:59:01Z) - Theoretically Improving Graph Neural Networks via Anonymous Walk Graph
Kernels [25.736529232578178]
グラフニューラルネットワーク(GNN)は、グラフマイニングで大きな成功を収めました。
一般的なGNNとしてMPGNNは、多くのグラフのサブ構造を識別、検出、カウントできないことが理論的に示されている。
理論的にはグラフ構造を区別する能力の強いGNNモデルであるGSKNを提案する。
論文 参考訳(メタデータ) (2021-04-07T08:50:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。