論文の概要: Learning Contextualized Knowledge Structures for Commonsense Reasoning
- arxiv url: http://arxiv.org/abs/2010.12873v3
- Date: Fri, 4 Jun 2021 08:16:35 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-03 13:11:32.688551
- Title: Learning Contextualized Knowledge Structures for Commonsense Reasoning
- Title(参考訳): 常識推論のための文脈的知識構造学習
- Authors: Jun Yan, Mrigank Raman, Aaron Chan, Tianyu Zhang, Ryan Rossi, Handong
Zhao, Sungchul Kim, Nedim Lipka, Xiang Ren
- Abstract要約: ハイブリッドグラフネットワーク(HGN)という新しいKG拡張モデルを提案する。
HGNは、統合されたグラフ構造内の両方について推論することで、抽出された知識と生成された知識を共同で文脈化することを学ぶ。
HGNの有効性は、4つのコモンセンス推論ベンチマークにおけるかなりの性能向上と、エッジの有効性と有用性に関するユーザスタディによって実証される。
- 参考スコア(独自算出の注目度): 47.37838612541735
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recently, knowledge graph (KG) augmented models have achieved noteworthy
success on various commonsense reasoning tasks. However, KG edge (fact)
sparsity and noisy edge extraction/generation often hinder models from
obtaining useful knowledge to reason over. To address these issues, we propose
a new KG-augmented model: Hybrid Graph Network (HGN). Unlike prior methods, HGN
learns to jointly contextualize extracted and generated knowledge by reasoning
over both within a unified graph structure. Given the task input context and an
extracted KG subgraph, HGN is trained to generate embeddings for the subgraph's
missing edges to form a "hybrid" graph, then reason over the hybrid graph while
filtering out context-irrelevant edges. We demonstrate HGN's effectiveness
through considerable performance gains across four commonsense reasoning
benchmarks, plus a user study on edge validness and helpfulness.
- Abstract(参考訳): 近年,知識グラフ(KG)拡張モデルは,様々な常識推論タスクにおいて顕著な成功を収めている。
しかし、KGエッジ(ファクト)とノイズの多いエッジ抽出/生成は、しばしばモデルが推論に有用な知識を得るのを妨げる。
これらの問題に対処するため、我々は新しいKG拡張モデル、Hybrid Graph Network (HGN)を提案する。
従来の方法とは異なり、HGNは統合グラフ構造内の両方について推論することで、抽出された知識と生成された知識を共同で文脈化することを学ぶ。
タスク入力コンテキストと抽出されたKGサブグラフから、HGNは、サブグラフの欠落したエッジに埋め込みを生成して"ハイブリッド"グラフを生成し、コンテキスト非関連エッジをフィルタリングしながらハイブリッドグラフを推論するように訓練される。
HGNの有効性は、4つのコモンセンス推論ベンチマークにおけるかなりの性能向上と、エッジの有効性と有用性に関するユーザスタディによって実証される。
関連論文リスト
- Why Does Dropping Edges Usually Outperform Adding Edges in Graph Contrastive Learning? [54.44813218411879]
グラフがネットワークにどのように適合するかを定量化するために、新しいメトリック、すなわちエラー通過率(EPR)を導入する。
理論的な結論とポジティブ・インセンティブ雑音のアイデアに触発されて、我々は新しいGCLアルゴリズム、エラー・パッシングに基づくグラフコントラスト学習(EPAGCL)を提案する。
EPRから得られる重みに基づいてエッジの追加とドロップによりビューを生成する。
論文 参考訳(メタデータ) (2024-12-11T06:31:06Z) - Disentangled Generative Graph Representation Learning [51.59824683232925]
本稿では,自己教師型学習フレームワークであるDiGGR(Disentangled Generative Graph Representation Learning)を紹介する。
潜伏要因を学習し、それをグラフマスクモデリングのガイドとして活用することを目的としている。
2つの異なるグラフ学習タスクのための11の公開データセットの実験は、DiGGRが従来よりも一貫して多くの自己教師付きメソッドを上回っていることを示している。
論文 参考訳(メタデータ) (2024-08-24T05:13:02Z) - Graph-based Knowledge Distillation: A survey and experimental evaluation [4.713436329217004]
既存のグラフニューラルネットワーク(GNN)を強化するために知識蒸留(KD)が導入されている。
KDは、予測性能を維持しながら、大きな教師モデルのソフトレーベルの監督を小学生モデルに移行することを含む。
本稿ではまず,グラフとKDの背景について紹介し,その上で3種類の知識蒸留法について概説する。
論文 参考訳(メタデータ) (2023-02-27T11:39:23Z) - Dynamic Relevance Graph Network for Knowledge-Aware Question Answering [22.06211725256875]
本研究は,外部知識の源泉となるコモンセンス質問回答の学習と推論の課題について考察する。
我々はDynamic Relevance Graph Network (DRGN)と呼ばれる新しいグラフニューラルネットワークアーキテクチャを提案する。
DRGNは、質問に基づいて与えられたKGサブグラフで動作し、エンティティに回答し、ノード間の関連スコアを使用して新しいエッジを確立する。
論文 参考訳(メタデータ) (2022-09-20T18:52:05Z) - KRACL: Contrastive Learning with Graph Context Modeling for Sparse
Knowledge Graph Completion [37.92814873958519]
知識グラフ埋め込み (KGE) は、エンティティと関係を低次元空間にマッピングすることを目的としており、知識グラフ補完のためのテキストファクト標準となっている。
既存のKGE手法の多くは、知識グラフの頻度が低いエンティティを予測しにくいため、スパーシティの課題に悩まされている。
グラフコンテキストとコントラスト学習を用いて,KGの広がりを緩和する新しい枠組みを提案する。
論文 参考訳(メタデータ) (2022-08-16T09:17:40Z) - Explainable Sparse Knowledge Graph Completion via High-order Graph
Reasoning Network [111.67744771462873]
本稿では,スパース知識グラフ(KG)のための新しい説明可能なモデルを提案する。
高次推論をグラフ畳み込みネットワーク、すなわちHoGRNに結合する。
情報不足を緩和する一般化能力を向上させるだけでなく、解釈可能性も向上する。
論文 参考訳(メタデータ) (2022-07-14T10:16:56Z) - Reinforced Causal Explainer for Graph Neural Networks [112.57265240212001]
グラフニューラルネットワーク(GNN)の探索には説明可能性が不可欠である
我々は強化学習エージェントReinforced Causal Explainer (RC-Explainer)を提案する。
RC-Explainerは忠実で簡潔な説明を生成し、グラフを見えなくするより優れたパワーを持つ。
論文 参考訳(メタデータ) (2022-04-23T09:13:25Z) - Knowledge Graph Reasoning with Relational Directed Graph [40.555874504438506]
文学における関係経路に基づく手法は、強く、解釈可能で、帰納的推論能力を示す。
重なり合う関係経路からなる関係有向グラフ(r-digraph)を新たに導入する。
本稿では,グラフニューラルネットワークの変種であるRED-GNNを提案し,GNNの変種を用いてRelational Digraphを学習する。
論文 参考訳(メタデータ) (2021-08-13T03:27:01Z) - RelWalk A Latent Variable Model Approach to Knowledge Graph Embedding [50.010601631982425]
本稿では,単語埋め込みのランダムウォークモデル(Arora et al., 2016a)を知識グラフ埋め込み(KGE)に拡張する。
二つの実体 h (head) と t (tail) の間の関係 R の強さを評価するスコア関数を導出する。
理論的解析によって動機付けられた学習目標を提案し,知識グラフからKGEを学習する。
論文 参考訳(メタデータ) (2021-01-25T13:31:29Z) - Knowledge Embedding Based Graph Convolutional Network [35.35776808660919]
本稿では,知識埋め込みに基づくグラフ畳み込みネットワーク(KE-GCN)という新しいフレームワークを提案する。
KE-GCNはグラフベースの信念伝播におけるグラフ畳み込みネットワーク(GCN)のパワーと高度な知識埋め込み手法の強みを組み合わせたものである。
理論的解析により、KE-GCNはいくつかのよく知られたGCN法のエレガントな統一を具体例として示している。
論文 参考訳(メタデータ) (2020-06-12T17:12:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。