論文の概要: Heterogeneous Graph Attention Network for Multi-hop Machine Reading
Comprehension
- arxiv url: http://arxiv.org/abs/2107.00841v1
- Date: Fri, 2 Jul 2021 05:29:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2021-07-05 12:55:11.066308
- Title: Heterogeneous Graph Attention Network for Multi-hop Machine Reading
Comprehension
- Title（参考訳）: マルチホップ機械読解のための不均一グラフ注意ネットワーク
- Authors: Feng Gao, Jian-Cheng Ni, Peng Gao, Zi-Li Zhou, Yan-Yan Li, Hamido
Fujita
- Abstract要約: マルチホップ機械読解は自然言語処理において難しい課題である。
認知神経科学におけるグランドマザー細胞の概念に触発され、crnameと呼ばれる空間グラフアテンションフレームワークが提案された。
このモデルは、意味的特徴を多角表現に集約し、推論のための情報を自動的に集中または緩和するように設計されている。
- 参考スコア（独自算出の注目度）: 18.396504766142563
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Multi-hop machine reading comprehension is a challenging task in natural
language processing, which requires more reasoning ability and explainability.
Spectral models based on graph convolutional networks grant the inferring
abilities and lead to competitive results, however, part of them still face the
challenge of analyzing the reasoning in a human-understandable way. Inspired by
the concept of the Grandmother Cells in cognitive neuroscience, a spatial graph
attention framework named crname, imitating the procedure was proposed. This
model is designed to assemble the semantic features in multi-angle
representations and automatically concentrate or alleviate the information for
reasoning. The name "crname" is a metaphor for the pattern of the model: regard
the subjects of queries as the start points of clues, take the reasoning
entities as bridge points, and consider the latent candidate entities as the
grandmother cells, and the clues end up in candidate entities. The proposed
model allows us to visualize the reasoning graph and analyze the importance of
edges connecting two entities and the selectivity in the mention and candidate
nodes, which can be easier to be comprehended empirically. The official
evaluations in open-domain multi-hop reading dataset WikiHop and Drug-drug
Interactions dataset MedHop prove the validity of our approach and show the
probability of the application of the model in the molecular biology domain.
- Abstract（参考訳）: マルチホップ機械読解は自然言語処理において難しい課題であり、推論能力と説明可能性を必要とする。
グラフ畳み込みネットワークに基づくスペクトルモデルは推論能力を与え、競争結果をもたらすが、その一部は人間の理解可能な方法で推論を分析するという課題に直面している。
認知神経科学における祖母細胞の概念に触発されてcrnameと呼ばれる空間グラフ注目フレームワークが提案された。
このモデルは、意味的特徴を多角表現に集約し、推論のための情報を自動的に集中または緩和するように設計されている。
クエリの主題を手掛かりの出発点として、推論エンティティをブリッジポイントとして、潜在候補エンティティをおばあちゃんセルとして、手掛かりを候補エンティティとして考える。
提案モデルでは, 推論グラフを可視化し, 2つのエンティティを接続するエッジの重要性と, 参照ノードと候補ノードの選択性を分析する。
オープンドメインマルチホップ読解データセット WikiHop と Drug-drug Interactions データセット MedHop の公式評価は、我々のアプローチの有効性を証明し、分子生物学領域におけるモデルの適用可能性を示す。
関連論文リスト
- Visual Commonsense based Heterogeneous Graph Contrastive Learning [79.22206720896664]
視覚的推論タスクをより良く仕上げるための異種グラフコントラスト学習法を提案する。
本手法はプラグイン・アンド・プレイ方式として設計されており,多種多様な代表手法と迅速かつ容易に組み合わせることができる。
論文 参考訳（メタデータ） (2023-11-11T12:01:18Z) - Integrating a Heterogeneous Graph with Entity-aware Self-attention using
Relative Position Labels for Reading Comprehension Model [14.721615285883429]
異種グラフからの推論知識を外部知識に頼らずにトランスフォーマーアーキテクチャに組み込む新しい注意パターンを導入する。
提案する注目パターンは, 単語トークンに対するグローバルな注意, グラフに関連付けられたトークンに対する強い注意を示すエンティティトークンに対するグラフの注意, 各エンティティトークンとワードトークンの関係のタイプを考慮した3つの重要な要素から構成される。
我々のモデルは、最先端のLUKE-GraphとベースラインのLUKEモデルの両方を2つの異なるデータセットで比較した。
論文 参考訳（メタデータ） (2023-07-19T20:17:37Z) - Representation Learning for Person or Entity-centric Knowledge Graphs:
An Application in Healthcare [0.757843972001219]
本稿では、構造化データと非構造化データからエンティティ中心のKGを抽出するエンドツーエンド表現学習フレームワークを提案する。
我々は、人の複数の面を表す星型分類器を導入し、それをKG生成のガイドに利用する。
このアプローチにはいくつかの潜在的なアプリケーションがあり、オープンソースであることを強調します。
論文 参考訳（メタデータ） (2023-05-09T17:39:45Z) - State of the Art and Potentialities of Graph-level Learning [54.68482109186052]
グラフレベルの学習は、比較、回帰、分類など、多くのタスクに適用されている。
グラフの集合を学習する伝統的なアプローチは、サブストラクチャのような手作りの特徴に依存している。
ディープラーニングは、機能を自動的に抽出し、グラフを低次元表現に符号化することで、グラフレベルの学習をグラフの規模に適応させるのに役立っている。
論文 参考訳（メタデータ） (2023-01-14T09:15:49Z) - Self-Supervised Graph Representation Learning for Neuronal Morphologies [75.38832711445421]
ラベルのないデータセットから3次元神経形態の低次元表現を学習するためのデータ駆動型アプローチであるGraphDINOを提案する。
2つの異なる種と複数の脳領域において、この方法では、専門家による手動の特徴に基づく分類と同程度に形態学的細胞型クラスタリングが得られることを示す。
提案手法は,大規模データセットにおける新しい形態的特徴や細胞型の発見を可能にする可能性がある。
論文 参考訳（メタデータ） (2021-12-23T12:17:47Z) - ExplaGraphs: An Explanation Graph Generation Task for Structured
Commonsense Reasoning [65.15423587105472]
スタンス予測のための説明グラフ生成の新しい生成および構造化コモンセンスリゾニングタスク(および関連するデータセット)を紹介します。
具体的には、信念と議論が与えられた場合、モデルは、議論が信念を支持しているかどうかを予測し、予測されたスタンスに対する非自明で完全で曖昧な説明として機能する常識強化グラフを生成する必要がある。
グラフの83%は、様々な構造と推論深度を持つ外部のコモンセンスノードを含んでいる。
論文 参考訳（メタデータ） (2021-04-15T17:51:36Z) - Graph-based Multi-hop Reasoning for Long Text Generation [66.64743847850666]
MRGはグラフベースのマルチホップ推論モジュールとパス認識文実現モジュールの2部で構成されている。
従来のブラックボックスモデルとは異なり、MRGはスケルトンパスを明示的に推論し、提案されたモデルがどのように機能するかを説明する説明的なビューを提供する。
論文 参考訳（メタデータ） (2020-09-28T12:47:59Z) - Document Modeling with Graph Attention Networks for Multi-grained
Machine Reading Comprehension [127.3341842928421]
Natural Questionsは、新しい挑戦的な機械読解ベンチマークである。
解答は2つあり、長解(典型的には1段落)と短解(長解の内にある1つ以上の実体)である。
既存の方法は、これらの2つのサブタスクをトレーニング中に個別に扱い、依存関係を無視します。
本稿では,文書を階層的にモデル化する多層機械読解フレームワークを提案する。
論文 参考訳（メタデータ） (2020-05-12T14:20:09Z) - Scalable Multi-Hop Relational Reasoning for Knowledge-Aware Question
Answering [35.40919477319811]
本稿では,事前学習された言語モデルにマルチホップ関係推論モジュールを組み込む新しい知識認識手法を提案する。
外部知識グラフから抽出したサブグラフに対して、マルチホップ、マルチリレーショナル推論を行う。
パスベースの推論手法とグラフニューラルネットワークを統合して、より優れた解釈性とスケーラビリティを実現する。
論文 参考訳（メタデータ） (2020-05-01T23:10:26Z) - Generating Hierarchical Explanations on Text Classification via Feature
Interaction Detection [21.02924712220406]
特徴的相互作用を検出することによって階層的な説明を構築する。
このような説明は、単語とフレーズが階層の異なるレベルでどのように結合されるかを視覚化する。
実験は、モデルに忠実であり、人間に解釈可能な説明を提供する上で、提案手法の有効性を示す。
論文 参考訳（メタデータ） (2020-04-04T20:56:37Z) - Short Text Classification via Knowledge powered Attention with
Similarity Matrix based CNN [6.6723692875904375]
本稿では,類似度行列に基づく畳み込みニューラルネットワーク(KASM)モデルを用いた知識駆動型アテンションを提案する。
我々は知識グラフ(KG)を用いて短文の意味表現を強化する。
知識の重要性を測定するために,重要な情報を選択するための注意機構を導入する。
論文 参考訳（メタデータ） (2020-02-09T12:08:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。