論文の概要: ClueReader: Heterogeneous Graph Attention Network for Multi-hop Machine
Reading Comprehension
- arxiv url: http://arxiv.org/abs/2107.00841v3
- Date: Fri, 21 Jul 2023 14:03:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2023-07-24 17:04:55.717142
- Title: ClueReader: Heterogeneous Graph Attention Network for Multi-hop Machine
Reading Comprehension
- Title（参考訳）: cluereader: マルチホップ機械読解のためのヘテロジニアスグラフアテンションネットワーク
- Authors: Peng Gao, Feng Gao, Peng Wang, Jian-Cheng Ni, Fei Wang, Hamido Fujita
- Abstract要約: 祖母の細胞概念を模倣するヘテロジニアスグラフアテンションネットワークモデルClueReaderを提案する。
このモデルは、多レベル表現に意味的特徴を組み立て、アテンション機構を通じて推論のための情報を自動的に集中または緩和するように設計されている。
提案モデルは推論グラフの可視化を可能にし,エンティティを接続するエッジの重要性と,参照ノードと候補ノードの選択性を分析する。
- 参考スコア（独自算出の注目度）: 21.257593756782658
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Multi-hop machine reading comprehension is a challenging task in natural
language processing as it requires more reasoning ability across multiple
documents. Spectral models based on graph convolutional networks have shown
good inferring abilities and lead to competitive results. However, the analysis
and reasoning of some are inconsistent with those of humans. Inspired by the
concept of grandmother cells in cognitive neuroscience, we propose a
heterogeneous graph attention network model named ClueReader to imitate the
grandmother cell concept. The model is designed to assemble the semantic
features in multi-level representations and automatically concentrate or
alleviate information for reasoning through the attention mechanism. The name
ClueReader is a metaphor for the pattern of the model: it regards the subjects
of queries as the starting points of clues, takes the reasoning entities as
bridge points, considers the latent candidate entities as grandmother cells,
and the clues end up in candidate entities. The proposed model enables the
visualization of the reasoning graph, making it possible to analyze the
importance of edges connecting entities and the selectivity in the mention and
candidate nodes, which is easier to comprehend empirically. Evaluations on the
open-domain multi-hop reading dataset WikiHop and drug-drug interaction dataset
MedHop proved the validity of ClueReader and showed the feasibility of its
application of the model in the molecular biology domain.
- Abstract（参考訳）: マルチホップ機械読解は、複数の文書にまたがる推論能力を必要とするため、自然言語処理において難しい課題である。
グラフ畳み込みネットワークに基づくスペクトルモデルは、優れた推論能力を示し、競争結果をもたらす。
しかし、いくつかの分析と推論は人間の分析と矛盾している。
認知神経科学における祖母細胞の概念に触発され,祖母細胞の概念を模倣するヘテロジニアスグラフアテンションネットワークモデルClueReaderを提案する。
このモデルは、マルチレベル表現における意味的特徴を組み立て、注意機構を通じて推論のための情報を自動的に集中または緩和するように設計されている。
クエリの主題を手掛かりの出発点として、推論エンティティをブリッジポイントとして、潜在候補エンティティを祖母セルとして、手掛かりを候補エンティティとして考慮します。
提案モデルは推論グラフの可視化を可能にし,エンティティを接続するエッジの重要性と参照ノードと候補ノードの選択性を分析し,経験的に理解しやすくする。
open-domain multi-hop reading dataset wikihop および drug-drug interaction dataset medhop の評価により, cluereader の有効性が証明され,分子生物学領域におけるモデルの適用の可能性が示された。
関連論文リスト
- Visual Commonsense based Heterogeneous Graph Contrastive Learning [79.22206720896664]
視覚的推論タスクをより良く仕上げるための異種グラフコントラスト学習法を提案する。
本手法はプラグイン・アンド・プレイ方式として設計されており,多種多様な代表手法と迅速かつ容易に組み合わせることができる。
論文 参考訳（メタデータ） (2023-11-11T12:01:18Z) - Integrating a Heterogeneous Graph with Entity-aware Self-attention using
Relative Position Labels for Reading Comprehension Model [14.721615285883429]
異種グラフからの推論知識を外部知識に頼らずにトランスフォーマーアーキテクチャに組み込む新しい注意パターンを導入する。
提案する注目パターンは, 単語トークンに対するグローバルな注意, グラフに関連付けられたトークンに対する強い注意を示すエンティティトークンに対するグラフの注意, 各エンティティトークンとワードトークンの関係のタイプを考慮した3つの重要な要素から構成される。
我々のモデルは、最先端のLUKE-GraphとベースラインのLUKEモデルの両方を2つの異なるデータセットで比較した。
論文 参考訳（メタデータ） (2023-07-19T20:17:37Z) - Representation Learning for Person or Entity-centric Knowledge Graphs:
An Application in Healthcare [0.757843972001219]
本稿では、構造化データと非構造化データからエンティティ中心のKGを抽出するエンドツーエンド表現学習フレームワークを提案する。
我々は、人の複数の面を表す星型分類器を導入し、それをKG生成のガイドに利用する。
このアプローチにはいくつかの潜在的なアプリケーションがあり、オープンソースであることを強調します。
論文 参考訳（メタデータ） (2023-05-09T17:39:45Z) - State of the Art and Potentialities of Graph-level Learning [54.68482109186052]
グラフレベルの学習は、比較、回帰、分類など、多くのタスクに適用されている。
グラフの集合を学習する伝統的なアプローチは、サブストラクチャのような手作りの特徴に依存している。
ディープラーニングは、機能を自動的に抽出し、グラフを低次元表現に符号化することで、グラフレベルの学習をグラフの規模に適応させるのに役立っている。
論文 参考訳（メタデータ） (2023-01-14T09:15:49Z) - Self-Supervised Graph Representation Learning for Neuronal Morphologies [75.38832711445421]
ラベルのないデータセットから3次元神経形態の低次元表現を学習するためのデータ駆動型アプローチであるGraphDINOを提案する。
2つの異なる種と複数の脳領域において、この方法では、専門家による手動の特徴に基づく分類と同程度に形態学的細胞型クラスタリングが得られることを示す。
提案手法は,大規模データセットにおける新しい形態的特徴や細胞型の発見を可能にする可能性がある。
論文 参考訳（メタデータ） (2021-12-23T12:17:47Z) - ExplaGraphs: An Explanation Graph Generation Task for Structured
Commonsense Reasoning [65.15423587105472]
スタンス予測のための説明グラフ生成の新しい生成および構造化コモンセンスリゾニングタスク(および関連するデータセット)を紹介します。
具体的には、信念と議論が与えられた場合、モデルは、議論が信念を支持しているかどうかを予測し、予測されたスタンスに対する非自明で完全で曖昧な説明として機能する常識強化グラフを生成する必要がある。
グラフの83%は、様々な構造と推論深度を持つ外部のコモンセンスノードを含んでいる。
論文 参考訳（メタデータ） (2021-04-15T17:51:36Z) - Graph-based Multi-hop Reasoning for Long Text Generation [66.64743847850666]
MRGはグラフベースのマルチホップ推論モジュールとパス認識文実現モジュールの2部で構成されている。
従来のブラックボックスモデルとは異なり、MRGはスケルトンパスを明示的に推論し、提案されたモデルがどのように機能するかを説明する説明的なビューを提供する。
論文 参考訳（メタデータ） (2020-09-28T12:47:59Z) - Document Modeling with Graph Attention Networks for Multi-grained
Machine Reading Comprehension [127.3341842928421]
Natural Questionsは、新しい挑戦的な機械読解ベンチマークである。
解答は2つあり、長解(典型的には1段落)と短解(長解の内にある1つ以上の実体)である。
既存の方法は、これらの2つのサブタスクをトレーニング中に個別に扱い、依存関係を無視します。
本稿では,文書を階層的にモデル化する多層機械読解フレームワークを提案する。
論文 参考訳（メタデータ） (2020-05-12T14:20:09Z) - Scalable Multi-Hop Relational Reasoning for Knowledge-Aware Question
Answering [35.40919477319811]
本稿では,事前学習された言語モデルにマルチホップ関係推論モジュールを組み込む新しい知識認識手法を提案する。
外部知識グラフから抽出したサブグラフに対して、マルチホップ、マルチリレーショナル推論を行う。
パスベースの推論手法とグラフニューラルネットワークを統合して、より優れた解釈性とスケーラビリティを実現する。
論文 参考訳（メタデータ） (2020-05-01T23:10:26Z) - Generating Hierarchical Explanations on Text Classification via Feature
Interaction Detection [21.02924712220406]
特徴的相互作用を検出することによって階層的な説明を構築する。
このような説明は、単語とフレーズが階層の異なるレベルでどのように結合されるかを視覚化する。
実験は、モデルに忠実であり、人間に解釈可能な説明を提供する上で、提案手法の有効性を示す。
論文 参考訳（メタデータ） (2020-04-04T20:56:37Z) - Short Text Classification via Knowledge powered Attention with
Similarity Matrix based CNN [6.6723692875904375]
本稿では,類似度行列に基づく畳み込みニューラルネットワーク(KASM)モデルを用いた知識駆動型アテンションを提案する。
我々は知識グラフ(KG)を用いて短文の意味表現を強化する。
知識の重要性を測定するために,重要な情報を選択するための注意機構を導入する。
論文 参考訳（メタデータ） (2020-02-09T12:08:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。