論文の概要: MrGCN: Mirror Graph Convolution Network for Relation Extraction with
Long-Term Dependencies
- arxiv url: http://arxiv.org/abs/2101.00124v1
- Date: Fri, 1 Jan 2021 00:52:53 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-17 14:50:46.133063
- Title: MrGCN: Mirror Graph Convolution Network for Relation Extraction with
Long-Term Dependencies
- Title(参考訳): MrGCN:長期依存を考慮した関係抽出のためのミラーグラフ畳み込みネットワーク
- Authors: Xiao Guo, I-Hung Hsu, Wael AbdAlmageed, Premkumar Natarajan, Nanyun
Peng
- Abstract要約: 関係抽出では、豊富な構文的手がかりを含む依存木がテキストの長期依存を捉えるのに広く使われている。
関係抽出に適したプールアンプール構造を持つGNNモデルであるミラーグラフ畳み込みネットワーク(MrGCN)を提案する。
2つのデータセットを用いた実験により,提案手法の有効性が示された。
- 参考スコア(独自算出の注目度): 32.27755470353054
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The ability to capture complex linguistic structures and long-term
dependencies among words in the passage is essential for many natural language
understanding tasks. In relation extraction, dependency trees that contain rich
syntactic clues have been widely used to help capture long-term dependencies in
text. Graph neural networks (GNNs), one of the means to encode dependency
graphs, has been shown effective in several prior works. However, relatively
little attention has been paid to the receptive fields of GNNs, which can be
crucial in tasks with extremely long text that go beyond single sentences and
require discourse analysis. In this work, we leverage the idea of graph pooling
and propose the Mirror Graph Convolution Network (MrGCN), a GNN model with
pooling-unpooling structures tailored to relation extraction. The pooling
branch reduces the graph size and enables the GCN to obtain larger receptive
fields within less layers; the unpooling branch restores the pooled graph to
its original resolution such that token-level relation extraction can be
performed. Experiments on two datasets demonstrate the effectiveness of our
method, showing significant improvements over previous results.
- Abstract(参考訳): 多くの自然言語理解タスクにおいて、複雑な言語構造と単語間の長期的依存関係を捉える能力は不可欠である。
関係抽出において、リッチな構文的手がかりを含む依存木は、テキストの長期的依存関係を捉えるのに広く利用されている。
依存グラフをエンコードする手段の1つであるグラフニューラルネットワーク(GNN)は、いくつかの先行研究で有効であることが示されている。
しかし、GNNの受容領域には比較的注意が払われておらず、これは単一の文を超えて言論分析を必要とする非常に長いテキストを持つタスクにおいて不可欠である。
本研究では、グラフプーリングの考え方を活用し、関係抽出に適したプール・アンプール構造を持つGNNモデルであるミラーグラフ畳み込みネットワーク(MrGCN)を提案する。
プーリングブランチは、グラフサイズを小さくし、GCNがより少ない層内でより大きな受容フィールドを得ることができるようにし、アンプールブランチは、トークンレベルの関係抽出を行うことができるように、プールされたグラフを元の解像度に復元する。
2つのデータセットを用いた実験により,提案手法の有効性が示された。
関連論文リスト
- Relating-Up: Advancing Graph Neural Networks through Inter-Graph Relationships [17.978546172777342]
グラフニューラルネットワーク(GNN)は、グラフ構造化データから学ぶのに優れています。
彼らの成功にもかかわらず、GNNはグラフ間の関係のコンテキストを無視して制限される。
本稿では,グラフ間の関係を利用してGNNを強化するプラグイン・アンド・プレイモジュールであるRelating-Upを紹介する。
論文 参考訳(メタデータ) (2024-05-07T02:16:54Z) - DGNN: Decoupled Graph Neural Networks with Structural Consistency
between Attribute and Graph Embedding Representations [62.04558318166396]
グラフニューラルネットワーク(GNN)は、複雑な構造を持つグラフ上での表現学習の堅牢性を示す。
ノードのより包括的な埋め込み表現を得るために、Decoupled Graph Neural Networks (DGNN)と呼ばれる新しいGNNフレームワークが導入された。
複数のグラフベンチマークデータセットを用いて、ノード分類タスクにおけるDGNNの優位性を検証した。
論文 参考訳(メタデータ) (2024-01-28T06:43:13Z) - NodeFormer: A Scalable Graph Structure Learning Transformer for Node
Classification [70.51126383984555]
本稿では,任意のノード間のノード信号を効率的に伝搬する全ペアメッセージパッシング方式を提案する。
効率的な計算は、カーナライズされたGumbel-Softmax演算子によって実現される。
グラフ上のノード分類を含む様々なタスクにおいて,本手法の有望な有効性を示す実験を行った。
論文 参考訳(メタデータ) (2023-06-14T09:21:15Z) - Search to Capture Long-range Dependency with Stacking GNNs for Graph
Classification [41.84399177525008]
浅いGNNは、より深いGNNに直面しているよく知られたオーバースムースな問題のため、より一般的である。
LRGNN(Long-Range Graph Neural Networks)と呼ばれるニューラルアーキテクチャサーチ(NAS)による新しいアプローチを提案する。
論文 参考訳(メタデータ) (2023-02-17T03:40:17Z) - MGNNI: Multiscale Graph Neural Networks with Implicit Layers [53.75421430520501]
暗黙グラフニューラルネットワーク(GNN)は、基礎となるグラフの長距離依存性をキャプチャするために提案されている。
暗黙的GNNの2つの弱点は、長距離依存を捉えるための限られた有効範囲による制約付き表現性と、複数の解像度でグラフ上のマルチスケール情報をキャプチャする能力の欠如である。
グラフ上のマルチスケール構造をモデル化できる暗黙の層(MGNNI)を持つマルチスケールグラフニューラルネットワークを提案する。
論文 参考訳(メタデータ) (2022-10-15T18:18:55Z) - Affinity-Aware Graph Networks [9.888383815189176]
グラフニューラルネットワーク(GNN)は、リレーショナルデータを学ぶための強力なテクニックとして登場した。
グラフニューラルネットワークの特徴としてアフィニティ尺度の利用について検討する。
本稿では,これらの特徴に基づくメッセージパッシングネットワークを提案し,その性能を様々なノードおよびグラフ特性予測タスクで評価する。
論文 参考訳(メタデータ) (2022-06-23T18:51:35Z) - Automatic Relation-aware Graph Network Proliferation [182.30735195376792]
GNNを効率的に検索するためのARGNP(Automatic Relation-Aware Graph Network Proliferation)を提案する。
これらの操作は階層的なノード/リレーショナル情報を抽出し、グラフ上のメッセージパッシングのための異方的ガイダンスを提供する。
4つのグラフ学習タスクのための6つのデータセットの実験により、我々の手法によって生成されたGNNは、現在最先端の手作りおよび検索に基づくGNNよりも優れていることが示された。
論文 参考訳(メタデータ) (2022-05-31T10:38:04Z) - Hierarchical graph neural nets can capture long-range interactions [8.067880298298185]
与えられたグラフの多重解像度表現を利用する階層的メッセージパッシングモデルについて検討する。
これにより、ローカル情報を失うことなく、大きな受容領域にまたがる特徴の学習が容易になる。
階層グラフネット(HGNet)を導入し、任意の2つの接続ノードに対して、最大対数長のメッセージパスパスが存在することを保証します。
論文 参考訳(メタデータ) (2021-07-15T16:24:22Z) - Reinforced Neighborhood Selection Guided Multi-Relational Graph Neural
Networks [68.9026534589483]
RioGNNはReinforceed, recursive, flexible neighborhood selection guided multi-relational Graph Neural Network architectureである。
RioGNNは、各関係の個々の重要性の認識により、説明性を高めた差別的なノード埋め込みを学ぶことができる。
論文 参考訳(メタデータ) (2021-04-16T04:30:06Z) - Counting Substructures with Higher-Order Graph Neural Networks:
Possibility and Impossibility Results [58.277290855841976]
グラフニューラルネットワーク(GNN)の計算コストと表現力のトレードオフについて検討する。
新しいモデルでは、$k$のサブグラフをカウントでき、低次GNNの既知の制限を克服できることを示す。
いくつかの場合において、提案アルゴリズムは既存の高階$k$-GNNに比べて計算量を大幅に削減することができる。
論文 参考訳(メタデータ) (2020-12-06T03:42:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。