論文の概要: A Hierarchical N-Gram Framework for Zero-Shot Link Prediction
- arxiv url: http://arxiv.org/abs/2204.10293v1
- Date: Sat, 16 Apr 2022 14:52:05 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-24 15:29:49.180061
- Title: A Hierarchical N-Gram Framework for Zero-Shot Link Prediction
- Title(参考訳): ゼロショットリンク予測のための階層的N-Gramフレームワーク
- Authors: Mingchen Li and Junfan Chen and Samuel Mensah and Nikolaos Aletras and
Xiulong Yang and Yang Ye
- Abstract要約: ゼロショットリンク予測(HNZSLP)のための階層的N-Gramフレームワークを提案する。
我々のアプローチは、まず曲面名に階層的なn-gramグラフを構築し、表面名につながるn-gramの構造構造をモデル化する。
変換器をベースとしたGramTransformerは階層的なn-gramグラフをモデル化してZSLPの関係埋め込みを構築する。
- 参考スコア(独自算出の注目度): 28.776131952767333
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Due to the incompleteness of knowledge graphs (KGs), zero-shot link
prediction (ZSLP) which aims to predict unobserved relations in KGs has
attracted recent interest from researchers. A common solution is to use textual
features of relations (e.g., surface name or textual descriptions) as auxiliary
information to bridge the gap between seen and unseen relations. Current
approaches learn an embedding for each word token in the text. These methods
lack robustness as they suffer from the out-of-vocabulary (OOV) problem.
Meanwhile, models built on character n-grams have the capability of generating
expressive representations for OOV words. Thus, in this paper, we propose a
Hierarchical N-Gram framework for Zero-Shot Link Prediction (HNZSLP), which
considers the dependencies among character n-grams of the relation surface name
for ZSLP. Our approach works by first constructing a hierarchical n-gram graph
on the surface name to model the organizational structure of n-grams that leads
to the surface name. A GramTransformer, based on the Transformer is then
presented to model the hierarchical n-gram graph to construct the relation
embedding for ZSLP. Experimental results show the proposed HNZSLP achieved
state-of-the-art performance on two ZSLP datasets.
- Abstract(参考訳): 知識グラフ(KGs)の不完全性のため、KGsにおける観測されていない関係の予測を目的としたゼロショットリンク予測(ZSLP)が研究者の関心を集めている。
一般的な解決策は、見えている関係と見えない関係の間のギャップを埋める補助情報として、関係のテクスト的特徴(例えば、表層名やテクスト的記述)を使用することである。
現在のアプローチでは、テキスト内の各ワードトークンの埋め込みを学ぶ。
これらの手法は、語彙外問題(OOV)に悩まされるため、堅牢性に欠ける。
一方、文字n-gram上に構築されたモデルには、OOVワードの表現表現を生成する能力がある。
そこで本稿では,zslpにおける関係面名の文字n-gram間の依存関係を考慮した,ゼロショットリンク予測(hnzslp)のための階層型n-gramフレームワークを提案する。
本手法は,まず表層名に階層的n-gramグラフを構築し,表層名につながるn-gramの組織構造をモデル化する。
変換器をベースとしたGramTransformerは階層的なn-gramグラフをモデル化してZSLPの関係埋め込みを構築する。
実験の結果,提案したHNZSLPは2つのZSLPデータセット上で最先端の性能を達成した。
関連論文リスト
- Graph-Dictionary Signal Model for Sparse Representations of Multivariate Data [49.77103348208835]
グラフの有限集合がラプラシアンの重み付き和を通してデータ分布の関係を特徴付けるグラフ辞書信号モデルを定義する。
本稿では,観測データからグラフ辞書表現を推論するフレームワークを提案する。
我々は,脳活動データに基づく運動画像復号作業におけるグラフ辞書表現を利用して,従来の手法よりも想像的な動きをよりよく分類する。
論文 参考訳(メタデータ) (2024-11-08T17:40:43Z) - A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。
我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。
GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
論文 参考訳(メタデータ) (2024-06-19T22:30:08Z) - Text2NKG: Fine-Grained N-ary Relation Extraction for N-ary relational Knowledge Graph Construction [20.281505340983035]
Text2NKGは,n-aryリレーショナル知識グラフ構築のための,新しいn-aryリレーショナル抽出フレームワークである。
ヘテロオーダーのマージと出力マージを併用したスパンタプル分類手法を導入し,異なるアリティにおけるn-項関係抽出を実現する。
論文 参考訳(メタデータ) (2023-10-08T14:47:13Z) - Improving Graph-Based Text Representations with Character and Word Level
N-grams [30.699644290131044]
単語と文字n-gramノードを文書ノードと組み合わせた新しい単語文字テキストグラフを提案する。
また、提案したテキストグラフをモデル化するための2つの新しいグラフベースニューラルモデルWCTextGCNとWCTextGATを提案する。
論文 参考訳(メタデータ) (2022-10-12T08:07:54Z) - NC-DRE: Leveraging Non-entity Clue Information for Document-level
Relation Extraction [3.276435438007766]
文書レベルの関係抽出(RE)は、複雑な文間関係を特定するために、異なる文の複数のエンティティを推論する必要がある。
従来の研究では、異種文書グラフの推論にグラフニューラルネットワーク(GNN)が用いられていた。
文書レベルの関係抽出に非エンタリティ・クリュー情報を活用するために,デコーダからエンコーダへのアテンション機構を導入した新しいグラフベースモデルNC-DREを提案する。
論文 参考訳(メタデータ) (2022-04-01T07:30:26Z) - Text-based NP Enrichment [51.403543011094975]
我々は、テキストベースのNPエンリッチメント(TNE)のタスクを確立する。つまり、各NPに、テキスト内の他のNPとの間に保持されるすべての前置詞による関係を豊かにする。
人間はこのような関係をシームレスに回復するが、現在の最先端モデルは問題の暗黙的な性質のためにそれらと戦っている。
この問題に対する最初の大規模データセットを構築し、正式なフレーミングとアノテーションの範囲を提供し、データを解析し、タスクに微調整されたニューラルネットワークモデルの結果を報告する。
論文 参考訳(メタデータ) (2021-09-24T17:23:25Z) - Imposing Relation Structure in Language-Model Embeddings Using
Contrastive Learning [30.00047118880045]
グラフ構造における関係をエンコードするために文埋め込みを訓練する新しいコントラスト学習フレームワークを提案する。
結果として得られた関係認識文の埋め込みは、関係抽出タスクにおける最先端の結果を得る。
論文 参考訳(メタデータ) (2021-09-02T10:58:27Z) - Explicit Pairwise Factorized Graph Neural Network for Semi-Supervised
Node Classification [59.06717774425588]
本稿では,グラフ全体を部分的に観測されたマルコフ確率場としてモデル化するEPFGNN(Explicit Pairwise Factorized Graph Neural Network)を提案する。
出力-出力関係をモデル化するための明示的なペアワイズ要素を含み、入力-出力関係をモデル化するためにGNNバックボーンを使用する。
本研究では,グラフ上での半教師付きノード分類の性能を効果的に向上できることを示す。
論文 参考訳(メタデータ) (2021-07-27T19:47:53Z) - Graph Neural Networks for Natural Language Processing: A Survey [64.36633422999905]
本稿では,自然言語処理のためのグラフニューラルネットワーク(GNN)について概観する。
我々は,グラフ構築,グラフ表現学習,グラフベースエンコーダ・デコーダモデルという3つの軸に沿って,NLP用GNNの既存の研究を組織する,NLP用GNNの新しい分類法を提案する。
論文 参考訳(メタデータ) (2021-06-10T23:59:26Z) - GraphPB: Graphical Representations of Prosody Boundary in Speech
Synthesis [23.836992815219904]
本稿では,中国語音声合成作業における韻律境界(GraphPB)のグラフィカルな表現手法を提案する。
グラフ埋め込みのノードは韻律語で形成され、エッジは他の韻律境界によって形成される。
逐次情報をグラフ・ツー・シーケンス・テキスト・音声モデルに組み込む2つの手法が提案されている。
論文 参考訳(メタデータ) (2020-12-03T03:34:05Z) - Structural Landmarking and Interaction Modelling: on Resolution Dilemmas
in Graph Classification [50.83222170524406]
解法ジレンマの統一概念に基づくグラフ分類における本質的難易度の研究」
構造ランドマークと相互作用モデリングのためのインダクティブニューラルネットワークモデルSLIM'を提案する。
論文 参考訳(メタデータ) (2020-06-29T01:01:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。