論文の概要: Few-shot Relation Extraction via Bayesian Meta-learning on Relation
Graphs
- arxiv url: http://arxiv.org/abs/2007.02387v1
- Date: Sun, 5 Jul 2020 17:04:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-13 07:55:17.139283
- Title: Few-shot Relation Extraction via Bayesian Meta-learning on Relation
Graphs
- Title(参考訳): 関係グラフを用いたベイズメタラーニングによるマイナショット関係抽出
- Authors: Meng Qu, Tianyu Gao, Louis-Pascal A. C. Xhonneux, Jian Tang
- Abstract要約: 本稿では,文中の一対の実体の関係を,複数のラベル付き例で学習することで予測することを目的とした,少数ショット関係抽出について検討する。
新たな関係をより効果的に一般化するために,本稿では,関係の異なる関係について検討し,グローバル関係グラフを活用することを提案する。
- 参考スコア(独自算出の注目度): 35.842356537926
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper studies few-shot relation extraction, which aims at predicting the
relation for a pair of entities in a sentence by training with a few labeled
examples in each relation. To more effectively generalize to new relations, in
this paper we study the relationships between different relations and propose
to leverage a global relation graph. We propose a novel Bayesian meta-learning
approach to effectively learn the posterior distribution of the prototype
vectors of relations, where the initial prior of the prototype vectors is
parameterized with a graph neural network on the global relation graph.
Moreover, to effectively optimize the posterior distribution of the prototype
vectors, we propose to use the stochastic gradient Langevin dynamics, which is
related to the MAML algorithm but is able to handle the uncertainty of the
prototype vectors. The whole framework can be effectively and efficiently
optimized in an end-to-end fashion. Experiments on two benchmark datasets prove
the effectiveness of our proposed approach against competitive baselines in
both the few-shot and zero-shot settings.
- Abstract(参考訳): 本稿では,文中の一対の実体の関係を,複数のラベル付き例で学習することで予測することを目的とした,少数ショット関係抽出について検討する。
本稿では,新しい関係をより効果的に一般化するために,関係間の関係を調べ,大域関係グラフの活用を提案する。
本稿では,グローバル関係グラフ上のグラフニューラルネットワークを用いて,プロトタイプベクトルの初期偏差をパラメータ化することで,関係ベクトルの後方分布を効果的に学習する新しいベイズメタラーニング手法を提案する。
さらに,プロトタイプベクトルの後方分布を効果的に最適化するために,mamlアルゴリズムに関連しているがプロトタイプベクトルの不確かさを処理できる確率勾配ランジュバンダイナミクスを用いることを提案する。
フレームワーク全体がエンドツーエンドで効果的かつ効率的に最適化できます。
2つのベンチマークデータセットの実験は、少数ショットとゼロショットの両方の設定において、競合ベースラインに対する提案手法の有効性を証明した。
関連論文リスト
- Learning Latent Graph Structures and their Uncertainty [63.95971478893842]
グラフニューラルネットワーク(GNN)は、モデル精度を高めるために帰納バイアスとしてリレーショナル情報を使用する。
課題関連関係が不明なため,下流予測タスクを解きながら学習するためのグラフ構造学習手法が提案されている。
論文 参考訳(メタデータ) (2024-05-30T10:49:22Z) - Cross-Domain Few-Shot Relation Extraction via Representation Learning
and Domain Adaptation [1.1602089225841632]
短いショット関係抽出は、各関係にラベル付き文がほとんどない新しい関係を認識することを目的としている。
従来の距離法に基づく数ショット関係抽出アルゴリズムは、訓練された距離関数を用いて、クエリ文の埋め込みに埋め込まれた少数のラベル付き文によって生成されたプロトタイプを比較することにより、関係を識別する。
我々は,先行知識からより解釈可能で効率的なプロトタイプを学習し,様々な領域における新たな関係をより効果的に抽出するために,関係の本質的な意味論を学習することを提案する。
論文 参考訳(メタデータ) (2022-12-05T19:34:52Z) - Relation-dependent Contrastive Learning with Cluster Sampling for
Inductive Relation Prediction [30.404149577013595]
帰納的関係予測のための関係依存型コントラスト学習(ReCoLe)を導入する。
GNNベースのエンコーダはコントラスト学習によって最適化され、ロングテール関係における良好な性能が保証される。
実験結果から、ReCoLeは一般的に使用される帰納的データセット上で最先端の手法より優れていることが示唆された。
論文 参考訳(メタデータ) (2022-11-22T13:30:49Z) - A Novel Few-Shot Relation Extraction Pipeline Based on Adaptive
Prototype Fusion [5.636675879040131]
Few-shot Relation extract (FSRE) は、わずかに注釈付きインスタンスで学習することで、目に見えない関係を認識することを目的としている。
本稿では,適応型プロトタイプ融合に基づくFSREタスクのための新しいパイプラインを提案する。
ベンチマークデータセットFewRel 1.0の実験では、最先端の手法に対する我々の手法の大幅な改善が示されている。
論文 参考訳(メタデータ) (2022-10-15T09:44:21Z) - A Simple yet Effective Relation Information Guided Approach for Few-Shot
Relation Extraction [22.60428265210431]
Few-Shot Relation extractは、文中の一対の実体の関係を、各関係にいくつかのラベル付き例で訓練することによって予測することを目的としている。
原型ネットワークに基づくモデル学習を支援するための関係情報を導入した最近の研究もある。
関係情報はモデルにより明確かつ効果的に導入できると論じる。
論文 参考訳(メタデータ) (2022-05-19T13:03:01Z) - Optimal Propagation for Graph Neural Networks [51.08426265813481]
最適グラフ構造を学習するための二段階最適化手法を提案する。
また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
論文 参考訳(メタデータ) (2022-05-06T03:37:00Z) - Bayesian Graph Contrastive Learning [55.36652660268726]
本稿では,ランダムな拡張がエンコーダにつながることを示すグラフコントラスト学習手法の新たな視点を提案する。
提案手法は,各ノードを決定論的ベクトルに埋め込む既存の手法とは対照的に,各ノードを潜在空間の分布で表現する。
いくつかのベンチマークデータセットにおける既存の最先端手法と比較して,性能が大幅に向上したことを示す。
論文 参考訳(メタデータ) (2021-12-15T01:45:32Z) - Convergent Boosted Smoothing for Modeling Graph Data with Tabular Node
Features [46.052312251801]
本稿では,グラフ伝播ステップでブースティングを反復するフレームワークを提案する。
我々のアプローチは、原則化されたメタロス関数に固定されている。
様々な非イドグラフデータセットに対して,本手法は同等あるいは優れた性能を実現する。
論文 参考訳(メタデータ) (2021-10-26T04:53:12Z) - From Canonical Correlation Analysis to Self-supervised Graph Neural
Networks [99.44881722969046]
本稿では,グラフデータを用いた自己教師付き表現学習のための概念的単純かつ効果的なモデルを提案する。
古典的カノニカル相関解析にインスパイアされた,革新的な特徴レベルの目的を最適化する。
提案手法は、7つの公開グラフデータセット上で競合的に動作する。
論文 参考訳(メタデータ) (2021-06-23T15:55:47Z) - Learning Relation Prototype from Unlabeled Texts for Long-tail Relation
Extraction [84.64435075778988]
本稿では,ラベルのないテキストから関係プロトタイプを学習するための一般的なアプローチを提案する。
我々は、エンティティ間の暗黙的な要因として関係プロトタイプを学習する。
私たちは、New York TimesとGoogle Distant Supervisionの2つの公開データセットで実験を行います。
論文 参考訳(メタデータ) (2020-11-27T06:21:12Z) - RatE: Relation-Adaptive Translating Embedding for Knowledge Graph
Completion [51.64061146389754]
複素空間における新たな重み付き積の上に構築された関係適応変換関数を提案する。
次に、関係適応型翻訳埋め込み(RatE)アプローチを示し、各グラフを3倍にスコアする。
論文 参考訳(メタデータ) (2020-10-10T01:30:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。