論文の概要: Contrastive Triple Extraction with Generative Transformer
- arxiv url: http://arxiv.org/abs/2009.06207v8
- Date: Thu, 21 Jul 2022 02:36:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-18 12:17:02.719591
- Title: Contrastive Triple Extraction with Generative Transformer
- Title(参考訳): 生成変換器を用いたコントラストトリプル抽出
- Authors: Hongbin Ye, Ningyu Zhang, Shumin Deng, Mosha Chen, Chuanqi Tan, Fei
Huang, Huajun Chen
- Abstract要約: 生成変換器を用いた新しい3重抽出モデルを提案する。
具体的には,エンコーダデコーダをベースとした1つの共有トランスフォーマモジュールを提案する。
忠実な結果を得るために,新しい三重項コントラストトレーニングオブジェクトを提案する。
- 参考スコア(独自算出の注目度): 72.21467482853232
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Triple extraction is an essential task in information extraction for natural
language processing and knowledge graph construction. In this paper, we revisit
the end-to-end triple extraction task for sequence generation. Since generative
triple extraction may struggle to capture long-term dependencies and generate
unfaithful triples, we introduce a novel model, contrastive triple extraction
with a generative transformer. Specifically, we introduce a single shared
transformer module for encoder-decoder-based generation. To generate faithful
results, we propose a novel triplet contrastive training object. Moreover, we
introduce two mechanisms to further improve model performance (i.e., batch-wise
dynamic attention-masking and triple-wise calibration). Experimental results on
three datasets (i.e., NYT, WebNLG, and MIE) show that our approach achieves
better performance than that of baselines.
- Abstract(参考訳): 三重抽出は自然言語処理と知識グラフ構築のための情報抽出に欠かせない課題である。
本稿では、シーケンス生成のためのエンドツーエンドのトリプル抽出タスクを再検討する。
生成的三重抽出は, 長期的依存を捕捉し, 不誠実な三重生成に苦慮する可能性があるため, 生成的変換器を用いた新規な三重抽出モデルを導入する。
具体的には,エンコーダデコーダをベースとした1つの共有トランスフォーマモジュールを提案する。
忠実な結果を生成するために,新しい三重項コントラスト学習対象を提案する。
さらに,モデル性能をさらに向上させる2つのメカニズム(バッチワイズ動的注意マッキングとトリプルワイズキャリブレーション)を導入する。
3つのデータセット(NYT,WebNLG,MIE)に対する実験結果から,本手法がベースラインよりも優れた性能を実現することが示された。
関連論文リスト
- Improving Recall of Large Language Models: A Model Collaboration Approach for Relational Triple Extraction [44.716502690026026]
長い文から三重項の集合を出力する関係三重抽出は、知識獲得において重要な役割を果たす。
大規模な言語モデルでは、適切な命令が与えられた場合、簡単な文から数ショットの学習や微調整によってトリプルを正確に抽出することができる。
本稿では,大規模言語モデルと小さなモデルを統合した評価フィルタリングフレームワークを設計する。
論文 参考訳(メタデータ) (2024-04-15T09:03:05Z) - RAVEN: Rethinking Adversarial Video Generation with Efficient Tri-plane
Networks [63.84589410872608]
本研究では,長期的空間的および時間的依存に対処する新しい非条件ビデオ生成モデルを提案する。
提案手法は計算複雑性をFLOPの測定値として2ドル程度削減する。
我々のモデルは高精細度ビデオクリップを256時間256ドルピクセルの解像度で合成でき、フレームレート30fpsで5ドル以上まで持続する。
論文 参考訳(メタデータ) (2024-01-11T16:48:44Z) - Prompt Based Tri-Channel Graph Convolution Neural Network for Aspect
Sentiment Triplet Extraction [63.0205418944714]
Aspect Sentiment Triplet extract (ASTE)は、ある文の三つ子を抽出する新しいタスクである。
近年の研究では、単語関係を二次元テーブルにエンコードするテーブル充填パラダイムを用いてこの問題に対処する傾向にある。
本稿では, 関係表をグラフに変換し, より包括的な関係情報を探索する, Prompt-based Tri-Channel Graph Convolution Neural Network (PT-GCN) と呼ばれるASTEタスクの新しいモデルを提案する。
論文 参考訳(メタデータ) (2023-12-18T12:46:09Z) - Generative Meta-Learning for Zero-Shot Relation Triplet Extraction [12.837901211741443]
生成モデルの一般化能力を高めるための新しい生成メタラーニングフレームワークを提案する。
具体的には、まず、複数のタスクにまたがる最適化プロセスを強制することで、一般的な知識を学習できるタスク認識生成モデルを設計する。
そこで我々は,3つの典型的なメタラーニングカテゴリに指定される3つの生成メタラーニング手法を提案する。
論文 参考訳(メタデータ) (2023-05-03T06:34:39Z) - Towards Long-Term Time-Series Forecasting: Feature, Pattern, and
Distribution [57.71199089609161]
長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。
トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。
LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
論文 参考訳(メタデータ) (2023-01-05T13:59:29Z) - DORE: Document Ordered Relation Extraction based on Generative Framework [56.537386636819626]
本稿では,既存のDocREモデルの根本原因について検討する。
本稿では,モデルが学習しやすく,決定論的な関係行列から記号列と順序列を生成することを提案する。
4つのデータセットに対する実験結果から,提案手法は生成型DocREモデルの性能を向上させることができることが示された。
論文 参考訳(メタデータ) (2022-10-28T11:18:10Z) - A Generative Model for Relation Extraction and Classification [23.1277041729626]
関係抽出・分類のための新しい生成モデル(GREC)を提案する。
本稿では、ソースおよびターゲットシーケンスの様々なエンコーディング表現について検討し、3つのベンチマークREデータセット上でGRECが最先端のパフォーマンスを達成できる効果的なスキームを設計する。
我々のアプローチは1つのパスで文からすべての関係三重項を抽出するために拡張することができる。
論文 参考訳(メタデータ) (2022-02-26T21:17:18Z) - Construct Informative Triplet with Two-stage Hard-sample Generation [6.361348748202731]
本稿では, 有効正および負のサンプル生成器を用いてハードサンプルを生成する2段階合成フレームワークを提案する。
提案手法は,既存のハードサンプル生成アルゴリズムよりも優れた性能を実現する。
また,既存の三重項鉱業戦略を組み合わせたハードサンプル生成手法により,より深いメートル法学習性能が向上することが示唆された。
論文 参考訳(メタデータ) (2021-12-04T06:28:25Z) - Transformers Solve the Limited Receptive Field for Monocular Depth
Prediction [82.90445525977904]
畳み込みニューラルネットワークとトランスの両方の恩恵を受けるアーキテクチャであるTransDepthを提案します。
連続ラベルを含む画素単位での予測問題にトランスフォーマーを適用する最初の論文である。
論文 参考訳(メタデータ) (2021-03-22T18:00:13Z) - Joint Entity and Relation Extraction with Set Prediction Networks [24.01964730210045]
我々は,結合実体と関係抽出を直接セット予測問題として扱う。
一定の順序で三重項を一つずつ生成する自己回帰アプローチとは異なり、提案したネットワークは1ショットで三重項の最終セットを直接出力する。
2つのベンチマークデータセットによる実験により,提案モデルが現在の最先端手法よりも大幅に優れていることが示された。
論文 参考訳(メタデータ) (2020-11-03T13:04:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。