論文の概要: Keyphrase Generation with Cross-Document Attention
- arxiv url: http://arxiv.org/abs/2004.09800v1
- Date: Tue, 21 Apr 2020 07:58:27 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-11 06:47:59.195503
- Title: Keyphrase Generation with Cross-Document Attention
- Title（参考訳）: 文書横断型キーフレーズ生成
- Authors: Shizhe Diao, Yan Song, Tong Zhang
- Abstract要約: キーワード生成は、与えられた文書の本質を要約した一連のフレーズを作成することを目的としている。
本稿では,トランスフォーマーをグローバルな注目を集めるキーフレーズ生成装置CDKGenを提案する。
また,キーフレーズ中の語彙外単語を扱うために,文書から適切な単語を選択することで,モデルを強化するコピー機構も採用している。
- 参考スコア（独自算出の注目度）: 28.565813544820553
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Keyphrase generation aims to produce a set of phrases summarizing the
essentials of a given document. Conventional methods normally apply an
encoder-decoder architecture to generate the output keyphrases for an input
document, where they are designed to focus on each current document so they
inevitably omit crucial corpus-level information carried by other similar
documents, i.e., the cross-document dependency and latent topics. In this
paper, we propose CDKGen, a Transformer-based keyphrase generator, which
expands the Transformer to global attention with cross-document attention
networks to incorporate available documents as references so as to generate
better keyphrases with the guidance of topic information. On top of the
proposed Transformer + cross-document attention architecture, we also adopt a
copy mechanism to enhance our model via selecting appropriate words from
documents to deal with out-of-vocabulary words in keyphrases. Experiment
results on five benchmark datasets illustrate the validity and effectiveness of
our model, which achieves the state-of-the-art performance on all datasets.
Further analyses confirm that the proposed model is able to generate keyphrases
consistent with references while keeping sufficient diversity. The code of
CDKGen is available at https://github.com/SVAIGBA/CDKGen.
- Abstract（参考訳）: keyphrase生成は、与えられた文書の本質を要約した一連のフレーズを作成することを目的としている。
従来の手法では、エンコーダ・デコーダアーキテクチャを用いて入力文書の出力キーフレーズを生成し、各文書にフォーカスするように設計されており、必然的に他の類似文書、すなわちクロスドキュメント依存性と潜在トピックによって運ばれる重要なコーパスレベル情報を省略する。
本稿では,Transformerベースのキーフレーズ生成装置であるCDKGenを提案する。これはTransformerを文書横断型アテンションネットワークでグローバルアテンションに拡張し,利用可能なドキュメントを参照として組み込むことで,トピック情報のガイダンスを用いてより優れたキーフレーズを生成する。
提案するTransformer+クロスドキュメントアテンションアーキテクチャに加えて,文書から適切な単語を選択してキーフレーズの語彙外単語を扱うことで,モデルを強化するコピー機構も採用している。
5つのベンチマークデータセットの実験結果から,本モデルの有効性と有効性を示し,全データセットの最先端性能を実現する。
さらなる分析により,提案モデルが十分な多様性を維持しつつ,参照に一貫性のあるキーフレーズを生成できることが確認された。
CDKGenのコードはhttps://github.com/SVAIGBA/CDKGenで入手できる。
関連論文リスト
- Self-Compositional Data Augmentation for Scientific Keyphrase Generation [28.912937922090038]
本稿では,キーフレーズ生成のための自己合成データ拡張手法を提案する。
共有キーフレーズに基づく学習用文書の関連性を測定し,類似した文書を組み合わせて合成サンプルを生成する。
論文 参考訳（メタデータ） (2024-11-05T12:22:51Z) - Contextual Document Embeddings [77.22328616983417]
本稿では,コンテキスト化された文書埋め込みのための2つの補完手法を提案する。
第一に、文書近傍を明示的にバッチ内コンテキスト損失に組み込む別のコントラスト学習目標である。
第二に、隣接する文書情報をエンコードされた表現に明示的にエンコードする新しいコンテキストアーキテクチャ。
論文 参考訳（メタデータ） (2024-10-03T14:33:34Z) - SimCKP: Simple Contrastive Learning of Keyphrase Representations [36.88517357720033]
そこで本論文では,(1)文脈認識型フレーズレベルの表現からキーフレーズを抽出する抽出器・ジェネレータと,(2)生成したフレーズのスコアを対応する文書と整列させることで,文書に現れないキーフレーズを生成するリランカと,の2つの段階からなる単純なコントラスト学習フレームワークであるSimCKPを提案する。
論文 参考訳（メタデータ） (2023-10-12T11:11:54Z) - Deep Keyphrase Completion [59.0413813332449]
Keyphraseは、非常にコンパクトで簡潔で、意味に満ちた文書内容の正確な情報を提供し、談話理解、組織化、テキスト検索に広く利用されている。
本論文では,文書内容と既知のキーフレーズの数が極めて限られているため,テキストキーフレーズの完全化(KPC)を提案し,文書中のキーフレーズをより多く生成する(科学出版など)。
深層学習フレームワークを通じて、既知のキーフレーズとともに文書内容の深い意味的意味を捉えようとすることから、textitdeep keyphrase completion (DKPC) と命名する。
論文 参考訳（メタデータ） (2021-10-29T07:15:35Z) - Towards Document-Level Paraphrase Generation with Sentence Rewriting and
Reordering [88.08581016329398]
文書レベルのパラフレーズ生成のためのCoRPG(Coherence Relation Guided Paraphrase Generation)を提案する。
グラフGRUを用いて、コヒーレンス関係グラフを符号化し、各文のコヒーレンス対応表現を得る。
我々のモデルは、より多様性とセマンティックな保存を伴う文書パラフレーズを生成することができる。
論文 参考訳（メタデータ） (2021-09-15T05:53:40Z) - Heterogeneous Graph Neural Networks for Keyphrase Generation [13.841525616800908]
本稿では,関連する参照から明示的な知識を抽出するグラフベースの新しい手法を提案する。
我々のモデルはまず、あらかじめ定義されたインデックスから、ソースドキュメントに似た文書とキーワードのペアを参照として検索する。
復号処理を導くために、ソース文書と参照の両方から適切な単語を直接コピーする階層的注目・複写機構を導入する。
論文 参考訳（メタデータ） (2021-09-10T07:17:07Z) - Keyphrase Extraction with Dynamic Graph Convolutional Networks and
Diversified Inference [50.768682650658384]
キーワード抽出(KE)は、ある文書でカバーされている概念やトピックを正確に表現するフレーズの集合を要約することを目的としている。
最近のシークエンス・ツー・シークエンス(Seq2Seq)ベースの生成フレームワークはKEタスクで広く使われ、様々なベンチマークで競合性能を得た。
本稿では,この2つの問題を同時に解くために,動的グラフ畳み込みネットワーク(DGCN)を採用することを提案する。
論文 参考訳（メタデータ） (2020-10-24T08:11:23Z) - Select, Extract and Generate: Neural Keyphrase Generation with
Layer-wise Coverage Attention [75.44523978180317]
本稿では,2つの主要成分からなるニューラルキーフレーズ生成モデルであるemphSEG-Netを提案する。
科学的およびWeb文書から得られた7つのキーフレーズ生成ベンチマークの実験結果は、SEG-Netが最先端のニューラル生成手法よりも大きなマージンで優れていることを示している。
論文 参考訳（メタデータ） (2020-08-04T18:00:07Z) - Exclusive Hierarchical Decoding for Deep Keyphrase Generation [63.357895318562214]
キーフレーズ生成(KG)は、文書の主要なアイデアをキーフレーズの集合にまとめることを目的としている。
この設定の以前の作業では、キーフレーズを生成するためのシーケンシャルなデコードプロセスが使用されている。
本稿では,階層的復号化プロセスとソフトかハードかのいずれかを含む排他的階層的復号化フレームワークを提案する。
論文 参考訳（メタデータ） (2020-04-18T02:58:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。