論文の概要: SimCKP: Simple Contrastive Learning of Keyphrase Representations

• arxiv url: http://arxiv.org/abs/2310.08221v1
• Date: Thu, 12 Oct 2023 11:11:54 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-14 11:51:26.961233
• Title: SimCKP: Simple Contrastive Learning of Keyphrase Representations
• Title（参考訳）: SimCKP: キーフレーズ表現の単純なコントラスト学習
• Authors: Minseok Choi, Chaeheon Gwak, Seho Kim, Si Hyeong Kim, Jaegul Choo
• Abstract要約: そこで本論文では,(1)文脈認識型フレーズレベルの表現からキーフレーズを抽出する抽出器・ジェネレータと,(2)生成したフレーズのスコアを対応する文書と整列させることで,文書に現れないキーフレーズを生成するリランカと,の2つの段階からなる単純なコントラスト学習フレームワークであるSimCKPを提案する。
• 参考スコア（独自算出の注目度）: 36.88517357720033
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Keyphrase generation (KG) aims to generate a set of summarizing words or phrases given a source document, while keyphrase extraction (KE) aims to identify them from the text. Because the search space is much smaller in KE, it is often combined with KG to predict keyphrases that may or may not exist in the corresponding document. However, current unified approaches adopt sequence labeling and maximization-based generation that primarily operate at a token level, falling short in observing and scoring keyphrases as a whole. In this work, we propose SimCKP, a simple contrastive learning framework that consists of two stages: 1) An extractor-generator that extracts keyphrases by learning context-aware phrase-level representations in a contrastive manner while also generating keyphrases that do not appear in the document; 2) A reranker that adapts scores for each generated phrase by likewise aligning their representations with the corresponding document. Experimental results on multiple benchmark datasets demonstrate the effectiveness of our proposed approach, which outperforms the state-of-the-art models by a significant margin.
• Abstract（参考訳）: キーフレーズ生成(KG)は、ソースドキュメントに与えられた単語やフレーズを要約することを目的としており、キーフレーズ抽出(KE)はテキストからそれらを識別することを目的としている。 検索空間は KE においてはるかに小さいため、KG と組み合わせて、対応する文書に存在するかもしれないし存在しないかもしれないキーフレーズを予測する。 しかし、現在の統一的なアプローチでは、主にトークンレベルで動作するシーケンスラベリングと最大化ベースの生成を採用しており、キーフレーズ全体の観察とスコアリングに不足している。 本研究では,2段階からなる単純なコントラスト学習フレームワークであるSimCKPを提案する。 1) 文書に現れないキーフレーズを生成するとともに,文脈対応のフレーズレベルの表現を対照的に学習してキーフレーズを抽出する抽出器生成装置 2 生成した各語句のスコアを対応づける再演者は、同様に、その表現を対応する文書と整合させる。 複数のベンチマークデータセットにおける実験結果は,提案手法の有効性を示すものである。

関連論文リスト

• Fine-tuning CLIP Text Encoders with Two-step Paraphrasing [83.3736789315201]
  パラフレーズに対するCLIPモデルの表現を強化するための簡単な微調整手法を提案する。 ParaCLIPと呼ばれる我々のモデルは、様々なタスクでベースラインCLIPモデルよりも大幅に改善されている。
  論文  参考訳（メタデータ） (2024-02-23T06:11:50Z)
• Applying Transformer-based Text Summarization for Keyphrase Generation [2.28438857884398]
  キーフレーズは学術文書の検索と体系化に不可欠である。 本稿では,抽象的なテキスト要約のためのトランスフォーマーモデルについて実験する。 要約モデルはフルマッチのF1スコアとBERTスコアでキーフレーズを生成するのに非常に効果的であることを示す。 また,キーフレーズをターゲットとした順序付け戦略についても検討する。
  論文  参考訳（メタデータ） (2022-09-08T13:01:52Z)
• Deep Keyphrase Completion [59.0413813332449]
  Keyphraseは、非常にコンパクトで簡潔で、意味に満ちた文書内容の正確な情報を提供し、談話理解、組織化、テキスト検索に広く利用されている。 本論文では,文書内容と既知のキーフレーズの数が極めて限られているため,テキストキーフレーズの完全化(KPC)を提案し,文書中のキーフレーズをより多く生成する(科学出版など)。 深層学習フレームワークを通じて、既知のキーフレーズとともに文書内容の深い意味的意味を捉えようとすることから、textitdeep keyphrase completion (DKPC) と命名する。
  論文  参考訳（メタデータ） (2021-10-29T07:15:35Z)
• Keyphrase Extraction with Dynamic Graph Convolutional Networks and Diversified Inference [50.768682650658384]
  キーワード抽出(KE)は、ある文書でカバーされている概念やトピックを正確に表現するフレーズの集合を要約することを目的としている。 最近のシークエンス・ツー・シークエンス(Seq2Seq)ベースの生成フレームワークはKEタスクで広く使われ、様々なベンチマークで競合性能を得た。 本稿では,この2つの問題を同時に解くために,動的グラフ畳み込みネットワーク(DGCN)を採用することを提案する。
  論文  参考訳（メタデータ） (2020-10-24T08:11:23Z)
• Select, Extract and Generate: Neural Keyphrase Generation with Layer-wise Coverage Attention [75.44523978180317]
  本稿では,2つの主要成分からなるニューラルキーフレーズ生成モデルであるemphSEG-Netを提案する。 科学的およびWeb文書から得られた7つのキーフレーズ生成ベンチマークの実験結果は、SEG-Netが最先端のニューラル生成手法よりも大きなマージンで優れていることを示している。
  論文  参考訳（メタデータ） (2020-08-04T18:00:07Z)
• Keyphrase Prediction With Pre-trained Language Model [16.06425973336514]
  我々は,キーフレーズ予測を2つのサブタスク,すなわち,現在キーフレーズ抽出(PKE)と欠キーフレーズ生成(AKG)に分割することを提案する。 PKEでは、事前訓練された言語モデルBERTを用いて、このタスクをシーケンスラベリング問題として扱う。 AKG では,PKE から学んだキーフレーズの知識を細調整した BERT で完全に統合した Transformer ベースのアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2020-04-22T09:35:02Z)
• Exclusive Hierarchical Decoding for Deep Keyphrase Generation [63.357895318562214]
  キーフレーズ生成(KG)は、文書の主要なアイデアをキーフレーズの集合にまとめることを目的としている。 この設定の以前の作業では、キーフレーズを生成するためのシーケンシャルなデコードプロセスが使用されている。 本稿では,階層的復号化プロセスとソフトかハードかのいずれかを含む排他的階層的復号化フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-04-18T02:58:00Z)
• Keyphrase Extraction with Span-based Feature Representations [13.790461555410747]
  キーフレーズは、文書を特徴付ける意味メタデータを提供することができる。 キーフレーズ抽出のための3つのアプローチ: (i) 従来の2段階ランキング法、 (ii) シーケンスラベリング、 (iii) ニューラルネットワークを用いた生成。 本稿では,すべてのコンテンツトークンから直接,キーフレーズのスパン的特徴表現を抽出する新規スパンキーフレーズ抽出モデルを提案する。
  論文  参考訳（メタデータ） (2020-02-13T09:48:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。