論文の概要: Sentence Compression as Deletion with Contextual Embeddings
- arxiv url: http://arxiv.org/abs/2006.03210v1
- Date: Fri, 5 Jun 2020 02:40:46 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-25 03:17:21.711187
- Title: Sentence Compression as Deletion with Contextual Embeddings
- Title（参考訳）: 文脈埋め込みによる削除としての文圧縮
- Authors: Minh-Tien Nguyen and Bui Cong Minh and Dung Tien Le and Le Thai Linh
- Abstract要約: 我々は、入力のコンテキストをキャプチャするモデルを可能にするコンテキスト埋め込みを利用する。
Googleデータセットのベンチマークによる実験結果から,文脈埋め込みを利用することで,このモデルが新たな最先端のFスコアを実現することが示された。
- 参考スコア（独自算出の注目度）: 3.3263205689999444
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sentence compression is the task of creating a shorter version of an input
sentence while keeping important information. In this paper, we extend the task
of compression by deletion with the use of contextual embeddings. Different
from prior work usually using non-contextual embeddings (Glove or Word2Vec), we
exploit contextual embeddings that enable our model capturing the context of
inputs. More precisely, we utilize contextual embeddings stacked by
bidirectional Long-short Term Memory and Conditional Random Fields for dealing
with sequence labeling. Experimental results on a benchmark Google dataset show
that by utilizing contextual embeddings, our model achieves a new
state-of-the-art F-score compared to strong methods reported on the leader
board.
- Abstract（参考訳）: 文圧縮は、重要な情報を保持しながら、入力文の短いバージョンを作成するタスクである。
本稿では,文脈埋め込みを用いて,削除による圧縮作業を拡張する。
通常、非コンテキスト埋め込み(GloveやWord2Vec)を使った以前の作業とは違い、コンテキスト埋め込みを利用して入力のコンテキストをキャプチャします。
より正確には、双方向長短項記憶と条件ランダムフィールドを重畳したコンテキスト埋め込みを用いてシーケンスラベリングを扱う。
ベンチマークgoogleデータセットにおける実験の結果は、コンテキスト埋め込みを利用することで、リーダボードで報告された強力なメソッドと比較して、新たな最先端のf-scoreが実現できることを示しています。
関連論文リスト
- Contextual Document Embeddings [77.22328616983417]
本稿では,コンテキスト化された文書埋め込みのための2つの補完手法を提案する。
第一に、文書近傍を明示的にバッチ内コンテキスト損失に組み込む別のコントラスト学習目標である。
第二に、隣接する文書情報をエンコードされた表現に明示的にエンコードする新しいコンテキストアーキテクチャ。
論文 参考訳（メタデータ） (2024-10-03T14:33:34Z) - Late Chunking: Contextual Chunk Embeddings Using Long-Context Embedding Models [5.330795983408874]
遅延チャンキングと呼ばれる新しい手法を導入し、長いコンテキストの埋め込みモデルを利用して、まず長いテキストのトークンを埋め込む。
結果として得られたチャンク埋め込みは、コンテキスト情報を完全にキャプチャし、様々な検索タスクにおいて優れた結果をもたらす。
論文 参考訳（メタデータ） (2024-09-07T03:54:46Z) - Fine-grained Controllable Text Generation through In-context Learning with Feedback [57.396980277089135]
本稿では,依存度などの非自明な言語的特徴の特定の値に一致させるために,入力文を書き換える手法を提案する。
従来の研究とは対照的に、本手法は微調整ではなく文脈内学習を用いており、データが少ないユースケースに適用できる。
論文 参考訳（メタデータ） (2024-06-17T08:55:48Z) - Relational Sentence Embedding for Flexible Semantic Matching [86.21393054423355]
文埋め込みの可能性を明らかにするための新しいパラダイムとして,文埋め込み(Sentence Embedding, RSE)を提案する。
RSEは文関係のモデル化に有効で柔軟性があり、一連の最先端の埋め込み手法より優れている。
論文 参考訳（メタデータ） (2022-12-17T05:25:17Z) - Text Ranking and Classification using Data Compression [1.332560004325655]
テキスト分類における言語に依存しないアプローチを提案する。
我々は、Zstandard圧縮機を使用し、これらのアイデアをいくつかの方法で強化し、結果のテクニックをZestと呼ぶ。
Zestは実運用環境における言語固有の多次元コンテンツ埋め込みと競合するが,公開データセット上の他のカウント手法よりも優れていることを示す。
論文 参考訳（メタデータ） (2021-09-23T18:13:17Z) - A Condense-then-Select Strategy for Text Summarization [53.10242552203694]
テキスト要約のための新しいcondense-then-selectフレームワークを提案する。
我々のフレームワークは、文レベルの圧縮の効率を高く保ちながら、有能な情報の損失を避けるのに役立ちます。
論文 参考訳（メタデータ） (2021-06-19T10:33:10Z) - A Comparative Study on Structural and Semantic Properties of Sentence
Embeddings [77.34726150561087]
本稿では,関係抽出に広く利用されている大規模データセットを用いた実験セットを提案する。
異なる埋め込み空間は、構造的および意味的特性に対して異なる強度を持つことを示す。
これらの結果は,埋め込み型関係抽出法の開発に有用な情報を提供する。
論文 参考訳（メタデータ） (2020-09-23T15:45:32Z) - Learning to Select Bi-Aspect Information for Document-Scale Text Content
Manipulation [50.01708049531156]
我々は、テキストスタイルの転送とは逆の文書スケールのテキストコンテンツ操作という、新しい実践的なタスクに焦点を当てる。
詳細は、入力は構造化されたレコードと、別のレコードセットを記述するための参照テキストのセットである。
出力は、ソースレコードセットの部分的内容と参照の書き込みスタイルを正確に記述した要約である。
論文 参考訳（メタデータ） (2020-02-24T12:52:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。