論文の概要: Supervised Phrase-boundary Embeddings
- arxiv url: http://arxiv.org/abs/2002.06450v1
- Date: Sat, 15 Feb 2020 21:05:07 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-31 23:02:28.763875
- Title: Supervised Phrase-boundary Embeddings
- Title(参考訳): 改良されたフレーズ境界埋め込み
- Authors: Manni Singh, David Weston, Mark Levene
- Abstract要約: 教師付きフレーズ情報を組み込んだ新しい単語埋め込みモデルSPhraseを提案する。
本手法は,句中のすべての目的語が全く同じ文脈を持つことを保証することによって,従来の単語埋め込みを改良する。
- 参考スコア(独自算出の注目度): 0.6767885381740951
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a new word embedding model, called SPhrase, that incorporates
supervised phrase information. Our method modifies traditional word embeddings
by ensuring that all target words in a phrase have exactly the same context. We
demonstrate that including this information within a context window produces
superior embeddings for both intrinsic evaluation tasks and downstream
extrinsic tasks.
- Abstract(参考訳): 本稿では,教師付き句情報を含む新しい単語埋め込みモデルsphraseを提案する。
本手法は,句中のすべての対象語が全く同じ文脈を持つことを保証することにより,従来の単語埋め込みを修飾する。
コンテキストウィンドウにこの情報を含めれば,本質的な評価タスクと下流の外部タスクの両方に対して優れた埋め込みが可能になる。
関連論文リスト
- Injecting Wiktionary to improve token-level contextual representations
using contrastive learning [2.761009930426063]
我々は、英語ウィキオンリーを用いて、レキシコンを代替の監督源として注入する方法を検討する。
また、次元の減少が結果の文脈的単語の埋め込みにどのように影響するかを検証する。
論文 参考訳(メタデータ) (2024-02-12T17:22:42Z) - A Novel Prompt-tuning Method: Incorporating Scenario-specific Concepts
into a Verbalizer [15.612761980503658]
シナリオ固有の概念を取り入れたラベルワード構築プロセスを提案する。
具体的には,タスク固有のシナリオから,ラベルワード候補としてリッチな概念を抽出する。
そこで我々は,各クラスのラベル単語の集合として候補を洗練するための新しいカスケードキャリブレーションモジュールを開発した。
論文 参考訳(メタデータ) (2024-01-10T15:02:35Z) - Unsupervised Paraphrasing of Multiword Expressions [48.009297698058816]
そこで本稿では,MWEを文脈で表現するための教師なしアプローチを提案する。
我々のモデルは、単言語コーパスデータと事前訓練された言語モデルのみを用いる(微調整なしで)。
本手法はSemEval 2022のセマンティックテキスト類似性タスクにおいて評価し,非教師付きシステムや競合型教師付きシステムよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-06-02T11:06:48Z) - LexSubCon: Integrating Knowledge from Lexical Resources into Contextual
Embeddings for Lexical Substitution [76.615287796753]
本稿では,コンテキスト埋め込みモデルに基づくエンドツーエンドの語彙置換フレームワークであるLexSubConを紹介する。
これは文脈情報と構造化語彙資源からの知識を組み合わせることで達成される。
我々の実験によると、LexSubConはLS07とCoInCoベンチマークデータセットで従来の最先端の手法よりも優れていた。
論文 参考訳(メタデータ) (2021-07-11T21:25:56Z) - UCPhrase: Unsupervised Context-aware Quality Phrase Tagging [63.86606855524567]
UCPhraseは、教師なしの文脈対応のフレーズタグである。
我々は,一貫した単語列から,高品質なフレーズを銀のラベルとして表現する。
我々の設計は、最先端の事前訓練、教師なし、遠隔管理の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2021-05-28T19:44:24Z) - Unsupervised Distillation of Syntactic Information from Contextualized
Word Representations [62.230491683411536]
我々は,ニューラルネットワーク表現における意味論と構造学の非教師なしの絡み合いの課題に取り組む。
この目的のために、構造的に類似しているが意味的に異なる文群を自動的に生成する。
我々は、我々の変換クラスタベクトルが、語彙的意味論ではなく構造的特性によって空間に現れることを実証する。
論文 参考訳(メタデータ) (2020-10-11T15:13:18Z) - A Neural Generative Model for Joint Learning Topics and Topic-Specific
Word Embeddings [42.87769996249732]
共同学習トピックとトピック固有の単語埋め込みのための局所的・グローバル的文脈を探索する新しい生成モデルを提案する。
訓練されたモデルは、単語を話題に依存した埋め込みにマッピングする。
論文 参考訳(メタデータ) (2020-08-11T13:54:11Z) - Learning aligned embeddings for semi-supervised word translation using
Maximum Mean Discrepancy [3.299672391663527]
本稿では,単語ペアを必要としない単語埋め込みアライメントのためのエンドツーエンドアプローチを提案する。
本手法は, 文章翻訳訓練において, 局所的な最大平均離散性(MMD)制約を用いて整列した埋め込みを学習する。
提案手法は,教師なしの手法だけでなく,既知の単語翻訳を訓練する教師付き手法にも優れることを示す。
論文 参考訳(メタデータ) (2020-06-20T13:57:55Z) - A Survey on Contextual Embeddings [48.04732268018772]
文脈埋め込みは、各単語を文脈に基づく表現として割り当て、様々な文脈にまたがる単語の使用を捉え、言語間で伝達される知識を符号化する。
本稿では,既存の文脈埋め込みモデル,言語間多言語事前学習,下流タスクへの文脈埋め込みの適用,モデル圧縮,モデル解析についてレビューする。
論文 参考訳(メタデータ) (2020-03-16T15:22:22Z) - Learning to Select Bi-Aspect Information for Document-Scale Text Content
Manipulation [50.01708049531156]
我々は、テキストスタイルの転送とは逆の文書スケールのテキストコンテンツ操作という、新しい実践的なタスクに焦点を当てる。
詳細は、入力は構造化されたレコードと、別のレコードセットを記述するための参照テキストのセットである。
出力は、ソースレコードセットの部分的内容と参照の書き込みスタイルを正確に記述した要約である。
論文 参考訳(メタデータ) (2020-02-24T12:52:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。