論文の概要: Word sense extension

• arxiv url: http://arxiv.org/abs/2306.05609v1
• Date: Fri, 9 Jun 2023 00:54:21 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-12 15:05:01.706650
• Title: Word sense extension
• Title（参考訳）: 単語感覚拡張
• Authors: Lei Yu, Yang Xu
• Abstract要約: 本稿では,新しい文脈に向けて,単語が新たな感覚を創出することを可能にする,単語知覚拡張(WSE)のパラダイムを提案する。 本研究では,多文語型を異なる感覚を示す2つの擬似トークンに分割することで,単語拡張をシミュレートするフレームワークを開発する。 本フレームワークは,様々な種類の単語知覚拡張をサポートするために,言語モデル埋め込み空間を変換する学習手法と,連鎖の認知モデルを組み合わせる。
• 参考スコア（独自算出の注目度）: 8.939269057094661
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Humans often make creative use of words to express novel senses. A long-standing effort in natural language processing has been focusing on word sense disambiguation (WSD), but little has been explored about how the sense inventory of a word may be extended toward novel meanings. We present a paradigm of word sense extension (WSE) that enables words to spawn new senses toward novel context. We develop a framework that simulates novel word sense extension by first partitioning a polysemous word type into two pseudo-tokens that mark its different senses, and then inferring whether the meaning of a pseudo-token can be extended to convey the sense denoted by the token partitioned from the same word type. Our framework combines cognitive models of chaining with a learning scheme that transforms a language model embedding space to support various types of word sense extension. We evaluate our framework against several competitive baselines and show that it is superior in predicting plausible novel senses for over 7,500 English words. Furthermore, we show that our WSE framework improves performance over a range of transformer-based WSD models in predicting rare word senses with few or zero mentions in the training data.
• Abstract（参考訳）: 人間はしばしば新しい感覚を表現するために言葉の創造的な利用をする。 自然言語処理における長年の努力は、word sense disambiguation (wsd) に焦点をあててきたが、単語のセンスインベントリがどのようにして新しい意味へと拡張されるかについては、ほとんど研究されていない。 我々は,新しい文脈に向けて新たな感覚を生み出すことを可能にするword sense extension (wse) のパラダイムを提案する。 本研究では,まず多文語型を異なる感覚を示す2つの擬似トークンに分割し,擬似トークンの意味を拡張して同一の単語型から区切られたトークンで示される感覚を伝達できるかどうかを推定することにより,新規な単語感覚拡張をシミュレートするフレームワークを開発する。 このフレームワークは連鎖の認知モデルと、様々な種類の単語知覚拡張をサポートする言語モデル埋め込み空間を変換する学習スキームを組み合わせる。 提案手法をいくつかの競争基盤線に対して評価し,7500語以上の英単語に対する可読性新感覚の予測に優れていることを示す。 さらに,我々のwseフレームワークは,トレーニングデータにほとんど言及しない,あるいはゼロのレアワードセンスの予測において,トランスフォーマティブベースのwsdモデルよりもパフォーマンスが向上することを示す。

関連論文リスト

• Can Word Sense Distribution Detect Semantic Changes of Words? [35.17635565325166]
  単語感覚分布は、英語、ドイツ語、スウェーデン語、ラテン語の単語の意味変化を正確に予測するために使用できることを示す。 SemEval 2020 Task 1のデータセットを用いた実験結果から,単語の意味的変化を正確に予測できることがわかった。
  論文  参考訳（メタデータ） (2023-10-16T13:41:27Z)
• Translate to Disambiguate: Zero-shot Multilingual Word Sense Disambiguation with Pretrained Language Models [67.19567060894563]
  事前訓練された言語モデル(PLM)は、豊富な言語間知識を学習し、多様なタスクでうまく機能するように微調整することができる。 C-WLT(Contextual Word-Level Translation)を用いた言語間単語感覚の捉え方の検討を行った。 モデルのサイズが大きくなるにつれて、PLMはより言語間単語認識の知識をエンコードし、WLT性能を改善するためのコンテキストを良くする。
  論文  参考訳（メタデータ） (2023-04-26T19:55:52Z)
• What do Language Models know about word senses? Zero-Shot WSD with Language Models and Domain Inventories [23.623074512572593]
  我々は,言語モデルが推論時間における感覚間の識別能力の程度を調査することを目的としている。 我々は、単語感覚とドメインの関係を利用して、単語センスの曖昧さ(WSD)をテキスト・エンターテイメント問題として位置づける。 以上の結果から,本手法は実効性があり,教師付きシステムに近いことが示唆された。
  論文  参考訳（メタデータ） (2023-02-07T09:55:07Z)
• Sentiment-Aware Word and Sentence Level Pre-training for Sentiment Analysis [64.70116276295609]
  SentiWSPは、WordレベルとSentenceレベルの事前トレーニングタスクを組み合わせた、Sentiment対応の事前トレーニング言語モデルである。 SentiWSPは、様々な文レベルおよびアスペクトレベルの感情分類ベンチマーク上で、最先端のパフォーマンスを新たに達成する。
  論文  参考訳（メタデータ） (2022-10-18T12:25:29Z)
• Lost in Context? On the Sense-wise Variance of Contextualized Word Embeddings [11.475144702935568]
  各単語感覚の文脈的埋め込みが、典型的な事前学習モデルにおける文脈によってどの程度異なるかを定量化する。 単語表現は位置バイアスを受けており、異なる文脈における最初の単語はより類似する傾向にある。
  論文  参考訳（メタデータ） (2022-08-20T12:27:25Z)
• Connect-the-Dots: Bridging Semantics between Words and Definitions via Aligning Word Sense Inventories [47.03271152494389]
  Word Sense Disambiguationは、そのコンテキストに応じて、ある単語の正確な意味を自動的に識別することを目的としている。 既存の教師付きモデルは、限られた訓練データのために稀な単語感覚の正確な予測に苦慮している。 我々は,定義文を異なる意味の在庫から同じ意味に整合させ,豊富な語彙知識を収集する光沢アライメントアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-10-27T00:04:33Z)
• Sense representations for Portuguese: experiments with sense embeddings and deep neural language models [0.0]
  教師なしの感覚表現は、その文脈意味をテキストで分析することによって、単語の異なる感覚を誘導することができる。 ポルトガル語への感性埋め込みを創出するための最初の実験について述べる。
  論文  参考訳（メタデータ） (2021-08-31T18:07:01Z)
• Meta-Learning with Variational Semantic Memory for Word Sense Disambiguation [56.830395467247016]
  メタ学習環境におけるWSDのセマンティックメモリモデルを提案する。 我々のモデルは階層的変動推論に基づいており、ハイパーネットワークを介して適応的なメモリ更新ルールを組み込んでいる。 極めて少ないシナリオでの効果的な学習を支援するために,本モデルがWSDで最先端の技術を数ショットで実現していることを示す。
  論文  参考訳（メタデータ） (2021-06-05T20:40:01Z)
• Contextualized Word Embeddings Encode Aspects of Human-Like Word Sense Knowledge [0.0]
  NLPの最近の進歩、特に文脈的単語埋め込みは、英語の単語感覚間の人間的な区別を捉えているかどうかを考察する。 BERT埋め込み空間における感覚間の距離と,感覚間の関連性に関する被験者の判断が相関していることが判明した。 本研究は,意味の連続空間表現の有用性を示唆するものである。
  論文  参考訳（メタデータ） (2020-10-25T07:56:52Z)
• Moving Down the Long Tail of Word Sense Disambiguation with Gloss-Informed Biencoders [79.38278330678965]
  Word Sense Disambiguation (WSD)の主な障害は、単語感覚が均一に分散されないことである。 本稿では,(1)対象語とその周囲の文脈を独立に埋め込んだバイエンコーダモデルを提案する。
  論文  参考訳（メタデータ） (2020-05-06T04:21:45Z)
• Word Sense Disambiguation for 158 Languages using Word Embeddings Only [80.79437083582643]
  文脈における単語感覚の曖昧さは人間にとって容易であるが、自動的アプローチでは大きな課題である。 本稿では,学習前の標準単語埋め込みモデルを入力として,完全に学習した単語認識のインベントリを誘導する手法を提案する。 この手法を用いて、158の言語に対して、事前訓練されたfastText単語の埋め込みに基づいて、センスインベントリのコレクションを誘導する。
  論文  参考訳（メタデータ） (2020-03-14T14:50:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。