論文の概要: Analyzing Semantic Change through Lexical Replacements

• arxiv url: http://arxiv.org/abs/2404.18570v1
• Date: Mon, 29 Apr 2024 10:20:41 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-30 14:07:29.226687
• Title: Analyzing Semantic Change through Lexical Replacements
• Title（参考訳）: 語彙的置換による意味的変化の分析
• Authors: Francesco Periti, Pierluigi Cassotti, Haim Dubossarsky, Nina Tahmasebi,
• Abstract要約: テクトテックス置換による予期せぬ文脈の影響について検討する。 そこで本研究では,テキスト置換方式を提案する。 セマンティックチェンジ検出におけるLLaMaの使用を最初に評価した。
• 参考スコア（独自算出の注目度）: 2.509907053583601
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Modern language models are capable of contextualizing words based on their surrounding context. However, this capability is often compromised due to semantic change that leads to words being used in new, unexpected contexts not encountered during pre-training. In this paper, we model \textit{semantic change} by studying the effect of unexpected contexts introduced by \textit{lexical replacements}. We propose a \textit{replacement schema} where a target word is substituted with lexical replacements of varying relatedness, thus simulating different kinds of semantic change. Furthermore, we leverage the replacement schema as a basis for a novel \textit{interpretable} model for semantic change. We are also the first to evaluate the use of LLaMa for semantic change detection.
• Abstract（参考訳）: 現代言語モデルは、その周囲の文脈に基づいて単語を文脈化することができる。 しかし、この能力はセマンティックな変化によってしばしば損なわれ、事前学習中に遭遇しない新しい予期せぬ文脈で言葉が使われるようになる。 本稿では,<textit{semantic change} を,<textit{lexical replacements} が導入した予期せぬ文脈の影響を研究することによってモデル化する。 そこで本研究では,目的語を様々な関連性の語彙置換に置き換え,異なる種類の意味変化をシミュレートする「textit{replacement schema」を提案する。 さらに、セマンティックチェンジのための新しい \textit{interpretable} モデルの基礎として、置換スキーマを利用する。 また,LLaMaのセマンティックチェンジ検出への応用を初めて評価した。

関連論文リスト

• Using Synchronic Definitions and Semantic Relations to Classify Semantic Change Types [1.3436368800886478]
  本稿では、同期語彙関係と単語の意味定義の両方から情報を活用するモデルを提案する。 具体的には,WordNet の構文定義と階層情報を用いて,Blank (1997) のセマンティックチェンジ型データセットのデジタル化バージョンでそれをテストする。
  論文  参考訳（メタデータ） (2024-06-05T16:52:21Z)
• Unsupervised Lexical Substitution with Decontextualised Embeddings [48.00929769805882]
  事前学習された言語モデルを用いた語彙置換の新しい教師なし手法を提案する。 本手法は,文脈的および非文脈的単語埋め込みの類似性に基づいて代用語を検索する。 我々は、英語とイタリア語で実験を行い、我々の手法が強いベースラインを大幅に上回っていることを示す。
  論文  参考訳（メタデータ） (2022-09-17T03:51:47Z)
• Contextualized language models for semantic change detection: lessons learned [4.436724861363513]
  本稿では,ダイアクロニック・セマンティック・チェンジを検出する文脈的埋め込みに基づく手法の出力の質的分析を行う。 本研究の結果から,文脈化手法は,実際のダイアクロニック・セマンティック・シフトを行なわない単語に対して,高い変化スコアを予測できることが示唆された。 我々の結論は、事前学習された文脈化言語モデルは、語彙感覚の変化と文脈分散の変化を補う傾向にあるということである。
  論文  参考訳（メタデータ） (2022-08-31T23:35:24Z)
• Always Keep your Target in Mind: Studying Semantics and Improving Performance of Neural Lexical Substitution [124.99894592871385]
  本稿では,従来の言語モデルと最近の言語モデルの両方を用いた語彙置換手法の大規模比較研究を行う。 目的語に関する情報を適切に注入すれば,SOTA LMs/MLMsによるすでに競合する結果がさらに大幅に改善できることを示す。
  論文  参考訳（メタデータ） (2022-06-07T16:16:19Z)
• LexSubCon: Integrating Knowledge from Lexical Resources into Contextual Embeddings for Lexical Substitution [76.615287796753]
  本稿では,コンテキスト埋め込みモデルに基づくエンドツーエンドの語彙置換フレームワークであるLexSubConを紹介する。 これは文脈情報と構造化語彙資源からの知識を組み合わせることで達成される。 我々の実験によると、LexSubConはLS07とCoInCoベンチマークデータセットで従来の最先端の手法よりも優れていた。
  論文  参考訳（メタデータ） (2021-07-11T21:25:56Z)
• Fake it Till You Make it: Self-Supervised Semantic Shifts for Monolingual Word Embedding Tasks [58.87961226278285]
  語彙意味変化をモデル化するための自己教師付きアプローチを提案する。 本手法は,任意のアライメント法を用いて意味変化の検出に利用できることを示す。 3つの異なるデータセットに対する実験結果を用いて,本手法の有用性について述べる。
  論文  参考訳（メタデータ） (2021-01-30T18:59:43Z)
• Lexical semantic change for Ancient Greek and Latin [61.69697586178796]
  歴史的文脈における単語の正しい意味の連想は、ダイアクロニック研究の中心的な課題である。 我々は、動的ベイズ混合モデルに基づくセマンティック変化に対する最近の計算的アプローチに基づいて構築する。 本研究では,動的ベイズ混合モデルと最先端埋め込みモデルとのセマンティックな変化を系統的に比較する。
  論文  参考訳（メタデータ） (2021-01-22T12:04:08Z)
• Unsupervised Distillation of Syntactic Information from Contextualized Word Representations [62.230491683411536]
  我々は,ニューラルネットワーク表現における意味論と構造学の非教師なしの絡み合いの課題に取り組む。 この目的のために、構造的に類似しているが意味的に異なる文群を自動的に生成する。 我々は、我々の変換クラスタベクトルが、語彙的意味論ではなく構造的特性によって空間に現れることを実証する。
  論文  参考訳（メタデータ） (2020-10-11T15:13:18Z)
• Unsupervised Embedding-based Detection of Lexical Semantic Changes [1.7403133838762452]
  本稿では,SemEval-2020 Task 1の"Life-Language"チームによって導入されたEmbLexChangeについて述べる。 EmmLexChangeは、ソース内のワードwの埋め込みベースのプロファイルとターゲットドメインとの分岐として定義される。 参照単語の選択に再サンプリングフレームワークを用いることで,英語,ドイツ語,スウェーデン語,ラテン語の語彙・意味的変化を確実に検出できることを示す。
  論文  参考訳（メタデータ） (2020-05-16T13:05:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。