論文の概要: Analyzing Semantic Change through Lexical Replacements
- arxiv url: http://arxiv.org/abs/2404.18570v1
- Date: Mon, 29 Apr 2024 10:20:41 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-30 14:07:29.226687
- Title: Analyzing Semantic Change through Lexical Replacements
- Title(参考訳): 語彙的置換による意味的変化の分析
- Authors: Francesco Periti, Pierluigi Cassotti, Haim Dubossarsky, Nina Tahmasebi,
- Abstract要約: テクトテックス置換による予期せぬ文脈の影響について検討する。
そこで本研究では,テキスト置換方式を提案する。
セマンティックチェンジ検出におけるLLaMaの使用を最初に評価した。
- 参考スコア(独自算出の注目度): 2.509907053583601
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern language models are capable of contextualizing words based on their surrounding context. However, this capability is often compromised due to semantic change that leads to words being used in new, unexpected contexts not encountered during pre-training. In this paper, we model \textit{semantic change} by studying the effect of unexpected contexts introduced by \textit{lexical replacements}. We propose a \textit{replacement schema} where a target word is substituted with lexical replacements of varying relatedness, thus simulating different kinds of semantic change. Furthermore, we leverage the replacement schema as a basis for a novel \textit{interpretable} model for semantic change. We are also the first to evaluate the use of LLaMa for semantic change detection.
- Abstract(参考訳): 現代言語モデルは、その周囲の文脈に基づいて単語を文脈化することができる。
しかし、この能力はセマンティックな変化によってしばしば損なわれ、事前学習中に遭遇しない新しい予期せぬ文脈で言葉が使われるようになる。
本稿では,<textit{semantic change} を,<textit{lexical replacements} が導入した予期せぬ文脈の影響を研究することによってモデル化する。
そこで本研究では,目的語を様々な関連性の語彙置換に置き換え,異なる種類の意味変化をシミュレートする「textit{replacement schema」を提案する。
さらに、セマンティックチェンジのための新しい \textit{interpretable} モデルの基礎として、置換スキーマを利用する。
また,LLaMaのセマンティックチェンジ検出への応用を初めて評価した。
関連論文リスト
- Lexical Substitution is not Synonym Substitution: On the Importance of Producing Contextually Relevant Word Substitutes [5.065947993017158]
モデルに送信された文脈情報を強化するために,原文を利用した単純な拡張手法であるConCatを導入する。
本研究は,文の類似度とタスクパフォーマンスを指標とした定量的評価を含む。
また,従来手法とは対照的に,利用者が提案した代替品を優先することを示す定性的な人間分析を行った。
論文 参考訳(メタデータ) (2025-02-06T16:05:50Z) - Evaluating Semantic Variation in Text-to-Image Synthesis: A Causal Perspective [50.261681681643076]
本稿では,SemVarEffectとSemVarBenchというベンチマークを用いて,テキスト・画像合成における入力のセマンティックな変化と出力の因果性を評価する。
本研究は,T2I合成コミュニティによるヒューマンインストラクション理解の探索を促進する効果的な評価枠組みを確立する。
論文 参考訳(メタデータ) (2024-10-14T08:45:35Z) - Using Synchronic Definitions and Semantic Relations to Classify Semantic Change Types [1.3436368800886478]
本稿では、同期語彙関係と単語の意味定義の両方から情報を活用するモデルを提案する。
具体的には,WordNet の構文定義と階層情報を用いて,Blank (1997) のセマンティックチェンジ型データセットのデジタル化バージョンでそれをテストする。
論文 参考訳(メタデータ) (2024-06-05T16:52:21Z) - Unsupervised Lexical Substitution with Decontextualised Embeddings [48.00929769805882]
事前学習された言語モデルを用いた語彙置換の新しい教師なし手法を提案する。
本手法は,文脈的および非文脈的単語埋め込みの類似性に基づいて代用語を検索する。
我々は、英語とイタリア語で実験を行い、我々の手法が強いベースラインを大幅に上回っていることを示す。
論文 参考訳(メタデータ) (2022-09-17T03:51:47Z) - LexSubCon: Integrating Knowledge from Lexical Resources into Contextual
Embeddings for Lexical Substitution [76.615287796753]
本稿では,コンテキスト埋め込みモデルに基づくエンドツーエンドの語彙置換フレームワークであるLexSubConを紹介する。
これは文脈情報と構造化語彙資源からの知識を組み合わせることで達成される。
我々の実験によると、LexSubConはLS07とCoInCoベンチマークデータセットで従来の最先端の手法よりも優れていた。
論文 参考訳(メタデータ) (2021-07-11T21:25:56Z) - Fake it Till You Make it: Self-Supervised Semantic Shifts for
Monolingual Word Embedding Tasks [58.87961226278285]
語彙意味変化をモデル化するための自己教師付きアプローチを提案する。
本手法は,任意のアライメント法を用いて意味変化の検出に利用できることを示す。
3つの異なるデータセットに対する実験結果を用いて,本手法の有用性について述べる。
論文 参考訳(メタデータ) (2021-01-30T18:59:43Z) - Lexical semantic change for Ancient Greek and Latin [61.69697586178796]
歴史的文脈における単語の正しい意味の連想は、ダイアクロニック研究の中心的な課題である。
我々は、動的ベイズ混合モデルに基づくセマンティック変化に対する最近の計算的アプローチに基づいて構築する。
本研究では,動的ベイズ混合モデルと最先端埋め込みモデルとのセマンティックな変化を系統的に比較する。
論文 参考訳(メタデータ) (2021-01-22T12:04:08Z) - Unsupervised Distillation of Syntactic Information from Contextualized
Word Representations [62.230491683411536]
我々は,ニューラルネットワーク表現における意味論と構造学の非教師なしの絡み合いの課題に取り組む。
この目的のために、構造的に類似しているが意味的に異なる文群を自動的に生成する。
我々は、我々の変換クラスタベクトルが、語彙的意味論ではなく構造的特性によって空間に現れることを実証する。
論文 参考訳(メタデータ) (2020-10-11T15:13:18Z) - Unsupervised Embedding-based Detection of Lexical Semantic Changes [1.7403133838762452]
本稿では,SemEval-2020 Task 1の"Life-Language"チームによって導入されたEmbLexChangeについて述べる。
EmmLexChangeは、ソース内のワードwの埋め込みベースのプロファイルとターゲットドメインとの分岐として定義される。
参照単語の選択に再サンプリングフレームワークを用いることで,英語,ドイツ語,スウェーデン語,ラテン語の語彙・意味的変化を確実に検出できることを示す。
論文 参考訳(メタデータ) (2020-05-16T13:05:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。