論文の概要: Analyzing Continuous Semantic Shifts with Diachronic Word Similarity Matrices

• arxiv url: http://arxiv.org/abs/2501.09538v2
• Date: Fri, 17 Jan 2025 02:35:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-20 10:40:27.499748
• Title: Analyzing Continuous Semantic Shifts with Diachronic Word Similarity Matrices
• Title（参考訳）: ダイアクロニック単語類似度行列を用いた連続意味変化の解析
• Authors: Hajime Kiyama, Taichi Aida, Mamoru Komachi, Toshinobu Ogiso, Hiroya Takamura, Daichi Mochihashi,
• Abstract要約: 本稿では,複数の期間にわたって意味的変化が発生するための,シンプルかつ直感的なフレームワークを提案する。 高速かつ軽量な単語埋め込みを用いたダイアクロニック単語類似度行列を計算した。 意味変化の類似した振る舞いを示す単語を教師なしの方法で分類することができる。
• 参考スコア（独自算出の注目度）: 21.852268893122115
• License:
• Abstract: The meanings and relationships of words shift over time. This phenomenon is referred to as semantic shift. Research focused on understanding how semantic shifts occur over multiple time periods is essential for gaining a detailed understanding of semantic shifts. However, detecting change points only between adjacent time periods is insufficient for analyzing detailed semantic shifts, and using BERT-based methods to examine word sense proportions incurs a high computational cost. To address those issues, we propose a simple yet intuitive framework for how semantic shifts occur over multiple time periods by leveraging a similarity matrix between the embeddings of the same word through time. We compute a diachronic word similarity matrix using fast and lightweight word embeddings across arbitrary time periods, making it deeper to analyze continuous semantic shifts. Additionally, by clustering the similarity matrices for different words, we can categorize words that exhibit similar behavior of semantic shift in an unsupervised manner.
• Abstract（参考訳）: 言葉の意味と関係は時とともに変化する。 この現象を意味シフト(semantic shift)と呼ぶ。 セマンティックシフトが複数の時間にわたってどのように起こるかを理解することに焦点を当てた研究は、セマンティックシフトの詳細な理解を得るために不可欠である。 しかし,所要時間のみの変化点を検出することは,詳細な意味変化の分析には不十分であり,単語知覚比率を調べるBERT法では高い計算コストが生じる。 これらの問題に対処するために、同じ単語の埋め込みの類似性行列を時間を通して活用することにより、意味的シフトが複数の時間にわたってどのように起こるか、簡易かつ直感的なフレームワークを提案する。 任意の時間にまたがる高速で軽量な単語埋め込みを用いて単語類似度行列を計算し、連続的な意味的シフトを分析する。 さらに,異なる単語の類似度行列をクラスタリングすることにより,教師なしの方法で意味変化の類似した振る舞いを示す単語を分類することができる。

関連論文リスト

• A Comparative Study of Sentence Embedding Models for Assessing Semantic Variation [0.0]
  本稿では,複数の文献において,連続する文間の意味的類似性の時系列と対の文類似性の行列を用いた最近の文埋め込み法について比較する。 文の埋め込み手法のほとんどは、ある文書において意味的類似性の高相関パターンを推定するが、興味深い相違が見られる。
  論文  参考訳（メタデータ） (2023-08-08T23:31:10Z)
• Unsupervised Semantic Variation Prediction using the Distribution of Sibling Embeddings [17.803726860514193]
  単語の意味的変化の検出は,様々なNLPアプリケーションにおいて重要な課題である。 意味表現だけではそのような意味的バリエーションを正確に捉えることはできないと我々は主張する。 対象単語の文脈的埋め込みのコホート全体を利用する手法を提案する。
  論文  参考訳（メタデータ） (2023-05-15T13:58:21Z)
• How Do Transformers Learn Topic Structure: Towards a Mechanistic Understanding [56.222097640468306]
  我々は、トランスフォーマーが「意味構造」を学ぶ方法の機械的理解を提供する 数学的解析とウィキペディアデータの実験を組み合わせることで、埋め込み層と自己保持層がトピック構造をエンコードしていることを示す。
  論文  参考訳（メタデータ） (2023-03-07T21:42:17Z)
• Relational Sentence Embedding for Flexible Semantic Matching [86.21393054423355]
  文埋め込みの可能性を明らかにするための新しいパラダイムとして,文埋め込み(Sentence Embedding, RSE)を提案する。 RSEは文関係のモデル化に有効で柔軟性があり、一連の最先端の埋め込み手法より優れている。
  論文  参考訳（メタデータ） (2022-12-17T05:25:17Z)
• Dictionary-Assisted Supervised Contrastive Learning [0.0]
  本稿では,辞書支援型教師付きコントラスト学習(DASCL)の目的について紹介する。 共通の固定トークンは、関心の概念に関連する辞書(ies)に現れるコーパス内の任意の単語を置き換える。 DASCLとクロスエントロピーは、数ショットの学習設定と社会科学応用における分類性能指標を改善する。
  論文  参考訳（メタデータ） (2022-10-27T04:57:43Z)
• Compositional Temporal Grounding with Structured Variational Cross-Graph Correspondence Learning [92.07643510310766]
  ビデオの時間的接地は、あるクエリ文に意味的に対応する1つのターゲットビデオセグメントをローカライズすることを目的としている。 新たに構成時間グラウンドタスクを導入し,2つの新しいデータセット分割を構築した。 出現した単語の新たな組み合わせによるクエリの一般化に失敗したことを実証的に見出した。 本稿では,ビデオと言語を複数の階層構造に明示的に分解する多変分グラフ推論フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-03-24T12:55:23Z)
• Contextualized Semantic Distance between Highly Overlapped Texts [85.1541170468617]
  テキスト編集や意味的類似性評価といった自然言語処理タスクにおいて、ペア化されたテキストに重複が頻繁に発生する。 本稿では,マスク・アンド・予測戦略を用いてこの問題に対処することを目的とする。 本稿では,最も長い単語列の単語を隣接する単語とみなし,その位置の分布を予測するためにマスク付き言語モデリング(MLM)を用いる。 セマンティックテキスト類似性の実験では、NDDは様々な意味的差異、特に高い重なり合うペアテキストに対してより敏感であることが示されている。
  論文  参考訳（メタデータ） (2021-10-04T03:59:15Z)
• EDS-MEMBED: Multi-sense embeddings based on enhanced distributional semantic structures via a graph walk over word senses [0.0]
  WordNetの豊富なセマンティック構造を活用して、マルチセンス埋め込みの品質を高めます。 M-SEの新たな分布意味類似度測定法を先行して導出する。 WSDとWordの類似度タスクを含む11のベンチマークデータセットの評価結果を報告します。
  論文  参考訳（メタデータ） (2021-02-27T14:36:55Z)
• Fake it Till You Make it: Self-Supervised Semantic Shifts for Monolingual Word Embedding Tasks [58.87961226278285]
  語彙意味変化をモデル化するための自己教師付きアプローチを提案する。 本手法は,任意のアライメント法を用いて意味変化の検出に利用できることを示す。 3つの異なるデータセットに対する実験結果を用いて,本手法の有用性について述べる。
  論文  参考訳（メタデータ） (2021-01-30T18:59:43Z)
• SST-BERT at SemEval-2020 Task 1: Semantic Shift Tracing by Clustering in BERT-based Embedding Spaces [63.17308641484404]
  本稿では,異なる単語の意味の表現として,各単語の異なる事象のクラスタを特定することを提案する。 得られたクラスタの分解は、自然に4つのターゲット言語において、各ターゲットワードごとの意味的シフトのレベルを定量化することができる。 当社のアプローチは,提供されたすべてのSemEvalベースラインを抜いて,個別(言語毎)と全体の両方で良好に動作します。
  論文  参考訳（メタデータ） (2020-10-02T08:38:40Z)
• Autoencoding Word Representations through Time for Semantic Change Detection [21.17543605603968]
  本稿では,意味的にシフトした単語を検出するシーケンシャルモデルの3つの変種を提案する。 本稿では,単語表現の時間的モデリングが性能の明確な優位性をもたらすことを示すとともに,異なるアプローチを定量的に比較するための一歩を踏み出した。
  論文  参考訳（メタデータ） (2020-04-28T17:58:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。