論文の概要: Improving Interpretability of Lexical Semantic Change with Neurobiological Features
- arxiv url: http://arxiv.org/abs/2602.09760v1
- Date: Tue, 10 Feb 2026 13:20:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-11 20:17:43.545268
- Title: Improving Interpretability of Lexical Semantic Change with Neurobiological Features
- Title(参考訳): 神経生物学的特徴による語彙意味変化の解釈可能性の向上
- Authors: Kohei Oda, Hiroya Takamura, Kiyoaki Shirai, Natthawut Kertkeidkachorn,
- Abstract要約: 本稿では,事前学習言語モデルにより得られた単語の文脈的埋め込みのセマンティック空間を神経生物学的特徴空間にマッピングする手法を提案する。
神経生物学的特徴空間では、各次元は単語の原始的特徴に対応し、その値はその特徴の強さを表す。
LSCの度合いを推定するために用いられる場合,本手法は従来の手法に比べて優れた性能を示す。
- 参考スコア(独自算出の注目度): 15.543535505762945
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Lexical Semantic Change (LSC) is the phenomenon in which the meaning of a word change over time. Most studies on LSC focus on improving the performance of estimating the degree of LSC, however, it is often difficult to interpret how the meaning of a word change. Enhancing the interpretability of LSC is a significant challenge as it could lead to novel insights in this field. To tackle this challenge, we propose a method to map the semantic space of contextualized embeddings of words obtained by a pre-trained language model to a neurobiological feature space. In the neurobiological feature space, each dimension corresponds to a primitive feature of words, and its value represents the intensity of that feature. This enables humans to interpret LSC systematically. When employed for the estimation of the degree of LSC, our method demonstrates superior performance in comparison to the majority of the previous methods. In addition, given the high interpretability of the proposed method, several analyses on LSC are carried out. The results demonstrate that our method not only discovers interesting types of LSC that have been overlooked in previous studies but also effectively searches for words with specific types of LSC.
- Abstract(参考訳): 語彙意味変化(Lexical Semantic Change、LSC)は、単語の意味が時間とともに変化する現象である。
LSCに関するほとんどの研究は、LCCの度合いを推定する性能の向上に重点を置いているが、単語の意味がどう変化するかを理解することはしばしば困難である。
LSCの解釈可能性を高めることは、この分野における新たな洞察につながる可能性がある重要な課題である。
この課題に対処するために,事前学習言語モデルにより得られた単語の文脈的埋め込みのセマンティック空間を神経生物学的特徴空間にマッピングする手法を提案する。
神経生物学的特徴空間では、各次元は単語の原始的特徴に対応し、その値はその特徴の強さを表す。
これにより、ヒトはLSCを体系的に解釈することができる。
LSCの度合いを推定するために用いられる場合,本手法は従来の手法に比べて優れた性能を示す。
また,提案手法の高い解釈性から,LCCに関するいくつかの解析を行った。
その結果,従来の研究で見過ごされてきた興味深いLSCの検索だけでなく,特定のLSCの単語を効果的に検索できることがわかった。
関連論文リスト
- Transparent Semantic Change Detection with Dependency-Based Profiles [1.1340133299604382]
単語の依存性共起パターンを純粋に依存する代替手法について検討する。
意味的変化の検出には有効であることを示すとともに,多くの分布意味モデルよりも優れていることを示す。
論文 参考訳(メタデータ) (2026-01-06T10:25:36Z) - Illusion or Algorithm? Investigating Memorization, Emergence, and Symbolic Processing in In-Context Learning [50.53703102032562]
大規模トランスフォーマー言語モデル(LM)は、Webスケールデータによる次世代の予測のみを訓練することで、幅広いタスクを解決できる。
この能力の背後にあるメカニズムは、ICL(In-context Learning)と呼ばれ、議論の余地があり、理解が不十分なままである。
論文 参考訳(メタデータ) (2025-05-16T08:50:42Z) - LSC-Eval: A General Framework to Evaluate Methods for Assessing Dimensions of Lexical Semantic Change Using LLM-Generated Synthetic Data [2.363288258212481]
レキシカル・セマンティック・チェンジ(Lexical Semantic Change、LSC)は、文化的・社会的ダイナミクスに関する洞察を提供する。
異なる種類のLCCを測定する方法の妥当性は、過去のベンチマークデータセットがないために確立されていない。
本稿では,新しい3段階汎用評価フレームワーク LSC-Eval を提案する。
論文 参考訳(メタデータ) (2025-03-11T04:48:22Z) - Large Language Models as Neurolinguistic Subjects: Discrepancy between Performance and Competence [49.60849499134362]
本研究では,大言語モデル(LLM)の記号化(形式)および記号化(意味)に関する言語的理解について検討する。
ミニマルペアと診断プローブを組み合わせてモデル層間のアクティベーションパターンを解析する新しい手法を用いて,ニューロ言語学的アプローチを提案する。
その結果,(1)心理言語学的・神経言語学的手法では,言語能力と能力が異なっていること,(2)直接確率測定では言語能力が正確に評価されないこと,(3)指導のチューニングでは能力が大きく変化しないが,性能は向上しないことがわかった。
論文 参考訳(メタデータ) (2024-11-12T04:16:44Z) - A Methodology for Explainable Large Language Models with Integrated Gradients and Linguistic Analysis in Text Classification [2.556395214262035]
アルツハイマー病(AD)のような発声に影響を及ぼす神経疾患は、患者と介護者の生活に大きな影響を及ぼす。
近年のLarge Language Model (LLM) アーキテクチャの進歩は、自然発声による神経疾患の代表的特徴を識別する多くのツールを開発した。
本稿では,ADに代表される語彙成分を識別できるSLIME法を提案する。
論文 参考訳(メタデータ) (2024-09-30T21:45:02Z) - Open-Vocabulary Segmentation with Semantic-Assisted Calibration [68.41025728960176]
オープンボキャブラリセグメンテーション(OVS)は,CLIPの文脈に先行して,語彙内およびドメインバイアスの埋め込み空間を校正することで研究される。
オープン語彙セグメンテーションベンチマークにおける最先端性能を実現するために,セマンティック・アシブ・キャリブレーション・ネットワーク(SCAN)を提案する。
論文 参考訳(メタデータ) (2023-12-07T07:00:09Z) - Contextualized Semantic Distance between Highly Overlapped Texts [85.1541170468617]
テキスト編集や意味的類似性評価といった自然言語処理タスクにおいて、ペア化されたテキストに重複が頻繁に発生する。
本稿では,マスク・アンド・予測戦略を用いてこの問題に対処することを目的とする。
本稿では,最も長い単語列の単語を隣接する単語とみなし,その位置の分布を予測するためにマスク付き言語モデリング(MLM)を用いる。
セマンティックテキスト類似性の実験では、NDDは様々な意味的差異、特に高い重なり合うペアテキストに対してより敏感であることが示されている。
論文 参考訳(メタデータ) (2021-10-04T03:59:15Z) - Fake it Till You Make it: Self-Supervised Semantic Shifts for
Monolingual Word Embedding Tasks [58.87961226278285]
語彙意味変化をモデル化するための自己教師付きアプローチを提案する。
本手法は,任意のアライメント法を用いて意味変化の検出に利用できることを示す。
3つの異なるデータセットに対する実験結果を用いて,本手法の有用性について述べる。
論文 参考訳(メタデータ) (2021-01-30T18:59:43Z) - Challenges for Computational Lexical Semantic Change [8.86445314853606]
語彙的意味論的変化(LSC)の計算的研究はここ数年で開始され、この分野への関心が高まっています。
これまでの研究の多くは、巨大なダイアクロニックテキストデータを用いて意味変化をモデル化し、検出する方法に重点を置いている。
本章では,これらの課題のうち最も重要なものを説明し,今後の方向性を概説する。
論文 参考訳(メタデータ) (2021-01-19T15:01:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。