論文の概要: semantic-features: A User-Friendly Tool for Studying Contextual Word Embeddings in Interpretable Semantic Spaces

• arxiv url: http://arxiv.org/abs/2506.06169v1
• Date: Fri, 06 Jun 2025 15:33:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-09 17:28:43.533724
• Title: semantic-features: A User-Friendly Tool for Studying Contextual Word Embeddings in Interpretable Semantic Spaces
• Title（参考訳）: 意味機能:解釈可能な意味空間における文脈的単語埋め込みを学習するためのユーザフレンドリーなツール
• Authors: Jwalanthi Ranganathan, Rohan Jha, Kanishka Misra, Kyle Mahowald,
• Abstract要約: LMの文脈的単語埋め込みを研究するための,使い易いセマンティック・フェース(semantic-features)を紹介する。 本稿では,発話の意味的解釈に対する発話構成の選択の文脈的影響を計測する。 意味的特徴を応用することにより、3つのマスキング言語モデルの文脈的単語埋め込みが期待された感性を示すことを示す。
• 参考スコア（独自算出の注目度）: 16.888898382945012
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce semantic-features, an extensible, easy-to-use library based on Chronis et al. (2023) for studying contextualized word embeddings of LMs by projecting them into interpretable spaces. We apply this tool in an experiment where we measure the contextual effect of the choice of dative construction (prepositional or double object) on the semantic interpretation of utterances (Bresnan, 2007). Specifically, we test whether "London" in "I sent London the letter." is more likely to be interpreted as an animate referent (e.g., as the name of a person) than in "I sent the letter to London." To this end, we devise a dataset of 450 sentence pairs, one in each dative construction, with recipients being ambiguous with respect to person-hood vs. place-hood. By applying semantic-features, we show that the contextualized word embeddings of three masked language models show the expected sensitivities. This leaves us optimistic about the usefulness of our tool.
• Abstract（参考訳）: そこで我々は,Chronas et al (2023) をベースとした拡張性・使いやすいライブラリであるセマンティック機能を導入し,それを解釈可能な空間に投影することで,LMの文脈的単語埋め込みを研究する。 本ツールを,発話の意味的解釈に対する韻律的構成(前提対象または二重対象)の選択の文脈的効果を測定する実験に適用する(Bresnan,2007)。 具体的には、「ロンドンに手紙を送った」の「ロンドン」が「ロンドンに手紙を送った」よりも、アニメーター(例えば、人物の名前)として解釈される可能性が高いか(例えば、「ロンドンに手紙を送った」)。 この目的のために、450の文対からなるデータセットを考案した。 意味的特徴を応用することにより、3つのマスキング言語モデルの文脈的単語埋め込みが期待された感性を示すことを示す。 これにより、ツールの有用性について楽観的に考えることができます。

関連論文リスト

• Driving Context into Text-to-Text Privatization [0.0]
  textitMetric Differential Privacyは、単語のベクトルにノイズを加えることによって、テキストからテキストへの民営化を可能にする。 分類精度が6.05%のかなり高いことを実証する。
  論文  参考訳（メタデータ） (2023-06-02T11:33:06Z)
• A Method for Studying Semantic Construal in Grammatical Constructions with Interpretable Contextual Embedding Spaces [11.564029462243631]
  本研究では,大言語モデルを用いた文法構成における意味論的コンストラクトについて検討する。 対象位置にある単語は、対象位置にある単語と全く同じ単語よりも、より有効なものとして解釈されることを示す。 本手法は, 特定のレキセムから抽象化された, テンポラティクスレベルでの構文構成の分布的意味を探索することができる。
  論文  参考訳（メタデータ） (2023-05-29T20:30:38Z)
• Syntax and Semantics Meet in the "Middle": Probing the Syntax-Semantics Interface of LMs Through Agentivity [68.8204255655161]
  このような相互作用を探索するためのケーススタディとして,作用性のセマンティックな概念を提示する。 これは、LMが言語アノテーション、理論テスト、発見のためのより有用なツールとして役立つ可能性を示唆している。
  論文  参考訳（メタデータ） (2023-05-29T16:24:01Z)
• Interpretable Word Sense Representations via Definition Generation: The Case of Semantic Change Analysis [3.515619810213763]
  本稿では,文脈化された単語の用法を解釈可能な単語と単語感覚表現として自動生成する自然言語定義を提案する。 得られた感覚ラベルが、意味変化分析に既存のアプローチをより解釈可能なものにする方法を実証する。
  論文  参考訳（メタデータ） (2023-05-19T20:36:21Z)
• SensePOLAR: Word sense aware interpretability for pre-trained contextual word embeddings [4.479834103607384]
  単語埋め込みに解釈可能性を加えることは、テキスト表現における活発な研究の領域である。 本稿では,従来のPOLARフレームワークを拡張したSensePOLARを提案する。
  論文  参考訳（メタデータ） (2023-01-11T20:25:53Z)
• Textual Entailment Recognition with Semantic Features from Empirical Text Representation [60.31047947815282]
  テキストが仮説を包含するのは、仮説の真の価値がテキストに従う場合に限る。 本稿では,テキストと仮説のテキストの包含関係を同定する新しい手法を提案する。 本手法では,テキスト・ハイブリッド・ペア間の意味的含意関係を識別できる要素ワイド・マンハッタン距離ベクトルベースの特徴を用いる。
  論文  参考訳（メタデータ） (2022-10-18T10:03:51Z)
• Fake it Till You Make it: Self-Supervised Semantic Shifts for Monolingual Word Embedding Tasks [58.87961226278285]
  語彙意味変化をモデル化するための自己教師付きアプローチを提案する。 本手法は,任意のアライメント法を用いて意味変化の検出に利用できることを示す。 3つの異なるデータセットに対する実験結果を用いて,本手法の有用性について述べる。
  論文  参考訳（メタデータ） (2021-01-30T18:59:43Z)
• Unsupervised Distillation of Syntactic Information from Contextualized Word Representations [62.230491683411536]
  我々は,ニューラルネットワーク表現における意味論と構造学の非教師なしの絡み合いの課題に取り組む。 この目的のために、構造的に類似しているが意味的に異なる文群を自動的に生成する。 我々は、我々の変換クラスタベクトルが、語彙的意味論ではなく構造的特性によって空間に現れることを実証する。
  論文  参考訳（メタデータ） (2020-10-11T15:13:18Z)
• A Comparative Study on Structural and Semantic Properties of Sentence Embeddings [77.34726150561087]
  本稿では,関係抽出に広く利用されている大規模データセットを用いた実験セットを提案する。 異なる埋め込み空間は、構造的および意味的特性に対して異なる強度を持つことを示す。 これらの結果は,埋め込み型関係抽出法の開発に有用な情報を提供する。
  論文  参考訳（メタデータ） (2020-09-23T15:45:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。