論文の概要: A visual observation on the geometry of UMAP projections of the difference vectors of antonym and synonym word pair embeddings
- arxiv url: http://arxiv.org/abs/2603.24150v1
- Date: Wed, 25 Mar 2026 10:18:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-26 21:06:11.243211
- Title: A visual observation on the geometry of UMAP projections of the difference vectors of antonym and synonym word pair embeddings
- Title(参考訳): アントロニムと同義語対埋め込みの差ベクトルのUMAP射影幾何学の視覚的観察
- Authors: Rami Luisto,
- Abstract要約: アンソニーム(英: Antonyms)または反対語(英: opposites)は、時として、同じ文脈に関係のある性質のすべてを持つ単語対として定義される。
本論文は,単語対の埋め込みベクトルの幾何学を検出するために必要なシステムの複雑さを探索するプロジェクトとして始まった。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Antonyms, or opposites, are sometimes defined as \emph{word pairs that have all of the same contextually relevant properties but one}. Seeing how transformer models seem to encode concepts as directions, this begs the question if one can detect ``antonymity'' in the geometry of the embedding vectors of word pairs, especially based on their difference vectors. Such geometrical studies are then naturally contrasted by comparing antonymic pairs to their opposites; synonyms. This paper started as an exploratory project on the complexity of the systems needed to detect the geometry of the embedding vectors of antonymic word pairs. What we now report is a curious ``swirl'' that appears across embedding models in a somewhat specific projection configuration.
- Abstract(参考訳): アンソニーム(英: Antonyms)または反対語(英: opposites)は、時として、同じ文脈に関係のある性質のすべてを持つ「emph{word pairs」として定義される。
トランスフォーマーモデルがどのように概念を方向としてエンコードしているように見えるかを見れば、特にその差ベクトルに基づいて、単語対の埋め込みベクトルの幾何学において「匿名性」を検出できるかどうかという疑問が浮き彫りになる。
このような幾何学的な研究は、反磁性対と反対の対であるシノニムを比較することで自然に対比される。
本論文は,単語対の埋め込みベクトルの幾何学を検出するために必要なシステムの複雑さを探索するプロジェクトとして始まった。
現在報告されているのは、ある特定のプロジェクション構成に埋め込みモデルにまたがって現れる'swirl''という奇妙な機能です。
関連論文リスト
- Backpack Language Models [108.65930795825416]
Backpacksは、強力なモデリング性能と、解釈可能性と制御のためのインターフェースを組み合わせた、新しいニューラルアーキテクチャである。
学習のあと、感覚ベクトルが特殊化され、それぞれが単語の異なる側面を符号化することがわかった。
本稿では,感覚ベクトルに介入し,制御可能なテキスト生成とデバイアスを行うシンプルなアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-05-26T09:26:23Z) - Grounding and Distinguishing Conceptual Vocabulary Through Similarity
Learning in Embodied Simulations [4.507860128918788]
そこで本研究では,具体的シミュレーションによって収集されたエージェント体験を用いて,文脈化された単語ベクトルをオブジェクト表現にグラウンド化する手法を提案する。
類似性学習を用いて、相互作用するオブジェクトの特性に基づいて、異なるオブジェクトタイプの比較を行い、オブジェクトの振る舞いに関連する共通の特徴を抽出する。
論文 参考訳(メタデータ) (2023-05-23T04:22:00Z) - An Investigation on Word Embedding Offset Clustering as Relationship
Classification [0.0]
本研究は,一対の単語ベクトル間の関係のベクトル表現を導出する試みである。
我々は6つのプーリング戦略を使ってベクトル関係を表現している。
本研究の目的は,単語の組込みに基づく教師なし手法により,一対の単語で表される関係の性質を識別することである。
論文 参考訳(メタデータ) (2023-05-07T13:03:17Z) - Linear Spaces of Meanings: Compositional Structures in Vision-Language
Models [110.00434385712786]
事前学習された視覚言語モデル(VLM)からのデータ埋め込みにおける構成構造について検討する。
まず,幾何学的観点から構成構造を理解するための枠組みを提案する。
次に、これらの構造がVLM埋め込みの場合の確率論的に持つものを説明し、実際に発生する理由の直観を提供する。
論文 参考訳(メタデータ) (2023-02-28T08:11:56Z) - Zero-shot point cloud segmentation by transferring geometric primitives [68.18710039217336]
ゼロショットポイントクラウドセマンティックセマンティックセマンティックセマンティクスについて検討し、そこではネットワークが見えないオブジェクトに対してトレーニングされ、見えないオブジェクトをセマンティクスできる。
本研究では,視覚的および視覚的カテゴリーのオブジェクトで共有される幾何学的プリミティブを学習し,言語と学習された幾何学的プリミティブとの微粒なアライメントを利用する新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-18T15:06:54Z) - SpaceE: Knowledge Graph Embedding by Relational Linear Transformation in
the Entity Space [29.298981273389217]
知識グラフでは、異なる実体は同じ実体と関係を持つことがある。
このような非射影的関係パターンは、既存の翻訳距離に基づくKGE法ではうまくモデル化できない。
線形変換として関係をモデル化するために,SpaceEと呼ばれる翻訳距離に基づくKGE手法を提案する。
論文 参考訳(メタデータ) (2022-04-21T16:26:20Z) - Word Rotator's Distance [50.67809662270474]
テキスト類似性を評価する上での鍵となる原則は、単語のアライメントを考慮した2つのテキスト間の意味的重複度を測定することである。
単語ベクトルのノルムは単語の重要度によいプロキシであり、その角度は単語類似度によいプロキシであることを示す。
本稿では,まず単語ベクトルをノルムと方向に分解し,アライメントに基づく類似性を計算する手法を提案する。
論文 参考訳(メタデータ) (2020-04-30T17:48:42Z) - Intuitive Contrasting Map for Antonym Embeddings [22.065454879517326]
本稿では,現代の単語埋め込みは,対応するベクトル間のコサインの類似性が小さいにもかかわらず,同義語とアントロニムを区別する情報を含むことを示す。
この情報は埋め込みの幾何学的に符号化されており、直進的かつ直観的な多様体学習手順やコントラストマップを用いて抽出することができる。
論文 参考訳(メタデータ) (2020-04-27T14:33:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。