論文の概要: A cognitively driven weighted-entropy model for embedding semantic
categories in hyperbolic geometry
- arxiv url: http://arxiv.org/abs/2112.06876v1
- Date: Mon, 13 Dec 2021 18:33:45 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-14 17:05:26.247280
- Title: A cognitively driven weighted-entropy model for embedding semantic
categories in hyperbolic geometry
- Title（参考訳）: 双曲幾何学における意味圏埋め込みのための認知的重み付きエントロピーモデル
- Authors: Eugene Yu Ji
- Abstract要約: 双曲幾何学に意味圏を埋め込むための教師なしおよび認知駆動型重み付きエントロピー法を提案する。
以上の結果から,この手法は,英語における基本色と血統語の大部分に対して,人気と類似性のセマンティックな関係をモデル化し,マッピングすることが可能であることが示唆された。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, an unsupervised and cognitively driven weighted-entropy method
for embedding semantic categories in hyperbolic geometry is proposed. The model
is driven by two fields of research in cognitive linguistics: the first is the
statistical learning theory of language acquisition and the proposal of using
high-dimensional networks to represent semantic knowledge in cognition, and the
second is the domain-specific informativeness approach to semantic
communication. Weighted conditional entropy of word co-occurrence is proposed
as the embedding metric, and the two weighting parameters are collocation
diversity and conditional probability ranking in the corresponding statistical
distribution. The Boltzmann distribution is then used on the weighted-entropy
metric and embedded into a hyperbolic Poincare disk model. Testing has been
mainly performed in the domains of basic color and kinship words, which belong
to the classes that domain-specificity focused research in cognitive semantics
has most intensively investigated. Results show that this new approach can
successfully model and map the semantic relationships of popularity and
similarity for most of the basic color and kinship words in English and have
potential to be generalized to other semantic domains and different languages.
Generally, this paper contributes to both computational cognitive semantics and
the research on network and geometry-driven language embedding in computational
linguistics and NLP.
- Abstract（参考訳）: 本稿では,双曲幾何学に意味圏を埋め込むための教師なしおよび認知駆動型重み付きエントロピー法を提案する。
モデルは認知言語学における2つの研究分野によって駆動される: 1つは言語習得の統計的学習理論、もう1つは認知における意味的知識を表現するための高次元ネットワークの提案、もう1つはドメイン固有の意味的コミュニケーションへの情報的アプローチである。
単語共起の重み付き条件エントロピーを埋め込み計量として提案し, 2つの重み付きパラメータは対応する統計分布におけるコロケーション多様性と条件付き確率ランキングである。
ボルツマン分布は重み付きエントロピー計量で使われ、双曲型ポインカレディスクモデルに埋め込まれる。
テストは主に、認知意味論におけるドメイン固有の研究が集中的に研究してきたクラスに属する、基本的な色と親族関係の単語のドメインで行われる。
以上の結果から,本手法は,英語の基本色・親和語の大部分において,人気と類似性のセマンティックな関係をモデル化およびマッピングし,他のセマンティックドメインや異なる言語に一般化できる可能性が示唆された。
本稿では,計算言語学とNLPに組み込んだネットワークおよび幾何学駆動型言語の研究と,計算認知のセマンティクスの両立に寄与する。
関連論文リスト
- Domain Embeddings for Generating Complex Descriptions of Concepts in
Italian Language [65.268245109828]
電子辞書から抽出した言語情報と語彙情報に富んだ分布意味資源を提案する。
リソースは21のドメイン固有の行列と1つの包括的なマトリックスとグラフィカルユーザインタフェースから構成される。
本モデルは,具体的概念知識に直接関連した行列を選択することにより,概念の意味的記述の推論を容易にする。
論文 参考訳（メタデータ） (2024-02-26T15:04:35Z) - Agentivit\`a e telicit\`a in GilBERTo: implicazioni cognitive [77.71680953280436]
本研究の目的は,トランスフォーマーに基づくニューラルネットワークモデルが語彙意味論を推論するかどうかを検討することである。
考慮される意味的性質は、テリシティ(定性とも組み合わされる)と作用性である。
論文 参考訳（メタデータ） (2023-07-06T10:52:22Z) - Variational Cross-Graph Reasoning and Adaptive Structured Semantics
Learning for Compositional Temporal Grounding [143.5927158318524]
テンポラルグラウンドティング(Temporal grounding)とは、クエリ文に従って、未編集のビデオから特定のセグメントを特定するタスクである。
新たに構成時間グラウンドタスクを導入し,2つの新しいデータセット分割を構築した。
ビデオや言語に内在する構造的意味論は、構成的一般化を実現する上で重要な要素である、と我々は主張する。
論文 参考訳（メタデータ） (2023-01-22T08:02:23Z) - Imitation Learning-based Implicit Semantic-aware Communication Networks:
Multi-layer Representation and Collaborative Reasoning [68.63380306259742]
有望な可能性にもかかわらず、セマンティック通信とセマンティック・アウェア・ネットワーキングはまだ初期段階にある。
本稿では,CDCとエッジサーバの複数層を連携させる,推論に基づく暗黙的セマンティック・アウェア通信ネットワークアーキテクチャを提案する。
暗黙的セマンティクスの階層構造と個人ユーザのパーソナライズされた推論嗜好を考慮に入れたセマンティクス情報の多層表現を提案する。
論文 参考訳（メタデータ） (2022-10-28T13:26:08Z) - Lexical semantics enhanced neural word embeddings [4.040491121427623]
階層的適合は、IS-A階層に本質的に格納されている意味的類似性ニュアンスをモデル化するための新しいアプローチである。
その結果、後期核融合における意味的関係を持つ神経埋め込みを専門とする階層化の有効性が示された。
論文 参考訳（メタデータ） (2022-10-03T08:10:23Z) - Testing Pre-trained Language Models' Understanding of Distributivity via
Causal Mediation Analysis [13.07356367140208]
自然言語推論のための新しい診断データセットであるDistNLIを紹介する。
モデルの理解の範囲は、モデルのサイズと語彙のサイズと関連していることがわかった。
論文 参考訳（メタデータ） (2022-09-11T00:33:28Z) - A Latent-Variable Model for Intrinsic Probing [93.62808331764072]
固有プローブ構築のための新しい潜在変数定式化を提案する。
我々は、事前訓練された表現が言語間交互に絡み合ったモルフォシンタクスの概念を発達させる経験的証拠を見出した。
論文 参考訳（メタデータ） (2022-01-20T15:01:12Z) - Text analysis and deep learning: A network approach [0.0]
本稿では,変圧器モデルとネットワーク解析を併用して,言語使用の自己参照表現を生成する手法を提案する。
我々のアプローチは、基礎となるモデルと強く整合した言語関係と、それらに関する数学的に明確に定義された操作を生成する。
我々の知る限りでは、深層言語モデルから直接意味ネットワークを抽出する最初の教師なし手法である。
論文 参考訳（メタデータ） (2021-10-08T14:18:36Z) - The Typology of Polysemy: A Multilingual Distributional Framework [6.753781783859273]
本稿では,概念に対する語彙意味論の言語間類似性である意味親和性(semantic affinity)を定量化する新しい枠組みを提案する。
以上の結果から,言語系統学以外の意味領域と言語外要因との複雑な相互作用が明らかとなった。
論文 参考訳（メタデータ） (2020-06-02T22:31:40Z) - Where New Words Are Born: Distributional Semantic Analysis of Neologisms
and Their Semantic Neighborhoods [51.34667808471513]
分散意味論のパラダイムで定式化されたセマンティック隣人のセマンティック・スパシティと周波数成長率という2つの要因の重要性について検討する。
いずれの因子も単語の出現を予測できるが,後者の仮説はより支持される。
論文 参考訳（メタデータ） (2020-01-21T19:09:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。