論文の概要: Distributional Formal Semantics
- arxiv url: http://arxiv.org/abs/2103.01713v1
- Date: Tue, 2 Mar 2021 13:38:00 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-03 17:21:10.570237
- Title: Distributional Formal Semantics
- Title(参考訳): 分布形式意味論
- Authors: Noortje J. Venhuizen and Petra Hendriks and Matthew W. Crocker and
Harm Brouwer
- Abstract要約: 形式モデルレベルでの形式的意味論システムへの分布性を統合する分布形式的セマンティクスを提案する。
このアプローチは、本質的に構成的である確率的で分散的な意味表現を提供する。
これらの表現が確率的推論を可能にする方法と、「情報」の情報理論的概念がそれから自然に従う方法を示す。
- 参考スコア(独自算出の注目度): 0.18352113484137625
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Natural language semantics has recently sought to combine the complementary
strengths of formal and distributional approaches to meaning. More
specifically, proposals have been put forward to augment formal semantic
machinery with distributional meaning representations, thereby introducing the
notion of semantic similarity into formal semantics, or to define
distributional systems that aim to incorporate formal notions such as
entailment and compositionality. However, given the fundamentally different
'representational currency' underlying formal and distributional approaches -
models of the world versus linguistic co-occurrence - their unification has
proven extremely difficult. Here, we define a Distributional Formal Semantics
that integrates distributionality into a formal semantic system on the level of
formal models. This approach offers probabilistic, distributed meaning
representations that are also inherently compositional, and that naturally
capture fundamental semantic notions such as quantification and entailment.
Furthermore, we show how the probabilistic nature of these representations
allows for probabilistic inference, and how the information-theoretic notion of
"information" (measured in terms of Entropy and Surprisal) naturally follows
from it. Finally, we illustrate how meaning representations can be derived
incrementally from linguistic input using a recurrent neural network model, and
how the resultant incremental semantic construction procedure intuitively
captures key semantic phenomena, including negation, presupposition, and
anaphoricity.
- Abstract(参考訳): 自然言語のセマンティクスは最近、形式的アプローチと分布的アプローチの補完的な強みを意味に組み合わせようとしている。
より具体的には、形式的意味表現による形式的意味機械の強化、形式的意味論への意味的類似性の概念の導入、あるいは包含や構成性といった形式的概念を組み入れることを目的とした分布システムの定義が提案されている。
しかし、世界の形式的および分布的アプローチモデルと言語的共起の基本的な「表現的通貨」を考えると、その統一は非常に困難であることが証明されている。
ここでは,形式モデルのレベルでの形式的意味体系に分布性を統合する分布形式意味論を定義する。
このアプローチは、本質的にも構成的である確率的で分散的な意味表現を提供し、量化や関係性といった基本的な意味概念を自然に捉える。
さらに,これらの表現の確率論的性質が確率的推論を可能にし,情報理論的な「情報」概念(エントロピーと超越性の観点から測定)がいかに自然にそれに従うかを示す。
最後に, 再帰的ニューラルネットワークモデルを用いて, 言語入力から意味表現を漸進的に導出する方法と, 帰納法, 前置法, 照応性といった重要な意味的現象を直感的に捉えた帰納的意味構築手法について述べる。
関連論文リスト
- Grounded learning for compositional vector semantics [1.4344589271451351]
本研究では、スパイクニューラルネットワークアーキテクチャ内で構成分布意味論を実装する方法を提案する。
また,ラベル付き画像を用いて単語表現を訓練する手法についても述べる。
論文 参考訳(メタデータ) (2024-01-10T22:12:34Z) - Regularized Conventions: Equilibrium Computation as a Model of Pragmatic
Reasoning [72.21876989058858]
本稿では,信号ゲームの正規化平衡を探索することにより,発話を生成・理解する実用的な言語理解のモデルを提案する。
このモデルでは、話者とリスナーは文脈的に適切な発話を探索し、ゲーム理論の最適規則に近づき、共有された'デフォルト'セマンティクスに近い意味のマッピングを意味づける。
論文 参考訳(メタデータ) (2023-11-16T09:42:36Z) - Meaning Representations from Trajectories in Autoregressive Models [106.63181745054571]
入力テキストを拡張可能なすべてのトラジェクトリの分布を考慮し,自己回帰言語モデルから意味表現を抽出する。
この戦略はプロンプトフリーであり、微調整は必要とせず、事前訓練された自己回帰モデルにも適用できる。
我々は,大規模なモデルから得られた表現が人間のアノテーションとよく一致し,意味的類似性タスクにおける他のゼロショットおよびプロンプトフリーメソッドよりも優れており,標準埋め込みが扱えないより複雑なエンタテインメントや包含タスクの解決に使用できることを実証的に示す。
論文 参考訳(メタデータ) (2023-10-23T04:35:58Z) - Multi-Relational Hyperbolic Word Embeddings from Natural Language
Definitions [5.763375492057694]
本稿では、そのような構造を明示的に活用し、定義から単語埋め込みを導出するマルチリレーショナルモデルを提案する。
経験的な分析は、フレームワークが望ましい構造的制約を課すのに役立つことを示している。
実験により、ユークリッド語よりもハイパーボリック語の埋め込みの方が優れていることが示された。
論文 参考訳(メタデータ) (2023-05-12T08:16:06Z) - Evaluating the Robustness of Interpretability Methods through
Explanation Invariance and Equivariance [72.50214227616728]
解釈可能性法は、それらの説明が説明されたモデルを忠実に記述した場合にのみ有用である。
特定の対称性群の下で予測が不変であるニューラルネットワークを考える。
論文 参考訳(メタデータ) (2023-04-13T17:59:03Z) - The generalised distribution semantics and projective families of
distributions [0.0]
本稿では,確率論的論理プログラミングの基盤となる分布意味論を,その本質的な概念,自由乱数成分と決定論的部分の分離によって一般化する。
これは、確率的データベース、確率的有限モデル理論、離散化されたベイズネットワークからフレームワークを包含する論理プログラミング以外の中核的な考えを抽象化する。
論文 参考訳(メタデータ) (2022-11-12T21:44:22Z) - Imitation Learning-based Implicit Semantic-aware Communication Networks:
Multi-layer Representation and Collaborative Reasoning [68.63380306259742]
有望な可能性にもかかわらず、セマンティック通信とセマンティック・アウェア・ネットワーキングはまだ初期段階にある。
本稿では,CDCとエッジサーバの複数層を連携させる,推論に基づく暗黙的セマンティック・アウェア通信ネットワークアーキテクチャを提案する。
暗黙的セマンティクスの階層構造と個人ユーザのパーソナライズされた推論嗜好を考慮に入れたセマンティクス情報の多層表現を提案する。
論文 参考訳(メタデータ) (2022-10-28T13:26:08Z) - Testing Pre-trained Language Models' Understanding of Distributivity via
Causal Mediation Analysis [13.07356367140208]
自然言語推論のための新しい診断データセットであるDistNLIを紹介する。
モデルの理解の範囲は、モデルのサイズと語彙のサイズと関連していることがわかった。
論文 参考訳(メタデータ) (2022-09-11T00:33:28Z) - Logical Satisfiability of Counterfactuals for Faithful Explanations in
NLI [60.142926537264714]
本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。
これは、説明に表される論理述語に基づいて、反実仮説を生成する。
そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
論文 参考訳(メタデータ) (2022-05-25T03:40:59Z) - Plurality and Quantification in Graph Representation of Meaning [4.82512586077023]
我々のグラフ言語は、モナディックな2階変数のみを用いた自然言語意味論の本質を網羅している。
単純な構文意味インタフェースで意味グラフを構築するための統一型機構を提案する。
現在のグラフ形式は、分配的述語、カテゴリー横断接続、および量化表現のスコープ置換における言語問題に適用される。
論文 参考訳(メタデータ) (2021-12-13T07:04:41Z) - Semantics-Aware Inferential Network for Natural Language Understanding [79.70497178043368]
このようなモチベーションを満たすために,セマンティックス対応推論ネットワーク(SAIN)を提案する。
SAINの推論モジュールは、明示的な文脈的セマンティクスを補完的な入力として、セマンティクス上の一連の推論ステップを可能にする。
本モデルでは,機械読解や自然言語推論など11タスクの大幅な改善を実現している。
論文 参考訳(メタデータ) (2020-04-28T07:24:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。