論文の概要: Joint Universal Syntactic and Semantic Parsing
- arxiv url: http://arxiv.org/abs/2104.05696v1
- Date: Mon, 12 Apr 2021 17:56:34 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-13 17:36:41.061229
- Title: Joint Universal Syntactic and Semantic Parsing
- Title(参考訳): 共同ユニバーサル構文解析と意味解析
- Authors: Elias Stengel-Eskin, Kenton Murray, Sheng Zhang, Aaron Steven White,
Benjamin Van Durme
- Abstract要約: 我々は,Universal Decompositional Semanticsデータセットに含まれる豊富な構文と意味アノテーションを利用する。
構文と意味論の合同モデルの振る舞いを分析し,言語理論が支持するパターンを見出した。
次に、結合モデリングが多言語設定に一般化する程度を調査し、8つの言語で同様の傾向を見出す。
- 参考スコア(独自算出の注目度): 39.39769254704693
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While numerous attempts have been made to jointly parse syntax and semantics,
high performance in one domain typically comes at the price of performance in
the other. This trade-off contradicts the large body of research focusing on
the rich interactions at the syntax-semantics interface. We explore multiple
model architectures which allow us to exploit the rich syntactic and semantic
annotations contained in the Universal Decompositional Semantics (UDS) dataset,
jointly parsing Universal Dependencies and UDS to obtain state-of-the-art
results in both formalisms. We analyze the behaviour of a joint model of syntax
and semantics, finding patterns supported by linguistic theory at the
syntax-semantics interface. We then investigate to what degree joint modeling
generalizes to a multilingual setting, where we find similar trends across 8
languages.
- Abstract(参考訳): 構文とセマンティクスを共同で解析する試みは数多く行われているが、一方のドメインでのハイパフォーマンスは通常、もう一方のパフォーマンスの価格で提供される。
このトレードオフは、構文-概念インターフェイスにおけるリッチな相互作用に焦点を当てた大規模な研究と矛盾する。
我々は,Universal Decompositional Semantics (UDS) データセットに含まれるリッチな構文的および意味的アノテーションを利用して,Universal Dependencies と UDS を共同で解析し,どちらの形式においても最先端の結果が得られるような複数のモデルアーキテクチャを探索する。
構文と意味論の合同モデルの振る舞いを解析し,構文・意味論インターフェースで言語理論が支持するパターンを探索する。
次に、結合モデリングが多言語設定に一般化する程度を調査し、8つの言語で同様の傾向を見出す。
関連論文リスト
- Tomato, Tomahto, Tomate: Measuring the Role of Shared Semantics among Subwords in Multilingual Language Models [88.07940818022468]
エンコーダのみの多言語言語モデル(mLM)におけるサブワード間の共有セマンティクスの役割を測る第一歩を踏み出した。
意味的に類似したサブワードとその埋め込みをマージして「意味トークン」を形成する。
グループ化されたサブワードの検査では 様々な意味的類似性を示します
論文 参考訳(メタデータ) (2024-11-07T08:38:32Z) - Exploring syntactic information in sentence embeddings through multilingual subject-verb agreement [1.4335183427838039]
我々は,特定の特性を持つ大規模でキュレートされた合成データを開発するためのアプローチを採っている。
我々は、ブラックバード言語行列(Blackbird Language Matrices)と呼ばれる新しい複数選択タスクとデータセットを使用して、特定の文法構造現象に焦点を当てる。
多言語テキストを一貫した方法で訓練したにもかかわらず、多言語事前学習言語モデルには言語固有の違いがあることが示される。
論文 参考訳(メタデータ) (2024-09-10T14:58:55Z) - Dynamic Syntax Mapping: A New Approach to Unsupervised Syntax Parsing [0.0]
本研究では,言語モデル,特に注意分布が構文依存をカプセル化できるという前提について検討する。
本稿ではこれらの構造を誘導するための革新的なアプローチである動的構文マッピング(DSM)を紹介する。
本研究により, 自然言語データの解析精度が向上することが明らかとなった。
論文 参考訳(メタデータ) (2023-12-18T10:34:29Z) - Syntax and Semantics Meet in the "Middle": Probing the Syntax-Semantics
Interface of LMs Through Agentivity [68.8204255655161]
このような相互作用を探索するためのケーススタディとして,作用性のセマンティックな概念を提示する。
これは、LMが言語アノテーション、理論テスト、発見のためのより有用なツールとして役立つ可能性を示唆している。
論文 参考訳(メタデータ) (2023-05-29T16:24:01Z) - A Knowledge-Enhanced Adversarial Model for Cross-lingual Structured
Sentiment Analysis [31.05169054736711]
言語間構造的感情分析タスクは、ソース言語からターゲット言語へ知識を伝達することを目的としている。
本稿では,暗黙的分散と明示的構造的知識を両立させた知識強化逆数モデル(textttKEAM)を提案する。
我々は5つのデータセットの実験を行い、textttKEAMと教師なしおよび教師なしの両方の手法を比較した。
論文 参考訳(メタデータ) (2022-05-31T03:07:51Z) - Infusing Finetuning with Semantic Dependencies [62.37697048781823]
シンタックスとは異なり、セマンティクスは今日の事前訓練モデルによって表面化されないことを示す。
次に、畳み込みグラフエンコーダを使用して、タスク固有の微調整にセマンティック解析を明示的に組み込む。
論文 参考訳(メタデータ) (2020-12-10T01:27:24Z) - Learning Universal Representations from Word to Sentence [89.82415322763475]
この研究は普遍的な表現学習、すなわち一様ベクトル空間における言語単位の異なるレベルへの埋め込みを導入し、探求する。
本稿では, 単語, 句, 文の観点から, 類似したデータセットを構築するためのアプローチを提案する。
適切なトレーニング設定を組み込んだよく訓練されたトランスフォーマーモデルが、効果的に普遍的な表現が得られることを実証的に検証する。
論文 参考訳(メタデータ) (2020-09-10T03:53:18Z) - Fine-Grained Analysis of Cross-Linguistic Syntactic Divergences [18.19093600136057]
並列コーパスから任意の言語対の発散パターンを抽出するフレームワークを提案する。
我々のフレームワークは、言語間の相違の詳細な図を提供し、以前のアプローチを一般化し、完全に自動化することを示します。
論文 参考訳(メタデータ) (2020-05-07T13:05:03Z) - Do Neural Language Models Show Preferences for Syntactic Formalisms? [14.388237635684737]
本研究では,言語モデルが捉えた構文構造のセマンランスが,表面シンタクティックあるいは深層構文解析の様式にどの程度依存しているかについて検討する。
13の異なる言語で訓練されたBERTおよびELMoモデルに対して,有向依存木抽出のためのプローブを適用した。
どちらのモデルも、SUDよりもUDを好むことが分かりました。
論文 参考訳(メタデータ) (2020-04-29T11:37:53Z) - How Far are We from Effective Context Modeling? An Exploratory Study on
Semantic Parsing in Context [59.13515950353125]
文法に基づく意味解析を行い,その上に典型的な文脈モデリング手法を適用する。
我々は,2つの大きなクロスドメインデータセットに対して,13のコンテキストモデリング手法を評価した。
論文 参考訳(メタデータ) (2020-02-03T11:28:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。