論文の概要: Sequence-to-Sequence Networks Learn the Meaning of Reflexive Anaphora
- arxiv url: http://arxiv.org/abs/2011.00682v1
- Date: Mon, 2 Nov 2020 02:06:33 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-30 11:48:16.645414
- Title: Sequence-to-Sequence Networks Learn the Meaning of Reflexive Anaphora
- Title(参考訳): リフレクティブ・アナフォラの意味を学ぶシーケンス・ツー・シーケンス・ネットワーク
- Authors: Robert Frank and Jackson Petty
- Abstract要約: 反射性アナフォラは意味解釈に挑戦する。
過去の研究は、この課題に対処する再帰的なネットワークの能力に疑問を呈している。
我々は、繰り返し単位を持つシーケンス・ツー・シーケンスアーキテクチャを考察し、そのようなネットワークが反射性アナフォラのセマンティック解釈を学習可能であることを示す。
- 参考スコア(独自算出の注目度): 1.261852738790008
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Reflexive anaphora present a challenge for semantic interpretation: their
meaning varies depending on context in a way that appears to require abstract
variables. Past work has raised doubts about the ability of recurrent networks
to meet this challenge. In this paper, we explore this question in the context
of a fragment of English that incorporates the relevant sort of contextual
variability. We consider sequence-to-sequence architectures with recurrent
units and show that such networks are capable of learning semantic
interpretations for reflexive anaphora which generalize to novel antecedents.
We explore the effect of attention mechanisms and different recurrent unit
types on the type of training data that is needed for success as measured in
two ways: how much lexical support is needed to induce an abstract reflexive
meaning (i.e., how many distinct reflexive antecedents must occur during
training) and what contexts must a noun phrase occur in to support
generalization of reflexive interpretation to this noun phrase?
- Abstract(参考訳): 反射的アナフォラは意味論的解釈の挑戦であり、その意味は抽象変数を必要とするように見える方法で文脈によって異なる。
過去の研究は、この課題に対処する再帰的なネットワークの能力に疑問を呈している。
本稿では,関連する文脈変動を組み込んだ英語の断片の文脈において,この問題を考察する。
再帰単位を持つシーケンス・ツー・シーケンス・アーキテクチャを考察し,そのようなネットワークが,新しい先行概念に一般化した反射性アナフォラの意味解釈を学習できることを示した。
注意機構と異なるリカレント・ユニットタイプが成功に必要となるトレーニングデータの種類に与える影響を,2つの方法で測定する: 抽象的反射的意味(トレーニング中に何つの異なる反射的先行詞を発生しなければならないか)を導き出すために,語彙的支援がどの程度必要か,また,この名詞句への反射的解釈の一般化を支援するために名詞句が出現しなければならないか。
関連論文リスト
- Task-Oriented Paraphrase Analytics [34.95500212742163]
パラフレーズ化は未定義のタスクであるため、"paraphrasing"という用語は異なる特徴を持つテキスト変換タスクをカバーしている。
本稿では,25のパラフレージング(サブタスク)を組織化する分類法を提案する。
論文 参考訳(メタデータ) (2024-03-26T10:14:12Z) - How Do In-Context Examples Affect Compositional Generalization? [86.57079616209474]
本稿では,コンテクスト内構成一般化を検証するためのテストスイートであるCoFeを提案する。
構成一般化性能は、文脈内例の選択によって容易に影響を受けることが判明した。
我々の系統実験は、文脈内サンプルは、テストケースと構造的に似ており、互いに異なっており、個別に単純であることを示します。
論文 参考訳(メタデータ) (2023-05-08T16:32:18Z) - Are Representations Built from the Ground Up? An Empirical Examination
of Local Composition in Language Models [91.3755431537592]
構成的・非構成的句を表現することは言語理解にとって重要である。
まず,より長いフレーズのLM-内部表現を,その構成成分から予測する問題を定式化する。
意味的構成性の人間の判断と相関する予測精度を期待するが、大部分はそうではない。
論文 参考訳(メタデータ) (2022-10-07T14:21:30Z) - GSRFormer: Grounded Situation Recognition Transformer with Alternate
Semantic Attention Refinement [73.73599110214828]
グラウンドドコンディション認識(GSR)は、人間のイベント理解のための画像の構造化されたセマンティックサマリーを生成することを目的としている。
オブジェクト検出とイメージキャプションタスクにインスパイアされた既存のメソッドは、2段階のフレームワークを使用するのが一般的である。
本稿では,動詞と役割の双方向関係の活用に焦点をあてた,新しい2段階フレームワークを提案する。
論文 参考訳(メタデータ) (2022-08-18T17:13:59Z) - Latent Topology Induction for Understanding Contextualized
Representations [84.7918739062235]
本研究では,文脈的埋め込みの表現空間について検討し,大規模言語モデルの隠れトポロジについて考察する。
文脈化表現の言語特性を要約した潜在状態のネットワークが存在することを示す。
論文 参考訳(メタデータ) (2022-06-03T11:22:48Z) - Idiomatic Expression Identification using Semantic Compatibility [8.355785779504869]
文が慣用的表現を持っているかどうかを検知し,それを局所化するタスクについて検討する。
本稿では,これらの表現を識別するためのアテンションフロー機構を備えた多段階ニューラルアーキテクチャを提案する。
このモデルの健全な特徴は、トレーニング中に見えないイディオムを識別できることであり、競争ベースラインよりも1.4%から30.8%向上している。
論文 参考訳(メタデータ) (2021-10-19T15:44:28Z) - Exploring the Representation of Word Meanings in Context: A Case Study
on Homonymy and Synonymy [0.0]
我々は,静的モデルと文脈モデルの両方が,語彙-意味関係を適切に表現できる能力を評価する。
実験はガリシア語、ポルトガル語、英語、スペイン語で行われている。
論文 参考訳(メタデータ) (2021-06-25T10:54:23Z) - Syntactic Perturbations Reveal Representational Correlates of
Hierarchical Phrase Structure in Pretrained Language Models [22.43510769150502]
文レベルの構文のどの側面がベクターベースの言語表現によってキャプチャされるのかは、完全には分かっていない。
このプロセスでは,トランスフォーマーが文のより大きな部分の層に感性を持たせることが示され,階層的な句構造が重要な役割を果たしている。
論文 参考訳(メタデータ) (2021-04-15T16:30:31Z) - Investigating Cross-Linguistic Adjective Ordering Tendencies with a
Latent-Variable Model [66.84264870118723]
本稿では,多言語形容詞順序付けを潜在変数モデルとして,初めて純粋コーパス駆動モデルを提案する。
我々は普遍的、言語横断的、階層的形容詞順序付け傾向の存在の強い確固たる証拠を提供する。
論文 参考訳(メタデータ) (2020-10-09T18:27:55Z) - Generating Dialogue Responses from a Semantic Latent Space [75.18449428414736]
語彙のエンドツーエンド分類に代わる方法を提案する。
潜在空間上の回帰タスクとして,プロンプトと応答のペア関係を学習する。
人間の評価は、連続した空間でタスクを学習すると、関連性と情報性の両方を持つ応答が生成されることを示した。
論文 参考訳(メタデータ) (2020-10-04T19:06:16Z) - Characterizing the Effect of Sentence Context on Word Meanings: Mapping
Brain to Behavior [0.0]
本論文は,被験者がこのような変化を認識しているかどうかに答えることを目的としている。
被験者は、単語が特定の文で使用されるとき、その単語が汎用的な意味からどのように変化するかを判断するよう求められた。
結果は、単語の意味が文の文脈によって体系的に変化するという仮説を支持する。
論文 参考訳(メタデータ) (2020-07-27T20:12:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。