論文の概要: Assessing the influence of attractor-verb distance on grammatical
agreement in humans and language models
- arxiv url: http://arxiv.org/abs/2311.16978v1
- Date: Tue, 28 Nov 2023 17:25:34 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-29 17:27:41.724687
- Title: Assessing the influence of attractor-verb distance on grammatical
agreement in humans and language models
- Title(参考訳): ヒトおよび言語モデルにおけるアトラクタ・バーブ距離が文法的一致に及ぼす影響評価
- Authors: Christos-Nikolaos Zacharopoulos, Th\'eo Desbordes, Mathias
Sabl\'e-Meyer
- Abstract要約: 主名詞と動詞の間にアトラクター名詞が存在する場合の主動詞合意は複雑な行動を引き起こす。
我々は文の長さを等しく保ちながら、アトラクターと動詞の間の距離を変調する。
反応時間に対するアトラクタ距離の線形効果を報告する。
- 参考スコア(独自算出の注目度): 0.2934352211707039
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Subject-verb agreement in the presence of an attractor noun located between
the main noun and the verb elicits complex behavior: judgments of
grammaticality are modulated by the grammatical features of the attractor. For
example, in the sentence "The girl near the boys likes climbing", the attractor
(boys) disagrees in grammatical number with the verb (likes), creating a
locally implausible transition probability. Here, we parametrically modulate
the distance between the attractor and the verb while keeping the length of the
sentence equal. We evaluate the performance of both humans and two artificial
neural network models: both make more mistakes when the attractor is closer to
the verb, but neural networks get close to the chance level while humans are
mostly able to overcome the attractor interference. Additionally, we report a
linear effect of attractor distance on reaction times. We hypothesize that a
possible reason for the proximity effect is the calculation of transition
probabilities between adjacent words. Nevertheless, classical models of
attraction such as the cue-based model might suffice to explain this
phenomenon, thus paving the way for new research. Data and analyses available
at https://osf.io/d4g6k
- Abstract(参考訳): 主名詞と動詞の中間に位置するアトラクタ名詞の存在における主動詞の一致は、複雑な振る舞いを誘発する: 文法性の判断は、アトラクタの文法的特徴によって変調される。
例えば、"The girl near the boys likes climbing"という文では、引力者(ボーイズ)は動詞(likes)と文法的数で一致せず、局所的に不可解な遷移確率を生み出す。
ここでは,文の長さを等しく保ちながら,アトラクターと動詞間の距離をパラメトリック的に調節する。
我々は、人間と2つの人工ニューラルネットワークモデルのパフォーマンスを評価する: どちらも、アトラクタが動詞に近いときにより多くの誤りを犯すが、ニューラルネットワークは、アトラクタ干渉を克服できる一方、確率レベルに近づく。
また,反応時間に対するアトラクタ距離の線形効果も報告した。
近接効果の考えられる理由は隣接する単語間の遷移確率の計算であると仮定する。
それでも、キューモデルのようなアトラクションの古典的なモデルは、この現象を説明するのに十分であり、新しい研究への道を開くかもしれない。
https://osf.io/d4g6kで利用可能なデータと分析
関連論文リスト
- The Causal Influence of Grammatical Gender on Distributional Semantics [87.8027818528463]
言語間のジェンダー割り当てがどの程度意味を持つかは、言語学と認知科学における研究の活発な領域である。
我々は、名詞の文法的性別、意味、形容詞選択の間の相互作用を共同で表現する、新しい因果的グラフィカルモデルを提供する。
名詞の意味を制御した場合、文法的性別と形容詞的選択の関係は、ほぼゼロであり、無意味である。
論文 参考訳(メタデータ) (2023-11-30T13:58:13Z) - Probabilistic Transformer: A Probabilistic Dependency Model for
Contextual Word Representation [52.270712965271656]
本稿では,文脈表現の新しいモデルを提案する。
モデルのグラフは変換器に似ており、依存関係と自己意識の対応性がある。
実験により,本モデルが小型・中型データセットのトランスフォーマーと競合することを示す。
論文 参考訳(メタデータ) (2023-11-26T06:56:02Z) - Minimal Effective Theory for Phonotactic Memory: Capturing Local
Correlations due to Errors in Speech [0.0]
話し言葉における局所的な音声相関は、その情報内容を減らすことによって、話し言葉の学習を促進する。
局所接続型テンソルネットワークモデルを構築し、多体物理学で用いられる同様の変分モデルに着想を得た。
したがって、モデルは音素記憶の最小モデルであり、「発音への学習」と「単語の学習」は同一である。
論文 参考訳(メタデータ) (2023-09-04T22:11:26Z) - Language Models Can Learn Exceptions to Syntactic Rules [22.810889064523167]
人工ニューラルネットワークは、新しい文脈に生産的に一般化できることを示す。
また、能動対受動音声における動詞の相対的受容性は、それらの音声における動詞の相対的受容頻度と正の相関性を示す。
論文 参考訳(メタデータ) (2023-06-09T15:35:11Z) - Neighboring Words Affect Human Interpretation of Saliency Explanations [65.29015910991261]
単語レベルのサリエンシの説明は、しばしばテキストベースのモデルで特徴属性を伝えるために使われる。
近年の研究では、単語の長さなどの表面的要因が、コミュニケーションされたサリエンシスコアの人間の解釈を歪めてしまうことが報告されている。
本研究では,単語の近傍にある単語のマーキングが,その単語の重要性に対する説明者の認識にどのように影響するかを検討する。
論文 参考訳(メタデータ) (2023-05-04T09:50:25Z) - Shapley Head Pruning: Identifying and Removing Interference in
Multilingual Transformers [54.4919139401528]
言語固有のパラメータを識別・解析することで干渉を減らすことができることを示す。
固定モデルから同定された注目ヘッドを除去することで、文分類と構造予測の両方において、ターゲット言語の性能が向上することを示す。
論文 参考訳(メタデータ) (2022-10-11T18:11:37Z) - Naturalistic Causal Probing for Morpho-Syntax [76.83735391276547]
スペインにおける実世界のデータに対する入力レベルの介入に対する自然主義的戦略を提案する。
提案手法を用いて,共同設立者から文章中の形態・症状の特徴を抽出する。
本研究では,事前学習したモデルから抽出した文脈化表現に対する性別と数字の因果効果を解析するために,本手法を適用した。
論文 参考訳(メタデータ) (2022-05-14T11:47:58Z) - Accounting for Agreement Phenomena in Sentence Comprehension with
Transformer Language Models: Effects of Similarity-based Interference on
Surprisal and Attention [4.103438743479001]
主語動詞と反射代名詞一致処理における類似性に基づく干渉効果の説明を進めます。
動詞または反射代名詞の超越性は、非文法文における促進的干渉効果を予測する。
論文 参考訳(メタデータ) (2021-04-26T20:46:54Z) - Word Frequency Does Not Predict Grammatical Knowledge in Language Models [2.1984302611206537]
言語モデルの精度には,系統的な変化源が存在するかを検討する。
特定の名詞は他の名詞よりも体系的によく理解されており、文法的タスクや異なる言語モデルに対して頑健である。
名詞の文法的特性は,様々な訓練データからほとんど学習されないことが判明した。
論文 参考訳(メタデータ) (2020-10-26T19:51:36Z) - On the Relationships Between the Grammatical Genders of Inanimate Nouns
and Their Co-Occurring Adjectives and Verbs [57.015586483981885]
我々は6つの異なるジェンダー言語で大規模コーパスを使用する。
名詞の文法的性別とそれらの名詞を直接対象、間接対象、主語とする動詞との間に統計的に有意な関連性を見出した。
論文 参考訳(メタデータ) (2020-05-03T22:49:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。