論文の概要: The Structural Sources of Verb Meaning Revisited: Large Language Models Display Syntactic Bootstrapping

• arxiv url: http://arxiv.org/abs/2508.12482v1
• Date: Sun, 17 Aug 2025 19:43:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-19 14:49:10.794038
• Title: The Structural Sources of Verb Meaning Revisited: Large Language Models Display Syntactic Bootstrapping
• Title（参考訳）: 動詞の意味の構造的源:大言語モデルが構文的ブートストラップを表示する
• Authors: Xiaomeng Zhu, R. Thomas McCoy, Robert Frank,
• Abstract要約: 大規模言語モデルが類似した振る舞いを示すかどうかを検討する。 その結果,共起情報が削除された場合よりも,構文的手がかりが除去された場合の方が動詞表現が劣化することがわかった。 言語学習における統語的ブートストラップの重要な役割の強化に加えて,本研究は発達仮説を大規模に検証することの可能性を実証した。
• 参考スコア（独自算出の注目度）: 7.227481238705743
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Syntactic bootstrapping (Gleitman, 1990) is the hypothesis that children use the syntactic environments in which a verb occurs to learn its meaning. In this paper, we examine whether large language models exhibit a similar behavior. We do this by training RoBERTa and GPT-2 on perturbed datasets where syntactic information is ablated. Our results show that models' verb representation degrades more when syntactic cues are removed than when co-occurrence information is removed. Furthermore, the representation of mental verbs, for which syntactic bootstrapping has been shown to be particularly crucial in human verb learning, is more negatively impacted in such training regimes than physical verbs. In contrast, models' representation of nouns is affected more when co-occurrences are distorted than when syntax is distorted. In addition to reinforcing the important role of syntactic bootstrapping in verb learning, our results demonstrated the viability of testing developmental hypotheses on a larger scale through manipulating the learning environments of large language models.
• Abstract（参考訳）: 構文的ブートストラッピング(Syntactic bootstrapping, Gleitman, 1990)は、子供が意味を学ぶために動詞が発生する構文的環境を使用するという仮説である。 本稿では,大規模言語モデルが類似した振る舞いを示すかどうかを検討する。 我々は、構文情報を短縮した摂動データセット上でRoBERTaとGPT-2をトレーニングすることでこれを行う。 その結果,共起情報が削除された場合よりも,構文的手がかりが除去された場合の方が動詞表現が劣化することがわかった。 さらに、人間の動詞学習において、統語的ブートストレッピングが特に重要であることが示されているメンタル動詞の表現は、物理的な動詞よりも、そのような訓練体制に悪影響を及ぼす。 対照的に、モデルによる名詞の表現は、構文が歪んだときよりも、共起が歪んだときにより影響を受けます。 言語学習における統語的ブートストラップの重要な役割の強化に加えて,大規模言語モデルの学習環境を操作することにより,大規模に発達仮説を検証できることが実証された。

関連論文リスト

• Developmental Predictive Coding Model for Early Infancy Mono and Bilingual Vocal Continual Learning [69.8008228833895]
  本稿では,連続学習機構を備えた小型生成ニューラルネットワークを提案する。 我々のモデルは解釈可能性を重視し,オンライン学習の利点を実証する。
  論文  参考訳（メタデータ） (2024-12-23T10:23:47Z)
• Reframing linguistic bootstrapping as joint inference using visually-grounded grammar induction models [31.006803764376475]
  意味的・統語的ブートストラッピング・ポジトリ(Semantic and Syntactic bootstrapping posit)とは、子供が特定の言語領域についての事前の知識、例えば構文的関係(syntactic relations)を使い、後に新しい単語の意味などの他の知識を取得する手助けをするものである。 ここでは、両者が、言語習得のためのより一般的な学習戦略である共同学習に固執していると論じる。 一連の視覚的文法帰納モデルを用いて,構文と意味が同時に学習された場合に,構文的および意味的ブートストラップ効果が最強であることが実証された。
  論文  参考訳（メタデータ） (2024-06-17T18:01:06Z)
• Visual Grounding Helps Learn Word Meanings in Low-Data Regimes [47.7950860342515]
  現代のニューラル言語モデル(LM)は、人間の文の生成と理解をモデル化するための強力なツールである。 しかし、これらの結果を得るためには、LMは明らかに非人間的な方法で訓練されなければならない。 より自然主義的に訓練されたモデルは、より人間らしい言語学習を示すのか? 本稿では,言語習得における重要なサブタスクである単語学習の文脈において,この問題を考察する。
  論文  参考訳（メタデータ） (2023-10-20T03:33:36Z)
• Transparency Helps Reveal When Language Models Learn Meaning [71.96920839263457]
  合成データを用いた体系的な実験により,すべての表現が文脈に依存しない意味を持つ言語では,自己回帰型とマスキング型の両方の言語モデルが,表現間の意味的関係をエミュレートする。 自然言語に目を向けると、特定の現象(参照不透明さ)による実験は、現在の言語モデルが自然言語の意味論をうまく表現していないという証拠を増大させる。
  論文  参考訳（メタデータ） (2022-10-14T02:35:19Z)
• Word Acquisition in Neural Language Models [0.38073142980733]
  ニューラルネットワークモデルは,学習中に個々の単語を習得し,学習曲線を抽出し,600以上の単語の獲得年齢を推定する。 子どもや言語モデルでは, 具体性, 単語長, 語彙クラスの影響が顕著に異なることがわかった。
  論文  参考訳（メタデータ） (2021-10-05T23:26:16Z)
• Syntactic Persistence in Language Models: Priming as a Window into Abstract Language Representations [0.38498574327875945]
  本稿では,現代のニューラル言語モデルが統語的プライミングにどの程度影響するかについて検討する。 プライミング強度と相互作用する様々な言語要因を制御できる大規模コーパスであるPrime-LMを新たに導入する。 単語と意味の相違があるが,同じ構文構造を持つ複数の文をプライミングした場合,驚くほど強いプライミング効果が報告される。
  論文  参考訳（メタデータ） (2021-09-30T10:38:38Z)
• It's not Rocket Science : Interpreting Figurative Language in Narratives [48.84507467131819]
  我々は2つの非構成的図形言語(イディオムとシミュラ)の解釈を研究する。 実験の結果、事前学習された言語モデルのみに基づくモデルは、これらのタスクにおいて人間よりもはるかにひどい性能を示すことがわかった。 また, 知識強化モデルを提案し, 具体的言語を解釈するための人的戦略を採用した。
  論文  参考訳（メタデータ） (2021-08-31T21:46:35Z)
• What is Learned in Visually Grounded Neural Syntax Acquisition [118.6461386981381]
  本稿では,視覚的接地型ニューラルシンタクス学習者のケーススタディについて考察する。 モデルの簡易バージョンを構築することにより、モデルの強い性能をもたらすコアファクタを分離する。 名詞具象性の単純な語彙信号がモデルの予測に主要な役割を果たすことがわかった。
  論文  参考訳（メタデータ） (2020-05-04T17:32:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。