論文の概要: From Exposure to Expectation: Frequency, Surprisal, and Language Across Development in Spanish
- arxiv url: http://arxiv.org/abs/2608.22452v1
- Date: Sun, 23 Aug 2026 15:02:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 13:29:43.772104
- Title: From Exposure to Expectation: Frequency, Surprisal, and Language Across Development in Spanish
- Title(参考訳): 露出から期待へ:スペイン語開発における頻度, 素因, 言語
- Abstract要約: 意外なことに、言語モデルの負の対数確率は、前回の文脈で与えられた単語に割り当て、成人の読書時間を確実に予測する。
本稿では,スペイン語のコーパスに基づく2つの研究について考察する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Surprisal, the negative log-probability a language model assigns to a word given its preceding context, reliably predicts adult reading times. Does it contribute as much to explaining when children acquire individual words? Frequency reflects a learner's cumulative exposure to a word, whereas surprisal reflects how predictable a single occurrence is given its context. We investigate this question across two corpus-based studies of Spanish. In Study 1, we modeled age of acquisition (AoA) for 225 Spanish nouns using lexical frequency and contextual diversity from child-directed speech, plus surprisal from three language models differing in architecture and training language (BETO, BERTIN, mGPT). Frequency strongly predicted AoA (r=-.597, p<.001); surprisal added little beyond frequency and word length, including in a naturalistic-context analysis. In Study 2, we modeled adult fixation durations in the Chilean Spanish subsample of the Multilingual Eye-movement Corpus (MECO Wave 2), using mGPT surprisal alongside two independent frequency measures. Surprisal robustly predicted longer fixation durations after controlling for frequency and word length, consistent across both frequency sources. A matched word-type-level comparison showed the surprisal-behavior association was stronger in reading than in acquisition (z=3.63, p<.001). The findings suggest cumulative lexical exposure and contextual predictability play different roles across the language trajectory: frequency is particularly informative about when early lexical representations are acquired, whereas surprisal captures moment-to-moment processing difficulty in an already-established linguistic system. We discuss this pattern in relation to usage-based and entrenchment-based accounts of lexical development and to the evaluation of language models as models of human language behavior.
- Abstract(参考訳): 意外なことに、言語モデルの負の対数確率は、前回の文脈で与えられた単語に割り当て、成人の読書時間を確実に予測する。
子どもが個々の単語をいつ取得するかを説明するのに役立ちますか?
頻度は、単語に対する学習者の累積的な露出を反映するが、仮定は、単一の発生がその文脈によってどれだけ予測可能であるかを反映する。
本稿では,スペイン語のコーパスに基づく2つの研究について考察する。
研究1では,225のスペイン語名詞の獲得年齢を,子指向音声からの語彙頻度と文脈的多様性を用いてモデル化し,建築・訓練言語(BETO,BERTIN,mGPT)で異なる3つの言語モデルから推定した。
頻度はAoA (r=-.597, p<.001) を強く予測し、自然主義・文脈分析を含む周波数と単語の長さを超える部分はほとんど加えなかった。
本研究では,Multilingual Eye-movement Corpus (MECO Wave2) のスペイン語サブサンプルの成体固定期間を,mGPTを2つの独立した周波数指標と併用してモデル化した。
両周波数源間で整合した周波数と単語長の制御後, 固定期間が長くなることを予測した。
一致語型比較では, 副行動関連は, 獲得時よりも読みやすい(z=3.63, p<.001)。
この結果から, 語彙の蓄積的露出と文脈的予測性は, 言語軌跡全体において異なる役割を担っていることが示唆された。
本稿では,このパターンを語彙発達における用法ベースおよびエンレンチメントベースの説明と,人間の言語行動モデルとしての言語モデルの評価に関して論じる。
関連論文リスト
- ESCUCHA: A Spanish Speech Benchmark for Heterogeneous Acoustic Conditions [66.93528077633728]
ESCUCHAは、既存のデータセットからではなく、音声と組み合わせた1,000の人為的な質問からなる。
このベンチマークは、9つの知覚的カテゴリーと10の推論カテゴリにまたがる推論を強調し、複数のスペイン語アクセントと非ノルマ的スピーチを通して言語多様性を捉えている。
いくつかの最先端のマルチモーダルおよび音声モデルのベンチマークでは、訓練された人間と比較して、かなりのパフォーマンスのギャップが示される。
論文 参考訳(メタデータ) (2026-07-20T10:59:15Z) - The Frequency Confound in Language-Model Surprisal and Metaphor Novelty [12.10361869131849]
我々は,8つのPythiaモデルサイズと154のトレーニングチェックポイントから,予備的な推定値を分析する。
設定全体では、単語の頻度はサブプライムよりもメタファーの斬新さを強く予測する。
これらの結果は、しばしば報告される最適LM設定は、文脈予測可能性とメタファーの新規性と処理難易度を誤って関連付けているのに対し、語彙周波数は主要な要因である可能性があることを示唆している。
論文 参考訳(メタデータ) (2026-05-07T16:20:37Z) - Probing for Reading Times [60.30314214800421]
我々は、英語、ギリシャ語、ヘブライ語、ロシア語、トルコ語における人間の読書時間を表す言語モデル表現を探索する。
その結果,初期層からの表現は,初回固定や視線持続時間などの早期通過の予測において極めて優れていた。
論文 参考訳(メタデータ) (2026-04-20T18:12:59Z) - The Limits of Data Scaling: Sub-token Utilization and Acoustic Saturation in Multilingual ASR [6.627057618324123]
49言語にわたる推論においてWhisperの復号動作を分析する。
モデルのサブトークン空間の利用パターンについて検討する。
論文 参考訳(メタデータ) (2025-10-26T02:13:26Z) - On the Role of Context in Reading Time Prediction [50.87306355705826]
我々は,リアルタイム言語理解において,読者がコンテキストをどのように統合するかについて,新たな視点を提示する。
提案手法は,言語単位の処理作業が文脈内情報の内容のアフィン関数であることを示す素因的理論に基づいている。
論文 参考訳(メタデータ) (2024-09-12T15:52:22Z) - Testing the Predictions of Surprisal Theory in 11 Languages [77.45204595614]
本研究では,11言語における副次的時間と読解時間の関係について検討する。
より多様な言語に焦点をあてることで、これらの結果は、情報理論と言語間のインクリメンタル言語処理の最も堅牢なリンクを提供すると論じる。
論文 参考訳(メタデータ) (2023-07-07T15:37:50Z) - Word Acquisition in Neural Language Models [0.38073142980733]
ニューラルネットワークモデルは,学習中に個々の単語を習得し,学習曲線を抽出し,600以上の単語の獲得年齢を推定する。
子どもや言語モデルでは, 具体性, 単語長, 語彙クラスの影響が顕著に異なることがわかった。
論文 参考訳(メタデータ) (2021-10-05T23:26:16Z) - AM2iCo: Evaluating Word Meaning in Context across Low-ResourceLanguages
with Adversarial Examples [51.048234591165155]
本稿では, AM2iCo, Adversarial and Multilingual Meaning in Contextを提案する。
言語間文脈における単語の意味の同一性を理解するために、最先端(SotA)表現モデルを忠実に評価することを目的としている。
その結果、現在のSotAプリトレーニングエンコーダは人間のパフォーマンスにかなり遅れていることが明らかとなった。
論文 参考訳(メタデータ) (2021-04-17T20:23:45Z) - Evaluating Models of Robust Word Recognition with Serial Reproduction [8.17947290421835]
広範囲確率的生成言語モデルと人間の言語的期待を捉える能力の比較を行った。
先行した言語的文脈の抽象表現を利用するこれらのモデルは、連続再生の過程で人々が行った変化を最もよく予測する。
論文 参考訳(メタデータ) (2021-01-24T20:16:12Z) - Unsupervised Cross-lingual Representation Learning for Speech
Recognition [63.85924123692923]
XLSRは、複数の言語における音声の生波形から1つのモデルを事前学習することで、言語間音声表現を学習する。
我々は、マスク付き潜在音声表現よりも対照的なタスクを解くことで訓練されたwav2vec 2.0を構築した。
実験により、言語間事前学習はモノリンガル事前訓練よりも著しく優れていることが示された。
論文 参考訳(メタデータ) (2020-06-24T18:25:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。