論文の概要: Revisiting the Estimation of Unigram Surprisal in Computational Psycholinguistics
- arxiv url: http://arxiv.org/abs/2610.18414v1
- Date: Tue, 13 Oct 2026 13:54:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-16 21:29:00.944441
- Title: Revisiting the Estimation of Unigram Surprisal in Computational Psycholinguistics
- Title(参考訳): 計算心理学におけるユニグラム素因推定の再検討
- Abstract要約: 文脈とユニグラムは、計算心理言語学における読書時間の標準的な予測因子である。
精神言語学研究におけるユニグラムの前提を推定するための3つの原則を提案する。
- 参考スコア(独自算出の注目度): 43.25212630273854
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Contextual and unigram surprisal are standard predictors of reading time in computational psycholinguistics. While contextual surprisal is typically derived from neural language models, unigram surprisal is usually obtained from independent corpus counts. Although both quantities are deterministic functionals of a single underlying distribution---capturing conditional and marginal structure respectively---this practice breaks their probabilistic link and may introduce estimation error from the mismatch. We propose three principles for estimating unigram surprisal in psycholinguistic research, including the requirement that both quantities be derived from the same language model. We operationalize this principle by introducing a Monte Carlo estimator of unigram surprisal from a language model, along with a marginalized variant that has lower variance empirically. When unigram surprisal is re-estimated under this unified framework, we find evidence that predictors change in their predictive contribution to reading time. We also confirm prior findings that frequency can be a stronger predictor of processing effort than contextual surprisal under this unified framework.
- Abstract(参考訳): 文脈とユニグラムは、計算心理言語学における読書時間の標準的な予測因子である。
文脈推定は一般的にニューラルネットワークモデルから導かれるが、ユニグラム推定は通常独立したコーパス数から得られる。
どちらの量も一つの分布の決定論的関数であり、条件構造と限界構造をそれぞれキャプチャするが、このプラクティスは確率的リンクを破り、ミスマッチから推定誤差を導入する可能性がある。
精神言語学研究におけるユニグラム素因を推定するための3つの原理を提案し, 両者が同一言語モデルから導出されることを要求した。
我々はこの原理を、言語モデルから単グラム推定のモンテカルロ推定器を導入し、実験的に分散を小さくする限界付き変種を運用する。
この統合された枠組みの下でユニグラム推定が再推定されると、予測者が読書時間に対する予測的貢献を変える証拠が見つかる。
また、この統合された枠組みの下では、周波数が文脈的前提よりも処理作業の予測因子となることも確認した。
関連論文リスト
- Estimating Surprisal from the Speech Signal [39.524151485504596]
本稿では,テキストから音声への合成モデルによって生成された現実化を極小化することで,抽象単位の確率を近似する重要サンプリング推定器を提案する。
重要度サンプリングによる推定は, 単語の具体的推測よりも, 瞳孔拡張を予測できることがわかった。
また,小語彙単位の予備値は瞳孔拡張の予測値であることがわかった。
論文 参考訳(メタデータ) (2026-10-13T14:14:41Z) - On the Role of Context in Reading Time Prediction [50.87306355705826]
我々は,リアルタイム言語理解において,読者がコンテキストをどのように統合するかについて,新たな視点を提示する。
提案手法は,言語単位の処理作業が文脈内情報の内容のアフィン関数であることを示す素因的理論に基づいている。
論文 参考訳(メタデータ) (2024-09-12T15:52:22Z) - Testing the Predictions of Surprisal Theory in 11 Languages [77.45204595614]
本研究では,11言語における副次的時間と読解時間の関係について検討する。
より多様な言語に焦点をあてることで、これらの結果は、情報理論と言語間のインクリメンタル言語処理の最も堅牢なリンクを提供すると論じる。
論文 参考訳(メタデータ) (2023-07-07T15:37:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。