論文の概要: The Frequency Confound in Language-Model Surprisal and Metaphor Novelty

• arxiv url: http://arxiv.org/abs/2605.06506v1
• Date: Thu, 07 May 2026 16:20:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-08 22:27:11.987647
• Title: The Frequency Confound in Language-Model Surprisal and Metaphor Novelty
• Title（参考訳）: 言語モデルにおけるサブプライズとメタファーの出現頻度
• Abstract要約: 我々は,8つのPythiaモデルサイズと154のトレーニングチェックポイントから,予備的な推定値を分析する。 設定全体では、単語の頻度はサブプライムよりもメタファーの斬新さを強く予測する。 これらの結果は、しばしば報告される最適LM設定は、文脈予測可能性とメタファーの新規性と処理難易度を誤って関連付けているのに対し、語彙周波数は主要な要因である可能性があることを示唆している。
• 参考スコア（独自算出の注目度）: 12.10361869131849
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language-model (LM) surprisal is widely used as a proxy for contextual predictability and has been reported to correlate with metaphor novelty judgments. However, surprisal is tightly intertwined with lexical frequency. We explore this interaction on metaphor novelty ratings using two different word frequency measures. We analyse surprisal estimates from eight Pythia model sizes and 154 training checkpoints. Across settings, word frequency is a stronger predictor of metaphor novelty than surprisal. Across training stages, the surprisal--novelty association peaks at an early stage and then falls again, mirroring a similarly timed increase in the surprisal--frequency association. These results suggest that the often-reported optimal LM surprisal settings may incorrectly associate contextual predictability with metaphor novelty and processing difficulty, whereas lexical frequency may be the major underlying factor.
• Abstract（参考訳）: 言語モデル (LM) は文脈的予測可能性の代名詞として広く用いられ、メタファの新規性判断と相関することが報告されている。 しかし、仮定は語彙周波数と密接に絡み合っている。 この相互作用を2つの異なる単語頻度尺度を用いてメタファーのノベルティ評価について検討する。 我々は,8つのPythiaモデルサイズと154のトレーニングチェックポイントから,予備的な推定値を分析する。 設定全体では、単語の頻度はサブプライムよりもメタファーの斬新さを強く予測する。 訓練段階全体では、サブプライム・ノーベルティ・アソシエーションは早期にピークを迎え、その後再び転倒し、サブプライム・フォーベルティ・アソシエーションの時間的増加を反映している。 これらの結果は、しばしば報告される最適LM設定は、文脈予測可能性とメタファーの新規性と処理難易度を誤って関連付けているのに対し、語彙周波数は主要な要因である可能性があることを示唆している。

関連論文リスト

• From Exposure to Expectation: Frequency, Surprisal, and Language Across Development in Spanish [0.0]
  意外なことに、言語モデルの負の対数確率は、前回の文脈で与えられた単語に割り当て、成人の読書時間を確実に予測する。 本稿では,スペイン語のコーパスに基づく2つの研究について考察する。
  論文  参考訳（メタデータ） (2026-08-23T15:02:29Z)
• Why are language models less surprised than humans? Testing the Parse Multiplicity Mismatch Hypothesis [14.478855009044807]
  予備理論は、単語の処理困難は文脈におけるその予測可能性によって決定されると仮定する。 LMは、自然主義的なテキストの読み出し時間を予測することに成功したが、統語的曖昧さの制御された研究において観察される困難度を体系的に過小評価した。 このことは、LMと人間が同時に利用できるパース数の違いは、人間の文章処理とLMに基づく仮定を一致させることができないことを示唆している。
  論文  参考訳（メタデータ） (2026-05-14T21:44:26Z)
• Probing for Reading Times [60.30314214800421]
  我々は、英語、ギリシャ語、ヘブライ語、ロシア語、トルコ語における人間の読書時間を表す言語モデル表現を探索する。 その結果,初期層からの表現は,初回固定や視線持続時間などの早期通過の予測において極めて優れていた。
  論文  参考訳（メタデータ） (2026-04-20T18:12:59Z)
• Surprisal and Metaphor Novelty: Moderate Correlations and Divergent Scaling Effects [9.85813493536013]
  本研究では,言語モデルにおける予測可能性の確率的尺度である仮定がメタファの新規性データセットと相関するかどうかを考察する。 我々は、コーパスベースおよび合成メタファーノベルティデータセットに基づく16のLM変種から予備解析を行った。
  論文  参考訳（メタデータ） (2026-01-05T11:24:33Z)
• On the Proper Treatment of Tokenization in Psycholinguistics [53.960910019072436]
  論文は、トークンレベルの言語モデルは、精神言語学研究で使用される前に、文字レベルの言語モデルにマージ化されるべきであると主張している。 興味領域自体のサブプライムよりも心理学的予測が優れている様々な焦点領域を見いだす。
  論文  参考訳（メタデータ） (2024-10-03T17:18:03Z)
• On the Role of Context in Reading Time Prediction [50.87306355705826]
  我々は,リアルタイム言語理解において,読者がコンテキストをどのように統合するかについて,新たな視点を提示する。 提案手法は,言語単位の処理作業が文脈内情報の内容のアフィン関数であることを示す素因的理論に基づいている。
  論文  参考訳（メタデータ） (2024-09-12T15:52:22Z)
• Frequency Explains the Inverse Correlation of Large Language Models' Size, Training Data Amount, and Surprisal's Fit to Reading Times [15.738530737312335]
  近年の研究では、トランスフォーマーに基づく言語モデルが大きくなり、非常に大量のデータで訓練されているため、その推定結果が自然主義的な人間の読解時間に適合していることが示されている。 本稿では,これら2つの傾向の根底にある説明要因として,単語頻度が重要であることを示す一連の分析結果を示す。 その結果,トランスフォーマーをベースとした言語モデルによる推定は,稀な単語を予測するために学習する超人的に複雑な関連性から,人間の期待から逸脱していることがわかった。
  論文  参考訳（メタデータ） (2024-02-03T20:22:54Z)
• Testing the Predictions of Surprisal Theory in 11 Languages [77.45204595614]
  本研究では,11言語における副次的時間と読解時間の関係について検討する。 より多様な言語に焦点をあてることで、これらの結果は、情報理論と言語間のインクリメンタル言語処理の最も堅牢なリンクを提供すると論じる。
  論文  参考訳（メタデータ） (2023-07-07T15:37:50Z)
• Understanding and Mitigating Spurious Correlations in Text Classification with Neighborhood Analysis [69.07674653828565]
  機械学習モデルは、トレーニングセットに存在するが一般的な状況では当てはまらない急激な相関を利用する傾向にある。 本稿では, 周辺分析と呼ばれる新しい視点から, 突発的相関がもたらす意味について考察する。 本稿では,テキスト分類における素早い相関を緩和する正規化手法であるNFL(doN't Forget your Language)を提案する。
  論文  参考訳（メタデータ） (2023-05-23T03:55:50Z)
• On Sampling-Based Training Criteria for Neural Language Modeling [97.35284042981675]
  我々はモンテカルロサンプリング、重要サンプリング、補償部分和と呼ばれる新しい方法、およびノイズコントラスト推定を検討する。 対象のクラス後部確率を補正しさえすれば,これらすべてのサンプリング手法が同等に動作可能であることを示す。 Switchboard と LibriSpeech における言語モデリングと音声認識の実験結果が,我々の主張を支持した。
  論文  参考訳（メタデータ） (2021-04-21T12:55:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。