論文の概要: Interpreting Classical Readability Formulae as Surprisal
- arxiv url: http://arxiv.org/abs/2611.01359v1
- Date: Sat, 31 Oct 2026 23:58:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-04 23:36:30.469017
- Title: Interpreting Classical Readability Formulae as Surprisal
- Title(参考訳): 古典的可読性公式を素数として解釈する
- Abstract要約: サプライサルは読書時間と密接に関連しており、読み取りの認知科学において処理の困難さの尺度として広く用いられている。
理論的には、これらの係数は仮定として解釈できる。
公式はグレードを出力し、子供の語彙はグレードによって測定されているので、解釈は、公式が暗黙的に仮定する語彙の成長を回復する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Surprisal correlates closely with reading time and is widely used in the cognitive science of reading as a measure of processing difficulty. Classical readability formulae such as the Flesch-Kincaid Grade Level, which scores a text by the US school grade expected to read it, are the most widely used practical measures of text difficulty, but their coefficients are unitless regression constants and have never been related to surprisal. We theoretically show that these coefficients can be interpreted as surprisal: every formula of the classical additive shape is a sum of per-word and per-sentence cross-entropies under a memoryless model, and once that model is tied to the language through Zipf's law and the formula is read as its linearisation at a reference text, each coefficient factorises into a scale in grades per nat, a Zipf slope and a reference sentence length. A grade thereby becomes a quantity in surprisal. Because the formula outputs grades and children's vocabulary has been measured by grade, the interpretation recovers the vocabulary growth the formula implicitly assumes and lets it be checked against development: holding sentence length fixed, the word coefficient of the Flesch-Kincaid formula converts to 0.18 nat of unigram surprisal per word per grade (0.15 to 0.19 across the regression-derived formulae), and normative root-word vocabulary growth (Biemiller and Slonim, 2001), converted through Zipf's law, gives 0.16 nat per year at the frontier of the known vocabulary. The word coefficient is one year of vocabulary growth, and the grade is a vocabulary scale. The identification also yields a diagnostic (the sentence-length terms are not those of a memoryless surprisal) and extends to a Japanese formula.
- Abstract(参考訳): サプライサルは読書時間と密接に関連しており、読み取りの認知科学において処理の困難さの尺度として広く用いられている。
古典的可読性公式(Flesch-Kincaid Grade Level)は、合衆国の高校の成績でテキストの読解が期待されているが、テキストの難易度が最も広く使われている尺度であるが、それらの係数は単数回帰定数(英語版)であり、副次的(英語版)とは関係がない。
古典的な加法形の各公式は、メモリレスモデルの下で単語ごとのクロスエントロピーと文毎のクロスエントロピーの和であり、そのモデルがZipfの法則によって言語に結び付けられ、その公式を基準テキストで線形化として読み取ると、各係数は、Natあたりのグレード、Zipf勾配、参照文長の尺度に分解される。
これにより、等級は副次的な量となる。
文長を固定し、フレッシュ・キンケイドの公式の単語係数は1グレードあたり0.18ナット(1グレードあたり0.15から0.19ナット)に変換され、ノミティブな根語語彙の成長(Biemiller and Slonim, 2001)はZipfの法則によって毎年0.16ナットとなる。
単語係数は語彙成長の1年であり、グレードは語彙スケールである。
識別はまた、診断(文長項は記憶のない前提語ではない)を与え、日本語の式に拡張する。
関連論文リスト
- From Exposure to Expectation: Frequency, Surprisal, and Language Across Development in Spanish [0.0]
意外なことに、言語モデルの負の対数確率は、前回の文脈で与えられた単語に割り当て、成人の読書時間を確実に予測する。
本稿では,スペイン語のコーパスに基づく2つの研究について考察する。
論文 参考訳(メタデータ) (2026-08-23T15:02:29Z) - Zipf Distributions from Two-Stage Symbolic Processes: Stability Under Stochastic Lexical Filtering [0.0]
言語におけるZipfの法則は、分野によって議論される決定的な起源を欠いている。
本研究では,言語的要素を持たない幾何学的機構を用いてZipf様の振る舞いを説明する。
論文 参考訳(メタデータ) (2025-11-26T04:59:40Z) - Random Text, Zipf's Law, Critical Length,and Implications for Large Language Models [0.0]
我々は、故意に単純で完全に非言語的なテキストモデルについて研究する。
単語は、非空間シンボルの最大ブロックとして定義される。
論文 参考訳(メタデータ) (2025-11-14T23:05:59Z) - Testing the Predictions of Surprisal Theory in 11 Languages [77.45204595614]
本研究では,11言語における副次的時間と読解時間の関係について検討する。
より多様な言語に焦点をあてることで、これらの結果は、情報理論と言語間のインクリメンタル言語処理の最も堅牢なリンクを提供すると論じる。
論文 参考訳(メタデータ) (2023-07-07T15:37:50Z) - Quark: Controllable Text Generation with Reinforced Unlearning [68.07749519374089]
大規模言語モデルは、しばしばユーザの期待に合わない振る舞いを学ぶ。
本稿では,(不必要な)特性を定量化する報酬関数を最適化するアルゴリズムQuarkを紹介する。
未学習の毒性、ネガティブな感情、反復について、我々の実験はQuarkが強いベースラインと最先端の強化学習法の両方より優れていることを示している。
論文 参考訳(メタデータ) (2022-05-26T21:11:51Z) - The advent and fall of a vocabulary learning bias from communicative
efficiency [1.2944868613449219]
幼児の場合、新しい単語に遭遇すると、語彙にまだ単語がない意味にそれを付加する傾向がある。
ここでは、Zipfの意味周波数法則を再現するためにチャネル化されたモデルの一般化を考える。
新しいモデルの解析により、高齢者や多言語児のバイアスの弱体化や喪失とともに、バイアスが一貫して消失する位相空間の領域が明らかになった。
論文 参考訳(メタデータ) (2021-05-24T20:13:27Z) - Phonotactic Complexity and its Trade-offs [73.10961848460613]
この単純な測度により、言語間のエントロピーを比較することができる。
音素あたりのビット数と単語の平均長との間には-0.74の非常に強い負の相関関係を示す。
論文 参考訳(メタデータ) (2020-05-07T21:36:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。