論文の概要: Do Cantonese-Adapted Language Models Better Predict Cantonese Reading? A Cross-Model Eye-Tracking Evaluation

• arxiv url: http://arxiv.org/abs/2609.02163v2
• Date: Mon, 07 Sep 2026 03:29:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-09 14:43:41.663499
• Title: Do Cantonese-Adapted Language Models Better Predict Cantonese Reading? A Cross-Model Eye-Tracking Evaluation
• Title（参考訳）: カントン適応型言語モデルは、予測カントン読解を改善するか? : クロスモデルアイトラッキング評価
• Abstract要約: CKIP GPT-2 Tinyと軽量カントン適応JED351誘導体,Qwen2.5-7BとカントンLLM-7Bの比較を行った。 目的は, 語彙素因, POS素因, エントロピー, エントロピー低下であった。 結果は、より広範なカントン固有の訓練が、より強力な予測適合と結びつくことを示唆している。
• 参考スコア（独自算出の注目度）: 9.253073076886182
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Information-theoretic measures derived from autoregressive language models are widely used to characterize the expectations that shape human reading, but whether language-variety-specific training improves such psycholinguistic alignment remains unclear. This question is still open for Cantonese, where recent NLP evaluations reported mixed benefits from Cantonese-specific training relative to Mandarin-oriented or general-purpose models. Using naturalistic Cantonese eye-tracking data, we compare two within-family adaptation contrasts: CKIP GPT-2 Tiny versus its lightly Cantonese-adapted JED351 derivative, and Qwen2.5-7B versus CantoneseLLM-7B, which underwent substantially more extensive Cantonese continued pretraining and instruction tuning. From each model, we derive lexical surprisal, POS surprisal, entropy before the target, and entropy reduction. Lexical surprisal and the joint four-metric model consistently favor CantoneseLLM-7B, followed by Qwen2.5-7B, CKIP, and JED351, whereas entropy reduction favors CKIP. These results suggest that more extensive Cantonese-specific training can be associated with stronger predictive fit, while model rankings also depend on the information-theoretic measure being evaluated.
• Abstract（参考訳）: 自己回帰言語モデルから導かれる情報理論的尺度は、人間の読影を形作る期待を特徴付けるために広く用いられているが、言語に特有な訓練がそのような精神言語的アライメントを改善するかどうかはまだ不明である。 最近のNLP評価では、マンダリン指向または汎用モデルと比較して、カントン固有のトレーニングの利点が混在していることが報告されている。 自然なカントン目追跡データを用いて、CKIP GPT-2 Tinyと軽量カントン適応JED351、Qwen2.5-7BとカントンLLM-7Bの2つの家族内適応コントラストを比較した。 それぞれのモデルから, 語彙代名詞, POS代名詞, ターゲット前のエントロピー, エントロピー低下を導出した。 レキシカル・サプライサルとジョイント4メトリック・モデルは一貫してカントネーゼLLM-7Bを好んでおり、続いてQwen2.5-7B、CKIP、JED351が続くが、エントロピー・リダクションはCKIPを好んでいる。 これらの結果は、より広範なカントン固有の訓練がより強力な予測適合と結びつくことを示唆し、一方、モデルランキングは評価される情報理論尺度にも依存することを示している。

関連論文リスト

• CantoneseLLM v2: Reasoning in a Low-Resource Language [0.8166364251367626]
  カントン語は広く話されているが、手書きのデータでは低リソースである。 我々は,Qwen3 8B と 30B-A3B をモデルとした CantoneseLLM v2 を開発した。
  論文  参考訳（メタデータ） (2026-09-07T03:08:43Z)
• Behavioral and Representational Evidence of Binomial Ordering Preferences in Large Language Models [61.21623682203952]
  両単語の置換は文法的に有効であるが、従来と異なる言語間変異を示す。 コーパス由来の嗜好と、6つのオープンウェイト言語モデルのモデル誘発順序付け確率を測り比較する。
  論文  参考訳（メタデータ） (2026-06-19T17:56:44Z)
• A Comparative Analysis of Retrieval-Augmented Generation Techniques for Bengali Standard-to-Dialect Machine Translation Using LLMs [0.3227658251731014]
  標準言語からその地域方言への翻訳は、少ないデータと言語変化のため、重要なNLP課題である。 本稿では,標準的なベンガル翻訳のための2つの新しいRAGパイプラインを提案し,比較する。
  論文  参考訳（メタデータ） (2025-12-16T08:18:18Z)
• \textsc{CantoNLU}: A benchmark for Cantonese natural language understanding [2.6328168463115684]
  我々は、カントン自然言語理解(NLU)のベンチマークであるtextsctextbfCantoNLUを紹介する。 このベンチマークは、単語感覚の曖昧さ、言語判断、言語検出、自然言語推論、感情分析、音声の一部タグ付け、依存性解析を含む、構文と意味論をカバーする7つのタスクにまたがる。 結果から, カントン適応モデルの方が総合的に優れ, 単言語モデルの方が構文的タスクにおいて優れていたことが示唆された。
  論文  参考訳（メタデータ） (2025-10-23T15:47:27Z)
• Token-Level Inference-Time Alignment for Vision-Language Models [58.41370989069588]
  VLM(Vision-Language Models)は、現代のマルチモーダルインテリジェンスの重要なバックボーンとなっている。 本稿では,基本VLMを凍結し,その分布を近似する報酬モデルをトレーニングする軽量フレームワークTITAを提案する。 推測中、暗黙の選好信号は報酬モデルと目標VLMの対数確率比として抽出され、密集した自己回帰フィードバックが得られる。
  論文  参考訳（メタデータ） (2025-10-20T09:58:03Z)
• Beyond Early-Token Bias: Model-Specific and Language-Specific Position Effects in Multilingual LLMs [50.07451351559251]
  我々は,5言語(英語,ロシア語,ドイツ語,ヒンディー語,ベトナム語)にまたがる調査を行った。 位置バイアスが即時戦略とどのように相互作用し、出力エントロピーに影響を及ぼすかを検討する。
  論文  参考訳（メタデータ） (2025-05-22T02:23:00Z)
• How Well Do LLMs Handle Cantonese? Benchmarking Cantonese Capabilities of Large Language Models [42.83419530688604]
  8500万人以上の人々が話していた カントン語のような表現不足言語は 著しい発展のギャップに直面しています 広範に使われているにもかかわらず、カントン語はNLP研究において、特に同様の発展途上国の他の言語と比較して、スカンプト表現を持っている。 我々は、現在のカントンNLP法の概要と、実数生成、数学的論理、複素推論、およびカントンにおける一般知識におけるLLMの性能を評価するために設計された新しいベンチマークを紹介する。
  論文  参考訳（メタデータ） (2024-08-29T17:54:14Z)
• Language Generation with Strictly Proper Scoring Rules [70.340673452404]
  本稿では,非局所的なスコアリングルールを用いた言語モデリングが可能な,スコアリングルールを言語生成に適用するための戦略を提案する。 対数スコアの代替として、ブライアスコアと球面スコアの2つの古典的厳密なスコアルールを用いて言語生成モデルを訓練する。
  論文  参考訳（メタデータ） (2024-05-29T09:09:00Z)
• Fine-tuning Language Models for Factuality [96.5203774943198]
  大規模な事前訓練型言語モデル(LLM)は、しばしば伝統的な検索エンジンの代替として、広く使われるようになった。 しかし、言語モデルは説得力のあるが事実的に不正確な主張をしがちである(しばしば「幻覚」と呼ばれる)。 本研究では,人間のラベル付けなしに,より現実的な言語モデルを微調整する。
  論文  参考訳（メタデータ） (2023-11-14T18:59:15Z)
• Rethinking Masked Language Modeling for Chinese Spelling Correction [70.85829000570203]
  言語モデルと誤りモデルという2つの異なるモデルによる共同決定として,中国語のスペル補正(CSC)について検討する。 細調整されたBERTは、言語モデルに不適合なままエラーモデルに過度に適合する傾向にあり、その結果、分布外エラーパターンへの一般化が不十分であることがわかった。 微調整中に入力シーケンスから20%の非エラートークンをランダムにマスキングする非常に単純な戦略は、エラーモデルを犠牲にすることなく、はるかに優れた言語モデルを学ぶのに十分であることを示す。
  論文  参考訳（メタデータ） (2023-05-28T13:19:12Z)
• A Study of Modeling Rising Intonation in Cantonese Neural Speech Synthesis [10.747119651974947]
  宣言的な質問は毎日のカントン会話でよく使われる。 Vanilla Neural Text-to-Speech (TTS) システムはこれらの文に対して上昇するイントネーションを合成することができない。 本稿では, BERTに基づく文/問合せ分類器を用いて, Cantonese TTSモデルを補完することを提案する。
  論文  参考訳（メタデータ） (2022-08-03T16:21:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。