論文の概要: How Surprising Is Historical Italian to Language Models? Tokenization Tax, Comprehension Tax, and a Simple Mitigation

• arxiv url: http://arxiv.org/abs/2606.27275v1
• Date: Thu, 25 Jun 2026 16:52:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 18:46:32.363284
• Title: How Surprising Is Historical Italian to Language Models? Tokenization Tax, Comprehension Tax, and a Simple Mitigation
• Title（参考訳）: 歴史的イタリア語から言語モデルへのサプライズ : トークン税・包括税・簡易減税
• Abstract要約: 大規模言語モデル(LLM)はデジタルライブラリにとってますます重要になっているが、歴史的言語を処理する能力はいまだによく分かっていない。 本稿では,この難易度をトークン化コスト,予測の不確実性(前提),意味的堅牢性,コンテキスト感受性の4つの異なる次元に分解する診断フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are increasingly critical to digital library workflows, yet their ability to process historical language remains poorly understood. Historical difficulty is typically treated as a monolithic barrier, conflating orthographic variation, linguistic distance, and pretraining exposure. In this paper, we propose a diagnostic framework that decomposes this difficulty into four distinct dimensions: tokenization cost, predictive uncertainty (surprisal), semantic robustness, and context sensitivity. We evaluate this framework on three datasets spanning three centuries: (1) a newly curated corpus of 17th-century Italian texts (1610-1689) digitized from original page images; (2) canonical 19th-century Italian "I Promessi Sposi" serving as a high-exposure control; and (3) 18th-century Russian civil print books as a contrastive orthographic stress test. Our results reveal a distinct dissociation between encoding cost and comprehension. While Russian and early modern Italian incur comparable tokenization penalties (25-30% inflation), their predictive difficulty diverges sharply. 17th-century Italian is on average 2.4 times more surprising than its modern equivalent - with academic prose reaching 3.2 times - whereas Russian shows only a modest increase. But predictive uncertainty does not imply representational degradation: embedding similarity remains robust (> 0.85) across all datasets, confirming that models can represent historical meaning even when generation is unstable. Finally, we demonstrate that a minimal temporal context prompt reduces historical surprisal by approximately 60%, offering a simple, model-agnostic mitigation. These findings suggest that while historical text imposes a consistent encoding tax, digital libraries can safely deploy LLMs for semantic retrieval tasks, provided that generative applications are carefully adapted.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、デジタルライブラリのワークフローにとってますます重要になっているが、歴史的言語を処理する能力はいまだによく分かっていない。 歴史的難易度は、典型的にはモノリシックな障壁として扱われる。 本稿では,この難易度をトークン化コスト,予測の不確実性(前提),意味的堅牢性,コンテキスト感度の4つの異なる次元に分解する診断フレームワークを提案する。 この枠組みは,(1)原ページ画像からデジタイズした17世紀のイタリア語文体(1610-1689)を新たにキュレートしたコーパス,(2)高露光制御を行うカノニカルな19世紀のイタリア語「I Promessi Sposi」,(3)対照的な正書法ストレステストとしての18世紀のロシア市民版印刷書の3つのデータセット上で評価された。 以上の結果から,エンコーディングコストと理解の相違が明らかとなった。 ロシアや近世イタリアでは、トークン化の罰則(25-30%のインフレーション)に匹敵するものの、予測上の困難は急速に分散している。 17世紀のイタリア語は、現在の同種のものよりも平均2.4倍、学術的な散文は3.2倍、ロシア語はわずかに増加している。 しかし、予測的不確実性は、表現的劣化を示唆するものではない: 類似性の埋め込みは、すべてのデータセットにわたって堅牢(> 0.85)であり、生成が不安定な場合でも、モデルが歴史的な意味を表現できることを確認する。 最後に、最小の時間的文脈は、単純でモデルに依存しない緩和を提供するため、歴史的前提を約60%削減することを示した。 これらの結果から, デジタルライブラリは, セマンティック検索タスクにLLMを安全に配置することが可能であり, 生成アプリケーションが慎重に適応されていることが示唆された。

関連論文リスト

• Does Linguistic Structure Enrichment Enhance Coherence Assessment? Not With Current Architectures [1.756239703835073]
  統語的・修辞的な情報でテキストを豊かにすることで、一貫性の予測が向上するかどうかを検討する。 実験と分析により、付加された情報が言語モデルのアーキテクチャと構造的および構文的に相容れないため、プレーンテキストはより高い精度を達成できたことが示された。
  論文  参考訳（メタデータ） (2026-09-09T22:53:50Z)
• Beyond Similarity: Grounded Agentic Extraction and Expert-Adjudicated Evaluation of Intertextuality in Classical Chinese Histories [3.694051864521789]
  我々は、大言語モデルが2つのテキスト単位をフルに読み込むエージェントタスクとして、きめ細かいテクスチャ間抽出をリキャストする。 3つのドメインの専門家がプールされたマルチモデル候補を2,533対のテキスト間ペアのベンチマークに設定し、Analects と Book of Han を徹底的に比較する手法を検証する。
  論文  参考訳（メタデータ） (2026-07-30T02:34:23Z)
• Generating in the Limit with Infinitely Many Hallucinations [86.48063079851867]
  最近導入された言語生成のフレームワークは、学習者がターゲット言語から有効で見えない文字列を生成する必要がある。 我々は、新しい精度の概念を導入し、この問題を古典的なリコール精度トレードオフとして再考する。 この緩和は、敵が標的言語の大部分を永久に保持すると、リコールを厳密に増加させる可能性があることを示す。
  論文  参考訳（メタデータ） (2026-06-08T09:58:13Z)
• Mitigating Cross-Lingual Cultural Inconsistencies in LLMs via Consensus-Driven Preference Optimisation [58.01855677487771]
  本研究では,多言語大言語モデル (MLLM) が,プロンプトの言語変化に伴う不整合性を示すことを示す。 コンセンサス駆動型アライメントフレームワークであるC-3POを提案する。 C-3POは、非整合モデルよりも0.10ポイントの$_S$を絶対的に増加させ、強力なプロンプトと表現のステアリングベースラインを上回る。
  論文  参考訳（メタデータ） (2026-04-02T14:04:06Z)
• Structure-Aware Text Recognition for Ancient Greek Critical Editions [16.43811675687955]
  本稿では,古代ギリシアの批判版に対する構造対応テキスト認識について検討する。 TEI/XMLソースから生成される185,000ページ画像の大規模な合成コーパスを,タイポグラフィとレイアウトの変動を制御して導入する。 ゼロショット型と微調整型の両方の条件下で,最先端の3つのビジュアル言語モデルを評価する。
  論文  参考訳（メタデータ） (2026-03-03T09:42:43Z)
• Named Entity Recognition in Historical Italian: The Case of Giacomo Leopardi's Zibaldone [4.795582035438343]
  歴史的テキストの課題に適応できる計算技術が緊急に必要である。 大規模言語モデル(LLM)の台頭は、自然言語処理に革命をもたらした。 イタリア語のテキストに対する詳細な評価は提案されていない。
  論文  参考訳（メタデータ） (2025-05-26T15:16:48Z)
• Historical German Text Normalization Using Type- and Token-Based Language Modeling [0.0]
  本報告では, パラレルコーパスで訓練した1700-1900年頃のドイツ語文文の正規化システムを提案する。 提案システムは,トランスフォーマー言語モデルを用いて,エンコーダ・デコーダモデルと事前学習した因果言語モデルを組み合わせて,これらの正規化を文脈内で調整する。 広範に評価した結果,提案システムでは,より大規模な完全エンドツーエンドの文ベース正規化システムに匹敵し,事前学習したTransformer大言語モデルの微調整を行うことができた。
  論文  参考訳（メタデータ） (2024-09-04T16:14:05Z)
• Retrieval is Accurate Generation [99.24267226311157]
  本稿では,支援文書の集合からコンテキスト認識句を選択する新しい手法を提案する。 本モデルでは,検索対象のベースラインの中で,最高の性能と低レイテンシを実現する。
  論文  参考訳（メタデータ） (2024-02-27T14:16:19Z)
• Pixel Sentence Representation Learning [67.4775296225521]
  本研究では,視覚表現学習プロセスとして,文レベルのテキスト意味論の学習を概念化する。 タイポスや単語順シャッフルのような視覚的に接地されたテキスト摂動法を採用し、人間の認知パターンに共鳴し、摂動を連続的に認識できるようにする。 我々のアプローチは、大規模に教師なしのトピックアライメントトレーニングと自然言語推論監督によってさらに強化されている。
  論文  参考訳（メタデータ） (2024-02-13T02:46:45Z)
• Fine-tuning Language Models for Factuality [96.5203774943198]
  大規模な事前訓練型言語モデル(LLM)は、しばしば伝統的な検索エンジンの代替として、広く使われるようになった。 しかし、言語モデルは説得力のあるが事実的に不正確な主張をしがちである(しばしば「幻覚」と呼ばれる)。 本研究では,人間のラベル付けなしに,より現実的な言語モデルを微調整する。
  論文  参考訳（メタデータ） (2023-11-14T18:59:15Z)
• Deep Lexical Hypothesis: Identifying personality structure in natural language [0.30458514384586394]
  言語モデルから形容詞類似性を抽出する手法を提案する。 この方法で生成した相関構造は、ソーシエとゴールドバーグが報告した435項の自己および他値の相関構造と非常によく似ている。 特に、神経症と開放性は弱く、矛盾なく回復するだけである。
  論文  参考訳（メタデータ） (2022-03-04T02:06:10Z)
• Curious Case of Language Generation Evaluation Metrics: A Cautionary Tale [52.663117551150954]
  イメージキャプションや機械翻訳などのタスクを評価するデファクトメトリクスとして、いくつかの一般的な指標が残っている。 これは、使いやすさが原因でもあり、また、研究者がそれらを見て解釈する方法を知りたがっているためでもある。 本稿では,モデルの自動評価方法について,コミュニティにより慎重に検討するよう促す。
  論文  参考訳（メタデータ） (2020-10-26T13:57:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。