論文の概要: Lost in Sampling: Assessing Lexical Reachability in LLMs via the Word Coverage Score (WCS)

• arxiv url: http://arxiv.org/abs/2605.27268v1
• Date: Tue, 26 May 2026 16:44:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-27 17:51:42.464134
• Title: Lost in Sampling: Assessing Lexical Reachability in LLMs via the Word Coverage Score (WCS)
• Title（参考訳）: サンプリングにおける損失:単語被覆スコア(WCS)を用いたLLMにおける語彙到達性の評価
• Authors: Samer Awad, Javier Conde, Carlos Arriaga, Tairan Fu, Javier Coronado-Blázquez, Pedro Reviriego,
• Abstract要約: WCS(Word Coverage Score)は、標準的なサンプリングフィルタによって、文脈的に適切な人間の語彙が数学的に決定される範囲を定量化する指標である。 人為的なコーパスフラグメント上のオープンウェイトモデルを監査することにより、デコーダによってどの論理的語彙選択が到達不能であるかを識別する。
• 参考スコア（独自算出の注目度）: 3.71430272682278
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Modern Large Language Models (LLMs) are often criticized for producing repetitive and homogeneous text, despite possessing vast latent vocabularies. While previous research has focused on model knowledge and training data, we investigate the role of decoding mechanics in suppressing linguistic diversity. We introduce the Word Coverage Score (WCS), a metric that quantifies the extent to which contextually appropriate human vocabulary is mathematically pruned by standard sampling filters (e.g., Top-$p$, Top-$k$, and Min-$p$). Rather than assessing static knowledge, the WCS measures the lexical survival rate of low-frequency, high-information human words as a function of sampling parameters. By auditing open-weight models on human-authored corpus fragments, we identify which logical lexical choices are rendered unreachable by the decoder, even when they reside within the probability space. Our results provide quantitative evidence that industry-standard sampling defaults act as unintended censorship mechanisms, smoothing the unique textures of human expression into a homogenized discourse. The WCS offers a rigorous framework for optimizing the trade-off between text coherence and lexical richness, providing a diagnostic tool for preserving the diversity of human language in generative models.
• Abstract（参考訳）: 現代大言語モデル (LLM) は、膨大な潜在語彙を持つにもかかわらず、反復的かつ同質なテキストを生成することでしばしば批判される。 これまでの研究では、モデル知識とトレーニングデータに焦点が当てられていたが、言語多様性の抑制におけるデコード力学の役割について検討した。 本稿では、標準的なサンプリングフィルタ(例えば、Top-$p$、Top-$k$、Min-$p$)によって、文脈的に適切な人間の語彙が数学的に決定される範囲を定量化する指標であるWord Coverage Score(WCS)を紹介する。 静的知識を評価するのではなく、WCSはサンプリングパラメータの関数として低周波・高情報人間の単語の語彙的生存率を測定する。 人為的なコーパスフラグメント上のオープンウェイトモデルを監査することにより、確率空間内にある場合でもデコーダによってどの論理語彙選択が到達不能であるかを識別する。 本研究は, 業界標準の基準基準デフォルトが意図しない検閲機構として機能し, 表現の独特のテクスチャを均質化された言論へと円滑化させることを定量的に示すものである。 WCSは、テキストコヒーレンスと語彙豊かさのトレードオフを最適化するための厳格なフレームワークを提供し、生成モデルにおける人間の言語の多様性を維持するための診断ツールを提供する。

関連論文リスト

• WhoSaidIt: Human-LLM Collaborative Annotation for Text-Based Multilingual Speaker-Attribute Classification [2.634639188510826]
  本稿では,多言語話者属性ラベルの安定化のための,人間大言語モデル(LLM)協調アノテーションフレームワークを提案する。 このフレームワークを用いて,9つの話者属性ラベルを含む多言語データセットであるWhoSaidItを構築した。
  論文  参考訳（メタデータ） (2026-05-25T17:37:45Z)
• How Human-Like Are Large Language Models? A Register-Aware Linguistic Evaluation Framework [0.47954782871066737]
  本研究では,人間的類似性を評価する文脈認識評価フレームワークを提案する。 我々は,最大平均離散性(MMD)と,Biberが導入した67の語彙文法的特徴を用いて,この枠組みを実装した。
  論文  参考訳（メタデータ） (2026-05-22T14:04:25Z)
• WESR: Scaling and Evaluating Word-level Event-Speech Recognition [59.21814194620928]
  音声は言語情報だけでなく、笑ったり泣いたりするような豊富な非言語的な音声イベントも伝達する。 我々は,21の発声イベントの分類を改良し,個別(スタンドアローン)と連続(音声と混合)に分類した。 改良された分類法に基づくWESR-Benchは,新しい位置認識プロトコルを備えた専門家アノテート評価セット(900以上の発話)である。
  論文  参考訳（メタデータ） (2026-01-08T02:23:21Z)
• Computational Turing Test Reveals Systematic Differences Between Human and AI Language [0.0]
  大規模言語モデル(LLM)は、人間の振る舞いをシミュレートするために社会科学でますます使われている。 既存の検証努力は人的判断に基づく評価に大きく依存している。 本稿では,LLMが人間の言語にどの程度近いかを評価するために,計算チューリングテストを提案する。
  論文  参考訳（メタデータ） (2025-11-06T08:56:37Z)
• Tokenization and Representation Biases in Multilingual Models on Dialectal NLP Tasks [7.216732751280017]
  我々は、事前学習された多言語モデルにおける表現バイアスの尺度として、トークン化パリティ(TP)と情報化パリティ(IP)を関連付ける。 我々は,最先端デコーダのみのLLMと,方言分類,話題分類,抽出質問応答の3つのタスクからなるエンコーダベースモデルを比較した。 分析の結果,TPは統語的・形態的手法に依存したタスクの性能を予測し,IPは意味的タスクのパフォーマンスを予測できることがわかった。
  論文  参考訳（メタデータ） (2025-09-24T12:13:53Z)
• Generative Spoken Language Model based on continuous word-sized audio tokens [52.081868603603844]
  本稿では,単語サイズ連続評価音声埋め込みに基づく生成音声言語モデルを提案する。 結果として得られるモデルは、単語サイズの連続埋め込みに基づく最初の生成言語モデルである。
  論文  参考訳（メタデータ） (2023-10-08T16:46:14Z)
• Language Model Decoding as Direct Metrics Optimization [87.68281625776282]
  現在の復号法は、異なる側面にわたる人間のテキストと整合するテキストを生成するのに苦労している。 本研究では,言語モデルからの復号化を最適化問題として,期待される性能と人間のテキストとの厳密なマッチングを目的とした。 この誘導分布は,人間のテキストの難易度を向上させることが保証されていることを証明し,人間のテキストの基本的な分布に対するより良い近似を示唆する。
  論文  参考訳（メタデータ） (2023-10-02T09:35:27Z)
• Locally Typical Sampling [84.62530743899025]
  我々は、今日の確率的言語ジェネレータが、一貫性と流動性のあるテキストを生成する際に不足していることを示します。 本稿では,確率モデルから生成する際の,この基準を強制するための簡易かつ効率的な手順を提案する。
  論文  参考訳（メタデータ） (2022-02-01T18:58:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。