論文の概要: The Truncation Blind Spot: How Decoding Strategies Systematically Exclude Human-Like Token Choices

• arxiv url: http://arxiv.org/abs/2603.18482v1
• Date: Thu, 19 Mar 2026 04:36:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-20 17:19:05.957414
• Title: The Truncation Blind Spot: How Decoding Strategies Systematically Exclude Human-Like Token Choices
• Title（参考訳）: トリニティ・ブラインド・スポット:人間のようなトークン選択を体系的にデコードする方法
• Authors: Esteban Garces Arias, Nurzhan Sapargali, Christian Heumann, Matthias Aßenmacher,
• Abstract要約: 8つの言語モデルで180万以上のテキストを分析します。 人間の選択したトークンの8-18%が、典型的なトランケーション境界外にあることがわかった。
• 参考スコア（独自算出の注目度）: 3.322376966347217
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Standard decoding strategies for text generation, including top-k, nucleus sampling, and contrastive search, select tokens based on likelihood, restricting selection to high-probability regions. Human language production operates differently: tokens are chosen for communicative appropriateness rather than statistical frequency. This mismatch creates a truncation blind spot: contextually appropriate but statistically rare tokens remain accessible to humans yet unreachable by likelihood-based decoding. We hypothesize this contributes to the detectability of machine-generated text. Analyzing over 1.8 million texts across eight language models, five decoding strategies, and 53 hyperparameter configurations, we find that 8-18% of human-selected tokens fall outside typical truncation boundaries. Simple classifiers trained on predictability and lexical diversity achieve remarkable detection rates. Crucially, neither model scale nor architecture correlates strongly with detectability; truncation parameters account for most variance. Configurations achieving low detectability often produce incoherent text, indicating that evading detection and producing natural text are distinct objectives. These findings suggest detectability is enhanced by likelihood-based token selection, not merely a matter of model capability.
• Abstract（参考訳）: トップk、核サンプリング、コントラスト検索を含むテキスト生成のための標準デコード戦略は、可能性に基づいてトークンを選択し、高い確率領域の選択を制限する。 トークンは統計周波数ではなく通信適性のために選択される。 このミスマッチは、コンテキスト的に適切だが統計的に稀なトークンが人間にアクセス可能でありながら、可能性ベースの復号化によって到達不能な点を生じさせる。 これは,機械生成テキストの検出可能性に寄与すると考えられる。 8つの言語モデル、5つのデコード戦略、53のハイパーパラメータ構成にわたる1.8万以上のテキストを分析し、人間の選択したトークンの8-18%が典型的なトランケーション境界外にあることがわかった。 予測可能性と語彙の多様性を訓練した単純な分類器は、顕著な検出率を達成する。 重要なことは、モデルスケールもアーキテクチャも検出可能性と強く相関しない。 低検出性を実現するための構成は、しばしば不整合テキストを生成し、検出を回避し、自然なテキストを生成することが、異なる目的であることを示す。 これらの結果から,検出性は,単にモデル能力の問題ではなく,可能性に基づくトークン選択によって向上することが示唆された。

関連論文リスト

• TempTest: Local Normalization Distortion and the Detection of Machine-generated Text [0.0]
  本稿では,生成言語モデルに完全に依存した機械生成テキストを検出する手法を提案する。 これは、温度やトップkサンプリングのようなデコード戦略が条件付き確率測度を正規化する方法の欠陥を目標にすることで達成される。 我々は,様々な言語モデル,データセット,通過距離の異なる,白と黒のボックス設定での検出器の評価を行った。
  論文  参考訳（メタデータ） (2025-03-26T10:56:59Z)
• DiffSampling: Enhancing Diversity and Accuracy in Neural Text Generation [5.734448042909701]
  トークン確率分布の数学的解析を利用する新しい復号法であるDiffSamplingを提案する。 4つの異なるテキスト生成タスクを含む実験により、我々のアプローチは、少なくとも既存の方法と同等に、一貫して機能することを示した。
  論文  参考訳（メタデータ） (2025-02-19T19:00:02Z)
• ExaGPT: Example-Based Machine-Generated Text Detection for Human Interpretability [62.285407189502216]
  LLM(Large Language Models)によって生成されたテキストの検出は、誤った判断によって致命的な誤りを引き起こす可能性がある。 本稿では,人間の意思決定プロセスに根ざした解釈可能な検出手法であるExaGPTを紹介する。 以上の結果から,ExaGPTは従来の強力な検出器よりも最大で40.9ポイントの精度を1%の偽陽性率で大きく上回っていることが明らかとなった。
  論文  参考訳（メタデータ） (2025-02-17T01:15:07Z)
• Group-Adaptive Threshold Optimization for Robust AI-Generated Text Detection [58.419940585826744]
  本稿では,確率的AIテキスト検出のためのグループ固有しきい値最適化アルゴリズムであるFairOPTを紹介する。 属性(例えば、テキストの長さと書き込みスタイル)に基づいてデータをサブグループに分割し、FairOPTを実装して、各グループに対する決定しきい値の学習を行い、不一致を低減しました。 我々のフレームワークは、後処理によるAI生成コンテンツ検出において、より堅牢な分類の道を開く。
  論文  参考訳（メタデータ） (2025-02-06T21:58:48Z)
• Closing the Curious Case of Neural Text Degeneration [91.22954750742183]
  トラニケートサンプリングの有効性を理論的に説明する。 モデルエラーの既知の源であるソフトマックスボトルネックを利用して、特定のトークンが真の確率がゼロでないことを示す。 提案手法は,低エントロピーテキスト生成におけるしきい値ベースよりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-10-02T23:16:25Z)
• Mitigating Bias in Text Classification via Prompt-Based Text Transformation [0.2864713389096699]
  テキストの書き直しをChatGPTに促すことが、意味を保ちながら人口統計信号を減少させるかどうかを検討する。 その結果, テキスト分類におけるバイアス軽減のための実践的, 一般化可能な手法として, プロンプトベースの書き直しが提案されている。
  論文  参考訳（メタデータ） (2023-05-09T13:10:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。