論文の概要: Telescope: Improving Zero Shot Detection of LLM Generated Content By Measuring Token Repetition Probability

• arxiv url: http://arxiv.org/abs/2607.04061v1
• Date: Sun, 05 Jul 2026 00:13:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:29.808951
• Title: Telescope: Improving Zero Shot Detection of LLM Generated Content By Measuring Token Repetition Probability
• Title（参考訳）: 望遠鏡:トークン繰り返し確率測定によるLCM生成量のゼロショット検出の改善
• Authors: Christopher Nassif, Josh F. Cooper,
• Abstract要約: 本稿では,Large Language Model (LLM) が生成したテキストと人間の文章を区別する方法を示す。 実験により、望遠鏡パープレキシティのサインが事前訓練の初期段階に現れることが判明した。 さまざまなデータセットにまたがる最先端ないし競争的なパフォーマンスを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Distinguishing Large Language Model (LLM) generated text from human writing is a critical and difficult challenge. While LLMs are trained to write like humans, we hypothesize that this training leaves an indelible mark. LLMs develop a particularly strong aversion to token repetition very early in training. This bias persists as a ''Vestigial Heuristic'' (a developmental artifact) that is activated in LLM-generated text, separating LLM from human writing. To probe this phenomenon, we introduce Telescope Perplexity, a metric that evaluates the token repetition of the model, $P(s_i | s_{1:i})$ . Our empirical investigation reveals that the Telescope Perplexity signature emerges early in pre-training, and Telescope Perplexity empirically enables highly effective zero-shot LLM detection. We show state-of-the-art or competitive performance across diverse datasets (including modern evaluation sets we introduce), reference models, and perturbation schemes with greater efficiency than other methods.
• Abstract（参考訳）: 大規模言語モデル (LLM) の生成するテキストを人間の文章から識別することは、重要かつ難しい課題である。 LLMは人間のように書けるように訓練されているが、この訓練は確実な跡を残していると仮定する。 LLMは、訓練の早い段階でトークン反復に対する特に強い嫌悪感を発達させる。 このバイアスは、LLM生成テキストで活性化される「発展的ヒューリスティック(Vestigial Heuristic)」として持続し、LLMと人間の文章を分離する。 この現象を解明するために、モデルのトークン反復を評価する計量であるSmallum Perplexity(Smallum Perplexity, $P(s_i | s_{1:i})$)を導入する。 我々の経験的調査は、望遠鏡パープレキシティの署名が事前訓練の初期段階に出現し、望遠鏡パープレキシティが実験的に高効率なゼロショットLDM検出を可能にしていることを明らかにしている。 さまざまなデータセット(紹介した最新の評価セットを含む)、参照モデル、摂動スキームにまたがる最先端ないし競争的なパフォーマンスを、他の方法よりも高い効率で示す。

関連論文リスト

• Satori: Reinforcement Learning with Chain-of-Action-Thought Enhances LLM Reasoning via Autoregressive Search [57.28671084993782]
  大規模言語モデル(LLM)は、様々な領域にまたがる顕著な推論能力を示している。 近年の研究では、テスト時間計算の増加はLLMの推論能力を高めることが示されている。 そこで我々は,1)COAT推論形式を内部化するための小規模な形式調整段階,2)強化学習を活用した大規模自己改善段階を提案する。
  論文  参考訳（メタデータ） (2025-02-04T17:26:58Z)
• A Bayesian Approach to Harnessing the Power of LLMs in Authorship Attribution [57.309390098903]
  著者の属性は、文書の起源または著者を特定することを目的としている。 大きな言語モデル(LLM)とその深い推論能力と長距離テキストアソシエーションを維持する能力は、有望な代替手段を提供する。 IMDbおよびブログデータセットを用いた結果, 著者10名を対象に, 著者1名に対して, 85%の精度が得られた。
  論文  参考訳（メタデータ） (2024-10-29T04:14:23Z)
• Detecting Hallucinations in Large Language Model Generation: A Token Probability Approach [0.0]
  LLM(Large Language Models)は、幻覚と呼ばれる不正確な出力を生成する。 本稿では,トークンから得られる4つの数値的特徴と,他の評価者から得られる語彙的確率を用いた教師付き学習手法を提案する。 この方法は有望な結果をもたらし、3つの異なるベンチマークで複数のタスクで最先端の結果を上回る。
  論文  参考訳（メタデータ） (2024-05-30T03:00:47Z)
• AlignedCoT: Prompting Large Language Models via Native-Speaking Demonstrations [52.43593893122206]
  Alignedcotは、大規模言語モデルを呼び出すためのコンテキスト内学習技術である。 ゼロショットシナリオでは、一貫した正しいステップワイズプロンプトを達成する。 数学的推論とコモンセンス推論の実験を行う。
  論文  参考訳（メタデータ） (2023-11-22T17:24:21Z)
• Are Large Language Models Really Robust to Word-Level Perturbations? [68.60618778027694]
  本稿では,事前学習した報酬モデルを診断ツールとして活用する,新たな合理的評価手法を提案する。 より長い会話は、質問を理解する能力の観点から言語モデルの包括的把握を示す。 この結果から,LLMは日常言語でよく使われる単語レベルの摂動に対する脆弱性をしばしば示している。
  論文  参考訳（メタデータ） (2023-09-20T09:23:46Z)
• Prompting Large Language Models for Counterfactual Generation: An Empirical Study [13.506528217009507]
  大規模言語モデル(LLM)は、幅広い自然言語理解と生成タスクにおいて顕著な進歩を遂げている。 本稿では,様々な種類のNLUタスクに対する総合的な評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-05-24T06:44:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。