論文の概要: Token-Level Likelihood-Array Regression for Membership Inference and AI-Generated Text Detection

• arxiv url: http://arxiv.org/abs/2608.22179v1
• Date: Sun, 23 Aug 2026 02:30:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-25 13:29:43.644015
• Title: Token-Level Likelihood-Array Regression for Membership Inference and AI-Generated Text Detection
• Title（参考訳）: 会員推論とAI生成テキスト検出のためのToken-Level Likelihood-Array Regression
• Abstract要約: そこで我々は,Nested left-context windowの下で各ターゲットトークンを評価するLARを提案する。 LARは、検出情報がコンテキストスケール、トークン位置、および可能性の特徴によってどのように変化するかを学ぶ。 LARは、可能性ベースのベースライン上での会員推測とAIによるテキスト検出を大幅に改善する。
• 参考スコア（独自算出の注目度）: 4.747273434233925
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Membership inference asks whether a text was used to train a language model, whereas AI-generated text detection asks whether it was generated by a language model rather than written by a human. Existing likelihood-based methods typically compress token-level probabilities into a few prespecified scores, most often using only probabilities conditioned on the full preceding context. We propose likelihood-array regression (LAR), which evaluates each target token under nested left-context windows and organizes the resulting likelihood-derived features into a structured array. After aligning arrays across texts of different lengths, LAR learns how detection information varies with context scale, token position, and likelihood features. LAR-1 aggregates learned contributions from individual aligned cells, while LAR-2 adds second-order features formed from pairs of evaluations of the same target token across context lengths. For within-path quadratic model, we establish matching minimax lower and upper bounds, characterize errors from finite-dimensional approximation and random squared projections, and derive conditions under which an oracle spectral sieve attains the minimax rate. Across multiple scoring language models, LAR substantially improves membership inference and AI-generated text detection over likelihood-based baselines. The analyses further show that shorter-context likelihoods contain information beyond conventional full-context probabilities, while second-order features provide additional gains for membership inference.
• Abstract（参考訳）: メンバシップ推論では、テキストが言語モデルのトレーニングに使用されたかどうかを問う一方で、AIが生成したテキスト検出では、人間が書くのではなく、言語モデルによって生成されたかどうかを問う。 既存の可能性に基づく手法は、通常、トークンレベルの確率をいくつかの予め定義されたスコアに圧縮する。 そこで本稿では,Nested left-context window の下で各ターゲットトークンを評価し,その結果の候補から得られる特徴を構造化配列に整理する,確率アレイ回帰(LAR)を提案する。 異なる長さのテキスト間で配列を整列した後、LARは検出情報がコンテキストスケール、トークン位置、および可能性の特徴によってどのように変化するかを学ぶ。 LAR-1は個々の細胞から学習したコントリビューションを集約する一方、LAR-2はコンテキストの長さで同じターゲットトークンのペアの評価から作られた2階のフィーチャを付加する。 経路内二次モデルでは、最小値と上限値のマッチングを確立し、有限次元近似とランダム二乗射影からの誤差を特徴付けるとともに、オラクルスペクトルが最小値に到達した条件を導出する。 複数のスコアリング言語モデル全体で、LARはメンバーシップ推論とAIが生成するテキスト検出を大幅に改善する。 分析により,従来の全文確率以上の情報を含む短文可能性を示すとともに,第2次特徴は会員推定に付加的な利得を与えることが示された。

関連論文リスト

• Learn from your own latents and not from tokens: A sample-complexity theory [53.5821824211418]
  本研究では,関連するビューやマスキング領域の潜在表現を予測するために訓練されたネットワークについて検討する。 潜在予測は、対数的要因まで、多くのサンプルを$L$で表すことでこれを達成できることを示す。 これは、H-JEPAのような明示的な積み重ねがほとんど冗長であることを示している。
  論文  参考訳（メタデータ） (2026-05-26T22:16:42Z)
• Repeated Sequences Reveal Gaps between Large Language Models and Natural Language [8.883733362171036]
  GPT生成したテキストは,モデルサイズによる推定指数の体系的および統計的に有意な変化を示す。 これらの結果から, 反復列エントロピーは定量的構造診断に有効であることが示唆された。
  論文  参考訳（メタデータ） (2026-05-24T03:49:20Z)
• Exposing the Unsaid: Visualizing Hidden LLM Bias through Stochastic Path Aggregation [16.63373250752545]
  大規模言語モデル(LLM)は、テキスト生成の限界化により評価が難しい表現バイアスと構文バイアスを示す。 本稿では,集約比較によるバイアス評価を目的とした視覚解析ツールであるTreeTracerを紹介する。
  論文  参考訳（メタデータ） (2026-04-24T13:37:51Z)
• MuTSE: A Human-in-the-Loop Multi-use Text Simplification Evaluator [0.13048920509133807]
  textbfMuTSEfootnoteは、大規模言語モデルの評価を合理化するために設計されたインタラクティブなヒューマン・イン・ザ・ループ・ウェブアプリケーションである。 このシステムは、P倍M$プロンプトモデル置換の同時実行をサポートし、リアルタイムに包括的な比較行列を生成する。
  論文  参考訳（メタデータ） (2026-04-10T04:31:43Z)
• Extending Minimal Pairs with Ordinal Surprisal Curves and Entropy Across Applied Domains [0.0]
  本研究は,二項文法から順序スケールの分類とスコアリングタスクまで,素性に基づく評価を拡張した。 モデルに回答を求めるのではなく、情報理論の「サプライズ」を測る。 この枠組みは, 社会・生態・技術系の分類, 因果文の識別(バイナリとスケール), 図形言語検出, 帰納的定性的符号化の4分野にまたがる。
  論文  参考訳（メタデータ） (2026-03-15T14:31:00Z)
• RepreGuard: Detecting LLM-Generated Text by Revealing Hidden Representation Patterns [50.401907401444404]
  大規模言語モデル(LLM)は、誤用を防止し、信頼できるAIシステムを構築するために不可欠である。 本稿では,統計量に基づく効率的な検出手法であるRepreGuardを提案する。 実験結果から、RepreGuardは、平均94.92%のAUROCですべてのベースラインでID(in-distriion)とOOD(OOD)の両方のシナリオでパフォーマンスが向上していることが示された。
  論文  参考訳（メタデータ） (2025-08-18T17:59:15Z)
• Random-Set Large Language Models [4.308457163593758]
  大規模言語モデル(LLM)は、クエリに対する非常に高品質なテストとレスポンスを生成することで知られています。 しかし、この生成されたテキストはいくら信用できますか? 本稿では,トークン空間上の有限ランダム集合(関数)を予測するランダムセット大言語モデル(RSLLM)を提案する。
  論文  参考訳（メタデータ） (2025-04-25T05:25:27Z)
• Group-Adaptive Threshold Optimization for Robust AI-Generated Text Detection [58.419940585826744]
  本稿では,確率的AIテキスト検出のためのグループ固有しきい値最適化アルゴリズムであるFairOPTを紹介する。 属性(例えば、テキストの長さと書き込みスタイル)に基づいてデータをサブグループに分割し、FairOPTを実装して、各グループに対する決定しきい値の学習を行い、不一致を低減しました。 我々のフレームワークは、後処理によるAI生成コンテンツ検出において、より堅牢な分類の道を開く。
  論文  参考訳（メタデータ） (2025-02-06T21:58:48Z)
• Beyond Coarse-Grained Matching in Video-Text Retrieval [50.799697216533914]
  きめ細かい評価のための新しいアプローチを導入する。 テストキャプションを自動的に生成することで,既存のデータセットにアプローチを適用することができる。 きめ細かい評価実験は、このアプローチがきめ細かな違いを理解するモデルの能力を高めることを実証している。
  論文  参考訳（メタデータ） (2024-10-16T09:42:29Z)
• SeqXGPT: Sentence-Level AI-Generated Text Detection [62.3792779440284]
  大規模言語モデル(LLM)を用いた文書の合成による文レベル検出の課題について紹介する。 次に,文レベルのAIGT検出機能として,ホワイトボックスLEMのログ確率リストを利用した textbfSequence textbfX (Check) textbfGPT を提案する。
  論文  参考訳（メタデータ） (2023-10-13T07:18:53Z)
• Speaker Embedding-aware Neural Diarization: a Novel Framework for Overlapped Speech Diarization in the Meeting Scenario [51.5031673695118]
  重なり合う音声のダイアリゼーションを単一ラベル予測問題として再構成する。 話者埋め込み認識型ニューラルダイアリゼーション(SEND)システムを提案する。
  論文  参考訳（メタデータ） (2022-03-18T06:40:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。