論文の概要: Grounding Probes: Generator-Independent Hallucination Detection from Observer Model Hidden States

• arxiv url: http://arxiv.org/abs/2610.04642v1
• Date: Sat, 03 Oct 2026 16:33:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-11 18:09:10.791825
• Title: Grounding Probes: Generator-Independent Hallucination Detection from Observer Model Hidden States
• Title（参考訳）: 接地プローブ:観測者モデル隠れ状態からの発電機非依存の幻覚検出
• Abstract要約: 隠れ状態プローブは2つの間に置かれるが、既存のプローブはすべて生成モデルのアクティベーションを読み取る。 本稿では,観測言語モデルの平均プール型中間層隠れ状態に対して,グラウンディングプローブはロジスティック回帰であることを示す。 4つのモデルのうちの1つに最低でも0.166 AUROCの費用がかかる。
• 参考スコア（独自算出の注目度）: 1.3891530345631953
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Detecting responses that retrieval-augmented generation does not ground in its context trades speed against accuracy: surface checks miss paraphrased fabrication, sampling-based methods cost extra generations. Hidden-state probes sit between the two, but every existing one reads the generating model's own activations, so a change of generator invalidates the detector and a closed-weight generator is out of reach. This paper removes that coupling. The Grounding Probe is logistic regression over the mean-pooled middle-layer hidden states of an observer language model that reads the context, question, and response in one forward pass and generates nothing, with the recipe it needs: pool over response tokens, read a middle layer, and control capacity, which closes the train-test AUROC gap from 0.087-0.202 to 0.009-0.013. Asking the observer outright, rather than reading its hidden state, costs at least +0.166 AUROC in every one of four models. Fitted on 15,090 annotated responses it reaches 0.879-0.894 AUROC on RAGTruth test across four observers, and 0.924 AUROC with 0.820 F1@0.5 averaged with a supervised span detector, 0.060 above that detector alone. One probe holds across six generators, and hold-out controls, including one in which no evaluation prompt appears in training, bound the cost of removing a generator at about 0.02 AUROC. Code, probes, and predictions are released.
• Abstract（参考訳）: サーフェスチェックはパラフリーズド・ファブリケーションを見逃し、サンプリングベースの手法は余分な世代を費やします。 隠れ状態プローブは2つの間に置かれるが、既存のプローブは全て生成モデルのアクティベーションを読み取るため、ジェネレータの変更は検出器を無効にし、クローズドウェイトジェネレータは手が届かない。 この論文はその結合を取り除きます。 Grounding Probeは、1つのフォワードパスでコンテキスト、質問、レスポンスを読み、何も生成しないオブザーバ言語モデルの平均プールされた中間層隠れ状態に対するロジスティック回帰であり、必要なレシピは、応答トークンのプール、中間層読み出し、コントロールキャパシティであり、テスト中のAUROCギャップを0.087-0.202から0.009-0.013に閉じる。 4つのモデルのうちの1つに最低でも0.166 AUROCの費用がかかる。 15,090の注釈付き応答で、4人の観測者によるRAGTruthテストで0.879-0.894 AUROCに到達し、0.820 F1@0.5のAUROCと監督スパン検出器で平均して0.924 AUROCに到達した。 1つのプローブは6つの発電機にまたがって保持され、1つは訓練中に評価プロンプトが現れることなく、約0.02 AUROCで発電機を除去するコストを制限している。 コード、プローブ、予測がリリースされる。

関連論文リスト

• The Price of Peeking: Anytime-Valid Leakage Detection on ML-KEM EM Traces [45.88028371034407]
  本研究は, ベットによる検査に基づく漏洩検出について検討する。 13000～20000のサンプルに対して繰り返し表示される$|t|>4.5$は2.7-12.9%の複製で誤報を発生させた。
  論文  参考訳（メタデータ） (2026-09-27T14:14:10Z)
• Legible Failures: Detecting and Repairing In-Context Binding Errors [0.0]
  間違った答えは、モデルが必要な情報を欠いているか、保持していたかを示していない。 16の公的なチェックポイントで、それぞれが3つのシードで評価される頻度を測定します。 インコンテキストバインディングは、プローブが動作可能な設定であることに気付きました。
  論文  参考訳（メタデータ） (2026-09-10T08:20:15Z)
• Adversarial Test-Hardening for AI-Written Code: An Instrument Autopsy and a Pre-Registered Causal Estimate of the Critic Loop [0.0]
  メカニカルオラクル下での対向試験硬化ループについて検討した。 テスタモデルはテストを書き、変異テスト名は生き残った欠陥を注入し、Cryticモデルはテストを書き、それらを正確に実行します。 私たちは、すべてのレシートと分析コードの両方のプロトコルをリリースします。
  論文  参考訳（メタデータ） (2026-07-25T02:38:07Z)
• Operational Proto-Introspection in Looped Language Models: Process-Quality Taps, Executable Branching, and the Readout-Control Boundary [0.0]
  言語モデルは、進行中の計算の質を読み取ることができるか? 外部介入は、その読み出しをより良い結果に変えることができるか? 凍結した2.6Bループ変換器,Ouro-RLTTで両質問を検証した。
  論文  参考訳（メタデータ） (2026-07-20T22:40:36Z)
• Calibrated e-CUSUM Decoding for Quantized Reasoning Models: Why Token Log-Probability Is the Wrong Observable for Decoding Monitors [0.6999740786886536]
  低ビット量子化により、小さな推論モデルは安価に展開できるが、思考の連鎖を分解することができる。 中心となるトークンのlog-probabilityは$log p(w_t)+H_t$が間違ったオブザーバブルであることを示します。 本稿では,トークンの不確実性と明示的な繰り返しを混在させるデジェネレーションを意識したアラームスコアを組み合わせた,トレーニング不要な復号制御手法を提案する。
  論文  参考訳（メタデータ） (2026-07-13T09:34:36Z)
• Temporal Multi-Signal Fusion for Token-Level Hallucination Detection [0.0]
  トークンレベルの幻覚検出器は、1つの信号から独立してトークンをスコアし、生成モデルが確実に間違っている場合に正確に失敗する。 本稿では,幻覚を時間的に拡張したスパンとして扱い,シーケンスラベリングにより検出する。 双方向Gated Recurrent Unit (BiGRU) は、RAGTruth (10種)上のAUCの0.840に達する。
  論文  参考訳（メタデータ） (2026-06-30T19:22:39Z)
• Now You (Still) See Me: Detecting Evasive Steganographic Payloads in LLMs [52.149036302760386]
  大規模な言語モデルは、プロンプトによって引き起こされるシークレットを、流動的で良心的な出力にエンコードするように微調整することができる。 近年の研究では、内部の活性化から秘密を回収する線形プローブによる検出を提案する。 この防御は体系的に回避できるが,対象とするデータレベルの介入によって検出性が回復可能であることを示す。
  論文  参考訳（メタデータ） (2026-06-08T12:27:11Z)
• Amplifying, Not Learning: Fine-Tuned AI Text Detectors Amplify a Pretrained Direction [51.56484100374058]
  テキスト検出器は、事前訓練された典型軸を増幅する。 タスク監督前の生エンコーダでは、3つのアーキテクチャでNYT-vs-HC3 AUROC 0.806/0.944/0.834を達成する。 RoBERTaベースでは、生のプロジェクションは微調整を超えるが、RoBERTaベースでは、フル微調整は、試験された流線型人口の双方で生よりも識別を小さくする。
  論文  参考訳（メタデータ） (2026-05-20T19:08:38Z)
• Rethinking Cross-Generator Image Forgery Detection through DINOv3 [62.80415066351157]
  クロスジェネレータ検出は、新しい挑戦フォージェネレータモデルとして登場した。 凍結した視覚基盤モデル、特にDINOv3は、既に強力なクロスジェネレータ検出能力を持っていることを示す。 トレーニング不要なトークンランク戦略を導入し、続いて軽量な線形プローブを用いて、認証関連トークンの小さなサブセットを選択する。
  論文  参考訳（メタデータ） (2025-11-27T14:01:50Z)
• DetectGPT: Zero-Shot Machine-Generated Text Detection using Probability Curvature [143.5381108333212]
  大規模な言語モデルからサンプリングされたテキストは、モデルのログ確率関数の負の曲率領域を占有する傾向にあることを示す。 次に、与えられたLLMから通路が生成されるかどうかを判断するための新しい曲率ベースの基準を定義する。 我々は、モデルサンプル検出のための既存のゼロショット法よりもディテクターGPTの方が識別性が高いことを発見した。
  論文  参考訳（メタデータ） (2023-01-26T18:44:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。