論文の概要: Prompt Embedding Probes (PEP): Hallucination Detection in LLMs from Hidden States

• arxiv url: http://arxiv.org/abs/2608.08024v1
• Date: Sat, 08 Aug 2026 09:14:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 19:16:36.609219
• Title: Prompt Embedding Probes (PEP): Hallucination Detection in LLMs from Hidden States
• Title（参考訳）: Prompt Embedding Probes (PEP) : 隠れた状態からのLLMの幻覚検出
• Abstract要約: 大型言語モデル (LLM) は、流動的で有用な応答を生成できるが、幻覚に苦しむ傾向にある。 凍結LDMの隠れ状態から応答レベルの幻覚を検出するためのホワイトボックス法であるPrompt Embedding Probes (PEP)を紹介した。 PEPは、主分布設定における標準線形プローブによる隠れ状態に基づく検出を改善する。
• 参考スコア（独自算出の注目度）: 4.37919186746582
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) can generate fluent and useful responses but remain prone to hallucinations. We introduce Prompt Embedding Probes (PEP), a white-box method for answer-level hallucination detection from the hidden states of a frozen LLM. PEP extends standard linear probes by augmenting the input with a small number of learnable prompt embeddings. We evaluate PEP on TriviaQA, GSM8K, and MedQA using Qwen3 models at multiple scales. PEP improves hidden-state-based detection over standard linear probes in the main in-distribution setting. We further evaluate PEP for pre-generation prediction, cross-model transfer, and out-of-distribution generalization. PEP remains effective in the pre-generation and cross-model settings, whereas robust cross-dataset transfer remains difficult. These results show that prompt-based adaptation can strengthen hidden-state probing while keeping the backbone frozen and adding only a small number of trainable parameters.
• Abstract（参考訳）: 大型言語モデル (LLM) は、流動的で有用な応答を生成できるが、幻覚に苦しむ傾向にある。 凍結LDMの隠れ状態から応答レベルの幻覚を検出するためのホワイトボックス法であるPrompt Embedding Probes (PEP)を紹介した。 PEPは、少数の学習可能なプロンプト埋め込みで入力を増強することで、標準的な線形プローブを拡張している。 複数のスケールでQwen3モデルを用いて,TriviaQA,GSM8K,MedQAのPEPを評価する。 PEPは、主分布設定における標準線形プローブによる隠れ状態に基づく検出を改善する。 さらに, プレジェネレーション予測, クロスモデル転送, アウト・オブ・ディストリビューション一般化のためのPEPを評価した。 PEPはプレジェネレーションとクロスモデル設定で有効であるが、ロバストなクロスデータセット転送は難しいままである。 これらの結果から, 背骨の凍結を保ち, 少数のトレーニング可能なパラメータのみを付加しながら, プロンプトベースの適応により隠れ状態の探索が強化されることが示唆された。

関連論文リスト

• AMPBench-MT: A Homology-Controlled Benchmark for Antimicrobial Peptide Potency, Spectrum, and Safety Prediction [3.534208235875249]
  AMPとペプチドのベンチマークは、AMP認識、種条件の有効性、スペクトル、安全に向いたプロキシエンドポイント、およびエンドポイント間の振る舞いを共同で配置しない。 AMPBench-MTは標準ペプチド記録を標準化し、それらを二項認識、種条件のpMIC回帰、エンドポイント固有の有効性と安全に配慮した読み出しに整理する。
  論文  参考訳（メタデータ） (2026-07-28T10:01:30Z)
• Measuring the Impact of Lexical Training Data Coverage on Hallucination Detection in Large Language Models [26.89705770151822]
  大規模言語モデル(LLM)における幻覚は、特にオープンドメインの質問応答において、根本的な課題である。 これまでの研究は、トークンレベルのエントロピーや生成一貫性といったモデル内部信号による幻覚の検出を試みた。 本研究では,データカバレッジ自体が検出信号として機能するかどうかを検討する。
  論文  参考訳（メタデータ） (2025-11-22T06:59:55Z)
• Cross-Layer Attention Probing for Fine-Grained Hallucination Detection [6.83291363146574]
  幻覚検出のための新しいアクティベーション・プロブリング技術であるCLAP(Cross-Layer Attention Probing)を提案する。 実験により,CLAPは脱コード応答と高温度でサンプリングされた応答の両方のベースラインと比較して幻覚検出を改善することが示された。 CLAPは、アウト・オブ・ディストリビューションを適用しても高い信頼性を維持する。
  論文  参考訳（メタデータ） (2025-09-04T14:37:34Z)
• Mitigating Hallucinations in Multimodal LLMs via Object-aware Preference Optimization [55.543583937522804]
  MLLM(Multimodal Large Language Models)は、様々なタスクに対処するための統一インターフェースとして登場した。 多くのベンチマークで最先端の結果が誇示されているにもかかわらず、長年の問題はMLLMが幻覚を起こす傾向にある。 本稿では,幻覚の問題をアライメント問題として取り上げ,幻覚を伴わないコンテンツを生成するためのMLLMのステアリングを試みる。
  論文  参考訳（メタデータ） (2025-08-27T18:02:04Z)
• ICR Probe: Tracking Hidden State Dynamics for Reliable Hallucination Detection in LLMs [50.18087419133284]
  隠れた状態を活用する幻覚検出法は、主に静的および孤立した表現に焦点を当てている。 隠れ状態の更新に対するモジュールの寄与を定量化する新しいメトリック ICR Score を導入する。 本稿では,隠れ状態の層間進化を捉えた幻覚検出手法 ICR Probe を提案する。
  論文  参考訳（メタデータ） (2025-07-22T11:44:26Z)
• REAL Sampling: Boosting Factuality and Diversity of Open-Ended Generation via Asymptotic Entropy [93.8400683020273]
  大規模言語モデル(LLM)の復号法は通常、事実性の確保と多様性の維持のトレードオフに苦慮する。 核サンプリングにおける事実性および多様性を向上させる復号法であるREALサンプリングを提案する。
  論文  参考訳（メタデータ） (2024-06-11T21:44:49Z)
• On Optimal Sampling for Learning SDF Using MLPs Equipped with Positional Encoding [76.78321723602636]
  我々は、好ましくない副作用を伴わずに、正確な暗黙の場を学習するための適切なサンプリング率を決定するツールを考案した。 PEを具備したPEは、PE層の最高周波数成分よりも内在周波数がはるかに高いことが観察された。 SDFフィッティングの設定において,この推奨サンプリングレートは正確なフィッティング結果の確保に十分であることを示す。
  論文  参考訳（メタデータ） (2024-01-02T10:51:52Z)
• Robust Quantitative Susceptibility Mapping via Approximate Message Passing with Parameter Estimation [14.22930572798757]
  本稿では,パラメータ推定を組み込んだ定量的感受性マッピング(QSM)の確率的ベイズ的手法を提案する。 Sim2Snr1データセットでは、AMP-PEは最低のNRMSE、DFCM、最高のSSIMを達成した。 生体内データセットでは、AMP-PEは頑健であり、推定パラメータを用いて感受性マップの復元に成功した。
  論文  参考訳（メタデータ） (2022-07-29T14:38:03Z)
• Transformers Can Do Bayesian Inference [56.99390658880008]
  我々はPFN(Presideed Data Fitted Networks)を提案する。 PFNは、大規模機械学習技術におけるインコンテキスト学習を活用して、大規模な後部集合を近似する。 我々は、PFNがガウス過程をほぼ完璧に模倣し、難解問題に対する効率的なベイズ推定を可能にすることを示した。
  論文  参考訳（メタデータ） (2021-12-20T13:07:39Z)
• Detecting Hallucinated Content in Conditional Neural Sequence Generation [165.68948078624499]
  出力シーケンスの各トークンが(入力に含まれていない)幻覚化されているかどうかを予測するタスクを提案する。 また、合成データに微調整された事前学習言語モデルを用いて幻覚を検出する方法についても紹介する。
  論文  参考訳（メタデータ） (2020-11-05T00:18:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。