論文の概要: Actionable Hallucination Detection: Translating Latent Uncertainty into Agentic Critique

• arxiv url: http://arxiv.org/abs/2608.10430v1
• Date: Tue, 11 Aug 2026 03:26:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-12 19:14:45.889363
• Title: Actionable Hallucination Detection: Translating Latent Uncertainty into Agentic Critique
• Title（参考訳）: 行動性幻覚検出:潜伏不確かさをエージェント批判に翻訳する
• Abstract要約: AIエージェントとしてデプロイされるLarge Language Models (LLM)は、しばしばユーザ仕様のグラウンド障害を示す。 既存の検出方法は、幻覚をローカライズしないか、禁忌の推論遅延を発生しないため、実行可能でリアルタイムな修正を提供することができない。 フリーズベースLCM世代と並行して動作する軽量低ランクアダプタ(LoRA)であるLatent Criticを導入する。
• 参考スコア（独自算出の注目度）: 1.1172382217477128
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) deployed as AI agents frequently exhibit user specification-grounding failures, executing hallucinated, undesired actions to force a resolution rather than expressing uncertainty. Existing detection methods fail to provide actionable, real-time correction as they either do not localize the hallucinations, or incur prohibitive inference latency. We introduce the Latent Critic, a lightweight low-rank adapter (LoRA) that operates concurrently with a frozen base LLM's generation to actively restructure the transformer's residual stream---amplifying latent grounding signals and translating them into localized, natural language feedback within a single sequence. By refining the base model's native uncertainty signals, this manipulation of the latent space enables reliable, granular detection without the overhead of secondary inference loops. Mechanistic analysis via activation patching and layer-wise probing shows that this rank-invariant behavior restructures pre-existing uncertainty geometry into a linearly separable representation that transfers more reliably than base model representations alone. Using tool-calling as an instantiation of granular hallucinations, we validate the detection and downstream improvements enabled by the Latent Critic architecture across Qwen and Llama-based models. Demonstrating superior real-time efficacy, our approach significantly outperforms equivalent-scale fine-tuned external detectors, semantic entropy baselines, and passive internal probes in isolating hallucinations, achieving 0.966 AUROC and >80% accuracy in localization (e.g., ungrounded: date). When deployed in a closed-loop ReAct environment, the Critic acts as a negligible latency guardrail, intercepting hallucinations before execution to prevent undesired actions while simultaneously leveraging this specific localized feedback to enable efficient agent self-correction.
• Abstract（参考訳）: AIエージェントとしてデプロイされる大規模言語モデル(LLM)は、不確実性を表現するのではなく、解決を強制するために幻覚された、望ましくないアクションを実行する、ユーザ仕様の失敗を頻繁に表示する。 既存の検出方法は、幻覚をローカライズしないか、禁忌の推論遅延を発生しないため、実行可能でリアルタイムな修正を提供することができない。 我々は,LLM生成器と並行して動作する軽量の低ランクアダプタであるLatent Criticを導入し,変圧器の残差ストリームを積極的に再構築する。 ベースモデルのネイティブ不確実性信号の精製により、この潜伏空間の操作は、二次推論ループのオーバーヘッドを伴わずに、信頼性の高い粒度検出を可能にする。 アクティベーション・パッチングと層ワイド・プローブによる力学解析は、このランク不変な振る舞いが、既存の不確実な幾何を、ベースモデル表現のみよりも確実に伝達する線形分離可能な表現に再構成することを示している。 ツールコールを用いて,QwenとLlamaをベースとしたモデル間でのLatent Criticアーキテクチャによる検出とダウンストリームの改善を検証した。 より優れたリアルタイム有効性を示すために,本手法は,局所化において0.966AUROC,80%の精度(例えば,非基底化日時)を達成し,等価スケールの微調整外部検出器,セマンティックエントロピーベースライン,受動的内部プローブよりも優れていた。 クローズドループのReAct環境にデプロイされると、Cryticは無視可能な遅延ガードレールとして機能し、実行前に幻覚をインターセプトして望ましくない動作を防止すると同時に、この特定の局所的なフィードバックを活用して効率的なエージェントの自己補正を可能にする。

関連論文リスト

• Prediction of Prediction (PoP): Inter-Layer Activation Fusion for Single-Pass Hallucination Detection in Large Language Models [0.0]
  この研究は、生成中の内部の隠れ状態遷移ダイナミクスが、補助的な復号呼び出しを伴わずに事実エラーを信号化できるかどうかを評価する。 本稿では,層間遷移の不確実性を捉えるメカニズムである予測予測(PoP)を導入する。 PoPは受信機動作特性曲線(AUROC)の領域を75.5%の精度で達成している。
  論文  参考訳（メタデータ） (2026-08-27T14:17:14Z)
• Need We Teach Foundation Models What is a Generative Image? Gradient-Free Generative Artifact Detection via Analytic Spectral Adaptation [3.881211374324378]
  勾配ベースの更新による生成成果物の検出に基礎モデルを適用することで、本質的な表現が損なわれる。 本稿では,二分分類から外分布(OOD)異常測定問題への検出を緩和する勾配のない手法を提案する。
  論文  参考訳（メタデータ） (2026-06-03T13:04:23Z)
• Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
  Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。 NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
  論文  参考訳（メタデータ） (2026-05-21T16:45:31Z)
• UnGAP: Uncertainty-Guided Affine Prompting for Real-Time Crack Segmentation [16.902729686979303]
  UPFM(Uncertainty-Prompted Feature Modulator)は、単に出力ではなく、アクティブな視覚的プロンプトとして、アレタリック不確実性を扱う。 UnGAPは、より優れたセグメンテーション精度とリアルタイムの推論速度のバランスをとる。
  論文  参考訳（メタデータ） (2026-05-04T09:18:57Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• OSCAR: Orchestrated Self-verification and Cross-path Refinement [7.202012136912518]
  拡散言語モデルは、推論時間制御のための自然なハンドラを提供する、発音軌道を公開する。 我々はコミットメントの不確実性ローカライゼーションを定式化し、デノベーション軌道が与えられた場合、クロスチェーンエントロピーが教師なししきい値を超えるトークンの位置を特定する。 我々はこの定式化を運用するトレーニング不要な推論時間フレームワークOSCARを紹介する。
  論文  参考訳（メタデータ） (2026-04-02T05:02:22Z)
• Dynamic analysis enhances issue resolution [53.50448142467294]
  DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。 テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。 Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
  論文  参考訳（メタデータ） (2026-03-23T14:48:54Z)
• Toward Faithful Retrieval-Augmented Generation with Sparse Autoencoders [39.5490415037017]
  Retrieval-Augmented Generation (RAG) は、大規模言語モデル(LLM)の事実性を改善する。 既存のRAGの幻覚検出法は、しばしば大規模な検出器の訓練に頼っている。 RAGLensは、RAG出力を正確にフラグする軽量幻覚検出器である。
  論文  参考訳（メタデータ） (2025-12-09T18:33:22Z)
• Detoxifying Large Language Models via Autoregressive Reward Guided Representation Editing [77.75609817898035]
  大規模言語モデル(LLM)は、様々なタスクにわたって印象的なパフォーマンスを示してきたが、有害なコンテンツの生成には弱いままである。 textscAutoregressive textscReward textscGuided textscRe presentation textscEditing (ARGRE)を提案する。 ARGREは遅延表現空間内の毒性遷移を明示的にモデル化し、安定かつ正確な報酬誘導編集を可能にする。
  論文  参考訳（メタデータ） (2025-09-24T03:40:32Z)
• Semantic Energy: Detecting LLM Hallucination Beyond Entropy [106.92072182161712]
  大規模言語モデル(LLM)は、現実のアプリケーションにますますデプロイされているが、幻覚の影響を受けやすいままである。 不確実性推定は、そのような幻覚を検出するための実現可能なアプローチである。 本稿では,新しい不確実性推定フレームワークであるセマンティック・エナジーを紹介する。
  論文  参考訳（メタデータ） (2025-08-20T07:33:50Z)
• Multimodal LLM-Guided Semantic Correction in Text-to-Image Diffusion [52.315729095824906]
  MLLM Semantic-Corrected Ping-Pong-Ahead Diffusion (PPAD) は,マルチモーダル大言語モデル(MLLM)を推論中の意味的オブザーバとして導入する新しいフレームワークである。 中間世代をリアルタイムに分析し、潜在意味的不整合を識別し、フィードバックを制御可能な信号に変換し、残りの認知ステップを積極的に導く。 大規模な実験ではPPADの大幅な改善が示されている。
  論文  参考訳（メタデータ） (2025-05-26T14:42:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。