論文の概要: Robustness of Internal Signals for Hallucination Detection in Vision-Language Models

• arxiv url: http://arxiv.org/abs/2610.27041v1
• Date: Mon, 19 Oct 2026 17:34:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.43824
• Title: Robustness of Internal Signals for Hallucination Detection in Vision-Language Models
• Title（参考訳）: 視覚言語モデルにおける幻覚検出のための内部信号のロバスト性
• Abstract要約: 視覚言語モデル(VLM)は、一見洗練されたテキスト応答を生成することができる。 VLMは、その出力中の物体を幻覚させる傾向があり、安全クリティカルな応用において有害な結果をもたらす可能性がある。 これらの幻覚を検出するために、ある方法はVLMの内部信号を利用してテキスト応答を生成する。
• 参考スコア（独自算出の注目度）: 21.943886141926342
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When given an image and a text prompt, vision-language models (VLMs) can produce seemingly sophisticated text responses. However, they are also prone to hallucinate objects in their output, which can have detrimental consequences in safety-critical applications. To detect these hallucinations, certain methods interestingly leverage internal signals from the VLM as it generates the text response; potentially, these methods use the same signals that led to a hallucination to detect it. We conduct an in-depth analysis to understand the robustness of these detection methods. First, we show that a naive baseline of a generated word's token position in the VLM text response achieves competitive performance. Further, we reveal how some detection methods rely on token position and use this heuristic as a shortcut. Second, we explore detection methods' sensitivity to language and vision modalities. Our experiments suggest that strong detection performance is often driven by detecting language-based hallucinations, and when methods rely on token position, they tend to be less visually grounded and exhibit reduced robustness when hallucinations occur earlier in a text response. Lastly, we demonstrate that different detection methods can carry complementary signals; when ensembling methods together, adding weaker methods to an ensemble of higher performing ones still offers performance improvements. Altogether, while there may be useful internal VLM signals to detect hallucinations, our investigation reveals important limitations of the current methods that try to leverage them.
• Abstract（参考訳）: 画像とテキストプロンプトが与えられた場合、視覚言語モデル(VLM)は一見洗練されたテキスト応答を生成する。 しかし、それらは出力中の物体を幻覚させる傾向があり、安全クリティカルな応用において有害な結果をもたらす可能性がある。 これらの幻覚を検出するために、ある方法はテキスト応答を生成するときにVLMの内部信号を利用する。 これらの検出手法のロバスト性を理解するために,詳細な解析を行う。 まず,VLMテキスト応答において生成した単語のトークン位置のナイーブなベースラインが競合性能を実現することを示す。 さらに,いくつかの検出手法がトークンの位置に依存していることを明らかにし,このヒューリスティックをショートカットとして利用する。 第2に,言語や視覚に対する検出手法の感度について検討する。 実験の結果,強い検出性能は,言語に基づく幻覚の検出によって引き起こされることが多く,トークン位置に依存する手法では,より視覚的に座屈が低く,テキスト応答の早期に幻覚が発生すると頑健性が低下する傾向が示唆された。 最後に、異なる検出手法が相補的な信号を運ぶことができることを示す。 また,幻覚検出に有用な内部VLM信号が存在する可能性があるが,本研究はそれらを活用する方法の重要な限界を明らかにしている。

関連論文リスト

• Role-Break in Attention Heads: Understanding and Detecting Hallucinations in VLMs [49.743008490747094]
  Vision-Language Models (VLMs) は幻覚の傾向が強く、入力された画像によってサポートされないコンテンツを生成する。 統合された頭部レベルの視点では,幻覚による変化が各頭部の忠実な文脈行動からの局所的な逸脱として現れる。 詳細な分析により、これらの偏差は注目ヘッド、コンテキストソース、偏差方向にわたって体系的に整理され、その結果の信号はヘッドアイデンティティが保存されると線形に可読であることが分かる。
  論文  参考訳（メタデータ） (2026-07-31T13:33:51Z)
• VIHD: Visual Intervention-based Hallucination Detection for Medical Visual Question Answering [27.827862126990553]
  幻覚は臨床的な意思決定にリスクをもたらし、効果的な検出を必要とする。 既存のイントロスペクティブ検出法は、主に不確実性推定や論理的検証を行う。 視覚的介入に基づく幻覚検出法であるVIHDを提案する。
  論文  参考訳（メタデータ） (2026-05-20T06:14:45Z)
• Scalable Token-Level Hallucination Detection in Large Language Models [63.3426544914783]
  内部幻覚は推論集約的なタスクでは検出が難しい。 TokenHDはトークンレベルの幻覚検出器を訓練するための全体論的パイプラインである。
  論文  参考訳（メタデータ） (2026-05-12T16:47:40Z)
• From Out-of-Distribution Detection to Hallucination Detection: A Geometric View [11.026648707364402]
  本研究は,アウト・オブ・ディストリビューション(OOD)検出レンズによる幻覚検出を再考する。 言語モデルにおける次トーケン予測を分類タスクとして扱うことにより,OOD手法の適用が可能となる。 OODをベースとしたアプローチはトレーニング不要で単一サンプルベースの検出器となり、推論タスクの幻覚検出において高い精度が得られることを示す。
  論文  参考訳（メタデータ） (2026-02-06T23:05:48Z)
• Diversity Boosts AI-Generated Text Detection [51.56484100374058]
  DivEyeは、予備的な機能を使って、予測不可能がテキスト間でどのように変動するかをキャプチャする、新しいフレームワークである。 提案手法は、既存のゼロショット検出器を最大33.2%向上させ、微調整ベースラインとの競合性能を達成する。
  論文  参考訳（メタデータ） (2025-09-23T10:21:22Z)
• Robust Hallucination Detection in LLMs via Adaptive Token Selection [35.06045656558144]
  大きな言語モデル(LLM)の幻覚は、より広範なデプロイメントを妨げる重要な安全性上の懸念を引き起こす。 本研究では,適応的選択とクリティカルトークンの学習を通じて,幻覚の堅牢な検出を可能にする新しいアプローチであるHaMIを提案する。 本研究では,ハロシン化検出タスクの革新的な定式化により,このロバスト性を実現する。
  論文  参考訳（メタデータ） (2025-04-10T15:39:10Z)
• Combating Multimodal LLM Hallucination via Bottom-Up Holistic Reasoning [151.4060202671114]
  マルチモーダル大規模言語モデル(MLLM)は、視覚言語タスクを前進させる前例のない能力を示した。 本稿では,MLLMにおける幻覚に対処するためのボトムアップ推論フレームワークを提案する。 本フレームワークは、認識レベル情報と認知レベルコモンセンス知識を検証・統合することにより、視覚とテキストの両方の入力における潜在的な問題に体系的に対処する。
  論文  参考訳（メタデータ） (2024-12-15T09:10:46Z)
• Enhancing Uncertainty-Based Hallucination Detection with Stronger Focus [99.33091772494751]
  大規模言語モデル(LLM)は、様々な分野にわたる印象的なパフォーマンスで大きな人気を集めている。 LLMは、ユーザの期待を満たさない非現実的あるいは非感覚的なアウトプットを幻覚させる傾向がある。 LLMにおける幻覚を検出するための新しい基準のない不確実性に基づく手法を提案する。
  論文  参考訳（メタデータ） (2023-11-22T08:39:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。