Fugu-MT 論文翻訳(概要): UHP Detection: LVLMs have their Unique Hallucination Pattern in the Consistency Space

論文の概要: UHP Detection: LVLMs have their Unique Hallucination Pattern in the Consistency Space

arxiv url: http://arxiv.org/abs/2608.03817v1
Date: Tue, 04 Aug 2026 15:25:30 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-05 15:30:23.267092
Title: UHP Detection: LVLMs have their Unique Hallucination Pattern in the Consistency Space
Title（参考訳）: UHP検出:LVLMは一貫性空間に独自の幻覚パターンを持つ
Abstract要約: 大規模視覚言語モデル(LVLM)は、強いマルチモーダル推論能力を示すが、幻覚の傾向が残る。既存のブラックボックス幻覚検出手法は、単一整合度で不確実性を推定する。我々は,幻覚を構造的不確実性パターンとしてモデル化する完全ブラックボックスフレームワークであるemphUnique Hallucination Pattern (UHP) Detectionを提案する。
参考スコア（独自算出の注目度）: 5.617711361190723
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Large vision--language models (LVLMs) demonstrate strong multimodal reasoning capabilities but remain prone to hallucination, where model predictions are not grounded in visual evidence. Existing black-box hallucination detection methods estimate uncertainty through a single consistency metric, implicitly assuming that model uncertainty can be adequately characterized by a single measure. However, hallucinations exhibit diverse manifestations of uncertainty across different behavioral probes, making a single measure insufficient to characterize their underlying behavior. We propose \emph{Unique Hallucination Pattern (UHP) Detection}, a fully black-box framework that models hallucination as a structured uncertainty pattern defined by two axes: perturbation modality (image vs.\ text) and logical polarity (a statement vs.\ its negation). Their intersection produces four complementary consistency groups that capture distinct manifestations of model uncertainty, from which both within-group and between-group features are extracted to train a lightweight classifier. Through comprehensive experiments on AMBER and PhD across three LVLMs, UHP Detection consistently outperforms prior black-box and white-box baselines, with improvements of up to $+18.72\%$ AUC-ROC and $+20.07\%$ AUC-PR over the strongest black-box methods. Extensive ablation studies demonstrate that each consistency group contributes complementary information and that their combination forms a structured hallucination pattern. Furthermore, cross-dataset evaluation shows that this learned pattern generalizes across benchmarks, indicating that hallucination behavior reflects a model-specific consistency pattern. \textbf{Code is publicly available at} https://github.com/amirezzati/uhpdet.
Abstract（参考訳）: 大規模視覚言語モデル(LVLM)は、強いマルチモーダル推論能力を示すが、モデル予測が視覚的証拠に基づかない幻覚の傾向にある。既存のブラックボックス幻覚検出法では、モデル不確実性が単一の尺度によって適切に特徴づけられることを暗黙的に仮定して、単一の一貫性メトリックを通して不確実性を推定する。しかし、幻覚は様々な行動プローブで様々な不確実性を示すため、基礎となる振る舞いを特徴づけるには1つの尺度が不十分である。本稿では,2つの軸で定義された構造的不確実性パターンとして幻覚をモデル化する,完全なブラックボックスフレームワークである「emph{Unique Hallucination Pattern (UHP) Detection」を提案する。文)と論理的極性(文対) と宣言する)。それらの交叉は、4つの相補的な整合性群を生成し、モデル不確実性の明確な表現を捉え、そこから群内特徴と群間特徴の両方を抽出して軽量な分類器を訓練する。 3つのLVLMにわたるAMBERとPhDの総合的な実験により、UHP検出はブラックボックスとホワイトボックスのベースラインを一貫して上回り、最大で$+18.72\%のAUC-ROCと$+20.07\%のAUC-PRが改良された。大規模なアブレーション研究は、各一貫性群が相補的な情報に貢献し、それらの組み合わせが構造化幻覚パターンを形成することを示した。さらに、クロスデータセット評価は、この学習パターンがベンチマーク全体にわたって一般化し、幻覚行動がモデル固有の一貫性パターンを反映していることを示している。 \textbf{Codeはhttps://github.com/amirezzati/uhpdet.comで公開されている。

関連論文リスト

Local Intrinsic Dimension Unveils Hallucinations in Diffusion Models [18.55564482332065]
拡散モデルは構造的幻覚を引き起こす傾向がある。モデル誘導多様体上の不安定性として幻覚を扱う補的視点を提案する。このような不安定性に基づく幻覚フィルタは,最近提案された時間的フィルタの性能と一致するか,あるいは超えるかを示す。
論文参考訳（メタデータ） (2026-05-06T15:22:52Z)
Seeing Through the Chain: Mitigate Hallucination in Multimodal Reasoning Models via CoT Compression and Contrastive Preference Optimization [78.94590726578014]
マルチモーダル推論モデル (Multimodal reasoning model, MLRM) は幻覚の傾向が強く, 効果的な解はいまだ未発見のままである。 textbfCompression と textbfPreference textbfOptimization を組み合わせたトレーニングベースの緩和フレームワーク C3PO を提案する。
論文参考訳（メタデータ） (2026-02-03T11:00:55Z)
Revealing Perception and Generation Dynamics in LVLMs: Mitigating Hallucinations via Validated Dominance Correction [59.801614364841775]
LVLM(Large Vision-Language Models)は目覚ましい能力を示しているが、幻覚は依然として持続的な課題である。本研究は,LVLMにおける視覚知覚とトークン生成の内部進化の系統的解析である。我々は,VDC(d Dominance Correction)戦略を考案し,不要なトークンを検出し,検証済みトークンに置き換えて出力信頼性を向上させる。
論文参考訳（メタデータ） (2025-12-21T17:05:42Z)
Towards Unification of Hallucination Detection and Fact Verification for Large Language Models [31.407333541614296]
大規模言語モデル(LLM)は、しばしば幻覚を示し、流動的に見えるコンテンツを生成するが、実際には正しくない。この課題に対処するために、モデル中心の幻覚検出(HD)とテキスト中心のFact Verification(FV)という、2つの異なる研究パラダイムが登場した。我々は,FVとHDの直接,インスタンスレベルの比較を可能にする統一評価フレームワークUniFactを紹介する。
論文参考訳（メタデータ） (2025-12-02T13:51:01Z)
HAD: HAllucination Detection Language Models Based on a Comprehensive Hallucination Taxonomy [48.68088917291552]
NLGタスクにまたがる11のカテゴリからなる総合的な幻覚分類を導入する。本稿では,幻覚検出,スパンレベル同定,修正を単一の推論プロセスに統合するHAllucination Detection (HAD)モデルを提案する。
論文参考訳（メタデータ） (2025-10-22T07:28:37Z)
Mitigating Multimodal Hallucinations via Gradient-based Self-Reflection [49.26064449816502]
本研究では,テキスト・視覚バイアスと共起バイアスに対処するために,グラディエントベースのインフルエンス・アウェア制約付きデコーディング(GACD)手法を提案する。 GACDは幻覚を効果的に低減し、MLLM出力の視覚的接地を改善する。
論文参考訳（メタデータ） (2025-09-03T08:13:52Z)
Detecting Token-Level Hallucinations Using Variance Signals: A Reference-Free Approach [0.0]
大規模言語モデル(LLM)は、様々なタスクにまたがる印象的な生成能力を示したが、幻覚に弱いままである。複数世代にわたるトークンログ確率のばらつきを利用した,参照不要なトークンレベルの幻覚検出フレームワークを提案する。我々のアプローチは、モデルに依存しず、解釈可能であり、リアルタイムまたはポストホック分析に適している。
論文参考訳（メタデータ） (2025-07-05T19:20:59Z)
MIRAGE: Assessing Hallucination in Multimodal Reasoning Chains of MLLM [58.2298313720146]
マルチモーダル幻覚は多源性であり、様々な原因から生じる。既存のベンチマークでは、知覚誘発幻覚と推論誘発幻覚を適切に区別することができない。
論文参考訳（メタデータ） (2025-05-30T05:54:36Z)
RePPL: Recalibrating Perplexity by Uncertainty in Semantic Propagation and Language Generation for Explainable QA Hallucination Detection [26.186204911845866]
幻覚は大きな言語モデルにとって重要な障害ですこれら2つの側面により不確実性の測定を補正するRePPLを提案する。提案手法は,様々なQAデータセットにまたがる最高の包括的検出性能を実現する。
論文参考訳（メタデータ） (2025-05-21T11:23:05Z)
Why and How LLMs Hallucinate: Connecting the Dots with Subsequence Associations [82.42811602081692]
本稿では,幻覚を体系的に追跡・理解するサブシーケンス・アソシエーション・フレームワークを提案する。主要な洞察は、支配的な幻覚協会が忠実なものを上回るときに生じる幻覚である。ランダムな入力コンテキストにおける幻覚の確率を解析することにより因果列を同定するトレースアルゴリズムを提案する。
論文参考訳（メタデータ） (2025-04-17T06:34:45Z)
Alleviating Hallucinations of Large Language Models through Induced Hallucinations [67.35512483340837]
大規模言語モデル(LLM)は、不正確な情報や製造された情報を含む応答を生成するために観察されている。幻覚を緩和するための単純なtextitInduce-then-Contrast Decoding (ICD) 戦略を提案する。
論文参考訳（メタデータ） (2023-12-25T12:32:49Z)
SAC3: Reliable Hallucination Detection in Black-Box Language Models via Semantic-aware Cross-check Consistency [11.056236593022978]
幻覚検出は現代言語モデル(LM)の信頼性を理解するための重要なステップである我々は,LMの自己整合性に基づく既存の検出手法を再検討し,(1)質問レベルと(2)モデルレベルの2種類の幻覚を明らかにする。本稿では, 自己整合性チェックの原理に基づいて, セマンティック・アウェア・クロスチェック整合性(SAC3)という, サンプリングに基づく新しい手法を提案する。
論文参考訳（メタデータ） (2023-11-03T06:32:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。