論文の概要: Local Intrinsic Dimension Unveils Hallucinations in Diffusion Models

• arxiv url: http://arxiv.org/abs/2605.05026v1
• Date: Wed, 06 May 2026 15:22:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-07 18:41:07.903188
• Title: Local Intrinsic Dimension Unveils Hallucinations in Diffusion Models
• Title（参考訳）: 局所内在次元は拡散モデルにおける幻覚を解き明かす
• Abstract要約: 拡散モデルは構造的幻覚を引き起こす傾向がある。 モデル誘導多様体上の不安定性として幻覚を扱う補的視点を提案する。 このような不安定性に基づく幻覚フィルタは,最近提案された時間的フィルタの性能と一致するか,あるいは超えるかを示す。
• 参考スコア（独自算出の注目度）: 18.55564482332065
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion models are prone to generating structural hallucinations - samples that match the statistical properties of the training data yet defy underlying structural rules, resulting in anomalies like hands with more than five fingers. Recent research studied this failure mode from several viewpoints, offering partial explanations to their occurrence, such as mode interpolation. In this work, we propose a complementary perspective that treats hallucinations as instabilities on the model-induced manifold. We begin by showing that a hallucination filter based on such instabilities matches or exceeds the performance of the recently proposed temporal one. By tracing the source of these instabilities, we identify local intrinsic dimension (LID) as their primary driver and propose Intrinsic Quenching (IQ), a direct corrective mechanism that deflates it to alleviate hallucinations. IQ consistently outperforms standard hallucination reduction baselines across a wide array of benchmarks and offers a highly promising solution for enforcing anatomical consistency in downstream medical imaging tasks.
• Abstract（参考訳）: 拡散モデルは、構造的幻覚を生成する傾向がある。トレーニングデータの統計的特性に一致するサンプルは、基盤となる構造的規則を無視するが、5本以上の指で手のような異常を引き起こす。 最近の研究では、この障害モードをいくつかの観点から研究し、モード補間など、その発生に関する部分的な説明を提供している。 本研究では,幻覚をモデル誘導多様体上の不安定性として扱う補的視点を提案する。 まず,このような不安定性に基づく幻覚フィルタが,最近提案された時間的フィルタの性能に適合しているか,あるいは超越しているかを示す。 これらの不安定性の原因を追究することにより、局所内在次元(LID)を主ドライバとして同定し、幻覚を緩和する直接補正機構である内在性焼入れ(IQ)を提案する。 IQは、幅広いベンチマークで標準幻覚減少ベースラインを一貫して上回り、下流の医療画像タスクにおいて解剖学的一貫性を強制する非常に有望なソリューションを提供する。

関連論文リスト

• Lost in Diffusion: Uncovering Hallucination Patterns and Failure Modes in Diffusion Large Language Models [10.020835642521897]
  本研究は,dLLMの幻覚パターンを評価するための最初の制御された比較研究である。 以上の結果から,現在のdLLMは,建築・規模・事前学習重量に制御されるARよりも幻覚の確率が高いことが示唆された。 以上の結果から,dLLMは一般タスクにおける性能ギャップを狭めたが,その異なる幻覚機構は信頼性をモデル化する上で重要な課題であることが示された。
  論文  参考訳（メタデータ） (2026-04-12T09:59:41Z)
• Mitigating Entangled Steering in Large Vision-Language Models for Hallucination Reduction [49.96701537295129]
  LVLM(Large Vision-Language Models)は、モーダルなタスク間で大きな成功を収めてきたが、幻覚によって妨げられている。 既存の方法は幻覚を緩和するが、しばしば生成行動を変化させ、結果として出力が短くなり、トークンの分布がシフトする。 幻覚緩和のための制御および選択的な潜伏介入を行う効果的なプラグアンドプレイフレームワークであるMESAを提案する。
  論文  参考訳（メタデータ） (2026-04-09T07:31:27Z)
• DynHD: Hallucination Detection for Diffusion Large Language Models via Denoising Dynamics Deviation Learning [48.77865928715759]
  拡散大言語モデル (D-LLM) は自己回帰モデルに代わる有望な代替品として登場した。 幻覚は 信頼性を損なう重要な問題です 本研究では,これらのギャップを空間的(トケンシーケンス)と時間的(デノナイジングダイナミクス)の両方の観点から橋渡しするDynHDを提案する。
  論文  参考訳（メタデータ） (2026-03-17T12:40:29Z)
• Seeing Through the Chain: Mitigate Hallucination in Multimodal Reasoning Models via CoT Compression and Contrastive Preference Optimization [78.94590726578014]
  マルチモーダル推論モデル (Multimodal reasoning model, MLRM) は幻覚の傾向が強く, 効果的な解はいまだ未発見のままである。 textbfCompression と textbfPreference textbfOptimization を組み合わせたトレーニングベースの緩和フレームワーク C3PO を提案する。
  論文  参考訳（メタデータ） (2026-02-03T11:00:55Z)
• Mechanisms of Prompt-Induced Hallucination in Vision-Language Models [58.991412160253276]
  制御されたオブジェクトカウント設定において、プロンプトが画像中のオブジェクト数をオーバーステートする障害モードについて検討する。 刺激誘発幻覚 (PIH) を, 追加訓練を伴わずに40%以上減少させる小さなアテンションヘッドのセットを同定した。 本研究は, 刺激による幻覚を誘発する内的メカニズムについての知見を提示し, モデル特異的な行動の実施方法の違いを明らかにした。
  論文  参考訳（メタデータ） (2026-01-08T18:23:03Z)
• Counting Hallucinations in Diffusion Models [34.45858211220468]
  拡散確率モデル(DPM)は、画像やビデオ合成などの生成タスクにおいて顕著な進歩を見せている。 彼らはしばしば、現実世界の知識と矛盾する幻覚的なサンプル(幻覚)を生産する。 その流行にもかかわらず、そのような幻覚を体系的に定量化するための実現可能な方法論の欠如は進歩を妨げている。
  論文  参考訳（メタデータ） (2025-10-15T01:48:04Z)
• Mitigating Diffusion Model Hallucinations with Dynamic Guidance [75.90458880492054]
  拡散モデルはしばしば、真のデータ分布の支持外にある構造上の矛盾のある幻覚サンプルを生成する。 本稿では,事前に決められた方向に沿ってのみスコア関数を選択的に研ぎ澄まし,幻覚を緩和する動的誘導法を提案する。 私たちの知る限り、これはポストホックフィルタリングではなく、世代毎の幻覚に対処する最初のアプローチである。
  論文  参考訳（メタデータ） (2025-10-06T20:31:13Z)
• A novel hallucination classification framework [0.0]
  本研究では,大規模言語モデル(LLM)における幻覚の自動検出手法を提案する。 提案手法は,素早い工学的手法による系統分類と多様な幻覚の再現制御に基づく。
  論文  参考訳（メタデータ） (2025-10-06T09:54:20Z)
• Attention Head Embeddings with Trainable Deep Kernels for Hallucination Detection in LLMs [47.18623962083962]
  大規模言語モデルにおける幻覚検出のための新しい手法を提案する。 その結果,幻覚応答は接地応答に比べて刺激からの偏差が小さいことがわかった。 本稿では,分布距離を原理的幻覚スコアとして用いたモデル固有検出法を提案する。
  論文  参考訳（メタデータ） (2025-06-11T15:59:15Z)
• Why and How LLMs Hallucinate: Connecting the Dots with Subsequence Associations [82.42811602081692]
  本稿では,幻覚を体系的に追跡・理解するサブシーケンス・アソシエーション・フレームワークを提案する。 主要な洞察は、支配的な幻覚協会が忠実なものを上回るときに生じる幻覚である。 ランダムな入力コンテキストにおける幻覚の確率を解析することにより因果列を同定するトレースアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-04-17T06:34:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。