論文の概要: On Hallucinations in Inverse Problems: Fundamental Limits and Provable Assessment Methods

• arxiv url: http://arxiv.org/abs/2605.13146v1
• Date: Wed, 13 May 2026 08:11:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-14 23:30:27.897982
• Title: On Hallucinations in Inverse Problems: Fundamental Limits and Provable Assessment Methods
• Title（参考訳）: 逆問題における幻覚:基本的な限界と予測可能な評価方法
• Authors: David Iagaru, Nina M. Gottschling, Anders C. Hansen, Josselin Garnier,
• Abstract要約: ディープニューラルネットワークは幻覚を発生させ、現実的に見えるが誤った詳細を発生させ、信頼性を損なう。 このような幻覚が特定のモデルの人工物であるだけでなく、逆問題自体の誤った性質から生じる可能性があることを示す理論的枠組みを開発する。
• 参考スコア（独自算出の注目度）: 1.953336755301616
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Artificial intelligence (AI) has transformed imaging inverse problems, from medical diagnostics to Earth observation. Yet deep neural networks can produce hallucinations, realistic-looking but incorrect details, undermining their reliability, especially when ground truth data is unavailable. We develop a theoretical framework showing that such hallucinations are not merely artifacts of particular models, but can arise from the ill-posed nature of the inverse problem itself. We derive necessary and sufficient conditions for hallucinations, together with computable bounds on their magnitude that depend only on the forward model. Building on this theory, we introduce algorithms to: (1) estimate the minimum hallucination magnitude achievable by any reconstruction model for a given input; (2) assess the faithfulness of reconstructed details by a given reconstruction model. Experiments across three imaging tasks demonstrate that our approach applies broadly, including to modern generative models, and provides a principled way to quantify and evaluate AI hallucinations.
• Abstract（参考訳）: 人工知能(AI)は、医療診断から地球観測まで、画像の逆問題に変化をもたらした。 しかし、ディープニューラルネットワークは幻覚、現実的に見えるが不正確な詳細を生成でき、特に地上の真実データが利用できない場合、信頼性を損なう。 このような幻覚が特定のモデルの人工物であるだけでなく、逆問題自体の誤った性質から生じる可能性があることを示す理論的枠組みを開発する。 幻覚の必要十分条件と、前方モデルにのみ依存する大きさの計算可能な境界を導出する。 この理論に基づいて,(1) 与えられた入力に対する任意の再構成モデルにより達成可能な最小幻覚度を推定し,(2) 所定の再構成モデルにより再構成された詳細の忠実度を評価するアルゴリズムを導入する。 3つの画像処理タスクにわたる実験により、現代の生成モデルを含む我々のアプローチが広く適用され、AI幻覚を定量化し評価する原則的な方法が示される。

関連論文リスト

• Anatomy of a Lie: A Multi-Stage Diagnostic Framework for Tracing Hallucinations in Vision-Language Models [62.932580559941414]
  VLM(Vision-Language Models)は、しばしば「ハロシン化(hallucinate)」する。 本稿では,静的な出力誤差からモデル計算認知の動的病理へ再キャストし,幻覚を診断するための新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-03-16T17:20:38Z)
• Triggering hallucinations in model-based MRI reconstruction via adversarial perturbations [3.325046116674658]
  幻覚は、誤った診断につながる可能性があるため、患者の健康を危険にさらす可能性がある。 本研究では、磁気共鳴画像再構成の文脈において、最先端の生成モデルが幻覚に苦しむ程度を定量化することを目的とする。 UNetとエンドツーエンドのVarNetアーキテクチャを用いて,脳と膝の画像を高速MRIデータセットから評価する。
  論文  参考訳（メタデータ） (2026-02-20T11:55:22Z)
• CHEM: Estimating and Understanding Hallucinations in Deep Learning for Image Processing [17.573711532387176]
  U-Netや他のU字型アーキテクチャは画像のデコンボリューションタスクにおいて大きな成功を収めている。 しかし、これらの手法は非現実的なアーティファクトや幻覚を発生させ、安全クリティカルなシナリオの分析に干渉する可能性がある。 本稿では,信頼できるコンピュータビジョンモデルを保証するために,幻覚を定量化し,解釈するための新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2025-12-10T16:20:00Z)
• Review of Hallucination Understanding in Large Language and Vision Models [65.29139004945712]
  本稿では,多様なアプリケーションにまたがる画像とテキストの幻覚を特徴付けるフレームワークを提案する。 我々の調査によると、幻覚はデータ分布や遺伝バイアスの予測可能なパターンから生じることが多い。 この調査は、現実世界の生成AIシステムにおける幻覚に対するより堅牢で効果的なソリューションを開発する基盤を提供する。
  論文  参考訳（メタデータ） (2025-09-26T09:23:08Z)
• How Large Language Models are Designed to Hallucinate [0.42970700836450487]
  幻覚はトランスフォーマーアーキテクチャの構造的な結果であると主張する。 本研究の貢献は,(1) 既存の説明が不十分な理由を示す比較説明,(2) 提案されたベンチマークによる実存的構造に関連付けられた幻覚の予測分類,(3) 開示の欠如を抑えることの可能な「真理に制約された」アーキテクチャへの設計方針,の3つである。
  論文  参考訳（メタデータ） (2025-09-19T16:46:27Z)
• MIRAGE: Assessing Hallucination in Multimodal Reasoning Chains of MLLM [58.2298313720146]
  マルチモーダル幻覚は多源性であり、様々な原因から生じる。 既存のベンチマークでは、知覚誘発幻覚と推論誘発幻覚を適切に区別することができない。
  論文  参考訳（メタデータ） (2025-05-30T05:54:36Z)
• The Law of Knowledge Overshadowing: Towards Understanding, Predicting, and Preventing LLM Hallucination [85.18584652829799]
  本稿では,知識のシェードイングをモデル化することで,事実の幻覚を定量化する新しい枠組みを提案する。 オーバシャドウ(27.9%)、MemoTrap(13.1%)、NQ-Swap(18.3%)のモデル事実性を顕著に向上させる。
  論文  参考訳（メタデータ） (2025-02-22T08:36:06Z)
• Towards a Systematic Evaluation of Hallucinations in Large-Vision Language Models [57.58426038241812]
  LVLM(Large Vision-Language Models)は、複雑なマルチモーダルタスクにおいて顕著な性能を示す。 これらのモデルは、画像から様々な視覚的実体を暗黙的に認識または推測する必要がある場合、まだ幻覚に悩まされている。 本稿では,視覚的質問応答(VQA)ベンチマークを提案する。
  論文  参考訳（メタデータ） (2024-12-29T23:56:01Z)
• No Free Lunch: Fundamental Limits of Learning Non-Hallucinating Generative Models [14.535583931446807]
  我々は,非ハロゲン化生成モデルの学習可能性を分析する理論的枠組みを開発する。 学習プロセスに実際の事実と整合した帰納的バイアスを組み込むことが重要であることを示す。
  論文  参考訳（メタデータ） (2024-10-24T23:57:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。