論文の概要: How do Humans Process AI-generated Hallucination Contents: a Neuroimaging Study

• arxiv url: http://arxiv.org/abs/2605.16953v1
• Date: Sat, 16 May 2026 12:08:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 17:57:47.38827
• Title: How do Humans Process AI-generated Hallucination Contents: a Neuroimaging Study
• Title（参考訳）: 人間はどのようにAIによって生成された幻覚コンテンツを処理するか:ニューロイメージングによる研究
• Authors: Shuqi Zhu, Yi Zhong, Ziyi Ye, Bangde Du, Yujia Zhou, Qingyao Ai, Yiqun Liu,
• Abstract要約: 画像記述の正しさを判定する検証作業中,27人の被験者の脳波信号を記録する。 複数の認知過程、例えば、セマンティック統合、推論処理、メモリ検索、認知的負荷は、人間が幻覚的コンテンツと非幻覚的コンテンツとを処理する際に異なるパターンを示す。
• 参考スコア（独自算出の注目度）: 30.63526430596581
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While AI-generated hallucinations pose considerable risks, the underlying cognitive mechanisms by which humans can successfully recognize or be misled by these hallucinations remain unclear. To address this problem, this paper explores humans' neural dynamics to characterize how the brain processes hallucinated content. We record EEG signals from 27 participants while they are performing a verification task to judge the correctness of image descriptions generated by a multi-modal large language model (MLLM). Based on an averaged event-related potential (ERP) study, we reveal that multiple cognitive processes, e.g., semantic integration, inferential processing, memory retrieval, and cognitive load, exhibit distinct patterns when humans process hallucinated versus non-hallucinated content. Notably, neural responses to hallucinations that were misjudged versus correctly judged by human participants showed significant differences. This indicates that misjudged AI-generated hallucinations failed to trigger the standard neurocognitive fact verification pathway.
• Abstract（参考訳）: AIが生成する幻覚にはかなりのリスクが伴うが、人間がこれらの幻覚にうまく認識または誤解されるという基本的な認知メカニズムはいまだに不明である。 この問題に対処するために,本研究では,脳が幻覚的内容をどのように処理するかを特徴付ける,人間の神経力学を探求する。 MLLM(Multi-modal large language model)によって生成された画像記述の正しさを判定する検証タスクを行う間、27人の参加者の脳波信号を記録する。 平均事象関連電位 (ERP) を用いて, 意味統合, 推論処理, メモリ検索, 認知負荷といった複数の認知過程が, 人間が幻覚した内容と非幻覚的内容とを区別するパターンを呈することを示した。 特に、人間の被験者によって正しく判断されたと誤判定された幻覚に対する神経反応は、有意な差が見られた。 これは、誤判定されたAI生成幻覚が、標準的な認知的事実検証経路の引き金にならなかったことを示している。

関連論文リスト

• Steering the Verifiability of Multimodal AI Hallucinations [115.51077572812862]
  マルチモーダルな大言語モデル(MLLM)は幻覚を起こす傾向があり、人間のユーザーにかなりのリスクをもたらす。 本研究では,覚醒と覚醒のための別々のプローブを学習するアクティベーション空間介入法を提案する。 そこで本研究では,異なる介入プローブを誘発し,モデルの妥当性をきめ細かな制御を可能にすることを明らかにする。
  論文  参考訳（メタデータ） (2026-04-08T06:13:16Z)
• Towards Interpretable Hallucination Analysis and Mitigation in LVLMs via Contrastive Neuron Steering [60.23509717784518]
  既存の緩和法は主に出力レベルの調整に重点を置いており、幻覚を引き起こす内部メカニズムはほとんど探索されていない。 クリーン入力とノイズ入力のコントラスト解析により画像特異的ニューロンを識別するコントラスト性ニューロンステアリング(CNS)を提案する。 CNSは摂動によって引き起こされる活性化を抑えつつ情報伝達ニューロンを選択的に増幅し、より堅牢でセマンティックな視覚表現を生み出す。
  論文  参考訳（メタデータ） (2026-01-31T09:21:04Z)
• AI Hallucination from Students' Perspective: A Thematic Analysis [0.6553031877558699]
  幻覚は、学生が大きな言語モデルにますます依存するにつれて、学習に対する脅威が増大します。 本研究は,学生が幻覚を体験し,その検出方法,および幻覚の発生理由に関する精神モデルについて検討する。 AIをサポートする学習における脆弱性の発見と、検証プロトコルにおける明示的な命令の必要性の強調。
  論文  参考訳（メタデータ） (2026-01-11T02:38:43Z)
• H-Neurons: On the Existence, Impact, and Origin of Hallucination-Associated Neurons in LLMs [56.31565301428888]
  大型言語モデル(LLM)における幻覚関連ニューロン(H-Neurons)の同定 同定の面では、驚くほどスパースなニューロンのサブセットが幻覚の発生を確実に予測できることが示される。 行動への影響に関して、制御された介入は、これらのニューロンが過度に順応する行動と因果関係があることを明らかにする。
  論文  参考訳（メタデータ） (2025-12-01T15:32:14Z)
• Investigating VLM Hallucination from a Cognitive Psychology Perspective: A First Step Toward Interpretation with Intriguing Observations [60.63340688538124]
  幻覚は、視覚言語モデル(VLM)で積極的に研究されている長年の問題である。 既存の研究は、幻覚は技術的な制限や梅毒のバイアスによるもので、後者はモデルがユーザの期待に沿う誤った回答を生み出す傾向があることを意味している。 本研究では, VLMの認知バイアスを分類し, サイコフィナンシー, 論理的不整合, 新たに同定された VLM の行動, 権威へのアピールなど, 幻覚へと導く。
  論文  参考訳（メタデータ） (2025-07-03T19:03:16Z)
• Hallucinations in Neural Automatic Speech Recognition: Identifying Errors and Hallucinatory Models [11.492702369437785]
  幻覚は、ソースの発声とは意味的に無関係であるが、それでも流動的でコヒーレントである。 単語誤り率などの一般的なメトリクスは、幻覚モデルと非幻覚モデルとを区別できないことを示す。 本研究は,幻覚を識別する枠組みを考案し,その意味的関係と基礎的真理と流布との関係を解析する。
  論文  参考訳（メタデータ） (2024-01-03T06:56:56Z)
• Towards Mitigating Hallucination in Large Language Models via Self-Reflection [63.2543947174318]
  大規模言語モデル(LLM)は、質問応答(QA)タスクを含む生成的および知識集約的なタスクを約束している。 本稿では,広範に採用されているLCMとデータセットを用いた医療再生QAシステムにおける幻覚現象を解析する。
  論文  参考訳（メタデータ） (2023-10-10T03:05:44Z)
• Modeling the Hallucinating Brain: A Generative Adversarial Framework [1.3507374001866768]
  本稿では,人間の脳における幻覚のモデル化について述べる。 我々は、視覚知覚の過程に関与する脳の異なる部分間の逆転機構を特定します。
  論文  参考訳（メタデータ） (2021-02-09T14:30:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。