論文の概要: AI Hallucination from Students' Perspective: A Thematic Analysis

• arxiv url: http://arxiv.org/abs/2602.17671v1
• Date: Sun, 11 Jan 2026 02:38:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-02 07:21:25.483531
• Title: AI Hallucination from Students' Perspective: A Thematic Analysis
• Title（参考訳）: 学生から見たAI幻覚 : テーマ分析
• Authors: Abdulhadi Shoufan, Ahmad-Azmi-Abdelhamid Esmaeil,
• Abstract要約: 幻覚は、学生が大きな言語モデルにますます依存するにつれて、学習に対する脅威が増大します。 本研究は,学生が幻覚を体験し,その検出方法,および幻覚の発生理由に関する精神モデルについて検討する。 AIをサポートする学習における脆弱性の発見と、検証プロトコルにおける明示的な命令の必要性の強調。
• 参考スコア（独自算出の注目度）: 0.6553031877558699
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As students increasingly rely on large language models, hallucinations pose a growing threat to learning. To mitigate this, AI literacy must expand beyond prompt engineering to address how students should detect and respond to LLM hallucinations. To support this, we need to understand how students experience hallucinations, how they detect them, and why they believe they occur. To investigate these questions, we asked university students three open-ended questions about their experiences with AI hallucinations, their detection strategies, and their mental models of why hallucinations occur. Sixty-three students responded to the survey. Thematic analysis of their responses revealed that reported hallucination issues primarily relate to incorrect or fabricated citations, false information, overconfident but misleading responses, poor adherence to prompts, persistence in incorrect answers, and sycophancy. To detect hallucinations, students rely either on intuitive judgment or on active verification strategies, such as cross-checking with external sources or re-prompting the model. Students' explanations for why hallucinations occur reflected several mental models, including notable misconceptions. Many described AI as a research engine that fabricates information when it cannot locate an answer in its "database." Others attributed hallucinations to issues with training data, inadequate prompting, or the model's inability to understand or verify information. These findings illuminate vulnerabilities in AI-supported learning and highlight the need for explicit instruction in verification protocols, accurate mental models of generative AI, and awareness of behaviors such as sycophancy and confident delivery that obscure inaccuracy. The study contributes empirical evidence for integrating hallucination awareness and mitigation into AI literacy curricula.
• Abstract（参考訳）: 学生が大きな言語モデルにますます依存するにつれて、幻覚は学習に対する脅威が増大する。 これを軽減するために、AIリテラシーは、学生がLLM幻覚を検出して反応する方法に対処するために、迅速なエンジニアリングを超えて拡張されなければならない。 これをサポートするためには、学生が幻覚をどのように経験するか、どのようにそれらを検出するか、なぜそれらが起こると信じるのかを理解する必要がある。 これらの疑問を調査するため,大学生は,AI幻覚の経験,検出戦略,幻覚の発生理由に関する精神的モデルについて,3つのオープンな質問を行った。 調査には63人の学生が回答した。 テーマ分析の結果, 幻覚症状は, 誤った引用, 偽情報, 過信だが誤解を招く応答, プロンプトへの不順性, 誤答の持続性, 梅毒との関連が示唆された。 幻覚を検出するために、学生は直感的な判断か、外部ソースとの相互チェックやモデルの再試行といったアクティブな検証戦略に頼っている。 学生の幻覚の発生理由に関する説明は、顕著な誤解を含むいくつかの精神モデルに反映されている。 多くの人は、AIを「データベース」に答えを見つけることができないときに情報を作る研究エンジンであると説明した。 幻覚は、トレーニングデータ、不十分なプロンプト、あるいは、情報の理解や検証ができないモデルの問題に起因しているとする者もいる。 これらの発見は、AI支援学習の脆弱性を明らかにし、検証プロトコルの明示的な指示の必要性、生成AIの正確なメンタルモデル、そして不正確さを曖昧にするための梅毒や確実なデリバリのような行動の認識を強調する。 この研究は、幻覚認知と緩和をAIリテラシーカリキュラムに統合する実証的な証拠に貢献している。

関連論文リスト

• Understanding New-Knowledge-Induced Factual Hallucinations in LLMs: Analysis, Solution, and Interpretation [41.83870063693278]
  従来の研究では、大規模言語モデル(LLM)の微調整中に新しい知識を導入することで、既知の情報に基づいてテストした場合、誤った出力が発生することが示されている。 我々は,知識質問応答(QA)と知識推論タスクを含む,複数の知識タイプと2つのタスクタイプにわたるきめ細かい分析を行う。 特定の知識タイプがすべて新しい知識で構成されているデータセットに微調整を行うと、LLMは幻覚の傾向を著しく高める。 我々は,学習後期に少数の知識サンプルをパッチし,新しい知識による幻覚を効果的に緩和するKnownPatchを提案する。
  論文  参考訳（メタデータ） (2025-11-04T14:55:24Z)
• Review of Hallucination Understanding in Large Language and Vision Models [65.29139004945712]
  本稿では,多様なアプリケーションにまたがる画像とテキストの幻覚を特徴付けるフレームワークを提案する。 我々の調査によると、幻覚はデータ分布や遺伝バイアスの予測可能なパターンから生じることが多い。 この調査は、現実世界の生成AIシステムにおける幻覚に対するより堅牢で効果的なソリューションを開発する基盤を提供する。
  論文  参考訳（メタデータ） (2025-09-26T09:23:08Z)
• Investigating VLM Hallucination from a Cognitive Psychology Perspective: A First Step Toward Interpretation with Intriguing Observations [60.63340688538124]
  幻覚は、視覚言語モデル(VLM)で積極的に研究されている長年の問題である。 既存の研究は、幻覚は技術的な制限や梅毒のバイアスによるもので、後者はモデルがユーザの期待に沿う誤った回答を生み出す傾向があることを意味している。 本研究では, VLMの認知バイアスを分類し, サイコフィナンシー, 論理的不整合, 新たに同定された VLM の行動, 権威へのアピールなど, 幻覚へと導く。
  論文  参考訳（メタデータ） (2025-07-03T19:03:16Z)
• Trust Me, I'm Wrong: LLMs Hallucinate with Certainty Despite Knowing the Answer [51.7407540261676]
  本研究では,モデルが常に正しい解答を行うことのできる幻覚の別のタイプについて検討するが,一見自明な摂動は,高い確実性で幻覚応答を生じさせる。 この現象は特に医学や法学などの高度な領域において、モデルの確実性はしばしば信頼性の代用として使用される。 CHOKEの例は、プロンプト間で一貫性があり、異なるモデルやデータセットで発生し、他の幻覚と根本的に異なることを示す。
  論文  参考訳（メタデータ） (2025-02-18T15:46:31Z)
• Who Brings the Frisbee: Probing Hidden Hallucination Factors in Large Vision-Language Model via Causality Analysis [14.033320167387194]
  現実の応用における大きな課題は幻覚であり、LVLMは存在しない視覚要素を生成し、ユーザの信頼を損なう。 我々は、オブジェクト、コンテキスト、セマンティックフォアグラウンド・バックグラウンド構造といった隠れた要因が幻覚を引き起こすという仮説を立てた。 画像・テキスト・プロンプト・ネットワーク・サリエンシの因果関係を解析することにより,これらの要因をブロックするための介入を系統的に検討する。
  論文  参考訳（メタデータ） (2024-12-04T01:23:57Z)
• Visual Description Grounding Reduces Hallucinations and Boosts Reasoning in LVLMs [52.497823009176074]
  LVLM(Large Vision-Language Models)はしばしば、幻覚として知られる事実情報を誤認する応答を生成する。 視覚的知覚の向上とLVLMの推論能力の向上を目的とした学習自由度手法であるVisual Description Grounded Decoding (VDGD)を紹介した。
  論文  参考訳（メタデータ） (2024-05-24T16:21:59Z)
• Fakes of Varying Shades: How Warning Affects Human Perception and Engagement Regarding LLM Hallucinations [9.740345290187307]
  本研究の目的は,幻覚の程度を体系的に変化させることで,幻覚の人間の知覚を理解することである。 その結果,真の内容の正しさに悪影響を及ぼすことなく,覚醒検出の精度が向上することが確認された。
  論文  参考訳（メタデータ） (2024-04-04T18:34:32Z)
• A Cause-Effect Look at Alleviating Hallucination of Knowledge-grounded Dialogue Generation [51.53917938874146]
  我々は,対話知識の相互作用を利用して,KGDの幻覚を緩和するための解決策を提案する。 本手法は,他の対話性能を損なうことなく幻覚を低減できることを示す。
  論文  参考訳（メタデータ） (2024-04-04T14:45:26Z)
• On Large Language Models' Hallucination with Regard to Known Facts [74.96789694959894]
  大規模な言語モデルはファクトイドの質問に答えることに成功したが、幻覚を起こす傾向がある。 正しい解答知識を持つLLMの現象を推論力学の観点から検討する。 我々の研究は、LLMの幻覚が既知の事実について、そしてより重要なのは、幻覚を正確に予測する理由を理解することに光を当てた。
  論文  参考訳（メタデータ） (2024-03-29T06:48:30Z)
• Mechanistic Understanding and Mitigation of Language Model Non-Factual Hallucinations [42.46721214112836]
  State-of-the-art Language Model (LM) は、世界の知識と混同する非現実的な幻覚を生じることがある。 我々は、主観的関係クエリを用いた診断データセットを作成し、内部モデル表現による幻覚の追跡に解釈可能性手法を適用した。
  論文  参考訳（メタデータ） (2024-03-27T00:23:03Z)
• Towards Mitigating Hallucination in Large Language Models via Self-Reflection [63.2543947174318]
  大規模言語モデル(LLM)は、質問応答(QA)タスクを含む生成的および知識集約的なタスクを約束している。 本稿では,広範に採用されているLCMとデータセットを用いた医療再生QAシステムにおける幻覚現象を解析する。
  論文  参考訳（メタデータ） (2023-10-10T03:05:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。