論文の概要: Not All That Is Fluent Is Factual: Investigating Hallucinations of Large Language Models in Academic Writing
- arxiv url: http://arxiv.org/abs/2605.04171v1
- Date: Tue, 05 May 2026 18:08:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-07 18:41:07.474933
- Title: Not All That Is Fluent Is Factual: Investigating Hallucinations of Large Language Models in Academic Writing
- Title（参考訳）: 学術論文における大規模言語モデルの幻覚を探る
- Abstract要約: 大型言語モデル(LLM)は異常な能力を示すが、幻覚を起こす傾向にある。
本研究は,4つのLLM(ChatGPT,Grok,Gemini,Copilot)について,特に学術著作の幻覚について検討した。
- 参考スコア（独自算出の注目度）: 0.6783367407525908
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Large Language models (LLMs) show extraordinary abilities, but they are still prone to hallucinations, especially when we use them for generating Academic content. We have investigated four popular LLMs, ChatGPT, Grok, Gemini, and Copilot for hallucinations specifically for academic writing. We have designed 80 prompts across four categories, namely, reference generation, factual explanation, abstract generation, and writing improvement. We evaluated the model using a 0-5 rubric score, which checks factual accuracy, reference validity, coherence, style consistency, and academic tone. A novel weighted metric, Hallucination Index (HI), was introduced to measure hallucination in the responses generated by the models. Some of the most widely used evaluation metrics often fail to check errors which alter sentiment in machine-translated text. We found that Grok and Copilot perform better on reference generation tasks, but they often struggle with abstract or stylistic prompts, with HI values of 0.67 and 0.70, respectively. Whereas, Gemini and ChatGPT have done well with having stronger tone control, but they lack in writing factual tasks and higher hallucination risk with HI scores of 0.53 and 0.57, respectively. Our study found that hallucination behavior does not depend solely on model architecture but also on the type of task and the prompting conditions we are providing. We propose that our work opens new research dimensions for future researchers.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、素晴らしい能力を示すが、それでも幻覚を起こす傾向にある。
本研究は,4つのLLM(ChatGPT,Grok,Gemini,Copilot)について,特に学術著作の幻覚について検討した。
我々は、参照生成、事実説明、抽象生成、書き込み改善という4つのカテゴリにまたがる80のプロンプトを設計した。
実測精度,基準妥当性,コヒーレンス,スタイル整合性,アカデミックトーンを0-5ルーブリックスコアを用いて評価した。
ハロシン化指数(Halucination Index, HI)は、モデルが生成した反応の幻覚を測定するために導入された。
最も広く使われている評価指標のいくつかは、機械翻訳されたテキストの感情を変えるエラーをチェックするのに失敗することが多い。
我々は、GrokとCopilotが参照生成タスクでより優れていることを発見したが、それらは抽象的またはスタイリスティックなプロンプトと、それぞれ0.67と0.70のHI値で苦労することが多い。
一方、GeminiとChatGPTはより強いトーンコントロールでうまく機能しているが、実際のタスクやHIスコア0.53と0.57の高い幻覚リスクは欠如している。
本研究により,幻覚行動はモデルアーキテクチャだけでなく,課題の種類や,我々が提供している刺激的条件にも依存することがわかった。
我々は,今後の研究者に新たな研究領域を開くことを提案する。
関連論文リスト
- HausaNLP at SemEval-2025 Task 3: Towards a Fine-Grained Model-Aware Hallucination Detection [1.8230982862848586]
本研究の目的は, 幻覚の発生と重篤さに関する, 微妙な, モデルに配慮した理解を英語で提供することである。
自然言語の推論と400サンプルの合成データセットを用いたModernBERTモデルの微調整を行った。
その結果,モデルの信頼度と幻覚の有無との間には,正の相関が認められた。
論文 参考訳（メタデータ） (2025-03-25T13:40:22Z) - Trust Me, I'm Wrong: LLMs Hallucinate with Certainty Despite Knowing the Answer [51.7407540261676]
本研究では,モデルが常に正しい解答を行うことのできる幻覚の別のタイプについて検討するが,一見自明な摂動は,高い確実性で幻覚応答を生じさせる。
この現象は特に医学や法学などの高度な領域において、モデルの確実性はしばしば信頼性の代用として使用される。
CHOKEの例は、プロンプト間で一貫性があり、異なるモデルやデータセットで発生し、他の幻覚と根本的に異なることを示す。
論文 参考訳（メタデータ） (2025-02-18T15:46:31Z) - Can Hallucinations Help? Boosting LLMs for Drug Discovery [8.960425754918974]
大きな言語モデル(LLM)における幻覚は、しばしば望ましくないと見なされる。
幻覚はいくつかのモデルにおいて予測精度を大幅に向上させる。
我々は18,000以上の有益な幻覚を分類し、最も影響のあるタイプとして構造的誤記が現れる。
論文 参考訳（メタデータ） (2025-01-23T16:45:51Z) - HALoGEN: Fantastic LLM Hallucinations and Where to Find Them [39.678012380996854]
9つの領域にまたがる生成モデルに対する10,923のプロンプトからなる包括的な幻覚ベンチマークであるHALoGENをリリースする。
このフレームワークを使って14の言語モデルから15万世代を評価し、最高のパフォーマンスのモデルでさえ幻覚に満ちていることに気付きました。
論文 参考訳（メタデータ） (2025-01-14T18:13:08Z) - Training Language Models on the Knowledge Graph: Insights on Hallucinations and Their Detectability [83.0884072598828]
幻覚は多くの形式があり、普遍的に受け入れられる定義はない。
トレーニングセットにおいて、正しい回答が冗長に現れるような幻覚のみを研究することに集中する。
固定されたデータセットの場合、より大きく長く訓練されたLMは幻覚を少なくする。
固定されたLMの出力の検出器サイズが向上するのに対して、LMのスケールと幻覚の検出可能性との間には逆の関係がある。
論文 参考訳（メタデータ） (2024-08-14T23:34:28Z) - Knowledge Overshadowing Causes Amalgamated Hallucination in Large Language Models [65.32990889402927]
「我々はこの現象を知識の誇張として造る。」
その結果, 幻覚率の増大は, 不均衡比と支配的条件記述の長さに左右されることがわかった。
本稿では,その発生前に幻覚をキャッチするための信号として,オーバーシェーディング条件を用いることを提案する。
論文 参考訳（メタデータ） (2024-07-10T20:37:42Z) - On Large Language Models' Hallucination with Regard to Known Facts [74.96789694959894]
大規模な言語モデルはファクトイドの質問に答えることに成功したが、幻覚を起こす傾向がある。
正しい解答知識を持つLLMの現象を推論力学の観点から検討する。
我々の研究は、LLMの幻覚が既知の事実について、そしてより重要なのは、幻覚を正確に予測する理由を理解することに光を当てた。
論文 参考訳（メタデータ） (2024-03-29T06:48:30Z) - Fine-grained Hallucination Detection and Editing for Language Models [109.56911670376932]
大規模言語モデル(LM)は、しばしば幻覚と呼ばれる事実的誤りを引き起こす傾向にある。
我々は,幻覚の包括的分類を導入し,幻覚が多様な形態で現れることを議論する。
本稿では, 幻覚自動検出のための新しいタスクを提案し, 新たな評価ベンチマークであるFavaBenchを構築した。
論文 参考訳（メタデータ） (2024-01-12T19:02:48Z) - Factored Verification: Detecting and Reducing Hallucination in Summaries
of Academic Papers [1.7100359620532977]
抽象要約における幻覚の検出にはFacted Verificationを用いている。
複数の学術論文を要約する際に,言語モデルが幻覚する頻度を推定する。
私たちが発見する幻覚は、しばしば微妙なものであり、学術論文の合成にモデルを使う際には注意が必要である。
論文 参考訳（メタデータ） (2023-10-16T17:51:17Z) - Evaluating Hallucinations in Chinese Large Language Models [65.4771562909392]
我々は,中国大言語モデルにおける幻覚現象を測定するために,HaluQA(中国語幻覚質問回答)というベンチマークを構築した。
GLM-130B と ChatGPT の2種類の幻覚について考察した。
評価のために,モデル出力が幻覚的かどうかを判定するために,GPT-4を用いた自動評価手法を設計する。
論文 参考訳（メタデータ） (2023-10-05T07:57:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。