論文の概要: Understanding LLM Hallucinations Caused by Soft Errors
- arxiv url: http://arxiv.org/abs/2610.22520v1
- Date: Thu, 15 Oct 2026 18:15:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.620276
- Title: Understanding LLM Hallucinations Caused by Soft Errors
- Title（参考訳）: ソフトエラーによるLSM幻覚の理解
- Abstract要約: LLMEIを導入し、推論中に大規模言語モデルにソフトエラーを注入する。
LLM幻覚行動に基づく異なる障害モードの分類を要約する。
ハードウェア上でのLCM実装の信頼性における幻覚特異的診断の基盤となるものについて述べる。
- 参考スコア（独自算出の注目度）: 12.776970579225233
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While hallucinations in Large Language Models (LLMs) have been extensively studied from a software perspective, limited attention has been paid to hardware-level factors. In this paper, we performed a case study to understand LLM hallucination caused by soft errors on hardware. We introduce LLMEI to inject soft errors into LLMs during inference, based on what we evaluate the impact of soft error across diverse LLM architectures and tasks, including mathematical reasoning and code generation. We summarize the taxonomy of different failure modes based on LLM hallucination behaviors and analyze their distributions under different error rates. Our find- ings underscore the hallucination-specific diagnostics within the reliability of LLM implementation on hardware.
- Abstract（参考訳）: 大規模言語モデル(LLM)の幻覚はソフトウェアの観点から広く研究されているが、ハードウェアレベルの要因には限定的な注意が払われている。
本稿では,ハードウェア上でのソフトエラーによるLLM幻覚の理解を目的としたケーススタディを行った。
数理推論やコード生成を含む多種多様なLLMアーキテクチャやタスクにおけるソフトエラーの影響を評価した結果に基づいて,LLMEIを導入してLLMにソフトエラーを注入する。
LLMの幻覚行動に基づいて異なる障害モードの分類を要約し,その分布を異なる誤り率で解析する。
ハードウェア上でのLCM実装の信頼性における幻覚特異的診断の基盤となるものについて述べる。
関連論文リスト
- LLM4VV: Evaluating Cutting-Edge LLMs for Generation and Evaluation of Directive-Based Parallel Programming Model Compiler Tests [7.6818904666624395]
本稿では,コンパイラテストの生成にLLMを用いたデュアルLLMシステムと実験について述べる。
LLMは、品質の高いコンパイラテストを生成し、それらを自動的に検証する有望な可能性を持っていることは明らかである。
論文 参考訳（メタデータ） (2025-07-29T02:34:28Z) - MIRAGE: Assessing Hallucination in Multimodal Reasoning Chains of MLLM [58.2298313720146]
マルチモーダル幻覚は多源性であり、様々な原因から生じる。
既存のベンチマークでは、知覚誘発幻覚と推論誘発幻覚を適切に区別することができない。
論文 参考訳（メタデータ） (2025-05-30T05:54:36Z) - ToolScan: A Benchmark for Characterizing Errors in Tool-Use LLMs [77.79172008184415]
TOOLSCANは、ツール使用タスクのLLM出力におけるエラーパターンを特定するための新しいベンチマークである。
もっとも顕著なLCMでも,これらの誤りパターンが出力に現れることを示す。
研究者たちは、TOOLSCANのこれらの洞察を使って、エラー軽減戦略をガイドすることができる。
論文 参考訳（メタデータ） (2024-11-20T18:56:22Z) - Hallucination Detection: Robustly Discerning Reliable Answers in Large Language Models [70.19081534515371]
大規模言語モデル(LLM)は様々な自然言語処理タスクで広く採用されている。
それらは、入力源から逸脱する不信または矛盾したコンテンツを生成し、深刻な結果をもたらす。
本稿では,LLMの生成した回答の幻覚を効果的に検出するために,RelDという頑健な識別器を提案する。
論文 参考訳（メタデータ） (2024-07-04T18:47:42Z) - Exploring and Evaluating Hallucinations in LLM-Powered Code Generation [14.438161741833687]
LLM(Large Language Models)は、ユーザの意図から逸脱した出力を生成し、内部的不整合を示すか、事実的知識と不整合を示す。
既存の研究は主に、自然言語生成の分野における幻覚の投資に重点を置いている。
我々は,LLM生成コードのテーマ解析を行い,その内に存在する幻覚を要約し,分類する。
幻覚認識におけるLLMの性能評価のためのベンチマークであるHaluCodeを提案する。
論文 参考訳（メタデータ） (2024-04-01T07:31:45Z) - Unsupervised Real-Time Hallucination Detection based on the Internal States of Large Language Models [12.27217471495276]
大型言語モデル(LLM)における幻覚は、一貫性はあるが事実的に不正確な応答を生成する。
我々は、リアルタイム幻覚検出にLLMの内部状態を活用する教師なしのトレーニングフレームワークであるMINDを提案する。
また,複数のLLMを対象とした幻覚検出のための新しいベンチマークであるHELMを提案する。
論文 参考訳（メタデータ） (2024-03-11T05:51:03Z) - Siren's Song in the AI Ocean: A Survey on Hallucination in Large Language Models [124.90671698586249]
大規模言語モデル(LLM)は、様々な下流タスクで顕著な機能を示している。
LLMは時折、ユーザ入力から分岐するコンテンツを生成し、以前生成されたコンテキストと矛盾する。
論文 参考訳（メタデータ） (2023-09-03T16:56:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。