論文の概要: Detecting Hallucinations for Large Language Model-based Knowledge Graph Reasoning

• arxiv url: http://arxiv.org/abs/2606.19351v1
• Date: Mon, 27 Apr 2026 12:20:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-27 00:46:12.920794
• Title: Detecting Hallucinations for Large Language Model-based Knowledge Graph Reasoning
• Title（参考訳）: 大規模言語モデルに基づく知識グラフ推論のための幻覚検出
• Abstract要約: LLMベースのノウルDgeグラフ推論フレームワークのための最初の半減期デテCtIon法であるLUCIDを提案する。 LUCIDはLLMアテンションスコア、KGセマンティクス、構造情報を共同で活用する。 9つのデータセットの実験では、LUCIDは15のベースラインと比較して、アートパフォーマンスの状態を達成している。
• 参考スコア（独自算出の注目度）: 48.237729567730696
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Knowledge graph (KG) reasoning infers new knowledge from existing facts and is widely applied in question answering, recommendation, and decision support. With the rapid development of large language models (LLMs), LLM-based KG reasoning frameworks have become increasingly popular by leveraging retrieved KG information. However, hallucinations in LLMs remain a critical issue. Even when relevant KG knowledge is incorporated, models may still generate incorrect outputs, leading to misinformation and unreliable decisions. Existing hallucination detection methods either focus on LLM internal states or verify consistency with retrieved contexts, but both overlook the structural information in KGs, resulting in suboptimal performance. To address this gap, we propose LUCID, the first halLUcination deteCtIon method for LLM-based knowleDge graph reasoning frameworks. LUCID jointly leverages LLM attention scores, KG semantics, and structural information. Specifically, it extracts node and edge features from attention scores and semantic similarities, and integrates them with KG structure using a graph neural network. We also construct manually annotated benchmark datasets for evaluation. Experiments on nine datasets show that LUCID achieves state of the art performance compared to 15 baselines.
• Abstract（参考訳）: 知識グラフ推論(KG)は、既存の事実から新しい知識を推測し、質問への回答、推薦、意思決定支援に広く適用されている。 大規模言語モデル(LLM)の急速な発展に伴い、LLMベースのKG推論フレームワークは、取得したKG情報を活用することで、ますます人気が高まっている。 しかし、LLMの幻覚は依然として重要な問題である。 関連するKG知識が組み込まれても、モデルは依然として誤ったアウトプットを生成し、誤った情報や信頼できない決定につながる可能性がある。 既存の幻覚検出法は、LLMの内部状態にフォーカスするか、検索したコンテキストとの整合性を検証するかのいずれかであるが、どちらもKGの構造情報を見落とし、最適以下の性能をもたらす。 このギャップに対処するため、LLMベースのノウルDgeグラフ推論フレームワークのための最初の半減期デテCtIon法であるLUCIDを提案する。 LUCIDはLLMアテンションスコア、KGセマンティクス、構造情報を共同で活用する。 具体的には、注意点と意味的類似点からノードとエッジの特徴を抽出し、グラフニューラルネットワークを用いてKG構造と統合する。 また、手動でアノテートされたベンチマークデータセットを構築して評価する。 9つのデータセットの実験では、LUCIDは15のベースラインと比較して最先端のパフォーマンスを達成した。

関連論文リスト

• A Human-in-the-Loop, LLM-Centered Architecture for Knowledge-Graph Question Answering [41.99844472131922]
  大きな言語モデルは言語理解において優れているが、知識集約的なドメインでは限られている。 この研究は、LLMがCypherグラフクエリを生成して説明するインタラクティブなフレームワークを導入している。
  論文  参考訳（メタデータ） (2026-02-05T10:10:19Z)
• Are Large Language Models Effective Knowledge Graph Constructors? [26.60279256406507]
  知識グラフ(KG)は知識集約的なタスクに不可欠であり、大型言語モデル(LLM)における幻覚の低減に有望であることを示す。 本稿では,複数のレベルで情報を整理し,セマンティックにリッチで構造化されたKGの作成を可能にする階層的抽出フレームワークを提案する。 現状のLLMを用いて知識グラフを抽出・構築し,構造的・意味的両面から包括的に評価する。
  論文  参考訳（メタデータ） (2025-10-13T11:37:48Z)
• Enrich-on-Graph: Query-Graph Alignment for Complex Reasoning with LLM Enriching [61.824094419641575]
  大言語モデル(LLM)は知識グラフ質問応答(KGQA)のような知識集約的なシナリオにおける幻覚と事実的誤りに苦しむ これは、構造化知識グラフ(KG)と非構造化クエリのセマンティックギャップによるもので、その焦点や構造に固有の違いが原因である。 既存の手法は通常、バニラKGの資源集約的で非スケーリング可能な推論を用いるが、このギャップを見落としている。 我々は、LLMの事前知識を活用してKGを充実させる柔軟なフレームワークEnrich-on-Graph(EoG)を提案し、グラフとクエリ間のセマンティックギャップを埋める。
  論文  参考訳（メタデータ） (2025-09-25T06:48:52Z)
• Graph-constrained Reasoning: Faithful Reasoning on Knowledge Graphs with Large Language Models [92.71304585906624]
  大規模言語モデル(LLM)は知識ギャップと幻覚のために忠実な推論に苦しむ。 グラフ制約推論(GCR)は、KGにおける構造的知識とLLMにおける非構造的推論を橋渡しする新しいフレームワークである。 GCRは最先端のパフォーマンスを達成し、追加のトレーニングをすることなく、見えないKGに対して強力なゼロショット一般化性を示す。
  論文  参考訳（メタデータ） (2024-10-16T22:55:17Z)
• Tree-of-Traversals: A Zero-Shot Reasoning Algorithm for Augmenting Black-box Language Models with Knowledge Graphs [72.89652710634051]
  知識グラフ(KG)は、信頼性があり、構造化され、ドメイン固有であり、最新の外部知識を提供することで、Large Language Models(LLM)を補完する。 そこで本研究では,ゼロショット推論アルゴリズムであるTree-of-Traversalsを導入する。
  論文  参考訳（メタデータ） (2024-07-31T06:01:24Z)
• Mitigating Large Language Model Hallucinations via Autonomous Knowledge Graph-based Retrofitting [51.7049140329611]
  本稿では,知識グラフに基づくリトロフィッティング(KGR)を提案する。 実験により,実QAベンチマークにおいて,KGRはLLMの性能を大幅に向上できることが示された。
  論文  参考訳（メタデータ） (2023-11-22T11:08:38Z)
• Reasoning on Graphs: Faithful and Interpretable Large Language Model Reasoning [104.92384929827776]
  大規模言語モデル(LLM)は複雑なタスクにおいて顕著な推論能力を示している。 彼らは推論中に最新の知識と幻覚を欠いている。 知識グラフ(KG)は、推論のための信頼できる知識源を提供する。
  論文  参考訳（メタデータ） (2023-10-02T10:14:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。