論文の概要: KG-Guard: Graph-Based Hallucination Detection for Knowledge Base Question Answering

• arxiv url: http://arxiv.org/abs/2606.00328v1
• Date: Fri, 29 May 2026 20:11:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-02 21:34:28.290446
• Title: KG-Guard: Graph-Based Hallucination Detection for Knowledge Base Question Answering
• Title（参考訳）: KG-Guard:知識ベース質問応答のためのグラフベースの幻覚検出
• Abstract要約: 大きな言語モデル (LLM) は知識ベース質問応答 (KBQA) にますます使われている。 LLMはタスク間で幻覚することが知られており、KBQAは例外ではない。 KBQAにおける検出を応答ノード分類問題として定式化し,軽量なグラフベースフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 3.765096298134585
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Large language models (LLMs) are increasingly used for knowledge base question answering (KBQA), where answering requires selecting entities from a question-specific knowledge-graph subgraph. Yet LLMs are known to hallucinate across tasks, and KBQA is no exception: even when we provide a graph as the knowledge source, the model may rely on parametric knowledge instead of graph evidence or perform invalid reasoning over the given relations. Such hallucinated answer nodes can limit the practical deployment of KBQA systems, especially in high-stakes domains such as healthcare. We formulate hallucination detection in KBQA as an answer-node classification problem and propose a lightweight graph-based framework that treats the answering LLM as a black box. \methodname represents each KBQA instance as an augmented graph. It initializes node features with semantic representations of KG entities, marks topic entities and LLM-proposed answer nodes with learned vectors, and connect a virtual question node to the topic entities. A graph encoder then produces verification-oriented node representations, and a small MLP classifies each proposed answer node using its graph representation together with the question embedding. Experiments on WebQSP, ComplexWebQuestions, and PUGG show that our detector achieves the highest F1 on all three benchmarks ($82.0$, $87.4$, and $84.3$), outperforming LLM-as-judge and sampling-based baselines, while having $\sim305\times$ fewer parameters than the reference approaches. Beyond detection, the node-level feedback is actionable: when flagged answers are fed back to the KBQA system for iterative refinement, downstream KBQA F1 improves by $13.0$--$14.5$ points and Exact Match by $16.9$--$17.6$ points.
• Abstract（参考訳）: 大きな言語モデル (LLM) は知識ベース質問応答 (KBQA) にますます使われており、回答には質問固有の知識グラフのサブグラフからエンティティを選択する必要がある。 知識源としてグラフを提供する場合でも、モデルはグラフ証拠の代わりにパラメトリック知識に依存したり、与えられた関係に対して不正な推論を行ったりすることができる。 このような幻覚応答ノードはKBQAシステムの実践的展開を制限することができる。 KBQAにおける幻覚検出を応答ノード分類問題として定式化し、応答 LLM をブラックボックスとして扱う軽量なグラフベースフレームワークを提案する。 \methodnameは、各KBQAインスタンスを拡張グラフとして表現する。 KGエンティティのセマンティック表現でノード機能を初期化し、トピックエンティティとLLMが提案する応答ノードを学習ベクタでマークし、仮想質問ノードをトピックエンティティに接続する。 グラフエンコーダは、検証指向のノード表現を生成し、小さなMLPは、グラフ表現と質問埋め込みを併用して、提案された各応答ノードを分類する。 WebQSP、ComplexWebQuestions、PUGGの実験では、我々の検出器は3つのベンチマーク(82.0$、87.4$、84.3$)で最高F1を達成した。 KBQA F1は13.0$-$14.5$ポイント、Exact Matchは16.9$-$17.6$ポイント改善される。

関連論文リスト

• Topology-Aware Reasoning over Incomplete Knowledge Graph with Graph-Based Soft Prompting [11.222318740825388]
  大規模言語モデル(LLM)は、様々なタスクで顕著な能力を示してきたが、知識集約的なシナリオでは幻覚を起こす傾向にある。 本稿では,推論パラダイムをサブグラフレベルの推論にシフトする,グラフベースのソフトプロンプトフレームワークを提案する。 4つのマルチホップKBQAベンチマーク実験から,本手法は3つの手法の最先端性能を実現し,その有効性を実証した。
  論文  参考訳（メタデータ） (2026-04-14T09:27:52Z)
• Multi-hop Question Answering over Knowledge Graphs using Large Language Models [1.8130068086063336]
  複数のホップを含む知識グラフに答える能力(LLM)を評価する。 我々は、KGのサイズや性質によって、関連する情報をLLMに抽出し、供給するために異なるアプローチが必要であることを示す。
  論文  参考訳（メタデータ） (2024-04-30T03:31:03Z)
• PipeNet: Question Answering with Semantic Pruning over Knowledge Graphs [56.5262495514563]
  本稿では,雑音の多い計算ノードに対して,グラウンドング・プルーニング・レゾニング・パイプラインを提案する。 また,グラフアテンションネットワーク(GAT)をベースとしたサブグラフデータに基づくモジュールを提案する。
  論文  参考訳（メタデータ） (2024-01-31T01:37:33Z)
• ReasoningLM: Enabling Structural Subgraph Reasoning in Pre-trained Language Models for Question Answering over Knowledge Graph [142.42275983201978]
  本稿では,構造化推論を行うためのGNNを模倣するサブグラフ認識型自己認識機構を提案する。 また、モデルパラメータを2万のサブグラフで合成した質問に適応するための適応チューニング戦略も採用する。 実験により、ReasoningLMは、更新されたパラメータが少なく、トレーニングデータが少ない場合でも、最先端のモデルを大きなマージンで上回っていることが示された。
  論文  参考訳（メタデータ） (2023-12-30T07:18:54Z)
• Open-Set Knowledge-Based Visual Question Answering with Inference Paths [79.55742631375063]
  知識に基づく視覚的質問回答(KB-VQA)の目的は、外部知識ベースの助けを借りて質問に対する正しい回答を提供することである。 KB-VQA, Graph pATH ranker (GATHER for brevity) の新しいレトリバーランカパラダイムを提案する。 具体的には、グラフの構築、プルーニング、パスレベルのランク付けが含まれており、正確な回答を検索するだけでなく、推論パスを提供して推論プロセスを説明する。
  論文  参考訳（メタデータ） (2023-10-12T09:12:50Z)
• Logical Message Passing Networks with One-hop Inference on Atomic Formulas [57.47174363091452]
  本稿では,ニューラルネットワーク演算子から知識グラフの埋め込みを分解する,複雑な問合せ応答のためのフレームワークを提案する。 クエリグラフの上に、局所的な原子式上のワンホップ推論とグローバル論理的推論を結びつける論理メッセージパッシングニューラルネットワーク(LMPNN)を提案する。 我々のアプローチは、最先端のニューラルCQAモデルをもたらす。
  論文  参考訳（メタデータ） (2023-01-21T02:34:06Z)
• Knowledge Base Question Answering by Case-based Reasoning over Subgraphs [81.22050011503933]
  本モデルでは,既存のKG補完アルゴリズムよりも複雑な推論パターンを必要とする問合せに対して,より効果的に答えることを示す。 提案モデルは、KBQAベンチマークの最先端モデルよりも優れているか、競合的に動作する。
  論文  参考訳（メタデータ） (2022-02-22T01:34:35Z)
• Graph-augmented Learning to Rank for Querying Large-scale Knowledge Graph [34.774049199809426]
  情報検索に基づく知識グラフ質問応答(KGQA)は,大規模知識グラフから回答を取得して回答することを目的としている。 まず,検索したKSGを,新しいサブグラフ分割アルゴリズムを用いて,より小さなKSGに分割する。 次に、ランク付けモデルから上位のKSGを選択するためのグラフ拡張学習を提案する。
  論文  参考訳（メタデータ） (2021-11-20T08:27:37Z)
• Toward Subgraph-Guided Knowledge Graph Question Generation with Graph Neural Networks [53.58077686470096]
  知識グラフ(KG)質問生成(QG)は,KGから自然言語質問を生成することを目的とする。 本研究は,KGサブグラフから質問を生成し,回答をターゲットとする,より現実的な環境に焦点を当てる。
  論文  参考訳（メタデータ） (2020-04-13T15:43:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。