論文の概要: Topology-Aware Reasoning over Incomplete Knowledge Graph with Graph-Based Soft Prompting
- arxiv url: http://arxiv.org/abs/2604.12503v1
- Date: Tue, 14 Apr 2026 09:27:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-15 19:11:32.376772
- Title: Topology-Aware Reasoning over Incomplete Knowledge Graph with Graph-Based Soft Prompting
- Title(参考訳): グラフに基づくソフトプロンプトによる不完全知識グラフの位相認識推論
- Authors: Shuai Wang, Xixi Wang, Yinan Yu,
- Abstract要約: 大規模言語モデル(LLM)は、様々なタスクで顕著な能力を示してきたが、知識集約的なシナリオでは幻覚を起こす傾向にある。
本稿では,推論パラダイムをサブグラフレベルの推論にシフトする,グラフベースのソフトプロンプトフレームワークを提案する。
4つのマルチホップKBQAベンチマーク実験から,本手法は3つの手法の最先端性能を実現し,その有効性を実証した。
- 参考スコア(独自算出の注目度): 11.222318740825388
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Language Models (LLMs) have shown remarkable capabilities across various tasks but remain prone to hallucinations in knowledge-intensive scenarios. Knowledge Base Question Answering (KBQA) mitigates this by grounding generation in Knowledge Graphs (KGs). However, most multi-hop KBQA methods rely on explicit edge traversal, making them fragile to KG incompleteness. In this paper, we proposed a novel graph-based soft prompting framework that shifts the reasoning paradigm from node-level path traversal to subgraph-level reasoning. Specifically, we employ a Graph Neural Network (GNN) to encode extracted structural subgraphs into soft prompts, enabling LLM to reason over richer structural context and identify relevant entities beyond immediate graph neighbors, thereby reducing sensitivity to missing edges. Furthermore, we introduce a two-stage paradigm that reduces computational cost while preserving good performance: a lightweight LLM first leverages the soft prompts to identify question-relevant entities and relations, followed by a more powerful LLM for evidence-aware answer generation. Experiments on four multi-hop KBQA benchmarks show that our approach achieves state-of-the-art performance on three of them, demonstrating its effectiveness. Code is available at the repository: https://github.com/Wangshuaiia/GraSP.
- Abstract(参考訳): 大規模言語モデル(LLM)は、様々なタスクで顕著な能力を示してきたが、知識集約的なシナリオでは幻覚を起こす傾向にある。
Knowledge Base Question Answering (KBQA)は、知識グラフ(KG)の生成を基礎としてこれを緩和する。
しかし、ほとんどのマルチホップKBQA法は明示的なエッジトラバーサルに依存しており、KGの不完全性に対して脆弱である。
本稿では,ノードレベルの経路トラバースからサブグラフレベルの推論へ,推論パラダイムをシフトさせる新しいグラフベースのソフトプロンプトフレームワークを提案する。
具体的には、抽出した構造部分グラフをソフトプロンプトにエンコードするグラフニューラルネットワーク(GNN)を用いて、LLMがよりリッチな構造的コンテキストを推論し、グラフ近傍を越えて関連するエンティティを識別し、欠落したエッジに対する感度を低下させる。
さらに,優れた性能を維持しながら計算コストを低減させる2段階のパラダイムを導入する。軽量なLCMでは,まずソフトプロンプトを利用して質問関連エンティティと関係を識別し,続いてエビデンスを意識した回答生成のための強力なLSMを提案する。
4つのマルチホップKBQAベンチマーク実験から,本手法は3つの手法の最先端性能を実現し,その有効性を実証した。
コードはリポジトリで入手できる。
関連論文リスト
- AGRAG: Advanced Graph-based Retrieval-Augmented Generation for LLMs [15.570965946461255]
グラフベースの検索強化生成(RAG)は構造化知識でLarge Language Models(LLMs)を増強する大きな可能性を証明している。
既存の手法では、不正確なグラフ構築、不適切な推論能力、不適切な解答の3つの重要な課題に直面している。
本稿では,高度なグラフベースの検索拡張生成フレームワークであるAGRAGを提案する。
論文 参考訳(メタデータ) (2025-11-02T06:13:06Z) - Enrich-on-Graph: Query-Graph Alignment for Complex Reasoning with LLM Enriching [61.824094419641575]
大言語モデル(LLM)は知識グラフ質問応答(KGQA)のような知識集約的なシナリオにおける幻覚と事実的誤りに苦しむ
これは、構造化知識グラフ(KG)と非構造化クエリのセマンティックギャップによるもので、その焦点や構造に固有の違いが原因である。
既存の手法は通常、バニラKGの資源集約的で非スケーリング可能な推論を用いるが、このギャップを見落としている。
我々は、LLMの事前知識を活用してKGを充実させる柔軟なフレームワークEnrich-on-Graph(EoG)を提案し、グラフとクエリ間のセマンティックギャップを埋める。
論文 参考訳(メタデータ) (2025-09-25T06:48:52Z) - GRIL: Knowledge Graph Retrieval-Integrated Learning with Large Language Models [59.72897499248909]
本稿では,Large Language Models (LLM) を用いたエンドツーエンド学習のための新しいグラフ検索手法を提案する。
抽出したサブグラフでは, 構造的知識と意味的特徴をそれぞれ軟式トークンと言語化グラフで符号化し, LLMに注入する。
提案手法は、複雑な推論タスクに対する結合グラフ-LLM最適化の強みを検証し、最先端の性能を一貫して達成する。
論文 参考訳(メタデータ) (2025-09-20T02:38:00Z) - Learning Efficient and Generalizable Graph Retriever for Knowledge-Graph Question Answering [75.12322966980003]
大規模言語モデル(LLM)は、様々な領域にわたって強い帰納的推論能力を示している。
既存のRAGパイプラインのほとんどは非構造化テキストに依存しており、解釈可能性と構造化推論を制限する。
近年,知識グラフ解答のための知識グラフとLLMの統合について検討している。
KGQAにおける効率的なグラフ検索のための新しいフレームワークであるRAPLを提案する。
論文 参考訳(メタデータ) (2025-06-11T12:03:52Z) - Align-GRAG: Reasoning-Guided Dual Alignment for Graph Retrieval-Augmented Generation [79.75818239774952]
大きな言語モデル(LLM)は目覚ましい能力を示しているが、幻覚や時代遅れの情報といった問題に苦戦している。
Retrieval-augmented Generation (RAG) は、情報検索システム(IR)を用いて、外部知識のLLM出力を基底にすることで、これらの問題に対処する。
本稿では、検索後句における新しい推論誘導二重アライメントフレームワークであるAlign-GRAGを提案する。
論文 参考訳(メタデータ) (2025-05-22T05:15:27Z) - ReasoningLM: Enabling Structural Subgraph Reasoning in Pre-trained
Language Models for Question Answering over Knowledge Graph [142.42275983201978]
本稿では,構造化推論を行うためのGNNを模倣するサブグラフ認識型自己認識機構を提案する。
また、モデルパラメータを2万のサブグラフで合成した質問に適応するための適応チューニング戦略も採用する。
実験により、ReasoningLMは、更新されたパラメータが少なく、トレーニングデータが少ない場合でも、最先端のモデルを大きなマージンで上回っていることが示された。
論文 参考訳(メタデータ) (2023-12-30T07:18:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。