論文の概要: Repair Before Reinforce: Context-Augmented Knowledge Graph Reasoning for Multi-Hop Question Answering
- arxiv url: http://arxiv.org/abs/2609.12230v1
- Date: Thu, 10 Sep 2026 21:39:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-15 07:38:31.550559
- Title: Repair Before Reinforce: Context-Augmented Knowledge Graph Reasoning for Multi-Hop Question Answering
- Title(参考訳): 強化前の修復:マルチホップ質問回答のためのコンテキスト強化知識グラフ推論
- Abstract要約: マルチホップ質問応答のための文脈拡張学習フレームワークを提案する。
一般に当てはまるが、病原性知識グラフの文脈において、この枠組みを検証する。
両疾患とも、コンテキスト強化された管理は、KGのみの監督よりもマルチホップ性能を一貫して改善する。
- 参考スコア(独自算出の注目度): 4.464939140209426
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Question-answering often requires reasoning across multiple connected facts rather than retrieving a single isolated relation. Knowledge graphs (KGs) provide a structured way to represent such facts, but training large language models (LLMs) only on isolated KG head-relation-tail triples may limit their ability to learn the surrounding context needed for multi-hop reasoning. In this work, we propose a context-augmented training framework for multi-hop question-answering. Although generally applicable, we validate the framework in the context of disease-specific KGs, extracted using a reliable KG extraction framework called GraphMERT, for Gastroparesis and Diabetes. For each primary KG triple, we attach supporting triples extracted from the same source text chunk to form a context graph (CG). This creates two supervision settings: KG-grounded supervision, which uses only the target KG triple or path, and CG-grounded supervision, which uses the target KG triple or path together with supporting context triples. We train the Qwen3-14B model using supervised fine-tuning (SFT) under both settings, producing KGModel and CGModel variants. To strengthen the lower-hop factual foundation of the models, we introduce an LLM-judged, history-aware adaptive repair pipeline that identifies unresolved one-hop failures, continually fine-tunes on targeted repair examples, and removes or quarantines problematic noisy triples. This repair stage enables the models to reach 100% accuracy on the cleaned retained one-hop validation sets. Finally, we employ reinforcement learning (RL) using lower-hop question-answer items and evaluate generalization on harder 3-hop, 4-hop, and 5-hop tasks. Across both diseases, context-augmented supervision consistently improves multi-hop performance over KG-only supervision. RL initialized from repaired SFT checkpoints yields larger and more stable gains.
- Abstract(参考訳): 質問に答えるには、単一の孤立した関係を検索するよりも、複数の接続された事実を推論する必要があることが多い。
知識グラフ(KGs)はそのような事実を表現するための構造化された方法を提供するが、孤立したKGヘッドリレーショナルテールトリプル上でのみ、大きな言語モデル(LLMs)を訓練することは、マルチホップ推論に必要な周囲のコンテキストを学習する能力を制限する可能性がある。
本研究では,マルチホップ質問応答のための文脈拡張学習フレームワークを提案する。
一般的には適用できるが, ガストロピア症と糖尿病に対する信頼度の高いKG抽出フレームワークであるGraphMERTを用いて抽出した病原性KGの文脈において, 本フレームワークを検証した。
各一次KGトリプルに対して、同じソーステキストチャンクから抽出されたサポートトリプルをアタッチして、コンテキストグラフ(CG)を形成する。
これにより、ターゲットのKGトリプルまたはパスのみを使用するKG接地監視と、ターゲットのKGトリプルまたはパスとサポートコンテキストトリプルを使用するCG接地監視という2つの監視設定が作成される。
教師付き微調整(SFT)を用いてQwen3-14Bモデルをトレーニングし、KGModelとCGModelの変種を生成する。
モデルの低ホップ現実的基盤を強化するため,未解決のワンホップ故障を識別し,目標とする補修事例を常に微調整し,問題のある雑音を除去・隔離するLLM型適応補修パイプラインを導入する。
この修復段階により、モデルがクリーニングされたワンホップ検証セット上で100%精度に達することができる。
最後に,より難しい3ホップ,4ホップ,5ホップのタスクに対して,低ホップ質問項目を用いた強化学習(RL)を適用した。
両疾患とも、コンテキスト強化された管理は、KGのみの監督よりもマルチホップ性能を一貫して改善する。
修復されたSFTチェックポイントから初期化されたRLは、より大きく安定したゲインをもたらす。
関連論文リスト
- Travel-Oriented Reasoning Large Language Model via Domain-Specific Knowledge Graphs [0.0]
大規模言語モデル(LLM)は幅広い推論能力を示すが、旅行のような専門分野の精度と信頼性に苦慮している。
本稿では,専門家設計の知識グラフに基づく旅行領域推論LLMを構築するためのモジュールパイプラインを提案する。
我々のパイプラインは、ドメインエンティティとその関係をエンコードする旅行KGと、ドメイン知識を推論可能なLLMに組み込む教師付き微調整ステージを統合しています。
論文 参考訳(メタデータ) (2026-06-28T07:53:11Z) - KG-Hopper: Empowering Compact Open LLMs with Knowledge Graph Reasoning via Reinforcement Learning [9.329800077564673]
大きな言語モデル(LLM)は、印象的な自然言語能力を示すが、知識集約的な推論タスクにしばしば苦労する。
KG-Hopperは,マルチホップKG推論を行う機能を備えた,コンパクトなオープンLLMを実現する,新しい強化学習フレームワークである。
我々は、KG-Hopperがより大規模なマルチステップシステム(最大70B)を一貫して上回り、プロプライエタリモデルとの競合性能を達成することを示す。
論文 参考訳(メタデータ) (2026-03-22T23:07:29Z) - Mitigating KG Quality Issues: A Robust Multi-Hop GraphRAG Retrieval Framework [11.158010513386664]
C2RAG(Constraint-Checked Retrieval-Augmented Generation)を提案する。
C2RAGは最新のベースラインを平均3.4%のEMと3.9%のF1で一貫して上回っている。
論文 参考訳(メタデータ) (2026-03-16T05:08:41Z) - DPRM: A Dual Implicit Process Reward Model in Multi-Hop Question Answering [62.11407895095892]
質問応答タスクでは、Chain of Thought (CoT) は多段階推論を通じて大きな言語モデルを誘導し、知識グラフ (KG) は意味マッチングによる幻覚を減らす。
従来のプロセスリワードモデル(PRM)は推論プロセスを評価するが、コストのかかる人的アノテーションやロールアウト生成を必要とする。
DPRM(Dual Implicit Process Reward Model)は,MHQAタスクにおける2つの暗黙のPRMをCoTとKGの推論のために訓練する。
論文 参考訳(メタデータ) (2025-11-11T15:41:22Z) - Decoding on Graphs: Faithful and Sound Reasoning on Knowledge Graphs through Generation of Well-Formed Chains [66.55612528039894]
知識グラフ(KG)は質問応答(QA)のための信頼できる知識ソースとして機能する。
我々は、LLMとKGの深い相乗効果を促進する新しいフレームワークであるDoG(Decoding on Graphs)を提案する。
様々なKGQAタスクに対して異なるバックグラウンドKGを用いた実験により、DoGが優れた、堅牢なパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2024-10-24T04:01:40Z) - UniKGQA: Unified Retrieval and Reasoning for Solving Multi-hop Question
Answering Over Knowledge Graph [89.98762327725112]
KGQA(Multi-hop Question Answering over Knowledge Graph)は、自然言語の質問で言及されているトピックエンティティから、複数のホップを持つ回答エンティティを見つけることを目的としている。
我々は、モデルアーキテクチャとパラメータ学習の両方において、検索と推論を統合することで、マルチホップKGQAタスクの新しいアプローチであるUniKGQAを提案する。
論文 参考訳(メタデータ) (2022-12-02T04:08:09Z) - Contrastive Knowledge Graph Error Detection [11.637359888052014]
提案する新しいフレームワーク - ContrAstive Knowledge Graph Error Detection (CAGED) を提案する。
CAGEDは、KG学習に対照的な学習を導入し、KGモデリングの新しい方法を提供する。
KGエラー検出における最先端の手法よりも優れています。
論文 参考訳(メタデータ) (2022-11-18T05:01:19Z) - Few-shot Relational Reasoning via Connection Subgraph Pretraining [81.30830261527231]
Connection Subgraph Reasoner (CSR) は、事前トレーニングを必要とせずに、ターゲットの少数ショットタスクを直接予測することができる。
私たちのフレームワークは、既存のメソッドに対して、目標とする数ショットタスクに対して、すでに競合的に実行可能です。
論文 参考訳(メタデータ) (2022-10-13T04:35:14Z) - Collaborative Knowledge Graph Fusion by Exploiting the Open Corpus [59.20235923987045]
知識表現の質を維持しながら、新たに収穫した3倍の知識グラフを豊かにすることは困難である。
本稿では,付加コーパスから得られる情報を用いてKGを精製するシステムを提案する。
論文 参考訳(メタデータ) (2022-06-15T12:16:10Z) - SMORE: Knowledge Graph Completion and Multi-hop Reasoning in Massive
Knowledge Graphs [147.73127662757335]
我々は、知識グラフ(KG)におけるシングルホップおよびマルチホップ推論のための最初の汎用フレームワークであるスケーラブルなマルチホップ推論(SMORE)を提案する。
シングルマシンのSMOREはFreebase KG(86Mエンティティ、338Mエッジ)でマルチホップ推論を行うことができる。
SMOREは、従来のマルチホップKGフレームワークよりもスループット(トレーニング速度)を、最小のGPUメモリ要件で2.2倍向上させる。
論文 参考訳(メタデータ) (2021-10-28T05:02:33Z) - Improving Embedded Knowledge Graph Multi-hop Question Answering by
introducing Relational Chain Reasoning [8.05076085499457]
知識ベース質問回答(KBQA)は、トピックエンティティと回答の間の推論を識別することで、知識ベース(KB)からのユーザ要求に答える。
KBQA の複素分岐タスクとして、マルチホップ KGQA は構造化された KG に保存された多重ホップ関係鎖の推論を必要とする。
論文 参考訳(メタデータ) (2021-10-25T06:53:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。