論文の概要: Structure-Internalized Rule Language Model for Faithful Knowledge Graph Reasoning

• arxiv url: http://arxiv.org/abs/2608.17443v1
• Date: Tue, 18 Aug 2026 07:21:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-19 21:40:53.252771
• Title: Structure-Internalized Rule Language Model for Faithful Knowledge Graph Reasoning
• Title（参考訳）: 知識グラフ推論のための構造インターナル化規則言語モデル
• Abstract要約: KGR(Knowledge Graph Reasoning)は、KG(Knowledge Graphs)で利用可能な構造的証拠を活用することで、潜伏した事実を発見することを目的とする。 近年の研究では、Large Language Models (LLM) が、フレキシブル・イン・コンテクスト・ラーニング(英語版)により、KGRタスクにおいて顕著な進歩を達成できることが示されている。 本稿では,KG構造文脈とLLMパラメトリック知識との整合性を表現するために,構造化規則言語モデル(SIRLM)を提案する。
• 参考スコア（独自算出の注目度）: 6.421907131279842
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Knowledge Graph Reasoning (KGR) aims to discover latent facts by leveraging the structural evidence available in KGs, posing a challenge to the structural semantic understanding capability of KGR models. Recent studies have demonstrated that Large Language Models (LLMs) can achieve remarkable progress on KGR tasks via flexible in-context learning. However, the inherent representation inconsistency between KG structural context and LLM parametric knowledge remains inadequately addressed. This limitation prevents LLMs from effectively perceiving reasoning evidence that aligns with KG constraints, which undermines both the effectiveness and faithfulness of reasoning. We refer to this problem as reasoning evidence perception drift of LLMs over KGs. To address this problem, we propose a Structure-Internalized Rule Language Model (SIRLM), which centers on structural rule generation to couple the parametric learning of structural knowledge with the faithfulness evaluation of reasoning logic, enabling LLMs to anchor tightly to KG-grounded evidence. Specifically, we first design a Structure-Internalized Rule Generator (SIRG), which incorporates an in-context learning block augmented with a structural relation memory to coordinate structural and parametric knowledge. Furthermore, we equip SIRG with a KG tokenizer based on structural invariance learning and a neuro-symbolic reasoner based on rule-constrained message propagation. These components provide SIRG with learnable structural representations and faithful rule-execution feedback, respectively. Our SIRLM can be seamlessly integrated into standard LLM training paradigms, such as SFT and GRPO. Extensive experiments against 17 state-of-the-art KGR methods on 36 datasets demonstrate the significant superiority of SIRLM.
• Abstract（参考訳）: 知識グラフ推論(KGR: Knowledge Graph Reasoning)は、KGで利用可能な構造的証拠を活用し、KGRモデルの構造的意味理解能力に挑戦する試みである。 近年の研究では、Large Language Models (LLM) が、フレキシブル・イン・コンテクスト・ラーニング(英語版)により、KGRタスクにおいて顕著な進歩を達成できることが示されている。 しかし、KGの構造的文脈とLLMパラメトリック知識との固有の矛盾は、いまだに不十分である。 この制限により、LLMはKG制約に合致する推論証拠を効果的に知覚することができず、推論の有効性と忠実性を損なう。 我々は、この問題を、KG 上の LLM のドリフトを推論する証拠として言及する。 そこで本研究では,構造ルール生成を中心とした構造規則言語モデルを提案し,構造知識のパラメトリック学習と推論論理の忠実度評価を組み合わせ,LLMがKGを根拠とした証拠に固執することを可能にする。 具体的には,構造とパラメトリックの知識を調整するために,構造関係メモリを付加したコンテキスト内学習ブロックを組み込んだ構造内ルール生成器(SIRG)を設計する。 さらに,SIRGには構造的不変性学習に基づくKGトークンライザと,ルール制約されたメッセージ伝搬に基づくニューロシンボリック推論器を備える。 これらのコンポーネントは、学習可能な構造表現と忠実なルール実行フィードバックをSIRGに提供する。 我々のSIRLMは、SFTやGRPOといった標準LLMトレーニングパラダイムにシームレスに統合できます。 36個のデータセットに対する17種類の最先端KGR法に対する大規模な実験は、SIRLMの顕著な優位性を示している。

関連論文リスト

• Knowledge Reasoning Language Model: Unifying Knowledge and Language for Inductive Knowledge Graph Reasoning [47.967495648005986]
  我々は,LLM知識とKGコンテキストの統一的な協調を実現する知識推論言語モデル(KRLM)を提案する。 25個の実世界のインダクティブKGRデータセットの大規模な実験結果は、提案したKRLMの顕著な優位性を示している。
  論文  参考訳（メタデータ） (2025-10-15T02:11:58Z)
• Beyond Textual Context: Structural Graph Encoding with Adaptive Space Alignment to alleviate the hallucination of LLMs [15.260879306368674]
  SSKG-LLMは、KGの構造情報を大規模言語モデルの推論プロセスに効率的に統合する革新的なモデルアーキテクチャである。 我々は、広範囲にわたる実験を行い、かつ、KGの構造情報を組み込むことによって、LLMの事実推論能力を高める方法について、詳細な分析を行う。
  論文  参考訳（メタデータ） (2025-09-26T12:14:01Z)
• Enhancing Large Language Models with Reliable Knowledge Graphs [0.6345523830122166]
  知識グラフは、検証された知識で大規模言語モデルを構築するための有望なソリューションを提供する。 それらのポテンシャルは、固有のノイズ、不完全性、およびそれらの剛性構造とLLMの柔軟な推論を統合する複雑さによって制約されている。 この論文は、信頼性の高いKGを精製し活用することによってLCMを強化する凝集フレームワークを通じて、これらの制限に対処する。
  論文  参考訳（メタデータ） (2025-06-16T07:43:18Z)
• LightPROF: A Lightweight Reasoning Framework for Large Language Model on Knowledge Graph [57.382255728234064]
  大きな言語モデル(LLM)は、テキスト理解とゼロショット推論において素晴らしい能力を持っている。 知識グラフ(KG)は、LLMの推論プロセスに対して、リッチで信頼性の高いコンテキスト情報を提供する。 我々は、KGQA(LightPROF)のための新しい軽量で効率的なPrompt Learning-ReasOning Frameworkを提案する。
  論文  参考訳（メタデータ） (2025-04-04T03:03:47Z)
• Decoding on Graphs: Faithful and Sound Reasoning on Knowledge Graphs through Generation of Well-Formed Chains [66.55612528039894]
  知識グラフ(KG)は質問応答(QA)のための信頼できる知識ソースとして機能する。 我々は、LLMとKGの深い相乗効果を促進する新しいフレームワークであるDoG(Decoding on Graphs)を提案する。 様々なKGQAタスクに対して異なるバックグラウンドKGを用いた実験により、DoGが優れた、堅牢なパフォーマンスを達成することを示す。
  論文  参考訳（メタデータ） (2024-10-24T04:01:40Z)
• Graph-constrained Reasoning: Faithful Reasoning on Knowledge Graphs with Large Language Models [92.71304585906624]
  大規模言語モデル(LLM)は知識ギャップと幻覚のために忠実な推論に苦しむ。 グラフ制約推論(GCR)は、KGにおける構造的知識とLLMにおける非構造的推論を橋渡しする新しいフレームワークである。 GCRは最先端のパフォーマンスを達成し、追加のトレーニングをすることなく、見えないKGに対して強力なゼロショット一般化性を示す。
  論文  参考訳（メタデータ） (2024-10-16T22:55:17Z)
• Mitigating Large Language Model Hallucinations via Autonomous Knowledge Graph-based Retrofitting [51.7049140329611]
  本稿では,知識グラフに基づくリトロフィッティング(KGR)を提案する。 実験により,実QAベンチマークにおいて,KGRはLLMの性能を大幅に向上できることが示された。
  論文  参考訳（メタデータ） (2023-11-22T11:08:38Z)
• Reasoning on Graphs: Faithful and Interpretable Large Language Model Reasoning [104.92384929827776]
  大規模言語モデル(LLM)は複雑なタスクにおいて顕著な推論能力を示している。 彼らは推論中に最新の知識と幻覚を欠いている。 知識グラフ(KG)は、推論のための信頼できる知識源を提供する。
  論文  参考訳（メタデータ） (2023-10-02T10:14:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。