論文の概要: Knowledge Graph-Driven Expert-Level Reasoning for Neuroscience
- arxiv url: http://arxiv.org/abs/2605.25183v2
- Date: Wed, 27 May 2026 01:23:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-28 17:38:54.97943
- Title: Knowledge Graph-Driven Expert-Level Reasoning for Neuroscience
- Title(参考訳): 神経科学のための知識グラフ駆動エキスパートレベル推論
- Authors: Jake Stephen, Niraj K. Jha,
- Abstract要約: 知識グラフ(KG)は、テキストコーパスから抽出され、詳細な推論に使用される抽象化である。
我々は、デュアルLLM検証パイプラインを介して教科書由来のKGを構築し、KGトポロジに基づいて訓練されたマスク付きLMで拡張し、マルチホップQAアイテムを生成する。
以上の結果から,大規模で異種なWebスケールコーパスに依存することなく,深い機械的神経科学理解をモデルに誘導できることが示唆された。
- 参考スコア(独自算出の注目度): 4.464939140209426
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Knowledge graph (KG) is an abstraction that can be extracted from text corpora and used for in-depth reasoning. Prior work has leveraged KGs to fine-tune language models (LMs), enabling domain-specific superintelligence. In this work, we explore whether KG-driven in-depth reasoning capabilities can emerge in neuroscience using only information contained within a single authoritative textbook. The central hypothesis is that structured knowledge, when distilled into a high-quality KG and converted into KG-grounded question-answer (QA) supervision, is sufficient to produce expert-level reasoning through a fine-tuned LM that surpasses large language models (LLMs) in accuracy, while employing orders of magnitude fewer parameters. We construct a textbook-derived KG via a dual-LLM validation pipeline, expand it with a masked LM trained on the KG topology, generate multi-hop QA items, which include QA pairs and reasoning traces, to fine-tune an LM exclusively on KG-derived supervision, and apply reinforcement learning using path-derived KG signals as implicit reward models. Our results demonstrate that deep, mechanistic neuroscience understanding can be induced in the model without reliance on large, heterogeneous web-scale corpora. The KG-based synthetic neuroscience curriculum that readers can quiz themselves on, and the fine-tuned LM, are available at the following GitHub location: https://kg-bottom-up-superintelligence.github.io/neuro-bench.
- Abstract(参考訳): 知識グラフ(KG)は、テキストコーパスから抽出され、詳細な推論に使用される抽象化である。
これまでの作業では、KGを微調整言語モデル(LM)に活用し、ドメイン固有の超知能を実現している。
本研究では,1つの権威教科書に含まれる情報のみを用いて,KGによる深い推論能力が神経科学に現れるかどうかを考察する。
中心的な仮説は、構造化知識が高品質なKGに蒸留され、KGを基盤とした質問応答(QA)監視に変換された場合、非常に少ないパラメータのオーダーを用いて、大きな言語モデル(LLM)を精度で超越した微調整されたLMを通して専門家レベルの推論を生成するのに十分である、というものである。
我々は、デュアルLLM検証パイプラインを用いて教科書由来のKGを構築し、KGトポロジに基づいて訓練されたマスク付きLMで拡張し、QAペアと推論トレースを含むマルチホップQAアイテムを生成し、KG由来の監督にのみ依存するLMを微調整し、パス由来のKG信号を用いた強化学習を暗黙の報酬モデルとして適用する。
以上の結果から,大規模で異種なWebスケールコーパスに依存することなく,深い機械的神経科学理解をモデルに誘導できることが示唆された。
KGベースの合成神経科学のカリキュラムは読者自身が学べるが、微調整されたLMは以下のGitHubロケーションで利用できる。
関連論文リスト
- GraphMERT: Efficient and Scalable Distillation of Reliable Knowledge Graphs from Unstructured Data [5.435140607214518]
構造化されていないテキストコーパスから高品質な知識グラフを抽出する,グラフィカルエンコーダのみの小型モデルであるGraphMERTを紹介する。
GraphMERTと同等のKGはモジュラー・ニューロシンボリックスタックを形成し、抽象のニューラルラーニング、検証可能な推論のためのシンボリックKGである。
論文 参考訳(メタデータ) (2025-10-10T17:36:14Z) - Knowledge Graph-extended Retrieval Augmented Generation for Question Answering [10.49712834719005]
本稿では,Large Language Models (LLMs) とKGs (KGs) を統合するシステムを提案する。
結果として得られるアプローチは、KGを持つ検索拡張生成(RAG)の特定の形式に分類される。
質問分解モジュールを含み、マルチホップ情報検索と回答可能性を高める。
論文 参考訳(メタデータ) (2025-04-11T18:03:02Z) - Decoding on Graphs: Faithful and Sound Reasoning on Knowledge Graphs through Generation of Well-Formed Chains [66.55612528039894]
知識グラフ(KG)は質問応答(QA)のための信頼できる知識ソースとして機能する。
我々は、LLMとKGの深い相乗効果を促進する新しいフレームワークであるDoG(Decoding on Graphs)を提案する。
様々なKGQAタスクに対して異なるバックグラウンドKGを用いた実験により、DoGが優れた、堅牢なパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2024-10-24T04:01:40Z) - Graph-constrained Reasoning: Faithful Reasoning on Knowledge Graphs with Large Language Models [92.71304585906624]
大規模言語モデル(LLM)は知識ギャップと幻覚のために忠実な推論に苦しむ。
グラフ制約推論(GCR)は、KGにおける構造的知識とLLMにおける非構造的推論を橋渡しする新しいフレームワークである。
GCRは最先端のパフォーマンスを達成し、追加のトレーニングをすることなく、見えないKGに対して強力なゼロショット一般化性を示す。
論文 参考訳(メタデータ) (2024-10-16T22:55:17Z) - Large Language Models Can Better Understand Knowledge Graphs Than We Thought [13.336418752729987]
大規模言語モデル(LLM)の処理と知識グラフ(KG)の解釈について検討する。
リテラルレベルでは、様々な入力形式に対するLLMの好みを明らかにする。
注意分布レベルでは、これらの嗜好を駆動するメカニズムについて論じる。
論文 参考訳(メタデータ) (2024-02-18T10:44:03Z) - ReasoningLM: Enabling Structural Subgraph Reasoning in Pre-trained
Language Models for Question Answering over Knowledge Graph [142.42275983201978]
本稿では,構造化推論を行うためのGNNを模倣するサブグラフ認識型自己認識機構を提案する。
また、モデルパラメータを2万のサブグラフで合成した質問に適応するための適応チューニング戦略も採用する。
実験により、ReasoningLMは、更新されたパラメータが少なく、トレーニングデータが少ない場合でも、最先端のモデルを大きなマージンで上回っていることが示された。
論文 参考訳(メタデータ) (2023-12-30T07:18:54Z) - BertNet: Harvesting Knowledge Graphs with Arbitrary Relations from
Pretrained Language Models [65.51390418485207]
本稿では,事前学習したLMから任意の関係を持つ大規模KGを抽出する手法を提案する。
関係定義の最小限の入力により、アプローチは膨大な実体対空間を効率的に探索し、多様な正確な知識を抽出する。
我々は、異なるLMから400以上の新しい関係を持つKGを収穫するためのアプローチを展開している。
論文 参考訳(メタデータ) (2022-06-28T19:46:29Z) - Scientific Language Models for Biomedical Knowledge Base Completion: An
Empirical Study [62.376800537374024]
我々は,KG の完成に向けた科学的 LM の研究を行い,生物医学的リンク予測を強化するために,その潜在知識を活用できるかどうかを探る。
LMモデルとKG埋め込みモデルを統合し,各入力例をいずれかのモデルに割り当てることを学ぶルータ法を用いて,性能を大幅に向上させる。
論文 参考訳(メタデータ) (2021-06-17T17:55:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。