論文の概要: UniGFM-RAG: Unify Graph Foundation Models and Large Language Models for End-to-End Retrieval and Reasoning
- arxiv url: http://arxiv.org/abs/2610.34866v1
- Date: Mon, 26 Oct 2026 05:30:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.763726
- Title: UniGFM-RAG: Unify Graph Foundation Models and Large Language Models for End-to-End Retrieval and Reasoning
- Title(参考訳): UniGFM-RAG: エンドツーエンド検索と推論のためのグラフ基礎モデルと大規模言語モデルの統合
- Abstract要約: 大規模言語モデル(LLM)はタスク間で顕著な能力を示しているが、それでも分散知識の統合を必要とする複雑な推論に苦慮している。
LLM ジェネレータと GFM レトリバーを密結合した,エンドツーエンドの GraphRAG フレームワークである ourmethod を提案する。
実験の結果,本手法は強いベースライン法より一貫して優れ,一般化が良好であることがわかった。
- 参考スコア(独自算出の注目度): 56.749106009207416
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large Language Models (LLMs) have shown remarkable capabilities across tasks, but they still struggle with complex reasoning that requires integrating scattered knowledge. Graph Retrieval-Augmented Generation (GraphRAG) addresses this challenge by organizing fragment knowledge as graphs, while recent Graph Foundation Models (GFMs) further improve GraphRAG with graph-native retrieval and reasoning capabilities. However, existing GraphRAG methods usually adopt decoupled retrieve-then-generate pipelines, which create objective misalignment between retrieval and reasoning, and training GFM retrievers typically depends on expensive human annotations. To address these limitations, we propose \ourmethod, a unified end-to-end GraphRAG framework that tightly couples a GFM retriever with an LLM generator. Given a query, the GFM retriever first reasons over the graph to score and retrieve relevant document nodes. These node embeddings are then passed through a fully differentiable graph bridge, which projects them into soft-weighted graph prefixes according to retrieval scores and combines them with raw document texts to form graph-augmented prompts. In this way, structural information is injected directly into LLM generation, while the final answer loss can be back-propagated through the bridge to jointly optimize retrieval and reasoning. To stabilize training and reduce reliance on costly annotations, we further introduce a semantic-guided distillation module that provides auxiliary supervision using pseudo-labels derived from query-document semantic similarities. Extensive experiments on three multi-hop QA datasets and three out-of-domain GraphRAG benchmarks show that \ourmethod consistently outperforms strong baseline methods and generalizes well, which demonstrates the effectiveness of end-to-end GraphRAG with tightly integrated GFM retrieval and LLM reasoning.
- Abstract(参考訳): 大規模言語モデル(LLM)はタスク全体にわたって顕著な能力を示しているが、それでも分散知識の統合を必要とする複雑な推論に苦慮している。
Graph Retrieval-Augmented Generation (GraphRAG)は、グラフとして断片的な知識を編成することで、この課題に対処する。
しかし、既存のGraphRAG法では、通常、分離された検索-then生成パイプラインを採用し、検索と推論の間に客観的なミスアライメントを生じさせ、GFMレトリバーのトレーニングは通常、高価な人間のアノテーションに依存している。
これらの制約に対処するために,GFMレシーバとLLMジェネレータを密結合した,エンドツーエンドのGraphRAGフレームワークである‘ourmethod’を提案する。
クエリが与えられた場合、GCMレトリバーは、まずグラフ上で関連ドキュメントノードのスコアと取得を行う。
これらのノードの埋め込みは、完全に微分可能なグラフブリッジに渡され、検索スコアに従ってソフトウェイトなグラフプレフィックスに投影され、それらを生文書テキストと組み合わせてグラフ拡張プロンプトを形成する。
このようにして、構造情報をLSM生成に直接注入し、最終回答損失をブリッジを通して逆伝播させて、検索と推論を共同で最適化する。
トレーニングを安定させ,コストのかかるアノテーションへの依存を軽減するため,クエリ文書のセマンティックな類似性から派生した擬似ラベルを用いて補助的な監視を行うセマンティック誘導蒸留モジュールを導入する。
3つのマルチホップQAデータセットと3つのドメイン外のGraphRAGベンチマークの大規模な実験により、Shaurmethodは強いベースライン法を一貫して上回り、よく一般化し、緊密に統合されたGFM検索とLLM推論によるエンドツーエンドGraphRAGの有効性を示す。
関連論文リスト
- Retrieving Minimal and Sufficient Reasoning Subgraphs with Graph Foundation Models for Path-aware GraphRAG [27.22974957852695]
グラフベースの検索強化生成(GraphRAG)は、構造化知識を利用して知識集約推論を支援する。
本稿では,事前学習したグラフファウンデーションモデルがクロスドメインレトリバーとして機能するサブグラフを用いて,ユーザクエリに直接応答するGCM-Retrieverを提案する。
GFM-Retrieverは、効率を保ちながら、検索品質と回答生成の両方において最先端の性能を達成する。
論文 参考訳(メタデータ) (2026-03-07T12:39:21Z) - LinearRAG: Linear Graph Retrieval Augmented Generation on Large-scale Corpora [17.929144506419064]
Retrieval-Augmented Generation (RAG) は大規模言語モデル(LLM)の幻覚を軽減するために広く用いられている。
既存のグラフベースのRAG法は、グラフ構築のための不安定でコストのかかる関係抽出に依存している。
信頼性の高いグラフ構築と正確な経路抽出を可能にする効率的なフレームワークであるLinearRAGを提案する。
論文 参考訳(メタデータ) (2025-10-11T08:43:45Z) - G-reasoner: Foundation Models for Unified Reasoning over Graph-structured Knowledge [88.82814893945077]
大規模言語モデル(LLM)は複雑な推論において優れているが、静的かつ不完全なパラメトリック知識によって制限される。
最近のグラフ強化RAG (GraphRAG) は、このギャップを補足したグラフを構築し、LLMがそれらを推論できるようにする。
G-reasonerは、様々なグラフ構造化知識を推論するためにグラフと言語基盤モデルを統合した統合フレームワークである。
論文 参考訳(メタデータ) (2025-09-29T04:38:12Z) - GRIL: Knowledge Graph Retrieval-Integrated Learning with Large Language Models [59.72897499248909]
本稿では,Large Language Models (LLM) を用いたエンドツーエンド学習のための新しいグラフ検索手法を提案する。
抽出したサブグラフでは, 構造的知識と意味的特徴をそれぞれ軟式トークンと言語化グラフで符号化し, LLMに注入する。
提案手法は、複雑な推論タスクに対する結合グラフ-LLM最適化の強みを検証し、最先端の性能を一貫して達成する。
論文 参考訳(メタデータ) (2025-09-20T02:38:00Z) - Align-GRAG: Reasoning-Guided Dual Alignment for Graph Retrieval-Augmented Generation [79.75818239774952]
大きな言語モデル(LLM)は目覚ましい能力を示しているが、幻覚や時代遅れの情報といった問題に苦戦している。
Retrieval-augmented Generation (RAG) は、情報検索システム(IR)を用いて、外部知識のLLM出力を基底にすることで、これらの問題に対処する。
本稿では、検索後句における新しい推論誘導二重アライメントフレームワークであるAlign-GRAGを提案する。
論文 参考訳(メタデータ) (2025-05-22T05:15:27Z) - GFM-RAG: Graph Foundation Model for Retrieval Augmented Generation [83.72561905487447]
本稿では,新しいグラフ基盤モデル (GFM) である GFM-RAG について紹介する。
GFM-RAGは、複雑なクエリ-知識関係をキャプチャするグラフ構造を理由とする、革新的なグラフニューラルネットワークによって実現されている。
効率とニューラルスケーリング法則との整合性を維持しつつ、最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-02-03T07:04:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。