論文の概要: KET-RAG: A Cost-Efficient Multi-Granular Indexing Framework for Graph-RAG
- arxiv url: http://arxiv.org/abs/2502.09304v1
- Date: Thu, 13 Feb 2025 13:16:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-14 13:47:05.954676
- Title: KET-RAG: A Cost-Efficient Multi-Granular Indexing Framework for Graph-RAG
- Title(参考訳): KET-RAG - Graph-RAGのための費用効率の良いマルチグラニュラーインデックスフレームワーク
- Authors: Yiqian Huang, Shiqi Zhang, Xiaokui Xiao,
- Abstract要約: Graph-RAGは、Large Language Model (LLM)ベースの質問応答における検索を改善するために、テキストチャンクから知識グラフを構築する。
既存のGraph-RAGシステムでは、テキストチャンクの関連性に基づいてKNNグラフを構築しているが、この粗い粒度のアプローチでは、テキスト内のエンティティ関係をキャプチャできない。
KET-RAGは,インデクシングコストを低減しつつ,良好な結果の精度を確保するための多粒性インデックスフレームワークである。
- 参考スコア(独自算出の注目度): 21.62060252772377
- License:
- Abstract: Graph-RAG constructs a knowledge graph from text chunks to improve retrieval in Large Language Model (LLM)-based question answering. It is particularly useful in domains such as biomedicine, law, and political science, where retrieval often requires multi-hop reasoning over proprietary documents. Some existing Graph-RAG systems construct KNN graphs based on text chunk relevance, but this coarse-grained approach fails to capture entity relationships within texts, leading to sub-par retrieval and generation quality. To address this, recent solutions leverage LLMs to extract entities and relationships from text chunks, constructing triplet-based knowledge graphs. However, this approach incurs significant indexing costs, especially for large document collections. To ensure a good result accuracy while reducing the indexing cost, we propose KET-RAG, a multi-granular indexing framework. KET-RAG first identifies a small set of key text chunks and leverages an LLM to construct a knowledge graph skeleton. It then builds a text-keyword bipartite graph from all text chunks, serving as a lightweight alternative to a full knowledge graph. During retrieval, KET-RAG searches both structures: it follows the local search strategy of existing Graph-RAG systems on the skeleton while mimicking this search on the bipartite graph to improve retrieval quality. We evaluate eight solutions on two real-world datasets, demonstrating that KET-RAG outperforms all competitors in indexing cost, retrieval effectiveness, and generation quality. Notably, it achieves comparable or superior retrieval quality to Microsoft's Graph-RAG while reducing indexing costs by over an order of magnitude. Additionally, it improves the generation quality by up to 32.4% while lowering indexing costs by around 20%.
- Abstract(参考訳): Graph-RAGは、Large Language Model (LLM)ベースの質問応答における検索を改善するために、テキストチャンクから知識グラフを構築する。
バイオメディシン、法学、政治学などの分野では特に有用であり、検索にはプロプライエタリな文書に対するマルチホップ推論が必要となることが多い。
既存のGraph-RAGシステムでは、テキストチャンクの関連性に基づいてKNNグラフを構築しているが、この粗い粒度のアプローチではテキスト内のエンティティ関係をキャプチャできず、サブパー検索と生成品質に繋がる。
この問題に対処するために、最近のソリューションでは、LCMを活用して、テキストチャンクからエンティティと関係を抽出し、トリプルトベースの知識グラフを構築する。
しかし、このアプローチは、特に大規模なドキュメント収集において、大幅なインデックス作成コストを発生させる。
インデクシングコストを低減しつつ、良好な結果の精度を確保するため、マルチグラニュラインデックスフレームワークであるKET-RAGを提案する。
KET-RAGはまず、キーテキストチャンクの小さなセットを特定し、LLMを活用して知識グラフスケルトンを構築する。
その後、すべてのテキストチャンクからテキストキーワードの2部グラフを構築し、完全な知識グラフの軽量な代替として機能する。
検索中、KET-RAGは2つの構造を検索する: 既存のGraph-RAGシステムのスケルトン上の局所的な検索戦略に従い、この検索を二部グラフ上で模倣して検索品質を向上させる。
実世界の2つのデータセット上で8つのソリューションを評価し、KET-RAGが索引付けコスト、検索効率、生成品質において全ての競合より優れていることを示した。
特に、インデックス作成コストを桁違いに削減しながら、MicrosoftのGraph-RAGに匹敵する、あるいは優れた検索品質を実現している。
さらに、インデックス作成コストを約20%削減しながら、生成品質を最大32.4%向上させる。
関連論文リスト
- LEGO-GraphRAG: Modularizing Graph-based Retrieval-Augmented Generation for Design Space Exploration [17.514586423233872]
LEGO-GraphRAGは,GraphRAGワークフローのきめ細かい分解を可能にするモジュール型フレームワークである。
本フレームワークは,大規模実世界のグラフと多様なクエリセット上でのグラフRAGの総合的研究を促進する。
論文 参考訳(メタデータ) (2024-11-06T15:32:28Z) - Graph Retrieval-Augmented Generation: A Survey [28.979898837538958]
Retrieval-Augmented Generation (RAG)は、大規模言語モデル(LLM)の課題に再トレーニングを必要とせずに対処することに成功した。
本稿では,GraphRAGの方法論について概観する。
Graph-Based Indexing、Graph-Guided Retrieval、Graph-Enhanced Generationを含むGraphRAGワークフローを形式化する。
論文 参考訳(メタデータ) (2024-08-15T12:20:24Z) - Towards Lightweight Graph Neural Network Search with Curriculum Graph Sparsification [48.334100429553644]
本稿では,有意義なグラフデータを通じて重要なサブアーキテクチャを識別する結合グラフデータとアーキテクチャ機構を設計することを提案する。
最適軽量グラフニューラルネット(GNN)を探索するために,グラフスペーシングとネットワーク・プルーニング(GASSIP)法を用いた軽量グラフニューラル・アーキテクチャ・サーチを提案する。
本手法は,探索したGNNとスペーサーグラフのモデルパラメータを半分以下にすることで,オンパーあるいはそれ以上高いノード分類性能を実現する。
論文 参考訳(メタデータ) (2024-06-24T06:53:37Z) - Hierarchical Compression of Text-Rich Graphs via Large Language Models [63.75293588479027]
テキストリッチグラフは、eコマースや学術グラフのようなデータマイニングの文脈で広く使われている。
本稿では,LLMの能力とテキストリッチグラフの構造を整合させる新しい手法であるHiComを紹介する。
HiComは、Eコマースと引用グラフのノード分類において、GNNとLLMのバックボーンよりも優れている。
論文 参考訳(メタデータ) (2024-06-13T07:24:46Z) - GRAG: Graph Retrieval-Augmented Generation [14.98084919101233]
Graph Retrieval-Augmented Generation (GRAG)は、テキストサブグラフを取得する際の根本的な課題に取り組む。
本稿では,線形時間で最適な部分グラフ構造を検索する新たな分割・対数戦略を提案する。
提案手法は現状のRAG法を著しく上回っている。
論文 参考訳(メタデータ) (2024-05-26T10:11:40Z) - Parameter-Efficient Tuning Large Language Models for Graph Representation Learning [62.26278815157628]
Graph-awareを導入します。
GPEFT - グラフ表現学習のための新しい手法。
グラフニューラルネットワーク(GNN)を用いて、隣接するノードからグラフプロンプトに構造情報をエンコードする。
我々は8つの異なるテキストリッチグラフで実施した総合的な実験を通じて,リンク予測評価において hit@1 と Mean Reciprocal Rank (MRR) の平均 2% の改善を観察し,本手法の有効性を検証した。
論文 参考訳(メタデータ) (2024-04-28T18:36:59Z) - Graph Chain-of-Thought: Augmenting Large Language Models by Reasoning on Graphs [60.71360240206726]
大規模言語モデル(LLM)は、特に知識集約的なタスクにおいて幻覚に悩まされる。
既存の研究は、外部知識コーパスから取得した個々のテキスト単位でLLMを拡張することを提案する。
本稿では,グラフを反復的に推論することで,LLMをグラフで拡張するためのGraph Chain-of-thinkt (Graph-CoT) というフレームワークを提案する。
論文 参考訳(メタデータ) (2024-04-10T15:41:53Z) - G-Retriever: Retrieval-Augmented Generation for Textual Graph Understanding and Question Answering [61.93058781222079]
現実のテキストグラフを対象とするフレキシブルな問合せフレームワークを開発した。
一般のテキストグラフに対する最初の検索拡張生成(RAG)手法を提案する。
G-Retrieverは、このタスクをSteiner Tree最適化問題として定式化し、グラフ上でRAGを実行する。
論文 参考訳(メタデータ) (2024-02-12T13:13:04Z) - Subgraph Matching via Query-Conditioned Subgraph Matching Neural
Networks and Bi-Level Tree Search [33.9052190473029]
サブグラフマッチングは、グラフデータベース検索、バイオメディカル分析、ソーシャルグループ検索などにおける中核的な操作である。
本稿では,クエリと対象グラフのマッチング情報を動的に計算する,新しいエンコーダ・デコーダニューラルネットワークアーキテクチャを提案する。
5つの大きな実世界のターゲットグラフの実験により、N-BLSはサブグラフマッチング性能を大幅に改善できることが示された。
論文 参考訳(メタデータ) (2022-07-21T04:47:21Z) - Automatic Relation-aware Graph Network Proliferation [182.30735195376792]
GNNを効率的に検索するためのARGNP(Automatic Relation-Aware Graph Network Proliferation)を提案する。
これらの操作は階層的なノード/リレーショナル情報を抽出し、グラフ上のメッセージパッシングのための異方的ガイダンスを提供する。
4つのグラフ学習タスクのための6つのデータセットの実験により、我々の手法によって生成されたGNNは、現在最先端の手作りおよび検索に基づくGNNよりも優れていることが示された。
論文 参考訳(メタデータ) (2022-05-31T10:38:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。