論文の概要: GRAG: Graph Retrieval-Augmented Generation

• arxiv url: http://arxiv.org/abs/2405.16506v1
• Date: Sun, 26 May 2024 10:11:40 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-28 20:49:07.170365
• Title: GRAG: Graph Retrieval-Augmented Generation
• Title（参考訳）: GRAG: グラフ検索拡張世代
• Authors: Yuntong Hu, Zhihan Lei, Zheng Zhang, Bo Pan, Chen Ling, Liang Zhao,
• Abstract要約: 我々は,検索プロセスと生成プロセスの両方を大幅に強化する$textbfGraph Retrieval-Augmented Generation (GRAG)$を紹介した。 テキストベースのエンティティ検索にのみ焦点をあてるRAGアプローチとは異なり、GRAGはグラフトポロジを鋭く認識している。 我々のGRAGアプローチは4つの主要な段階から構成される:$k$-hop ego-graphのインデックス化、グラフ検索、無関係なエンティティの影響を軽減するソフトプルーニング、およびプルーニングされたテキストサブグラフの生成である。
• 参考スコア（独自算出の注目度）: 14.98084919101233
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While Retrieval-Augmented Generation (RAG) enhances the accuracy and relevance of responses by generative language models, it falls short in graph-based contexts where both textual and topological information are important. Naive RAG approaches inherently neglect the structural intricacies of textual graphs, resulting in a critical gap in the generation process. To address this challenge, we introduce $\textbf{Graph Retrieval-Augmented Generation (GRAG)}$, which significantly enhances both the retrieval and generation processes by emphasizing the importance of subgraph structures. Unlike RAG approaches that focus solely on text-based entity retrieval, GRAG maintains an acute awareness of graph topology, which is crucial for generating contextually and factually coherent responses. Our GRAG approach consists of four main stages: indexing of $k$-hop ego-graphs, graph retrieval, soft pruning to mitigate the impact of irrelevant entities, and generation with pruned textual subgraphs. GRAG's core workflow-retrieving textual subgraphs followed by soft pruning-efficiently identifies relevant subgraph structures while avoiding the computational infeasibility typical of exhaustive subgraph searches, which are NP-hard. Moreover, we propose a novel prompting strategy that achieves lossless conversion from textual subgraphs to hierarchical text descriptions. Extensive experiments on graph multi-hop reasoning benchmarks demonstrate that in scenarios requiring multi-hop reasoning on textual graphs, our GRAG approach significantly outperforms current state-of-the-art RAG methods while effectively mitigating hallucinations.
• Abstract（参考訳）: Retrieval-Augmented Generation (RAG)は、生成言語モデルによる応答の精度と関連性を高めるが、テキスト情報とトポロジ情報の両方が重要であるグラフベースの文脈では不足する。 ネイブRAGアプローチは本質的にテキストグラフの構造的複雑さを無視し、生成プロセスに重大なギャップをもたらす。 この課題に対処するために,$\textbf{Graph Retrieval-Augmented Generation (GRAG)$を導入する。 テキストベースのエンティティ検索にのみ焦点をあてるRAGアプローチとは異なり、GRAGはグラフトポロジを鋭く認識している。 我々のGRAGアプローチは4つの主要な段階から構成される:$k$-hop ego-graphのインデックス化、グラフ検索、無関係なエンティティの影響を軽減するソフトプルーニング、およびプルーニングされたテキストサブグラフの生成である。 GRAGの中核となるワークフローを検索するテキストサブグラフとそれに続くソフトプルーニングは、NPハードな排他的サブグラフ探索の典型的な計算不可能性を避けながら、関連するサブグラフ構造を効果的に識別する。 さらに,テキストのサブグラフから階層的なテキスト記述への無意味な変換を実現する新しいプロンプト戦略を提案する。 グラフマルチホップ推論ベンチマークの大規模な実験により、テキストグラフ上でのマルチホップ推論を必要とする場合において、GRAGアプローチは幻覚を効果的に緩和しつつ、現在のRAG法よりも著しく優れていることが示された。

関連論文リスト

• Exploring Graph Structure Comprehension Ability of Multimodal Large Language Models: Case Studies [7.067145619709089]
  本研究では,グラフの可視化が大規模言語モデル(LLM)の性能に与える影響について検討する。 本実験は,純粋テキストグラフ表現に対するマルチモーダルアプローチの有効性を比較した。
  論文  参考訳（メタデータ） (2024-09-13T14:26:58Z)
• Hierarchical Compression of Text-Rich Graphs via Large Language Models [63.75293588479027]
  テキストリッチグラフは、eコマースや学術グラフのようなデータマイニングの文脈で広く使われている。 本稿では,LLMの能力とテキストリッチグラフの構造を整合させる新しい手法であるHiComを紹介する。 HiComは、Eコマースと引用グラフのノード分類において、GNNとLLMのバックボーンよりも優れている。
  論文  参考訳（メタデータ） (2024-06-13T07:24:46Z)
• Parameter-Efficient Tuning Large Language Models for Graph Representation Learning [62.26278815157628]
  Graph-awareを導入します。 GPEFT - グラフ表現学習のための新しい手法。 グラフニューラルネットワーク(GNN)を用いて、隣接するノードからグラフプロンプトに構造情報をエンコードする。 我々は8つの異なるテキストリッチグラフで実施した総合的な実験を通じて,リンク予測評価において hit@1 と Mean Reciprocal Rank (MRR) の平均 2% の改善を観察し,本手法の有効性を検証した。
  論文  参考訳（メタデータ） (2024-04-28T18:36:59Z)
• G-Retriever: Retrieval-Augmented Generation for Textual Graph Understanding and Question Answering [61.93058781222079]
  現実のテキストグラフを対象とするフレキシブルな問合せフレームワークを開発した。 一般のテキストグラフに対する最初の検索拡張生成(RAG)手法を提案する。 G-Retrieverは、このタスクをSteiner Tree最適化問題として定式化し、グラフ上でRAGを実行する。
  論文  参考訳（メタデータ） (2024-02-12T13:13:04Z)
• When Graph Data Meets Multimodal: A New Paradigm for Graph Understanding and Reasoning [54.84870836443311]
  本稿では,画像エンコーディングとマルチモーダル技術を統合することで,グラフデータの理解と推論を行う新しいパラダイムを提案する。 このアプローチは, GPT-4Vの高度な機能を利用して, 命令応答形式によるグラフデータの理解を可能にする。 研究は、このパラダイムを様々なグラフタイプで評価し、特に中国のOCRパフォーマンスと複雑な推論タスクにおいて、モデルの強みと弱みを強調した。
  論文  参考訳（メタデータ） (2023-12-16T08:14:11Z)
• Which Modality should I use -- Text, Motif, or Image? : Understanding Graphs with Large Language Models [14.251972223585765]
  本稿では,テキスト,画像,モチーフなどの多様性を持つグラフを符号化する新たな手法を提案する。 また、グラフ構造解析において、LLM(Large Language Models)を評価するための新しいベンチマークであるGraphTMIも提示されている。
  論文  参考訳（メタデータ） (2023-11-16T12:45:41Z)
• GRENADE: Graph-Centric Language Model for Self-Supervised Representation Learning on Text-Attributed Graphs [22.282756544376493]
  テキスト分散グラフ上での自己教師型表現学習の問題を解決するために,新しいグラフ中心言語モデルGRENADEを開発した。 GRENADEは、事前訓練された言語モデルとグラフニューラルネットワークの両方の相乗効果を利用して、2つの専門的な自己教師付き学習アルゴリズムを最適化する。 提案したグラフ中心の自己教師型学習アルゴリズムは、GRENADEが情報的テキスト意味論だけでなく、テキスト対応グラフの構造的コンテキスト情報を取得するのに有効である。
  論文  参考訳（メタデータ） (2023-10-23T17:18:35Z)
• Improving Graph-Based Text Representations with Character and Word Level N-grams [30.699644290131044]
  単語と文字n-gramノードを文書ノードと組み合わせた新しい単語文字テキストグラフを提案する。 また、提案したテキストグラフをモデル化するための2つの新しいグラフベースニューラルモデルWCTextGCNとWCTextGATを提案する。
  論文  参考訳（メタデータ） (2022-10-12T08:07:54Z)
• Graph Pooling for Graph Neural Networks: Progress, Challenges, and Opportunities [128.55790219377315]
  グラフニューラルネットワークは多くのグラフレベルのタスクの主要なアーキテクチャとして登場した。 グラフプーリングは、グラフ全体の全体的グラフレベル表現を得るためには不可欠である。
  論文  参考訳（メタデータ） (2022-04-15T04:02:06Z)
• Promoting Graph Awareness in Linearized Graph-to-Text Generation [72.83863719868364]
  局所グラフ構造を符号化する線形化モデルの能力を検討する。 本研究は,モデルの暗黙のグラフ符号化の品質を高めるための解法である。 これらの消音足場は、低リソース設定における下流生成の大幅な改善につながることが分かりました。
  論文  参考訳（メタデータ） (2020-12-31T18:17:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。