論文の概要: Think Parallax: Solving Multi-Hop Problems via Multi-View Knowledge-Graph-Based Retrieval-Augmented Generation
- arxiv url: http://arxiv.org/abs/2510.15552v1
- Date: Fri, 17 Oct 2025 11:34:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-20 20:17:34.59665
- Title: Think Parallax: Solving Multi-Hop Problems via Multi-View Knowledge-Graph-Based Retrieval-Augmented Generation
- Title(参考訳): 思考パララックス:多視点知識グラフに基づく検索生成によるマルチホップ問題の解決
- Authors: Jinliang Liu,
- Abstract要約: 大きな言語モデル(LLM)は言語理解に優れるが、幻覚とマルチホップ推論との闘いがしばしばある。
ParallaxRAGは,クエリとグラフトリプルを対称的に多重ビュー空間に分解するフレームワークである。
本結果は,知識に基づくマルチホップ推論の原則的方向性として,多視点頭部の特殊化に注目した。
- 参考スコア(独自算出の注目度): 2.8890464940342873
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) excel at language understanding but often hallucinate and struggle with multi-hop reasoning. Knowledge-graph-based retrieval-augmented generation (KG-RAG) offers grounding, yet most methods rely on flat embeddings and noisy path exploration. We propose ParallaxRAG, a framework that symmetrically decouples queries and graph triples into multi-view spaces, enabling a robust retrieval architecture that explicitly enforces head diversity while constraining weakly related paths. Central to our approach is the observation that different attention heads specialize in semantic relations at distinct reasoning stages, contributing to different hops of the reasoning chain. This specialization allows ParallaxRAG to construct cleaner subgraphs and guide LLMs through grounded, step-wise reasoning. Experiments on WebQSP and CWQ, under our unified, reproducible setup (BGE-M3 + Llama3.1-8B), demonstrate competitive retrieval and QA performance, alongside reduced hallucination and good generalization. Our results highlight multi-view head specialization as a principled direction for knowledge-grounded multi-hop reasoning. Our implementation will be released as soon as the paper is accepted.
- Abstract(参考訳): 大きな言語モデル(LLM)は言語理解に優れるが、幻覚とマルチホップ推論との闘いがしばしばある。
知識グラフに基づく検索拡張生成(KG-RAG)は基盤を提供するが、ほとんどの手法は平らな埋め込みとノイズの多い経路探索に依存している。
提案するParallaxRAGは,クエリとグラフトリプルをマルチビュー空間に対称的に分離するフレームワークであり,弱い関係の経路を制約しながら,頭部の多様性を明示的に強制する堅牢な検索アーキテクチャを実現する。
我々のアプローチの中心は、異なる注意の頭脳が、異なる推論段階における意味関係を専門とし、推論連鎖の異なるホップに寄与する、という観察である。
この特殊化により、ParallaxRAG はよりクリーンなサブグラフを構築し、ステップワイズな推論を通じて LLM を導くことができる。
WebQSPとCWQの実験は、我々の統一された再現可能なセットアップ(BGE-M3 + Llama3.1-8B)の下で、幻覚の減少と優れた一般化とともに、競争力のある検索とQA性能を示す。
本結果は,知識に基づくマルチホップ推論の原則的方向性として,多視点頭部の特殊化に注目した。
論文が受理されたらすぐに実装が公開される。
関連論文リスト
- GRIL: Knowledge Graph Retrieval-Integrated Learning with Large Language Models [59.72897499248909]
本稿では,Large Language Models (LLM) を用いたエンドツーエンド学習のための新しいグラフ検索手法を提案する。
抽出したサブグラフでは, 構造的知識と意味的特徴をそれぞれ軟式トークンと言語化グラフで符号化し, LLMに注入する。
提案手法は、複雑な推論タスクに対する結合グラフ-LLM最適化の強みを検証し、最先端の性能を一貫して達成する。
論文 参考訳(メタデータ) (2025-09-20T02:38:00Z) - Towards Agentic RAG with Deep Reasoning: A Survey of RAG-Reasoning Systems in LLMs [69.10441885629787]
Retrieval-Augmented Generation (RAG) は、外部知識を注入することによって、Large Language Models (LLM) の事実性を高める。
逆に、純粋に推論指向のアプローチは、しばしば幻覚的あるいは誤った事実を必要とする。
この調査は両鎖を統一的推論-検索の観点から合成する。
論文 参考訳(メタデータ) (2025-07-13T03:29:41Z) - Learning Efficient and Generalizable Graph Retriever for Knowledge-Graph Question Answering [75.12322966980003]
大規模言語モデル(LLM)は、様々な領域にわたって強い帰納的推論能力を示している。
既存のRAGパイプラインのほとんどは非構造化テキストに依存しており、解釈可能性と構造化推論を制限する。
近年,知識グラフ解答のための知識グラフとLLMの統合について検討している。
KGQAにおける効率的なグラフ検索のための新しいフレームワークであるRAPLを提案する。
論文 参考訳(メタデータ) (2025-06-11T12:03:52Z) - PropRAG: Guiding Retrieval with Beam Search over Proposition Paths [15.346744525284604]
PropRAGは、トリプルからコンテキストリッチな命題に移行する新しいRAGフレームワークである。
PropRAGは2Wiki、HotpotQA、MuSiQueでRecall@5とF1のスコアを達成している。
論文 参考訳(メタデータ) (2025-04-25T04:47:34Z) - HopRAG: Multi-Hop Reasoning for Logic-Aware Retrieval-Augmented Generation [28.69822159828129]
グラフ構造化知識探索による論理的推論による検索を強化する新しいRAGフレームワークである textbfHopRAG を提案する。
インデックス作成中にHopRAGは、テキストチャンクを頂点とし、LLM生成した擬似クエリをエッジとして確立した論理接続をエッジとして、パスグラフを構築する。
語彙的または意味論的に類似した通路から始まり、擬似クエリとLSM推論によって導かれるマルチホップ隣人を探索し、真に関連のあるものを識別する。
論文 参考訳(メタデータ) (2025-02-18T02:24:42Z) - PathFinder: Guided Search over Multi-Step Reasoning Paths [80.56102301441899]
木探索に基づく推論経路生成手法であるPathFinderを提案する。
動的デコードの統合により、多様な分岐とマルチホップ推論を強化する。
我々のモデルは、大きな分岐因子を持つビームサーチに類似した複雑さを反映して、よく、長く、目に見えない推論連鎖を一般化する。
論文 参考訳(メタデータ) (2023-12-08T17:05:47Z) - Scalable Multi-Hop Relational Reasoning for Knowledge-Aware Question
Answering [35.40919477319811]
本稿では,事前学習された言語モデルにマルチホップ関係推論モジュールを組み込む新しい知識認識手法を提案する。
外部知識グラフから抽出したサブグラフに対して、マルチホップ、マルチリレーショナル推論を行う。
パスベースの推論手法とグラフニューラルネットワークを統合して、より優れた解釈性とスケーラビリティを実現する。
論文 参考訳(メタデータ) (2020-05-01T23:10:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。