論文の概要: Read the Route: Attention-Steered Hypergraph Retrieval for Multi-hop RAG
- arxiv url: http://arxiv.org/abs/2610.35412v1
- Date: Mon, 26 Oct 2026 13:24:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.938663
- Title: Read the Route: Attention-Steered Hypergraph Retrieval for Multi-hop RAG
- Title(参考訳): 経路を読む:マルチホップRAG用アテンションステアリングハイパーグラフ検索
- Abstract要約: グラフベースの検索強化生成(GraphRAG)は、コーパスをグラフに整理し、その構造に沿って検索することで、マルチホップの質問に答える。
本稿では,パーソナライズされたPageRankを記述ラベル付きハイパーグラフ上で動作させるHyperAddressを提案する。
2倍以上の速さで回答し、半分のコストでインデックスを構築します。
- 参考スコア(独自算出の注目度): 5.839275979943778
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph-based retrieval-augmented generation (GraphRAG) answers multi-hop questions by organizing a corpus into a graph and retrieving along its structure. Existing retrieval methods face two limitations. Diffusion- and similarity-based methods expand retrieval along fixed edge weights or by similarity to the question, without resolving its implicit entity references, allowing relevance errors to accumulate across hops. In contrast, exploration-based methods let an LLM reason about the next hop, but require a separate generation at each hop, leading to high inference costs. We observe that an LLM can resolve implicit entity references from retrieved passages and a multi-hop question before generating any tokens. Further analysis identifies a small set of attention heads, termed addressing heads, that capture this capability across multiple hops in a single forward pass. Building on this finding, we propose HyperAddress, which runs Personalized PageRank on a description-labelled hypergraph, using addressing heads to determine the restart distribution and transition weights, thereby guiding multi-hop retrieval without any generation at query time. On MuSiQue, 2WikiMultiHopQA, and HotpotQA, HyperAddress outperforms the strongest baseline by 3.5 points of Recall@5 and 7.4 points of All@5 on average, with gains that grow with the number of hops. It answers more than twice as fast and builds its index at half the cost.
- Abstract(参考訳): グラフベースの検索強化生成(GraphRAG)は、コーパスをグラフに整理し、その構造に沿って検索することで、マルチホップの質問に答える。
既存の検索手法には2つの制限がある。
拡散および類似性に基づく手法は、暗黙の実体参照を解決せずに、固定されたエッジウェイトに沿って検索を拡張したり、質問と類似することで、ホップ全体に関連性エラーが蓄積される。
対照的に、探索に基づく手法では、LCMが次のホップについて推論するが、各ホップで別世代を必要とするため、高い推論コストが生じる。
我々は、LLMがトークンを生成する前に、検索されたパスとマルチホップ質問から暗黙的なエンティティ参照を解決できることを観察する。
さらなる分析により、アドレッシングヘッドと呼ばれる小さな注意ヘッドのセットが特定され、単一のフォワードパスで複数のホップにまたがるこの機能をキャプチャする。
そこで本研究では,ハイパーアドdressを提案する。このハイパーアドdressはパーソナライズされたPageRankを記述ラベル付きハイパーグラフ上で実行し,アドレッシングヘッドを用いて再起動分布と遷移重みを判定し,クエリ時に何世代も生成せずにマルチホップ検索を誘導する。
MuSiQue、2WikiMultiHopQA、HotpotQAでは、HyperAddressはRecall@5の3.5ポイント、All@5の7.4ポイントで最強のベースラインを上回り、ホップ数の増加とともに上昇している。
2倍以上の速さで回答し、半分のコストでインデックスを構築します。
関連論文リスト
- KAMR: Grounding Generation via Knowledge-Aligned Multi-hop Retrieval [31.963913285966033]
KAMRは、クエリによって強い制約を受けるアンカー三重項と、アンカーと構造的に結びついているアンカー三重項とを区別する。
推論時、KAMRは世界中のアンカーを回収し、その後局所的に拡大して接続された証拠を収集する。
論文 参考訳(メタデータ) (2026-07-29T17:07:37Z) - MDER-DR: Multi-Hop Question Answering with Entity-Centric Summaries [2.756584457554517]
Map-Disambiguate-Enrich-Reduce (MDER)はコンテキスト由来の3重記述を生成し、エンティティレベルの要約と統合する。
Decompose-Resolve (DR)は、ユーザクエリを解決可能なトリプルに分解し、知識グラフに格納する。
MDERとDRはLLM駆動のQAパイプラインを形成し、スパース、不完全、複雑なリレーショナルデータに対して堅牢である。
論文 参考訳(メタデータ) (2026-03-11T18:38:44Z) - StepChain GraphRAG: Reasoning Over Knowledge Graphs for Multi-Hop Question Answering [32.34277555394503]
本稿では,BFS(Breadth-First Search)推論フローと質問分解を結合するフレームワークであるStepChain GraphRAGを紹介する。
提案手法はまず,コーパス上のグローバルインデックスを構築する。推測時には,検索したパスのみをオンザフライで解析して知識グラフを作成する。
MuSiQue、2WikiMultiHopQA、HotpotQAの実験では、StepChain GraphRAGが最先端のExact MatchとF1スコアを達成した。
論文 参考訳(メタデータ) (2025-10-03T09:06:37Z) - GRITHopper: Decomposition-Free Multi-Hop Dense Retrieval [52.47514434103737]
GRITHopper-7Bは,最先端性能を実現する新しいマルチホップ高密度検索モデルである。
GRITHopperは、因果言語モデリングと密集した検索訓練を統合することで、生成的および表現的命令チューニングを組み合わせる。
検索後言語モデリングと呼ばれる検索プロセスの後に追加のコンテキストを組み込むことで,検索性能が向上することがわかった。
論文 参考訳(メタデータ) (2025-03-10T16:42:48Z) - End-to-End Beam Retrieval for Multi-Hop Question Answering [37.13580394608824]
マルチホップ質問応答は、複数の関連するパスを見つけ出し、複雑な質問に答えるためにステップバイステップの推論を行う。
以前のレトリバーは2ホップの質問のためにカスタマイズされ、そのほとんどは異なるホップで個別に訓練された。
マルチホップQAのためのエンドツーエンドのビーム検索フレームワークであるビーム検索について紹介する。
論文 参考訳(メタデータ) (2023-08-17T13:24:14Z) - UniKGQA: Unified Retrieval and Reasoning for Solving Multi-hop Question
Answering Over Knowledge Graph [89.98762327725112]
KGQA(Multi-hop Question Answering over Knowledge Graph)は、自然言語の質問で言及されているトピックエンティティから、複数のホップを持つ回答エンティティを見つけることを目的としている。
我々は、モデルアーキテクチャとパラメータ学習の両方において、検索と推論を統合することで、マルチホップKGQAタスクの新しいアプローチであるUniKGQAを提案する。
論文 参考訳(メタデータ) (2022-12-02T04:08:09Z) - Locate Then Ask: Interpretable Stepwise Reasoning for Multi-hop Question
Answering [71.49131159045811]
マルチホップ推論では、複雑な質問に答えるために複数の文書を集約する必要がある。
既存の方法は通常、マルチホップの質問を単純なシングルホップの質問に分解する。
そこで本研究では,単一ホップ支援文識別と単一ホップ質問生成の両方を組み込む,解釈可能な段階的推論フレームワークを提案する。
論文 参考訳(メタデータ) (2022-08-22T13:24:25Z) - Modeling Multi-hop Question Answering as Single Sequence Prediction [88.72621430714985]
本稿では,単純な生成手法(PathFid)を提案する。
PathFidは、マルチホップ質問に対する回答を解決するための推論プロセスを明示的にモデル化する。
実験の結果,PathFidは2つのマルチホップQAデータセットに対して高い性能向上をもたらすことが示された。
論文 参考訳(メタデータ) (2022-05-18T21:57:59Z) - Memory Augmented Sequential Paragraph Retrieval for Multi-hop Question
Answering [32.69969157825044]
本稿では,段落を逐次データとしてモデル化し,マルチホップ情報検索をシーケンスラベリングタスクの一種とみなす新しいアーキテクチャを提案する。
本手法は,公開テキストマルチホップQAデータセットであるHotpotQAのフルwikiとイントラクタサブタスクの両方で評価する。
論文 参考訳(メタデータ) (2021-02-07T08:15:51Z) - Multi-hop Question Generation with Graph Convolutional Network [58.31752179830959]
マルチホップ質問生成(Multi-hop Question Generation, QG)は,異なる段落から散在する複数の証拠を集約・推論することで,回答に関連する質問を生成することを目的とする。
複数のホップでコンテキストエンコーディングを行うMulQG(Multi-Hop volution Fusion Network for Question Generation)を提案する。
提案モデルでは,高い完全性を有する流動的な質問を生成することができ,マルチホップ評価において,最強のベースラインを20.8%向上させることができる。
論文 参考訳(メタデータ) (2020-10-19T06:15:36Z) - Answering Any-hop Open-domain Questions with Iterative Document
Reranking [62.76025579681472]
オープンドメインの問に答える統合QAフレームワークを提案する。
提案手法は,シングルホップおよびマルチホップのオープンドメインQAデータセットにおいて,最先端技術に匹敵する性能を継続的に達成する。
論文 参考訳(メタデータ) (2020-09-16T04:31:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。