論文の概要: MoG: Mixture of Experts for Graph-based Retrieval-Augmented Generation
- arxiv url: http://arxiv.org/abs/2605.31010v1
- Date: Fri, 29 May 2026 08:43:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-01 20:56:50.481946
- Title: MoG: Mixture of Experts for Graph-based Retrieval-Augmented Generation
- Title(参考訳): MoG: グラフベース検索拡張ジェネレーションの専門家の混在
- Abstract要約: 我々はtextbfGraph を用いたRetrieval-Augmented Generation のための textbfMixture textbfof の専門家を提案する。
i) 意味的および構造的に中心的な知識をエンコードする多様で常にアクセス可能なハブグラフと、(ii) ドメイン固有の証拠を含む疎活性化された専門家グラフである。
- 参考スコア(独自算出の注目度): 28.549860825415703
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Retrieval-augmented generation is intensively studied to ground large language models on external evidence. However, retrieving from a unified knowledge base could inevitably introduce irrelevant information that may mislead generation for complex reasoning. Inspired by the conditional computation of mixture of experts (MoE), where a router sparsely selects specialized experts alongside shared ones for each input, we propose \textbf{M}ixture \textbf{o}f experts for \textbf{G}raph-based Retrieval-Augmented Generation, i.e., \textbf{MoG}. It organizes knowledge into two core components: (i) diverse, always-accessible hub graphs that encode semantically and structurally central knowledge and provide contextual clues for expert activation, and (ii) sparsely activated expert graphs that contain domain-specific evidence. MoG first accesses hub graphs to identify general evidence and derive contextual clues. Then, a topology-aware router dynamically activates a limited set of expert graphs conditioned on the query, thereby confining retrieval to a focused evidence subspace. Extensive experiments on challenging benchmarks show that MoG consistently outperforms strong baselines, with over 20\% relative improvement on MuSiQue. Our code is available in https://github.com/DEEP-PolyU/MoG.
- Abstract(参考訳): 検索強化世代は、外部の証拠に基づいて大きな言語モデルを構築するために集中的に研究されている。
しかし、統一知識ベースからの検索は、必然的に複雑な推論のために生成を誤解させる可能性のある無関係な情報を導入する可能性がある。
ルータが各入力に対して共有された専門家とともに専門専門家を疎選択する条件計算 (MoE) に着想を得て, レーフをベースとしたRetrieval-Augmented Generation, すなわち \textbf{M}ixture \textbf{o}fの専門家を提案する。
知識を2つのコアコンポーネントにまとめる。
i) 意味的かつ構造的に中心的な知識を符号化し、専門家のアクティベーションのための文脈的手がかりを提供する、多種多様な、常にアクセス可能なハブグラフ。
(ii)ドメイン固有の証拠を含む疎活性化された専門家グラフ。
MoGはまずハブグラフにアクセスして一般的な証拠を特定し、文脈的手がかりを導出する。
そして、トポロジ対応ルータは、クエリに条件付き専門家グラフの限られたセットを動的に活性化することにより、集中したエビデンスサブスペースへの検索を精算する。
挑戦的なベンチマークに関する大規模な実験によると、MoGは MuSiQue の相対的改善率が 20 % を超え、強いベースラインを一貫して上回っている。
私たちのコードはhttps://github.com/DEEP-PolyU/MoG.comで利用可能です。
関連論文リスト
- GRACE: Graph-Grounded Reflective Agent Copilot Engine for Expert-in-the-Loop Knowledge Expansion [2.729876880765472]
大規模言語モデルは、しばしばもっともらしいが根拠のないクレームを生成する。
GRACEは、応答をアトミックなクレームに分解し、信頼された知識の先駆者に対してそれらを根拠とするフレームワークである。
複数の言語モデルおよび一般知識とドメイン固有知識の両方にまたがるデータセット上でGRACEを評価する。
論文 参考訳(メタデータ) (2026-09-03T20:03:20Z) - Generalizing Graph Foundation Models via Hyperbolic Retrieval-Augmented Generation [36.1292155308597]
グラフ基礎モデル(GFM)はグラフ表現学習において支配的なパラダイムとして登場した。
本稿では,GFMの一般化能力を高めるためのフレームワークを提案する。
複数のグラフベンチマークの実験では、ゼロショット設定が大幅に改善された。
論文 参考訳(メタデータ) (2026-06-02T08:21:57Z) - Graph-Anchored Knowledge Indexing for Retrieval-Augmented Generation [53.42323544075114]
グラフアンコール型知識インデックス手法であるGraphAnchorを提案する。
4つのマルチホップ質問応答ベンチマークの実験では、GraphAnchorの有効性が示されている。
論文 参考訳(メタデータ) (2026-01-23T05:41:05Z) - Enrich-on-Graph: Query-Graph Alignment for Complex Reasoning with LLM Enriching [61.824094419641575]
大言語モデル(LLM)は知識グラフ質問応答(KGQA)のような知識集約的なシナリオにおける幻覚と事実的誤りに苦しむ
これは、構造化知識グラフ(KG)と非構造化クエリのセマンティックギャップによるもので、その焦点や構造に固有の違いが原因である。
既存の手法は通常、バニラKGの資源集約的で非スケーリング可能な推論を用いるが、このギャップを見落としている。
我々は、LLMの事前知識を活用してKGを充実させる柔軟なフレームワークEnrich-on-Graph(EoG)を提案し、グラフとクエリ間のセマンティックギャップを埋める。
論文 参考訳(メタデータ) (2025-09-25T06:48:52Z) - MIXRAG : Mixture-of-Experts Retrieval-Augmented Generation for Textual Graph Understanding and Question Answering [6.596018318578605]
Retrieval-Augmented Generation (RAG)は、推論中に外部知識ソースを組み込むことで、Large Language Models (LLM)を強化する。
既存のアプローチのほとんどは、関連するサブグラフを特定するために単一のレトリバーに依存しており、複雑なクエリのさまざまな側面をキャプチャする能力を制限する。
そこで我々は,Mixture-of-Experts Graph-RAGフレームワークであるMIXRAGを提案する。
論文 参考訳(メタデータ) (2025-09-24T02:44:57Z) - GRIL: Knowledge Graph Retrieval-Integrated Learning with Large Language Models [59.72897499248909]
本稿では,Large Language Models (LLM) を用いたエンドツーエンド学習のための新しいグラフ検索手法を提案する。
抽出したサブグラフでは, 構造的知識と意味的特徴をそれぞれ軟式トークンと言語化グラフで符号化し, LLMに注入する。
提案手法は、複雑な推論タスクに対する結合グラフ-LLM最適化の強みを検証し、最先端の性能を一貫して達成する。
論文 参考訳(メタデータ) (2025-09-20T02:38:00Z) - Cross-Granularity Hypergraph Retrieval-Augmented Generation for Multi-hop Question Answering [49.43814054718318]
マルチホップ質問応答 (MHQA) は、正しい回答を得るために複数の経路に散在する知識を統合する必要がある。
従来の検索拡張生成法(RAG)は主に粗い粒度のテキスト意味的類似性に焦点を当てている。
本稿では,HGRAG for MHQAという新しいRAG手法を提案する。
論文 参考訳(メタデータ) (2025-08-15T06:36:13Z) - MMGraphRAG: Bridging Vision and Language with Interpretable Multimodal Knowledge Graphs [6.165053219836395]
本稿では,シーングラフを通して視覚コンテンツを洗練し,マルチモーダルな知識グラフを構築するMMGraphRAGを提案する。
スペクトルクラスタリングを用いてクロスモーダルなエンティティリンクを実現し、推論経路に沿ってコンテキストを取得して生成プロセスを導く。
実験結果から,MMGraphRAGはDocBenchとMMLongBenchのデータセット上で最先端の性能を実現することがわかった。
論文 参考訳(メタデータ) (2025-07-28T13:16:23Z) - Align-GRAG: Reasoning-Guided Dual Alignment for Graph Retrieval-Augmented Generation [79.75818239774952]
大きな言語モデル(LLM)は目覚ましい能力を示しているが、幻覚や時代遅れの情報といった問題に苦戦している。
Retrieval-augmented Generation (RAG) は、情報検索システム(IR)を用いて、外部知識のLLM出力を基底にすることで、これらの問題に対処する。
本稿では、検索後句における新しい推論誘導二重アライメントフレームワークであるAlign-GRAGを提案する。
論文 参考訳(メタデータ) (2025-05-22T05:15:27Z) - Divide by Question, Conquer by Agent: SPLIT-RAG with Question-Driven Graph Partitioning [62.640169289390535]
SPLIT-RAGは、質問駆動セマンティックグラフ分割と協調サブグラフ検索による制限に対処するマルチエージェントRAGフレームワークである。
革新的なフレームワークは、まずリンク情報のセマンティック分割を作成し、次にタイプ特化知識ベースを使用してマルチエージェントRAGを実現する。
属性対応グラフセグメンテーションは、知識グラフを意味的に一貫性のあるサブグラフに分割し、サブグラフが異なるクエリタイプと整合することを保証する。
階層的なマージモジュールは、論理的検証を通じて、部分グラフ由来の解答間の矛盾を解消する。
論文 参考訳(メタデータ) (2025-05-20T06:44:34Z) - Mix-of-Granularity: Optimize the Chunking Granularity for Retrieval-Augmented Generation [7.071677694758966]
ルータを用いた入力クエリに基づいて知識源の最適粒度を決定する手法であるMix-of-Granularity(MoG)を提案する。
我々はMoGをMoG-Graph(MoGG)に拡張し、参照文書をグラフとして前処理することで、離れた位置にあるスニペットの検索を可能にする。
実験により,MoGとMoGGは最適粒度レベルを効果的に予測し,下流タスクにおけるRAGシステムの性能を著しく向上することが示された。
論文 参考訳(メタデータ) (2024-06-01T14:45:03Z) - Semantic Graphs for Generating Deep Questions [98.5161888878238]
本稿では、まず、入力文書のセマンティックレベルグラフを構築し、次にアテンションベースのGGNN(Att-GGNN)を導入してセマンティックグラフを符号化する新しいフレームワークを提案する。
HotpotQAのDeep-question中心のデータセットでは、複数の事実の推論を必要とする問題よりもパフォーマンスが大幅に向上し、最先端のパフォーマンスを実現しています。
論文 参考訳(メタデータ) (2020-04-27T10:52:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。