論文の概要: LADDER: Graph-Guided Diffusion Language Models for Efficient Multi-Hop Reasoning
- arxiv url: http://arxiv.org/abs/2609.24346v1
- Date: Mon, 21 Sep 2026 09:41:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-23 18:04:03.979222
- Title: LADDER: Graph-Guided Diffusion Language Models for Efficient Multi-Hop Reasoning
- Title(参考訳): LADDER: 効率的なマルチホップ推論のためのグラフ誘導拡散言語モデル
- Abstract要約: LADDERはグラフ誘導並列デコーディングを通じてGraphRAGで拡散言語モデリングをブリッジする新しいフレームワークである。
LADDERは平均一致率を39.6%から45.2%に引き上げ,4.1倍の遅延低減を実現している。
- 参考スコア(独自算出の注目度): 23.186936391268773
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph Retrieval-Augmented Generation (GraphRAG) has remarkably enhanced large language models on complex reasoning by leveraging structured entity topologies. However, existing frameworks heavily rely on standard autoregressive language models where the nature of inherent sequential generation severely hinders overall inference efficiency. Inspired by Diffusion Language Models (DLMs) that offer massive parallelism via continuous refine-in-parallel decoding, we aim to accelerate GraphRAG in the discrete space. However, it remains non-trivial for two challenges. First, partially denoised drafts are highly dynamic and uncertain, making dynamic graph grounding non-trivial. Second, raw denoising states are inherently noisy and unstable, making synchronous graph retrieval and multi-hop aggregation computationally prohibitive. To this end, we present LADDER, a novel framework that bridges diffusion language modeling with GraphRAG through graph-guided parallel decoding. Specifically, (i) we propose an event-driven self-clocking retrieval, inspired by our key insight that 88% of target entities emerge early in the partially denoised state, leading final commitment by an average of 5.7-9.6 steps. This mechanism dynamically triggers graph retrieval only when the set of graph-linkable entities expands, yielding an asynchronous self-clocking policy that bypasses learned gates or heuristic thresholds. (ii) An incomplete-query graph propagation module is designed to process the newly emerging entity queries using a specialized graph foundation model, continuously aggregating multi-hop evidence to sharpen parallel predictions and accelerate overall decoding convergence. Extensive experiments on three challenging multi-hop QA benchmarks show that LADDER raises average exact match from 39.6% to 45.2% while achieving a 4.1x latency reduction.
- Abstract(参考訳): Graph Retrieval-Augmented Generation (GraphRAG)は、構造化エンティティトポロジを活用することで、複雑な推論において大きな言語モデルを大幅に強化した。
しかし、既存のフレームワークは、固有の逐次生成の性質が全体的な推論効率を著しく妨げている標準の自己回帰言語モデルに大きく依存している。
分散言語モデル (DLM) に着想を得て, 離散空間におけるGraphRAGの高速化を目指す。
しかし、この2つの課題は自明ではない。
まず、部分的に分類されたドラフトは、非常に動的で不確実であり、動的グラフグラウンドは非自明である。
第二に、生の雑音状態は本質的にノイズが多く不安定であり、同期グラフ検索とマルチホップ集約は計算を禁止している。
この目的のために,グラフ誘導並列デコーディングによる拡散言語モデリングをGraphRAGでブリッジする新しいフレームワークであるLADDERを提案する。
具体的には
(i) 事象駆動型セルフクロック検索を提案し, 目標エンティティの88%が部分的認知状態の早期に出現し, 平均5.7~9.6ステップで最終コミットメントを導いた。
このメカニズムはグラフリンク可能なエンティティの集合が拡張された場合にのみグラフ検索を動的にトリガーし、学習されたゲートやヒューリスティックしきい値をバイパスする非同期なセルフクロックポリシーを生成する。
(II)不完全クエリグラフの伝搬モジュールは、特殊グラフ基盤モデルを用いて新しいエンティティクエリを処理し、マルチホップエビデンスを連続的に集約し、並列予測を鋭くし、全体的なデコード収束を加速するように設計されている。
3つの挑戦的なマルチホップQAベンチマークの大規模な実験により、LADDERは平均的な正確なマッチを39.6%から45.2%に引き上げ、レイテンシは4.1倍に低下した。
関連論文リスト
- EvoGraph-R1: Self-Evolving Multimodal Knowledge Hypergraphs for Agentic Retrieval [23.778354620399316]
EvoGraph-R1は、知識グラフをエージェントインタラクションによって形成される動的環境として再認識する、自己進化的なGraphRAGフレームワークである。
エージェントがグラフの状態を観察し、クエリ(GraphRetrieve)、拡張(WebSearch)、洗練(GraphEdit)、あるいは終了(Answer)のためのアクションを実行する、マルコフ決定プロセス(MDP)として検索を定式化する。
マルチモーダルVQAとテキストQAベンチマークの実験では、既存のRAGベースラインよりも精度、カバレッジ、トレーサビリティが大幅に向上した。
論文 参考訳(メタデータ) (2026-07-14T13:34:07Z) - AdaSTORM: Scaling LLM Reasoning on Dynamic Graphs via Adaptive Spatio-Temporal Multi-Agent Collaboration [17.873099309973657]
本稿では,AdaSTORM(Adaptive Spatio-Temporal MultiAgent-Temporal Collaboration)による動的グラフのスケーリング推論について述べる。
AdaSTORMは、動的グラフ推論に適した最初のマルチエージェントフレームワークである。
既存のベンチマークで最先端の精度を実現し、実世界のデータセットに堅牢に一般化する。
論文 参考訳(メタデータ) (2026-06-15T07:32:44Z) - Graph Hierarchical Recurrence for Long-Range Generalization [25.351165089986868]
グラフニューラルネットワーク(GNN)とグラフトランスフォーマー(GT)は現在、グラフ学習の基本的なパラダイムとなっている。
グラフ階層再帰(GHR: Graph Hierarchical Recurrence)は,入力グラフとプールによって得られる階層的抽象化を併用した新しいフレームワークである。
我々はGHRが既存のグラフモデルより一貫して優れており、現在の最先端モデルのパラメータの1%しか使用していないことを示す。
論文 参考訳(メタデータ) (2026-05-18T13:31:21Z) - Decoupled and Divergence-Conditioned Prompt for Multi-domain Dynamic Graph Foundation Models [59.8742208800447]
分離および分散条件付きプロンプトに基づく動的グラフ基礎モデルであるDyGFMを提案する。
DyGFMは、ノード分類とリンク予測の両方において、12の最先端のベースラインを一貫して上回ることを示す。
論文 参考訳(メタデータ) (2026-05-13T13:50:03Z) - HELP: HyperNode Expansion and Logical Path-Guided Evidence Localization for Accurate and Efficient GraphRAG [53.30561659838455]
大きな言語モデル(LLM)は、しばしば固有の知識境界と幻覚に苦しむ。
Retrieval-Augmented Generation (RAG) は、マルチホップ推論に不可欠な構造的相互依存性をしばしば見落としている。
ヘルプは、複数の単純でマルチホップなQAベンチマークで競合性能を達成し、グラフベースのRAGベースラインよりも28.8$times$のスピードアップを実現している。
論文 参考訳(メタデータ) (2026-02-24T14:05:29Z) - ProGraph-R1: Progress-aware Reinforcement Learning for Graph Retrieval Augmented Generation [37.11787010202267]
ProGraph-R1は,グラフベースの検索と多段階推論のためのプログレッシブ・エージェント・フレームワークである。
ProGraph-R1は、意味的関連性とグラフ接続性について共同で検討する構造対応のハイパーグラフ検索機構を導入している。
マルチホップ質問応答ベンチマークの実験では、ProGraph-R1は既存のGraphRAG法よりも推論精度と生成品質を一貫して改善している。
論文 参考訳(メタデータ) (2026-01-25T08:58:44Z) - Think-on-Graph 3.0: Efficient and Adaptive LLM Reasoning on Heterogeneous Graphs via Multi-Agent Dual-Evolving Context Retrieval [35.65907480060404]
Think-on-Graph 3.0 (ToG-3) は、制約を克服するためにMulti-Agent Context Evolution and Retrieval (MACER) メカニズムを導入した新しいフレームワークである。
我々の中心となる革新は、チャンク・トリプレット・コミュニティ・ヘテロジニアスグラフ指数の動的構築と洗練である。
マルチエージェントシステムは、エビデンス検索、回答生成、十分性、そして決定的に進化するクエリとサブグラフの反復的なプロセスに関与する。
論文 参考訳(メタデータ) (2025-09-26T00:13:10Z) - Align-GRAG: Reasoning-Guided Dual Alignment for Graph Retrieval-Augmented Generation [79.75818239774952]
大きな言語モデル(LLM)は目覚ましい能力を示しているが、幻覚や時代遅れの情報といった問題に苦戦している。
Retrieval-augmented Generation (RAG) は、情報検索システム(IR)を用いて、外部知識のLLM出力を基底にすることで、これらの問題に対処する。
本稿では、検索後句における新しい推論誘導二重アライメントフレームワークであるAlign-GRAGを提案する。
論文 参考訳(メタデータ) (2025-05-22T05:15:27Z) - RGL: A Graph-Centric, Modular Framework for Efficient Retrieval-Augmented Generation on Graphs [58.10503898336799]
完全なRAGパイプラインをシームレスに統合するモジュラーフレームワークであるRAG-on-Graphs Library(RGL)を紹介した。
RGLは、さまざまなグラフフォーマットをサポートし、必須コンポーネントの最適化実装を統合することで、重要な課題に対処する。
評価の結果,RGLはプロトタイピングプロセスの高速化だけでなく,グラフベースRAGシステムの性能や適用性の向上も図っている。
論文 参考訳(メタデータ) (2025-03-25T03:21:48Z) - Sparse Training of Discrete Diffusion Models for Graph Generation [45.103518022696996]
SparseDiffは、ほとんど全ての大きなグラフがスパースであるという観察に基づく、新しい拡散モデルである。
エッジのサブセットを選択することで、SparseDiffは、ノイズ発生過程とノイズ発生ネットワーク内のスパースグラフ表現を効果的に活用する。
本モデルでは,小規模・大規模両方のデータセットにおいて,複数のメトリクスにわたる最先端性能を示す。
論文 参考訳(メタデータ) (2023-11-03T16:50:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。