論文の概要: Multi-hop Reasoning via Early Knowledge Alignment

• arxiv url: http://arxiv.org/abs/2512.20144v1
• Date: Tue, 23 Dec 2025 08:14:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-24 19:17:49.796159
• Title: Multi-hop Reasoning via Early Knowledge Alignment
• Title（参考訳）: 初期知識アライメントによるマルチホップ推論
• Authors: Yuxin Wang, Shicheng Fang, Bo Wang, Qi Luo, Xuanjing Huang, Yining Zheng, Xipeng Qiu,
• Abstract要約: アーリー・ナレッジ・アライメント(EKA)は、大規模言語モデルと文脈的に関連づけられた知識を整合させることを目的としている。 EKAは検索精度を大幅に改善し、カスケードエラーを低減し、性能と効率を向上する。 EKAは、大規模モデルにシームレスにスケールする、多目的でトレーニング不要な推論戦略として有効である。
• 参考スコア（独自算出の注目度）: 68.28168992785896
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Retrieval-Augmented Generation (RAG) has emerged as a powerful paradigm for Large Language Models (LLMs) to address knowledge-intensive queries requiring domain-specific or up-to-date information. To handle complex multi-hop questions that are challenging for single-step retrieval, iterative RAG approaches incorporating reinforcement learning have been proposed. However, existing iterative RAG systems typically plan to decompose questions without leveraging information about the available retrieval corpus, leading to inefficient retrieval and reasoning chains that cascade into suboptimal performance. In this paper, we introduce Early Knowledge Alignment (EKA), a simple but effective module that aligns LLMs with retrieval set before planning in iterative RAG systems with contextually relevant retrieved knowledge. Extensive experiments on six standard RAG datasets demonstrate that by establishing a stronger reasoning foundation, EKA significantly improves retrieval precision, reduces cascading errors, and enhances both performance and efficiency. Our analysis from an entropy perspective demonstrate that incorporating early knowledge reduces unnecessary exploration during the reasoning process, enabling the model to focus more effectively on relevant information subsets. Moreover, EKA proves effective as a versatile, training-free inference strategy that scales seamlessly to large models. Generalization tests across diverse datasets and retrieval corpora confirm the robustness of our approach. Overall, EKA advances the state-of-the-art in iterative RAG systems while illuminating the critical interplay between structured reasoning and efficient exploration in reinforcement learning-augmented frameworks. The code is released at \href{https://github.com/yxzwang/EarlyKnowledgeAlignment}{Github}.
• Abstract（参考訳）: Retrieval-Augmented Generation (RAG) は、ドメイン固有の情報や最新の情報を必要とする知識集約型クエリに対処する、Large Language Models (LLM) の強力なパラダイムとして登場した。 単段階探索において難しい複雑なマルチホップ問題に対処するために,強化学習を取り入れた反復RAG手法が提案されている。 しかしながら、既存の反復RAGシステムは、利用可能な検索コーパスに関する情報を活用せずに、質問を分解する計画であり、非効率な検索と推論チェインを最適でない性能に分解する。 本稿では,反復的なRAGシステムと文脈的関連性のある検索知識を計画する前に,LLMを検索セットと整列させる,シンプルだが効果的なモジュールであるEarly Knowledge Alignment(EKA)を紹介する。 6つの標準RAGデータセットの大規模な実験により、EKAはより強力な推論基盤を確立することにより、検索精度を大幅に向上し、カスケードエラーを低減し、性能と効率を向上することを示した。 エントロピーの観点から分析したところ、早期知識の導入は推論過程における不要な探索を減らし、モデルが関連する情報サブセットにより効果的にフォーカスできることが示されている。 さらに、EKAは、大規模モデルにシームレスにスケールする、多目的でトレーニング不要な推論戦略として有効であることを示す。 多様なデータセットと検索コーパスの一般化テストにより,我々のアプローチの堅牢性が確認された。 全体として、EKAは、構造化推論と強化学習強化フレームワークの効率的な探索の間の重要な相互作用を照らしながら、反復RAGシステムの最先端を推し進めている。 コードは \href{https://github.com/yxzwang/EarlyKnowledgeAlignment}{Github} で公開されている。

関連論文リスト

• Towards Agentic RAG with Deep Reasoning: A Survey of RAG-Reasoning Systems in LLMs [69.10441885629787]
  Retrieval-Augmented Generation (RAG) は、外部知識を注入することによって、Large Language Models (LLM) の事実性を高める。 逆に、純粋に推論指向のアプローチは、しばしば幻覚的あるいは誤った事実を必要とする。 この調査は両鎖を統一的推論-検索の観点から合成する。
  論文  参考訳（メタデータ） (2025-07-13T03:29:41Z)
• Knowing You Don't Know: Learning When to Continue Search in Multi-round RAG through Self-Practicing [4.874077691069634]
  Retrieval Augmented Generation (RAG)は、言語モデルの知識を高め、AI生成幻覚を減らす強力な能力を示している。 現在のマルチラウンドRAGシステムは、十分な情報が既に取得されている場合でも検索を続けることができる。 本稿では,RAGシステムの自己認識と多ラウンド検索機能を強化するための新しいフレームワークSIM-RAGを提案する。
  論文  参考訳（メタデータ） (2025-05-05T17:39:35Z)
• Chain-of-Retrieval Augmented Generation [91.02950964802454]
  本稿では,o1-like RAGモデルを学習し,最終回答を生成する前に段階的に関連情報を抽出・推論する手法を提案する。 提案手法であるCoRAGは,進化状態に基づいて動的にクエリを再構成する。
  論文  参考訳（メタデータ） (2025-01-24T09:12:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。