論文の概要: Is Implicit Knowledge Enough for LLMs? A RAG Approach for Tree-based Structures

• arxiv url: http://arxiv.org/abs/2510.10806v1
• Date: Sun, 12 Oct 2025 20:52:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-14 18:06:30.114924
• Title: Is Implicit Knowledge Enough for LLMs? A RAG Approach for Tree-based Structures
• Title（参考訳）: LLMにとって意図しない知識は十分か? : 木構造に対するRAGアプローチ
• Authors: Mihir Gupte, Paolo Giusto, Ramesh S,
• Abstract要約: 大規模言語モデル(LLM)は、文脈内の情報に基づいて応答を生成するのに適している。 Retrieval-Augmented Generation (RAG)は、関連する文書を検索して、モデルのコンテキスト内学習を強化する。 本稿では,木構造からの知識を線形化する手法を提案する。
• 参考スコア（独自算出の注目度）: 0.5352699766206808
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Large Language Models (LLMs) are adept at generating responses based on information within their context. While this ability is useful for interacting with structured data like code files, another popular method, Retrieval-Augmented Generation (RAG), retrieves relevant documents to augment the model's in-context learning. However, it is not well-explored how to best represent this retrieved knowledge for generating responses on structured data, particularly hierarchical structures like trees. In this work, we propose a novel bottom-up method to linearize knowledge from tree-like structures (like a GitHub repository) by generating implicit, aggregated summaries at each hierarchical level. This approach enables the knowledge to be stored in a knowledge base and used directly with RAG. We then compare our method to using RAG on raw, unstructured code, evaluating the accuracy and quality of the generated responses. Our results show that while response quality is comparable across both methods, our approach generates over 68% fewer documents in the retriever, a significant gain in efficiency. This finding suggests that leveraging implicit, linearized knowledge may be a highly effective and scalable strategy for handling complex, hierarchical data structures.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、文脈内の情報に基づいて応答を生成するのに適している。 この機能は、コードファイルのような構造化データと対話するのに有用であるが、他の人気のあるメソッドであるRetrieval-Augmented Generation (RAG)は、関連するドキュメントを取得して、モデルのコンテキスト内学習を強化する。 しかし、構造データ、特に木のような階層構造に対する応答を生成するために、この抽出された知識を最もよく表現する方法は、よく解明されていない。 本研究では,木のような構造(GitHubリポジトリなど)から知識を線形化する新たなボトムアップ手法を提案する。 このアプローチにより、知識を知識ベースに格納し、RAGと直接使用することが可能になる。 次に、生の非構造化コードでRAGを使用する方法と比較し、生成した応答の精度と品質を評価する。 その結果, 応答品質は両手法に匹敵するが, 提案手法では検索側で68%以上の文書が生成され, 効率は著しく向上した。 この発見は、暗黙的、線形化された知識を活用することは、複雑で階層的なデータ構造を扱うための非常に効果的でスケーラブルな戦略である可能性を示唆している。

関連論文リスト

• Prompting is not Enough: Exploring Knowledge Integration and Controllable Generation on Large Language Models [89.65955788873532]
  オープンドメイン質問応答(OpenQA)は自然言語処理(NLP)の基盤である。 我々は,知識統合と制御可能生成を探求し,OpenQAの性能向上を目的としたGenKIという新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-05-26T08:18:33Z)
• ArchRAG: Attributed Community-based Hierarchical Retrieval-Augmented Generation [16.204046295248546]
  Retrieval-Augmented Generation (RAG) は、外部知識を大規模言語モデルに統合するのに有効であることが証明されている。 我々は、Attributed Community-based Hierarchical RAG (ArchRAG)と呼ばれる新しいグラフベースのRAGアプローチを導入する。 属性付きコミュニティのための新しい階層型インデックス構造を構築し,効果的なオンライン検索手法を開発した。
  論文  参考訳（メタデータ） (2025-02-14T03:28:36Z)
• ReTreever: Tree-based Coarse-to-Fine Representations for Retrieval [64.44265315244579]
  そこで本研究では,様々なレベルで参照文書を整理し,表現するためのツリーベース手法を提案する。 我々の手法はReTreeverと呼ばれ、クエリと参照ドキュメントが同様のツリーブランチに割り当てられるように、バイナリツリーの内部ノード毎のルーティング関数を共同で学習する。 我々の評価では、ReTreeverは一般的に完全な表現精度を保っている。
  論文  参考訳（メタデータ） (2025-02-11T21:35:13Z)
• RAGEval: Scenario Specific RAG Evaluation Dataset Generation Framework [66.93260816493553]
  本稿では,様々なシナリオにまたがってRAGシステムを評価するためのフレームワークであるRAGvalを紹介する。 事実の正確性に焦点をあてて,完全性,幻覚,不適切性の3つの新しい指標を提案する。 実験結果から, RAGEvalは, 生成した試料の明瞭度, 安全性, 適合性, 豊かさにおいて, ゼロショット法とワンショット法より優れていた。
  論文  参考訳（メタデータ） (2024-08-02T13:35:11Z)
• Blended RAG: Improving RAG (Retriever-Augmented Generation) Accuracy with Semantic Search and Hybrid Query-Based Retrievers [0.0]
  Retrieval-Augmented Generation (RAG) は、大規模言語モデル (LLM) で文書のプライベートな知識基盤を注入し、生成的Q&A (Question-Answering) システムを構築するための一般的なアプローチである。 本稿では,Vector インデックスや Sparse インデックスなどのセマンティック検索手法をハイブリッドクエリ手法と組み合わせた 'Blended RAG' 手法を提案する。 本研究は,NQ や TREC-COVID などの IR (Information Retrieval) データセットの検索結果の改善と,新たなベンチマーク設定を行う。
  論文  参考訳（メタデータ） (2024-03-22T17:13:46Z)
• Retrieval-Generation Alignment for End-to-End Task-Oriented Dialogue System [40.33178881317882]
  本稿では、応答生成からの信号を利用して、知覚的レトリバーの学習に最大限の限界確率を適用することを提案する。 本稿では,T5とChatGPTをバックボーンモデルとして用いた3つのタスク指向対話データセットについて検討する。
  論文  参考訳（メタデータ） (2023-10-13T06:03:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。