論文の概要: STAIR (STructure Aware Information Retriever): A novel dataset and LLM based retriever for document structure augmentation
- arxiv url: http://arxiv.org/abs/2609.03874v1
- Date: Thu, 03 Sep 2026 14:02:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-04 18:28:39.096708
- Title: STAIR (STructure Aware Information Retriever): A novel dataset and LLM based retriever for document structure augmentation
- Title(参考訳): STAIR (Structure Aware Information Retriever): 文書構造拡張のための新しいデータセットとLLMベースの検索器
- Abstract要約: コンテンツ表(ToC)などのコーパスにおいて,LLMがグローバルな構造を利用するための新たな検索システムSTAIRを導入する。
DSIシステムによる徹底的かつ慎重なアブレーション研究は、ToCが低幻覚(0.05%未満)生成情報検索(IR)システムを構築するのに役立っていることを示している。
この新たな方向性をさらに調査するために、SearchTomeをリリースした。これは、6つの異なるドメインにわたる18の書籍から作成された多様なベンチマークである。
- 参考スコア(独自算出の注目度): 11.391264281510045
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Retrieval Augmented Generation (RAG) is a key component for generating accurate and hallucination free answers using Large Language Models (LLMs). LLMs are improving at handling long context, but still suffer from "lost in the middle" problem. Thus, precise and accurate retrieval is important. Current retrievers chunk long context into length-based manageable chunks - in the process throwing away rich and informative semantic global structure in the corpus. We introduce a novel retrieval system STAIR that empowers an LLM to exploit global structure in a corpus such as a Table of Contents (ToC) to efficiently store and retrieve information from its model parameters. Our thorough and careful ablation studies with a finetuned Differentiable Search Index (DSI) system show that ToC helps build a low hallucination (less than 0.05%) generative Information Retrieval (IR) system and can generalize to examples where very few training samples are available. To further research in this novel direction of ToC based retrieval we release SearchTome - a diverse benchmark created from 18 books across 6 diverse domains to further research in this novel direction. STAIR achieves a high Recall@1 score of 82.6% on SearchTome as compared to DSI (76.9%), where the difference is found to be statistically significant. STAIR easily beats other strong baselines such as BM25 (59.5%), DPR (68.7%) and out-of-the-box Mistral (13.8%).
- Abstract(参考訳): Retrieval Augmented Generation (RAG) は、Large Language Models (LLM) を用いて正確で幻覚のない回答を生成するための重要なコンポーネントである。
LLMは長いコンテキストを扱うことで改善されていますが、それでも"中間にあるロスト"の問題に悩まされています。
したがって、正確かつ正確な検索が重要である。
現在のレトリバーは、長いコンテキストを長さベースの管理可能なチャンクに分類します。
本稿では,LLMがTable of Contents(ToC)などのコーパス内のグローバル構造を利用して,そのモデルパラメータから情報を効率的に保存・取得する,新たな検索システムSTAIRを提案する。
DSIシステムによる徹底的かつ慎重なアブレーション研究は、ToCが低幻覚(0.05%未満)生成情報検索(IR)システムの構築を支援し、非常に少ないトレーニングサンプルが利用できる例に一般化できることを示している。
ToCベースの検索のこの新しい方向性についてさらなる研究を行うため、我々はSearchTomeをリリースした。
STAIR は SearchTome で 82.6% の Recall@1 スコアを DSI (76.9%) と比較すると、統計的に有意な差がある。
STAIRはBM25 (59.5%)、DPR (68.7%)、アウト・オブ・ボックス・ミストラル (13.8%)など、他の強力なベースラインに容易に打ち勝つ。
関連論文リスト
- Mixture-of-Experts Language Models Can Be Strong and Efficient Retrievers [2.8881610726882827]
Mixture-of-Experts (MoE) LLMはトークン当たりのパラメータのサブセットのみを活性化し、生成モデルを拡張するために広く利用されている。
BEIRにおいて,MoEレトリバーは,最大3.0nDCG@10点の活性値を持つ高密度レトリバーより優れていることを示す。
最強のMoEレトリバーの1つは、アクティブパラメータが59%少なく、クエリエンコーディング時間が18%低い8B高密度レトリバーと一致します。
論文 参考訳(メタデータ) (2026-09-11T19:55:03Z) - STORM: Stepwise Token Optimization with Reward-Guided Beam Search [26.876242989882787]
STORM(Stepwise Token Optimization with Reward-guided beaM search)は、語彙クエリ拡張のための自己教師型フレームワークである。
0.6B-8Bのバックボーンは競争力のあるLLMリライト機に匹敵するが、BM25と同じ速さで回収できる。
さらに、ゼロショットを18言語(MIRACL)に転送し、多言語密集レトリバーを平均で打ち負かす。
論文 参考訳(メタデータ) (2026-06-09T09:18:09Z) - SAGE: Benchmarking and Improving Retrieval for Deep Research Agents [60.53966065867568]
SAGEは4つの科学領域にわたる1200のクエリからなる科学文献検索のためのベンチマークであり、20万の論文検索コーパスを備える。
6つのディープ・リサーチ・エージェントを評価し,全てのシステムが推論集約的な検索に苦しむことを発見した。
BM25は、既存のエージェントがキーワード指向のサブクエリを生成するため、LLMベースのレトリバーを約30%上回っている。
論文 参考訳(メタデータ) (2026-02-05T18:25:24Z) - MARAG-R1: Beyond Single Retriever via Reinforcement-Learned Multi-Tool Agentic Retrieval [50.30107119622642]
大規模言語モデル(LLM)は推論と生成において優れているが、本質的には静的事前学習データによって制限されている。
Retrieval-Augmented Generation (RAG)は、LLMを外部知識に基盤を置くことでこの問題に対処する。
MarAG-R1は、LLMが複数の検索機構を動的に調整できる強化学習型マルチツールRAGフレームワークである。
論文 参考訳(メタデータ) (2025-10-31T15:51:39Z) - BrowseComp-Plus: A More Fair and Transparent Evaluation Benchmark of Deep-Research Agent [74.10138164281618]
BrowseComp-Plus(BrowseComp-Plus)は、BrowseCompから派生したベンチマークである。
このベンチマークは、ディープリサーチエージェントと検索方法の総合的な評価とアンタングル解析を可能にする。
論文 参考訳(メタデータ) (2025-08-08T17:55:11Z) - Pseudo Relevance Feedback is Enough to Close the Gap Between Small and Large Dense Retrieval Models [29.934928091542375]
大規模言語モデル (LLM) のバックボーンに高密度レトリバーを拡張させることは, 検索効率を向上させる主要な戦略である。
本稿では,機能ベースの擬似関連フィードバック(PRF)フレームワークであるPromptPRFを紹介する。
論文 参考訳(メタデータ) (2025-03-19T04:30:20Z) - Attribute or Abstain: Large Language Models as Long Document Assistants [58.32043134560244]
LLMは人間が長い文書を扱うのを助けることができるが、幻覚で知られている。
既存の属性に対するアプローチはRAG設定でのみ評価されている。
これは、検索が不要な長いドキュメント設定とは大きく異なるが、助けになる可能性がある。
そこで本研究では,6種類の多種多様文書タスクのベンチマークであるLABと,異なる大きさの5つのLLMに対する属性に対する異なるアプローチの実験を行う。
論文 参考訳(メタデータ) (2024-07-10T16:16:02Z) - Unsupervised Information Refinement Training of Large Language Models for Retrieval-Augmented Generation [128.01050030936028]
InFO-RAG という情報改質訓練手法を提案する。
InFO-RAGは低コストで、様々なタスクにまたがっている。
LLaMA2の性能を平均9.39%向上させる。
論文 参考訳(メタデータ) (2024-02-28T08:24:38Z) - Corrective Retrieval Augmented Generation [36.04062963574603]
Retrieval-augmented Generation (RAG) は、検索された文書の関連性に大きく依存しており、検索が失敗した場合のモデルがどのように振る舞うかについての懸念を提起する。
生成の堅牢性を改善するために,CRAG(Corrective Retrieval Augmented Generation)を提案する。
CRAGはプラグアンドプレイであり、様々なRAGベースのアプローチとシームレスに結合できる。
論文 参考訳(メタデータ) (2024-01-29T04:36:39Z) - "Knowing When You Don't Know": A Multilingual Relevance Assessment Dataset for Robust Retrieval-Augmented Generation [90.09260023184932]
Retrieval-Augmented Generation (RAG) は、外部の知識源を活用して、事実の幻覚を減らすことで、Large Language Model (LLM) を出力する。
NoMIRACLは18言語にまたがるRAGにおけるLDM堅牢性を評価するための人為的アノテーション付きデータセットである。
本研究は,<i>Halucination rate</i>,<i>Halucination rate</i>,<i>Halucination rate</i>,<i>Sorucination rate</i>,<i>Sorucination rate</i>,<i>Sorucination rate</i>,<i>Sorucination rate</i>,<i>Sorucination rate</i>,<i>Sorucination rate</i>,<i>Sr。
論文 参考訳(メタデータ) (2023-12-18T17:18:04Z) - Look Before You Leap: A Universal Emergent Decomposition of Retrieval
Tasks in Language Models [58.57279229066477]
本研究では,言語モデル(LM)が様々な状況下での検索タスクをどのように解決するかを検討する。
ORIONは6つのドメインにまたがる構造化された検索タスクの集合である。
LMは内部的にモジュール方式で検索タスクを分解する。
論文 参考訳(メタデータ) (2023-12-13T18:36:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。