論文の概要: Document Retrieval-Aware Chunking (D-RAC): Universal Retrieval-Aware Ingestion of Enterprise Documents via PDF Normalization and Multimodal Markdown Conversion
- arxiv url: http://arxiv.org/abs/2609.24220v1
- Date: Mon, 21 Sep 2026 07:38:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-22 20:29:01.184564
- Title: Document Retrieval-Aware Chunking (D-RAC): Universal Retrieval-Aware Ingestion of Enterprise Documents via PDF Normalization and Multimodal Markdown Conversion
- Title(参考訳): D-RAC(Document Retrieval-Aware Chunking):PDF正規化とマルチモーダルマークダウン変換によるエンタープライズ文書のユニバーサル検索
- Abstract要約: Document Retrieval-Aware Chunking (D-RAC)は、Web Retrieval-Aware Chunking (W-RAC)フレームワークを任意のドキュメントフォーマットに拡張したものである。
D-RACは任意の入力文書をPDFに正規化し、事実上全てのフォーマットが忠実で決定論的なPDFレンダリングを持っているという事実を活用している。
- 参考スコア(独自算出の注目度): 0.3499870393443268
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Retrieval-Augmented Generation (RAG) systems over enterprise knowledge bases must ingest heterogeneous document formats -- PDFs, Word documents, presentations, and scans -- whose content is locked inside complex visual layouts, multi-column pages, and dense tables. Rule-based extraction and OCR destroy reading order, flatten tables, and lose heading hierarchy, while fully agentic chunking over extracted text incurs high token costs and hallucination risk. We present Document Retrieval-Aware Chunking (D-RAC), an extension of our Web Retrieval-Aware Chunking (W-RAC) framework to arbitrary document formats. D-RAC first normalizes any input document into PDF, exploiting the fact that virtually every format has a faithful, deterministic PDF rendering. A single multimodal LLM pass then converts rendered pages into retrieval-optimized Markdown -- rewriting tables as self-contained prose statements and preserving heading hierarchy -- after which chunking proceeds exactly as in W-RAC: deterministic parsing into ID-addressable units followed by lightweight LLM-based chunk planning over identifiers rather than text. Source text is never regenerated during chunking, preserving W-RAC's cost, determinism, and observability benefits while unlocking every renderable format as a first-class input. On the 236-document, 795-page PDF subset of the RAG-Multi-Corpus benchmark spanning five enterprise domains, D-RAC converts and chunks the entire corpus in 72 minutes with zero errors, producing 1,748 retrieval-ready chunks. Compared to agentic chunking with frontier LLMs, D-RAC reduces chunking-stage output tokens by 95.7%, cutting chunking cost by 77.8% (GPT-4.1 pricing) to 85.6% (Gemini 2.5 Pro pricing) and chunking time by 75%. D-RAC scales linearly to documents of 500+ pages.
- Abstract(参考訳): Retrieval-Augmented Generation (RAG)システムは、企業知識ベースのシステムでは、複雑なビジュアルレイアウト、複数カラムページ、高密度テーブルの中にコンテンツが閉じ込められている異種ドキュメントフォーマット(PDF、Wordドキュメント、プレゼンテーション、スキャン)を取り込みなければなりません。
ルールベースの抽出とOCRは、読み込み順序、平らなテーブル、見出し階層を失う一方で、抽出されたテキストに対する完全なエージェントチャンクは、高いトークンコストと幻覚リスクを引き起こす。
本稿では、Web Retrieval-Aware Chunking(W-RAC)フレームワークを任意の文書形式に拡張したDocument Retrieval-Aware Chunking(D-RAC)を提案する。
D-RACは、任意の入力文書をPDFに正規化し、事実上全てのフォーマットが忠実で決定論的なPDFレンダリングを持っているという事実を活用する。
単一のマルチモーダル LLMパスは、レンダリングされたページを検索最適化のMarkdown -- テーブルを自己完結した散文として書き直し、先頭階層を保存する -- に変換する。
ソーステキストはチャンク中に決して再生されず、W-RACのコスト、決定性、可観測性などの利点を保ちながら、すべてのレンダリング可能なフォーマットをファーストクラスの入力としてアンロックする。
RAG-Multi-Corpusベンチマークの236ページのPDFサブセットでは、D-RACは72分で全コーパスを変換し、ゼロエラーでチャンクし、1,748個の検索可能なチャンクを生成する。
D-RAC はフロンティア LLM のエージェントチャンキングと比較してチャンキングステージの出力トークンを95.7%削減し、チャンキングコストを77.8%削減し(GPT-4.1 の価格)、85.6%(Gemini 2.5 Pro の価格)、チャンキング時間を75%削減した。
D-RACは500ページ以上のドキュメントに線形にスケールする。
関連論文リスト
- MM-BizRAG: Rethinking Multimodal Retrieval-Augmented Generation for General Purpose Enterprise Q&A [13.040489131301081]
MM-BizRAGは文書構造認識スプリットを介して文書構造を積極的に抽出し、表現する。
MM-BizRAGは、最先端のビジョン中心のベースラインを最大32%上回っている。
論文 参考訳(メタデータ) (2026-06-02T21:31:47Z) - MinerU-Popo: Universal Post-Processing Model for Structured Document Parsing [34.19535115746437]
MinerU-Popoは、OCR出力をPast-Processingする軽量フレームワークである。
問題をテキストトランケーション回復、テーブルトランケーション回復、タイトル階層、画像テキスト関連という4つのサブタスクに分解する。
5つのテストされたOCRモデルで、TEDSのタイトル階層を少なくとも20%改善する。
論文 参考訳(メタデータ) (2026-05-24T10:00:28Z) - MPDocBench-Parse: Benchmarking Practical Multi-page Document Parsing [74.84107522458798]
MPDocBench-Parseは、現実世界のアプリケーションにおけるマルチページ文書解析のためのベンチマークである。
433の注釈付き文書に3,246ページあり、英語と中国語の15種類の文書を網羅しており、レイアウトは様々である。
論文 参考訳(メタデータ) (2026-05-21T07:36:41Z) - A Multistage Extraction Pipeline for Long Scanned Financial Documents: An Empirical Study in Industrial KYC Workflows [12.24651956963792]
本稿では,画像前処理,多言語OCR,ハイブリッドページレベルの検索,VLMに基づく構造化抽出を統合した多段階抽出フレームワークを提案する。
提案したパイプラインはPDF-to-VLMベースラインを一貫して上回り、フィールドレベルの精度を最大31.9%向上させた。
論文 参考訳(メタデータ) (2026-04-29T09:19:16Z) - From PDF to RAG-Ready: Evaluating Document Conversion Frameworks for Domain-Specific Question Answering [32.10503220086596]
Retrieval-Augmented Generation (RAG) システムは文書前処理の品質に大きく依存する。
従来の研究では、下流の質問応答精度への影響でPDF処理フレームワークの評価は行われていない。
オープンソースのPDF-to-Markdown変換フレームワークであるDocling、MinerU、Marker、DeepSeek OCRを19のパイプライン構成で比較する。
論文 参考訳(メタデータ) (2026-03-30T14:40:58Z) - MonkeyOCR v1.5 Technical Report: Unlocking Robust Document Parsing for Complex Patterns [80.05126590825121]
MonkeyOCR v1.5は、レイアウト理解とコンテンツ認識の両方を強化する統合ビジョン言語フレームワークである。
複雑なテーブル構造に対処するために,視覚的整合性に基づく強化学習手法を提案する。
2つの特別なモジュール、Image-Decoupled Table ParsingとType-Guided Table Mergingを導入し、テーブルの信頼性の高いパースを可能にする。
論文 参考訳(メタデータ) (2025-11-13T15:12:17Z) - Hybrid OCR-LLM Framework for Enterprise-Scale Document Information Extraction Under Copy-heavy Task [11.672798725644121]
この作業は、OCRエンジンとLLM(Large Language Models)を戦略的に組み合わせて、反復的な文書抽出タスクに固有の正確性と効率のトレードオフを最適化する。
3つの抽出パラダイム(ダイレクト、リプレース、テーブルベース)にまたがる25のコンフィギュレーションを、4つのフォーマットにまたがるIDドキュメント上で実装し、評価する。
論文 参考訳(メタデータ) (2025-10-11T09:40:34Z) - PDFTriage: Question Answering over Long, Structured Documents [60.96667912964659]
構造化文書をプレーンテキストとして表現することは、これらの文書をリッチな構造でユーザ精神モデルと矛盾する。
本稿では,構造や内容に基づいて,モデルがコンテキストを検索できるPDFTriageを提案する。
ベンチマークデータセットは,80以上の構造化文書に900以上の人間が生成した質問からなる。
論文 参考訳(メタデータ) (2023-09-16T04:29:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。