論文の概要: Parser, Chunking, and Embedding Interactions in Retrieval-Augmented Generation over Indian Government Regulatory Documents

• arxiv url: http://arxiv.org/abs/2609.31660v1
• Date: Tue, 15 Sep 2026 07:32:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 14:09:05.083879
• Title: Parser, Chunking, and Embedding Interactions in Retrieval-Augmented Generation over Indian Government Regulatory Documents
• Title（参考訳）: インド政府規制文書の検索・拡張世代におけるパーサー・チャンキング・埋め込み相互作用
• Abstract要約: 800の質問項目に対して評価した3s,3チャンキング戦略,5つの密埋モデルの因子分析を行った。 MPNet-baseは、テーブル由来の質問に対して深刻な障害モードを持つ一貫したアンダーパフォーマーである。 コーパスは98%以上のほぼ飽和したエビデンス保存天井を示しており、検索の違いは、摂取時の情報損失よりも、主にランキング品質によって引き起こされていることを示している。
• 参考スコア（独自算出の注目度）: 0.42303492200814446
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Retrieval-augmented generation (RAG) pipelines are typically assembled from independently-chosen components -- a document parser, a chunking strategy, and an embedding model -- yet these choices are rarely evaluated jointly, and evaluations that do combine them are usually run on a single document or corpus. We present a controlled factorial study of 3 parsers, 3 chunking strategies, and 5 dense embedding models, together with a sparse BM25 baseline, evaluated against 800 question instances, each with one or more required evidence strings, with evidence strings automatically validated against source text and a 10% random sample manually reviewed, across four structurally distinct Indian central-government regulatory documents. We fit linear mixed-effects models with document-query-level random intercepts to the resulting 72,000-row result set, run Holm-corrected paired comparisons between matched dense and sparse configurations, and report clustered bootstrap confidence intervals for all 54 unique retriever configurations. We find that no single retriever family dominates across documents; parser and chunker choice interact significantly; MPNet-base is a consistent underperformer with a severe failure mode on table-derived questions; and the corpus exhibits a near-saturated evidence-preservation ceiling above 98%, indicating that retrieval differences are driven primarily by ranking quality rather than information loss during ingestion. We additionally report embedding-dimension and chunk-size/overlap ablations and an efficiency/quality Pareto analysis. We release our full evaluation harness, corpus manifest, and 800-question benchmark.
• Abstract（参考訳）: Retrieval-augmented Generation (RAG)パイプラインは通常、独立したチョーセンコンポーネント(ドキュメントパーサ、チャンキング戦略、埋め込みモデル)から組み立てられるが、これらの選択は共同で評価されることは稀であり、それらを組み合わせた評価は通常、単一のドキュメントまたはコーパス上で実行される。 本研究では,3つのパーサー,3つのチャンキング戦略,および5つの密埋め込みモデルについて,それぞれ800の質問項目に対して,それぞれに1つ以上の証拠文字列が必須であり,証拠文字列がソーステキストに対して自動的に検証され,10%のランダムサンプルが手作業でレビューされるとともに,構造的に異なる4つのインド中央政府の規制文書に対して評価された。 線形混合効果モデルと文書クエリレベルのランダムインターセプトを結果の72,000-row結果集合に適合させ、一致した密度とスパース構成のホルム補正ペア比較を実行し、54個のユニークレトリバー構成すべてに対してクラスタ化されたブートストラップ信頼区間を報告した。 MPNet-baseはテーブル由来の質問に対して深刻な障害モードを持つ一貫したアンダーパフォーマーであり、コーパスは98%以上のほぼ飽和したエビデンス保存天井を示し、検索の差異は主に、摂取時の情報損失ではなく、ランキング品質によって引き起こされることを示している。 さらに,埋め込み次元とチャンクサイズ/オーバーラップの短縮,効率/品質のパレート分析についても報告する。 私たちは、フル評価ハーネス、コーパスマニフェスト、800クエストベンチマークをリリースしています。

関連論文リスト

• Evaluating Open-Weight LLMs for Turkish Domain Documents Under Retrieval and Hardware Constraints [8.353600616465796]
  ほとんどのトルコ語対応の大規模言語モデル (LLM) は汎用ベンチマークを用いて評価される。 本稿では,資源制約のあるローカルデプロイメント環境下で,トルコ語文書質問応答のためのオープンウェイト7B-8Bモデルを5つ評価する。
  論文  参考訳（メタデータ） (2026-09-23T12:33:57Z)
• Comparing Chunking and Embedding Strategies for Turkish RAG Systems [0.0]
  トルコの文書質問応答を3つのチャンキング戦略(固定長,意味,レイアウト対応ドクリング)で比較する。 すべての構成は同じ質問セットに答え、コンポーネントのエフェクトをペアテストで分離することができる。 レイアウトを意識したチャンキングは、テキストを多用するよりも、テーブルを多用するドキュメントをずっと助けます。
  論文  参考訳（メタデータ） (2026-08-24T07:24:37Z)
• VisDocAgentBench: Benchmarking Agents for Visually Rich Document Retrieval [65.89247522243959]
  VisDocAgentBenchは、静的検索とエージェント検索を比較したクローズドコーパスベンチマークである。 100の文書から2,375ページ、120のユニークなターゲットクエリが直接、一橋、二橋のエビデンス構造でバランスを取っている。 強力な遅延対話型ビジュアルレトリバーは、直接アイテムで97.50%のRecall@1に達するが、2ブリッジアイテムでは2.50%に達し、関連性がコーパスコンテキストに依存する場合のクエリ-ターゲットマッチングの限界を明らかにする。
  論文  参考訳（メタデータ） (2026-08-18T15:23:06Z)
• Novelty-Aware Agentic Retrieval: Comparing Research Contributions Through Structured Multi-Step Reasoning [0.0]
  ノベルティ・アウェア・リサーチ・エージェント(英: Novelty-Aware Research Agent)は、エージェント検索システムのプロトタイプである。 RAGパイプライン上の多段階推論を6つのタイプドコントラクトコンポーネントを通じて階層化する。 論文毎のコントリビューション記録、紙レベルのオーバーラップ、問題xメソッドギャップマトリックスなど、構造化された比較アーティファクトを生成する。
  論文  参考訳（メタデータ） (2026-06-20T17:04:02Z)
• AbstRAG: Learning to Abstract for Retrieval Problems [23.379898867224355]
  AbstRAGは、クエリ-エビデンスギャップを、式、概念、インテント-エビデンス、イベントタイプコンポーネントに分解する。 21対のブートストラップのコントラストのうち18のnDCG@10よりも優れており、生成精度は1.9%、5.2%、および4.0%向上している。
  論文  参考訳（メタデータ） (2026-06-08T13:14:01Z)
• The Structured Output Benchmark: A Multi-Source Benchmark for Evaluating Structured Output Quality in Large Language Models [0.23332469289621785]
  SOB(Structured Output Benchmark)は3つのソースにまたがるマルチソースベンチマークである。 すべてのモデルは、ソースのモダリティに関係なく、コンテキストのテキスト正規化表現を受け取る。 モデルは、ほぼ完璧なスキーマコンプライアンスを実現するが、正確な葉値マッチングによって測定された最高の値精度は、テキスト上では83.0%にしか達しない。
  論文  参考訳（メタデータ） (2026-04-28T08:27:01Z)
• UNIDOC-BENCH: A Unified Benchmark for Document-Centric Multimodal RAG [82.84014669683863]
  マルチモーダル検索拡張生成(MM-RAG)は,大規模言語モデルを現実世界の知識ベースに適用するための重要なアプローチである。 UniDoc-Benchは、70万の現実世界のPDFページから構築されたMM-RAGのための最初の大規模で現実的なベンチマークである。 実験により,マルチモーダルテキスト画像融合RAGシステムは,非モーダルおよび共同マルチモーダル埋め込みに基づく検索において一貫して優れていた。
  論文  参考訳（メタデータ） (2025-10-04T04:30:13Z)
• Collapse of Dense Retrievers: Short, Early, and Literal Biases Outranking Factual Evidence [56.09494651178128]
  検索モデルは、Retrieval-Augmented Generation (RAG)のような情報検索(IR)アプリケーションで一般的に使用される。 我々は、Dragon+やContrieverのようなリトリーバーに対する、短いドキュメントの好みなどのバイアスの影響を定量化する。 私たちは大きな脆弱性を発見し、リトリバーが短いドキュメント、早い位置、繰り返しのエンティティ、リテラルマッチを好んで、答えの存在を無視しながら表示します。
  論文  参考訳（メタデータ） (2025-03-06T23:23:13Z)
• Fast(er) Reconstruction of Shredded Text Documents via Self-Supervised Deep Asymmetric Metric Learning [62.34197797857823]
  細断文書の自動復元における中心的な問題は、細断文書の相互互換性評価である。 本研究は,推定回数を線形にスケールするペアワイド互換性を測るスケーラブルな深層学習手法を提案する。 提案手法は,505個のシュレッダーを持つテストインスタンスに対して,22倍の高速化を実現した最先端技術に匹敵する精度を有する。
  論文  参考訳（メタデータ） (2020-03-23T03:22:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。