論文の概要: QESChunker: A Single Objective Unifies Overlapping and Non-Overlapping Chunking for RAG
- arxiv url: http://arxiv.org/abs/2610.36557v1
- Date: Tue, 27 Oct 2026 03:05:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.4727
- Title: QESChunker: A Single Objective Unifies Overlapping and Non-Overlapping Chunking for RAG
- Title(参考訳): QESChunker:RAGのためのオーバーラップと非オーバーラップのチャンキングを統一する単一目的
- Abstract要約: 本稿では,QES-Chunker(Qes-Evidence-Supervised Chunker,QES-Chunker)を紹介する。
統一された質問-エビデンス効用-最大化問題を通して非重複インデックス構築を定式化する。
どちらの変種も、ほぼすべての評価済み設定において、既存のチャンキングメソッドを完全エビデンスリコールで上回っている。
- 参考スコア(独自算出の注目度): 11.373218182238595
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Chunking is a fundamental preprocessing step in retrieval-augmented generation (RAG), yet most existing chunkers rely primarily on heuristics. We introduce the Question--Evidence-Supervised Chunker (QESChunker), to our knowledge the first method for constructing static chunk indices from question--evidence supervision. QESChunker constructs document-specific chunk indices by optimizing over human-annotated or LLM-generated question--evidence pairs, without access to held-out test queries. We formulate non-overlapping and overlapping index construction through a unified question--evidence utility-maximization objective, turning chunking into a supervised combinatorial optimization problem. Under the non-overlap constraint, the objective decomposes over chunks and can be optimized exactly in polynomial time by dynamic programming. When overlap is allowed, the objective becomes monotone submodular; exact optimization is NP-hard, but our greedy achieves a $(1-1/\sqrt{e})$-approximation. Across two self-constructed and three public datasets, both variants outperform existing chunking methods in complete-evidence recall in nearly all evaluated settings, under the same overlap regime and a fixed hybrid retriever. These results recast chunking as supervised, budget-aware index construction for evidence retrieval.
- Abstract(参考訳): チャンキングは検索強化世代(RAG)の基本的な前処理ステップであるが、既存のチャンカーのほとんどはヒューリスティックスに依存している。
本稿では,QESChunker(Q-Evidence-Supervised Chunker)を紹介する。
QESChunkerは、文書固有のチャンクインデックスを構築し、人間のアノテーションやLLM生成した質問-エビデンスペアを、保持されたテストクエリにアクセスすることなく最適化する。
我々は、統一された質問-エビデンスユーティリティ-最大化目的を通して、非重なりと重なり合うインデックス構築を定式化し、チャンキングを教師付き組合せ最適化問題に変換する。
非オーバーラップ制約の下では、目的はチャンクを分解し、動的プログラミングによって多項式時間で正確に最適化できる。
オーバーラップが許されるとき、目的は単調な部分モジュラーとなり、正確な最適化はNPハードであるが、我々の欲求は$(1-1/\sqrt{e})$-approximationに達する。
2つの自己構築型データセットと3つのパブリックデータセットで、どちらも、ほぼすべての評価済み設定において、同じ重複状態と固定されたハイブリッドレトリバーの下で、既存のチャンキングメソッドよりも優れている。
これらの結果は, チャンキングを証拠検索のための教師付き, 予算対応インデックス構築として再放送する。
関連論文リスト
- Order Matters: Competition-Guided Query Ordering for RNN-Based Object Detection [19.37485479929393]
DETRNNはプラグアンドプレイモジュールで、順序のないオブジェクトクエリをコンペティブルなシーケンスに変換して、繰り返しリフレッシュする。
事前の予測から明確な信頼と類似性に基づく順序を構築し、その順序に沿ってRNNでクエリを洗練し、デコーダ内の競合をモデル化する。
複数のDETR型検出器の実験は、同等の効率で一貫した利得を示す。
論文 参考訳(メタデータ) (2026-10-04T13:00:39Z) - EAVer: Long-Form Factuality Verification as an End-to-End Agentic Policy [50.665874114632]
我々は、完全な応答レベルの検証ワークフローを統一ポリシーとして制御することを学ぶ、エンドツーエンドのエージェント検証であるEAVerを紹介する。
EAVerはセマンティック関連クレームをグループ化し、信頼に基づいた直接検証やターゲット検索にルートし、コンパクトなインコンテキストメモで検索によって返される証拠を保持する。
論文 参考訳(メタデータ) (2026-09-02T21:00:35Z) - Imputation Meets Clustering: Exploiting Latent Subgroup Structure for Missing Data Recovery [52.29866804948133]
本稿では、クラスタリングと命令を相互に強化する共最適化プロセスとして再構築するフレームワークであるCAGI(Cluster-Aware Generative Imputation)を提案する。
14のベンチマークデータセットと15の代表的なベースラインの実験は、CAGIの優位性を実証している。
論文 参考訳(メタデータ) (2026-07-08T02:50:02Z) - When Does Overlap Help? OSU-Mem and a Cell-Conditional Analysis of Trajectory Memory for LLM Agents [8.361893760388329]
LLM(Long-Horizon Large Language Model)エージェントは、実用的なプロンプト予算を迅速に超過する相互作用トラジェクトリを蓄積する。
トラジェクトリメモリを重なり合うセマンティックユニット(OSU)に編成することは、フラットまたは非ジョイントな選択肢を検索するのに役立つのだろうか?
我々はこれをOSUMemでインスタンス化し、OSUプールの重なり合う部分から予算付き粗大な拡張によって取り出す。
論文 参考訳(メタデータ) (2026-06-19T04:23:04Z) - CAMI: Cost-Aware Agent-Guided Multi-Indexing for Semantic Retrieval [7.07006462273528]
CAMI(Cost-Aware Multi-Indexing)は、マルチインデックス構築を予算付き多目的ポートフォリオ選択問題として形式化するフレームワークである。
その結果,厳格な予算制約の下で,ハイリコールポートフォリオを系統的に分離することが判明した。
CAMIは、これらのハイリコールポートフォリオを、ランダムな検索ベースラインに比べて最大5倍の予算で体系的に識別することができる。
論文 参考訳(メタデータ) (2026-06-14T16:59:18Z) - Rethinking RAG in Long Videos: What to Retrieve and How to Use It? [56.38819694781005]
V-RAGBenchは$langle$query, evidence chunk, answer$rangle$三重項のベンチマークで、検索と生成を忠実に分離した評価を可能にする。
また、CARVEは、コンフィグレーションにまたがって並列レトリバーを動作させ、チャンク毎に入賞構成を識別するためにチャンク適応リランクを用いる手法である。
論文 参考訳(メタデータ) (2026-06-11T10:05:49Z) - Subtraction Gets You More: Gap-Aware Retrieval for Multimodal Multi-Hop QA [11.316299961548415]
本稿では,埋め込みレベルで直接暗黙的なクエリ書き換えを行うパラダイムを提案する。
コンテクスト・サブトラクティブなクエリ・ステアリングにより、GRAILはコンストラクショナル・クロスモーダルな推論において優れている。
タスクタイプに基づいたクエリを動的にルーティングすることで、MultimodalQA上で40.3%のマクロ平均パフォーマンス向上を実現しています。
論文 参考訳(メタデータ) (2026-05-27T15:46:21Z) - Context Pruning for Coding Agents via Multi-Rubric Latent Reasoning [14.508049757681862]
LLMベースのコーディングエージェントは、トークンの予算の大部分をリポジトリファイルを読むのに費やしている。
この定式化がモデリングのボトルネックを生み出すことを示す。
コード関連性を2つの解釈可能な品質次元に分解する構造化プルーニングフレームワークであるLaMRを提案する。
論文 参考訳(メタデータ) (2026-05-14T18:30:10Z) - Efficient Test-Time Inference via Deterministic Exploration of Truncated Decoding Trees [68.04613115686509]
自己整合性は、複数の推論トレースを並列にサンプリングし、投票することで、推論時間のパフォーマンスを向上させる。
そこで本研究では,切り落された標本を伐採木として扱う決定論的復号法であるDLE(Distinct Leafion)を提案する。
DLEは高品質な推論トレースを調査し、数学、コーディング、一般的な推論タスクのパフォーマンスを向上させる。
論文 参考訳(メタデータ) (2026-04-22T12:42:03Z) - Prism: Efficient Test-Time Scaling via Hierarchical Search and Self-Verification for Discrete Diffusion Language Models [96.0074341403456]
LLM推論を改善するための実用的な方法として、推論時計算が再導入されている。
テスト時間スケーリング(TTS)アルゴリズムの多くは、自動回帰デコーディングに依存している。
そこで我々は,dLLM のための効率的な TTS フレームワーク Prism を提案する。
論文 参考訳(メタデータ) (2026-02-02T09:14:51Z) - Mutual Exclusivity Training and Primitive Augmentation to Induce
Compositionality [84.94877848357896]
最近のデータセットは、標準的なシーケンス・ツー・シーケンスモデルにおける体系的な一般化能力の欠如を露呈している。
本稿では,セq2seqモデルの振る舞いを分析し,相互排他バイアスの欠如と全例を記憶する傾向の2つの要因を同定する。
広範に使用されている2つの構成性データセット上で、標準的なシーケンス・ツー・シーケンスモデルを用いて、経験的改善を示す。
論文 参考訳(メタデータ) (2022-11-28T17:36:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。