論文の概要: Splitting Documents at Lower Cost: Multi-Split Boundary Decisions for LLM-Based Page Stream Segmentation
- arxiv url: http://arxiv.org/abs/2609.22620v1
- Date: Fri, 18 Sep 2026 22:13:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-23 18:04:03.885378
- Title: Splitting Documents at Lower Cost: Multi-Split Boundary Decisions for LLM-Based Page Stream Segmentation
- Title(参考訳): 低コストで文書を分割する: LLMに基づくページストリームセグメンテーションのための複数分割境界決定
- Abstract要約: マルチスプリット境界決定(MSBD)を導入し、単一の呼び出しでページウィンドウ内の複数のバウンダリを予測する。
MSBDは高いセグメンテーション精度を維持しつつ、推論効率を大幅に向上させ、さらに大きなウィンドウでは急激な低下を招いた。
これらの結果から,MSBDはターゲットコーパスに対してウィンドウサイズを選択すると,ゼロショットページストリームのセグメンテーションをより効率的にすることができることがわかった。
- 参考スコア(独自算出の注目度): 40.07728581005034
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Scanned mail, uploaded PDFs, and consolidated attachments often arrive as page streams that must be split into individual documents before downstream classification, extraction, or routing. Zero-shot large language models can detect document boundaries without task-specific training, but standard Page Classification (PC) and Boundary Decision (BD) formulations resolve only one boundary per model call. We introduce Multi-Split Boundary Decision (MSBD), which predicts multiple boundaries within a page window in a single call, reducing the number of inference requests. We evaluate MSBD across multiple language models, document collections, input modalities, and window sizes. The results reveal a model- and corpus-dependent operating range in which MSBD preserves strong segmentation accuracy while substantially improving inference efficiency, followed by a sharp decline at larger windows. MSBD provided the strongest overall accuracy--efficiency trade-off, while large windows expose distinct over- and under-segmentation behavior across models. These findings show that multi-boundary prediction can make zero-shot page stream segmentation more efficient when the window size is selected for the target corpus.
- Abstract(参考訳): スキャンされたメール、アップロードされたPDF、集約された添付ファイルは、下流の分類、抽出、ルーティングの前に個々のドキュメントに分割する必要があるページストリームとして現れることが多い。
ゼロショットの大規模言語モデルはタスク固有のトレーニングなしで文書境界を検出することができるが、標準ページ分類(PC)と境界決定(BD)はモデル呼び出し毎に1つの境界しか解決しない。
マルチスプリット境界決定(MSBD)を導入し、単一の呼び出しでページウィンドウ内の複数のバウンダリを予測し、推論要求の数を減らす。
複数の言語モデル、文書コレクション、入力モダリティ、ウィンドウサイズにまたがるMSBDを評価する。
その結果,MSBDは高いセグメンテーション精度を維持しつつ,推論効率を著しく向上し,さらに大きなウィンドウでは急激に低下するモデルおよびコーパスに依存した動作範囲が明らかとなった。
MSBDは全体的な精度と効率のトレードオフを最強に提供し、大きなウィンドウはモデル間のオーバー・セグメンテーションとアンダー・セグメンテーションの挙動を明確に表している。
これらの結果から,マルチバウンダリ予測により,ターゲットコーパスのウィンドウサイズを選択すると,ゼロショットページストリームのセグメンテーションがより効率的になることがわかった。
関連論文リスト
- A Multi-Framework Comparison of Outline Stages in Long-Form Generation with LLMs [9.826721433645526]
長文生成は、大きな言語モデルの基本的制約を明らかにする。
SuperWriterは、長さ制限付きシングルチャプタモードで最初にランク付けする。
フォローアップ実験はサンプルのサイズを拡大し、クロスモデル評価器を追加する。
論文 参考訳(メタデータ) (2026-08-13T15:44:03Z) - Inferring the Size of Large Language Models From Popular Text Memorization [0.989901717499058]
モデルは、長さの異なるテキスト断片をまたいだ次の単語を正確に予測することは、その単語がどれだけ記憶されたかの信頼できる信号である。
この記憶信号は、テキストと断片長の多種多様なコーパスにまたがって、モデル毎の1つの精度プロファイルベクトルに集約する。
その上に2つの補完的推論手法を構築し、その上に2つのモデルのうちどれが大きいかを決定するペア統計テストと、スケーリング法則推定器を構築した。
論文 参考訳(メタデータ) (2026-05-28T01:20:35Z) - Training-Free Acceleration for Document Parsing Vision-Language Model with Hierarchical Speculative Decoding [102.88996030431662]
本稿では,文書解析タスクの学習自由かつ高効率な高速化手法を提案する。
投機的復号化にインスパイアされた私たちは、将来のトークンのバッチを予測するために、ドラフトモデルとして軽量な文書解析パイプラインを使用します。
汎用OmniDocBenchに対するアプローチの有効性を示す。
論文 参考訳(メタデータ) (2026-02-13T14:22:10Z) - Toward General Semantic Chunking: A Discriminative Framework for Ultra-Long Documents [10.682600460180174]
長期文書トピックセグメンテーションは,情報検索や文書理解において重要な役割を担っている。
従来の識別モデルは固定ウィンドウによって制約されており、文書レベルの意味論をモデル化することはできない。
生成可能な大言語モデルは段落境界を出力することができるが、推論は高価であり、長い入力はサポートし難い。
論文 参考訳(メタデータ) (2025-12-23T16:16:51Z) - Resolving Evidence Sparsity: Agentic Context Engineering for Long-Document Understanding [49.26132236798123]
視覚言語モデル(VLM)は、文書理解における主要なアプローチになりつつある。
本稿では,粗いプロセスにおいて,検索者と4つの協調エージェントを編成するマルチエージェントフレームワークSLEUTHを提案する。
このフレームワークは、検索したページ内の重要なテキストおよび視覚的手がかりを特定し、テーブルやチャートなどの健全な視覚的エビデンスをフィルタし、クエリを分析して推論戦略を考案する。
論文 参考訳(メタデータ) (2025-11-28T03:09:40Z) - Learning Refined Document Representations for Dense Retrieval via Deliberate Thinking [58.69615583599489]
Deliberate Thinking based Retriever (Debater) は、段階的な思考プロセスを導入することで文書表現を強化する新しいアプローチである。
Debaterは、いくつかのベンチマークで既存のメソッドよりも大幅に優れています。
論文 参考訳(メタデータ) (2025-02-18T15:56:34Z) - Towards Text-Image Interleaved Retrieval [49.96332254241075]
テキスト画像検索(TIIR)タスクを導入し、クエリと文書をインターリーブしたテキスト画像シーケンスとする。
我々は、自然にインターリーブされたwikiHowチュートリアルに基づいてTIIRベンチマークを構築し、インターリーブされたクエリを生成するために特定のパイプラインを設計する。
異なる粒度で視覚トークンの数を圧縮する新しいMMEを提案する。
論文 参考訳(メタデータ) (2025-02-18T12:00:47Z) - LLM$\times$MapReduce: Simplified Long-Sequence Processing using Large Language Models [73.13933847198395]
本稿では,文書理解を包括的に行うための分割・対数戦略を利用して,長文処理のための学習自由フレームワークを提案する。
提案された LLM$times$MapReduce フレームワークは、ドキュメント全体を LLM が読み取るためにいくつかのチャンクに分割し、中間回答を集約して最終的な出力を生成する。
論文 参考訳(メタデータ) (2024-10-12T03:13:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。