論文の概要: LayoutLite: Token-Level Implicit Layout Analysis for Efficient Document OCR

• arxiv url: http://arxiv.org/abs/2607.22200v1
• Date: Fri, 24 Jul 2026 11:13:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-27 20:58:57.116625
• Title: LayoutLite: Token-Level Implicit Layout Analysis for Efficient Document OCR
• Title（参考訳）: LayoutLite: 効率的なドキュメントOCRのためのToken-Level Implicit Layout分析
• Abstract要約: 我々は,OCRを効率的に文書化するための軽量なプラグイン・アンド・プレイモジュールであるLayoutLiteを提案する。 視覚エンコーダから多層視覚表現を集約し、軽量スコアリングネットワークで各視覚トークンの重要スコアを予測する。 OmniDocBenchの実験では、LayoutLiteは認識品質の劣化を無視して、視覚トークンの長さと推論コストを大幅に削減できることを示した。
• 参考スコア（独自算出の注目度）: 10.208363125551555
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: End-to-end OCR systems based on vision-language models have achieved strong performance in complex document OCR, but their efficiency is limited by the large number of visual tokens produced from document images. Many of these tokens correspond to blank margins or visually redundant regions, yet directly applying generic visual token compression methods may remove OCR-critical fine-grained details. In this paper, we propose LayoutLite, a lightweight plug-and-play module for efficient document OCR. Instead of relying on explicit document layout detection, LayoutLite performs implicit layout analysis at the token level between the vision encoder and the language decoder. It aggregates multi-layer visual representations from the vision encoder, and predicts an importance score for each visual token with a lightweight scoring network. Low-information tokens are then removed before entering the language decoder while preserving the original spatial positional information of retained tokens. To train LayoutLite without human annotations, we cast token selection as a reinforcement learning problem and optimize it with a group-relative policy optimization objective driven by OCR output consistency, together with an auxiliary layout supervision signal to stabilize training. Experiments on OmniDocBench demonstrate that LayoutLite can substantially reduce visual token length and inference cost with negligible degradation in recognition quality. We further evaluate LayoutLite on two OCR-specialized VLMs, FireRed-OCR and Logics-Parsing-V2. Under up to 50% token compression, LayoutLite preserves almost the same score on both models while reducing prefill latency, FLOPs, and KV cache memory by over 40%, with only a small additional inference overhead. These results show that token-level implicit layout analysis is an effective and practical approach for accelerating VLM-based OCR systems.
• Abstract（参考訳）: 視覚言語モデルに基づくエンド・ツー・エンドのOCRシステムは、複雑な文書OCRにおいて高い性能を達成しているが、その効率は文書画像から生成される多数の視覚トークンによって制限されている。 これらのトークンの多くは空白のマージンや視覚的に冗長な領域に対応しているが、汎用的な視覚トークン圧縮手法を直接適用することで、OCRクリティカルな細部の詳細を除去することができる。 本稿では,OCRを効率的に文書化するための軽量なプラグイン・アンド・プレイモジュールであるLayoutLiteを提案する。 明示的なドキュメントレイアウト検出に頼る代わりに、LayoutLiteは視覚エンコーダと言語デコーダの間のトークンレベルで暗黙的なレイアウト解析を行う。 視覚エンコーダから多層視覚表現を集約し、軽量スコアリングネットワークで各視覚トークンの重要スコアを予測する。 低情報トークンは、保持トークンの元の空間的位置情報を保存しながら、言語デコーダに入る前に削除される。 人間のアノテーションを使わずにLayoutLiteをトレーニングするために、トークン選択を強化学習問題として、OCR出力の整合性によって駆動されるグループ相対的ポリシー最適化目標と、トレーニングを安定させるために補助的なレイアウト監視信号で最適化する。 OmniDocBenchの実験では、LayoutLiteは認識品質の劣化を無視して、視覚トークンの長さと推論コストを大幅に削減できることを示した。 さらに、OCR仕様の2つのVLM、FireRed-OCRとLogics-Parsing-V2上でLayoutLiteを評価する。 最大50%のトークン圧縮で、LayoutLiteは両方のモデルでほぼ同じスコアを保ちながら、プリフィルレイテンシ、FLOP、KVキャッシュメモリを40%以上削減する。 これらの結果から,トークンレベルの暗黙的レイアウト解析は,VLMベースのOCRシステムの高速化に有効かつ実用的な手法であることが示唆された。

関連論文リスト

• PACE: A Unified Condense-and-Extract Paradigm for Fast VLM Inference [15.233755808671871]
  既存の視覚トークンプルーニング法には2つの基本的な制限がある。 ほとんどのアプローチは、ビジョン後エンコーダのみを動作させ、視覚符号化フェーズのかなりの遅延は、最適化されないままである。 視覚エンコーダと大規模言語モデルの両方を高速化するフレームワークである PACE を提案する。
  論文  参考訳（メタデータ） (2026-08-27T14:52:09Z)
• TongGuOCR: A Layout-Aware and Token-Augmented OCR MLLM for Chinese Historical Documents [50.64307290680222]
  TongGuOCRは、中国古文書のOCRのためのレイアウト対応およびトークン拡張型マルチモーダル言語モデル(MLLM)である。 TongGuOCRは93.76 ARを達成し、NEDを10.43から6.15に、RO-EDを7.53から3.49に下げる。
  論文  参考訳（メタデータ） (2026-08-08T04:50:00Z)
• FastOCR: Dynamic Visual Fixation via KV Cache Pruning for Efficient Document Parsing [51.905216364362325]
  我々は2つの相補的なモジュールを持つトレーニングフリーフレームワークであるFastOCRを提案する。 FastOCRは未実行モデルの精度の98%を保持し、デコードステップあたりの視覚トークンの5%にしか到達しない。
  論文  参考訳（メタデータ） (2026-05-17T13:39:47Z)
• ResPrune: Text-Conditioned Subspace Reconstruction for Visual Token Pruning in Large Vision-Language Models [59.94664910790462]
  ResPruneは、大規模な視覚言語モデルのためのトレーニング不要のビジュアルトークンプルーニングフレームワークである。 視覚トークンのコンパクトだが情報に富むサブセットを選択する。 これは、計算、メモリ消費、推論遅延を効果的に削減する。
  論文  参考訳（メタデータ） (2026-03-22T07:44:45Z)
• GLM-OCR Technical Report [65.42028025507491]
  GLM-OCRは実世界の文書理解のために設計された効率的なコンパクトモデルである。 CogViTビジュアルエンコーダとGLM言語デコーダを組み合わせることで、計算効率と認識性能のバランスが強い。 公開ベンチマークと産業シナリオの大規模な評価は、GLM-OCRが競争力や最先端のパフォーマンスを達成することを示している。
  論文  参考訳（メタデータ） (2026-03-11T15:55:47Z)
• SimpleOCR: Rendering Visualized Questions to Teach MLLMs to Read [43.28273039987167]
  テキストクエリを画像に直接描画するVisualized-Question (VQ) 設定を導入する。 強力なOCR能力を持つにもかかわらず、モデルはVQ設定で最大12.7%の性能低下に悩まされる。 学習プロセスに構造的制約を課すプラグアンドプレイトレーニング戦略であるSimpleOCRを提案する。
  論文  参考訳（メタデータ） (2026-02-25T21:36:30Z)
• LightOnOCR: A 1B End-to-End Multilingual Vision-Language Model for State-of-the-Art OCR [0.29410438275861583]
  我々は,多言語視覚言語モデルである textbfLightOnOCR-2-1B を提案する。 大規模で高品質な蒸留混合物でスキャン、フランス語文書、科学PDFを強くカバーし、LightOnOCR-2はOlmOCR-Benchの最先端の結果を得る。 私たちはApache 2.0でモデルチェックポイントをリリースし、データセットと textbfLightOnOCR-bbox-bench の評価をそれぞれのライセンスで公開しています。
  論文  参考訳（メタデータ） (2026-01-20T18:58:32Z)
• Fast SAM2 with Text-Driven Token Pruning [52.8350457627401]
  Segment Anything Model 2 (SAM2) では、視覚計算モデルがプロンプト駆動のビデオオブジェクトセグメンテーションにおいて大幅に進歩している。 SAM2パイプラインは、イメージエンコーダが生成するすべての視覚トークンを、ターゲットオブジェクトとの関係にかかわらず、下流の時間的推論モジュールを通じて伝達する。 本稿では,時間的伝播に先立ってトークン密度を選択的に低減し,推論効率を向上させるためのテキスト誘導型トークンプルーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-12-24T18:59:05Z)
• Infinity Parser: Layout Aware Reinforcement Learning for Scanned Document Parsing [46.14775667559124]
  layoutRLは、レイアウトを明示的に認識するようにモデルをトレーニングするエンドツーエンドの強化学習フレームワークである。 堅牢なドキュメント理解の進歩を加速するために、コードとデータセットを公開します。
  論文  参考訳（メタデータ） (2025-06-01T15:19:52Z)
• Vision-centric Token Compression in Large Language Model [51.92055188780033]
  Vision Centric Token Compression (Vist)は、人間の読書を反映した高速圧縮フレームワークである。 11のコンテキスト内学習ベンチマークでは、Vistは同じ精度を2.3倍のトークンで達成し、FLOPを16%削減し、メモリを50%削減した。
  論文  参考訳（メタデータ） (2025-02-02T13:10:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。