論文の概要: Diffusion Drafts, AR Verifies: Accelerating Document OCR with Self-Speculative Decoding

• arxiv url: http://arxiv.org/abs/2609.26638v1
• Date: Tue, 22 Sep 2026 16:11:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-24 01:05:39.740371
• Title: Diffusion Drafts, AR Verifies: Accelerating Document OCR with Self-Speculative Decoding
• Title（参考訳）: 拡散ドラフト、AR検証:自己投機的デコードによるドキュメントOCRの高速化
• Abstract要約: OCRモデルは文書画像をテキストと構造化マークアップに正確に変換するが、出力トークンごとに1つの逐次復号ステップを必要とする。 本稿では,パラメータ共有ARブロック拡散モデルであるGravityOCRを紹介する。 OmniDocBench v1.6では、ARパスGRPOは拡散ドラフト効率を低下させることなく、総合スコアを94.92から95.16に改善した。
• 参考スコア（独自算出の注目度）: 15.69765594454642
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Autoregressive OCR vision-language models accurately convert document images into text and structured markup, but require one sequential decoding step per output token, limiting inference speed. Unlike open-ended text generation, OCR outputs are strongly grounded in the input image, making diffusion-based parallel generation promising. However, when several tokens are predicted in one diffusion step, each is predicted before the others are known. Committing them directly can therefore introduce errors. We therefore introduce GravityOCR, a parameter-shared AR-block-diffusion model jointly trained for parallel drafting and causal AR verification. Verifying drafts before commitment lets the model commit multiple output tokens per round without a separate drafting network. The causal AR path also enables GRPO with sequence- and structure-level OCR rewards, avoiding diffusion-trajectory likelihood estimation while updating the shared drafter parameters. On OmniDocBench v1.6, AR-path GRPO improves the Overall score from 94.92 to 95.16 without reducing diffusion drafting efficiency, while the final model remains close to the original GLM-OCR score of 95.48. In an SGLang serving deployment, GravityOCR commits an average of 9.7 output tokens per forward pass and achieves a $3.94\times$ decode-only speedup on region crops and a $1.32\times$ end-to-end page-processing speedup over AR decoding.
• Abstract（参考訳）: 自動回帰OCRビジョン言語モデルは、文書画像をテキストと構造化マークアップに正確に変換するが、出力トークン毎に1つの逐次デコードステップを必要とし、推論速度を制限している。 オープンエンドテキスト生成とは異なり、OCR出力は入力画像に強く基礎を置いており、拡散ベースの並列生成が期待できる。 しかし、複数のトークンが1つの拡散ステップで予測されると、それぞれが他のトークンが知られる前に予測される。 そのため、直接コミュニケートするとエラーが発生する。 そこで,パラメータ共有ARブロック拡散モデルであるGravityOCRを導入する。 コミット前のドラフトを検証することで、別のドラフトネットワークなしで、モデルがラウンド毎に複数の出力トークンをコミットすることができる。 因果ARパスはまた、GRPOにシーケンスレベルのOCR報酬と構造レベルのOCR報酬を付与することができ、共有ドラフトパラメータを更新しながら拡散軌道推定を回避できる。 OmniDocBench v1.6では、ARパスGRPOは拡散ドラフト効率を低下させることなく総合スコアを94.92から95.16に改善し、最終モデルは95.48のGLM-OCRスコアに近いままである。 デプロイメントを提供するSGLangでは、GravityOCRはフォワードパスあたりの平均9.7の出力トークンをコミットし、リージョンの作物のデコードのみのスピードアップと、ARデコードよりも1.32のページ処理のスピードアップを達成している。

関連論文リスト

• TongGuOCR: A Layout-Aware and Token-Augmented OCR MLLM for Chinese Historical Documents [50.64307290680222]
  TongGuOCRは、中国古文書のOCRのためのレイアウト対応およびトークン拡張型マルチモーダル言語モデル(MLLM)である。 TongGuOCRは93.76 ARを達成し、NEDを10.43から6.15に、RO-EDを7.53から3.49に下げる。
  論文  参考訳（メタデータ） (2026-08-08T04:50:00Z)
• K-Forcing: Joint Next-K-Token Decoding via Push-Forward Language Modeling [37.46942663162738]
  K-Forcingは、next-k-tokenデコーディングのためのプッシュフォワード言語モデリングパラダイムである。 標準因果変換器のバックボーンを用いて,LM1B と OpenWebText 上で K-Forcing を評価する。
  論文  参考訳（メタデータ） (2026-06-09T13:02:00Z)
• Diffusion Language Model Parallel Decoding via Product-of-Experts Bridge [93.37920675145553]
  拡散言語モデル (DLMs) は並列デコーディングによる大幅な速度優位性を提供する。 トークン依存関係の欠如は、自動回帰(AR)モデルと比較して生成品質を制限します。 最近の進歩は、DLMが提案、ARが目標として、重要サンプリングによってギャップを埋めようとしている。 本稿では,生成速度と精度を大幅に向上させる新しいデコードフレームワークPoE-Bridgeを紹介する。
  論文  参考訳（メタデータ） (2026-06-06T08:21:06Z)
• GLM-OCR Technical Report [65.42028025507491]
  GLM-OCRは実世界の文書理解のために設計された効率的なコンパクトモデルである。 CogViTビジュアルエンコーダとGLM言語デコーダを組み合わせることで、計算効率と認識性能のバランスが強い。 公開ベンチマークと産業シナリオの大規模な評価は、GLM-OCRが競争力や最先端のパフォーマンスを達成することを示している。
  論文  参考訳（メタデータ） (2026-03-11T15:55:47Z)
• LightOnOCR: A 1B End-to-End Multilingual Vision-Language Model for State-of-the-Art OCR [0.29410438275861583]
  我々は,多言語視覚言語モデルである textbfLightOnOCR-2-1B を提案する。 大規模で高品質な蒸留混合物でスキャン、フランス語文書、科学PDFを強くカバーし、LightOnOCR-2はOlmOCR-Benchの最先端の結果を得る。 私たちはApache 2.0でモデルチェックポイントをリリースし、データセットと textbfLightOnOCR-bbox-bench の評価をそれぞれのライセンスで公開しています。
  論文  参考訳（メタデータ） (2026-01-20T18:58:32Z)
• DiffuSpec: Unlocking Diffusion Language Models for Speculative Decoding [66.40658898418316]
  DiffuSpecは、事前訓練された拡散言語モデル(DLM)を用いて、単一のフォワードパスでマルチトークンのドラフトを生成する、トレーニングフリーのドロップインフレームワークである。 ベンチマーク全体を通じて、DiffuSpecは最大3倍のウォールクロックスピードアップを達成し、投機的復号化のための自己回帰型ドラフトラの堅牢な代替手段として拡散ベースのドラフトを確立する。
  論文  参考訳（メタデータ） (2025-09-28T07:00:15Z)
• FastCorrect: Fast Error Correction with Edit Alignment for Automatic Speech Recognition [90.34177266618143]
  編集アライメントに基づく新しいNAR誤り訂正モデルであるFastCorrectを提案する。 fastcorrectは推論を6-9倍高速化し、自己回帰補正モデルと比較して精度を8-14%向上させる。 ニューラルマシン翻訳で採用されている一般的なNARモデルの精度を、大きなマージンで上回っています。
  論文  参考訳（メタデータ） (2021-05-09T05:35:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。