論文の概要: DharmaOCR: Specialized Small Language Models for Structured OCR that outperform Open-Source and Commercial Baselines
- arxiv url: http://arxiv.org/abs/2604.14314v1
- Date: Wed, 15 Apr 2026 18:17:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-17 21:29:29.979303
- Title: DharmaOCR: Specialized Small Language Models for Structured OCR that outperform Open-Source and Commercial Baselines
- Title(参考訳): DharmaOCR:オープンソースおよび商用ベースラインを上回る構造化OCRのための特別化された小言語モデル
- Authors: Gabriel Pimenta de Freitas Cardoso, Caio Lucas da Silva Chacon, Jonas Felipe da Fonseca Oliveira, Paulo Henrique de Medeiros Araujo,
- Abstract要約: この原稿では、構造化OCR用の特殊小言語モデル(SSLM)であるDharmaOCR Full and Liteを紹介している。
DharmaOCR-Benchmarkも紹介されている。DharmaOCR-Benchmarkは、印刷、手書き、および法的/行政文書をカバーするベンチマークである。
テキストの劣化を明示的に追跡しながら、忠実度と構造を測定する統一評価プロトコルを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This manuscript introduces DharmaOCR Full and Lite, a pair of specialized small language models (SSLMs) for structured OCR that jointly optimize transcription quality, generation stability, and inference cost. It also presents DharmaOCR-Benchmark, a benchmark that covers printed, handwritten, and legal/administrative documents, and proposes a unified evaluation protocol that measures fidelity and structure while explicitly tracking text degeneration as a first-class benchmark metric (alongside unit cost). Beyond reporting degeneration rates, the manuscript empirically shows degeneration is not merely a quality failure, since it materially worsens production performance by increasing response time, reducing throughput, and inflating computational cost due to abnormally long generations. To the best of the author's knowledge, as a methodological contribution, this is the first application of Direct Preference Optimization (DPO) for OCR, explicitly using degenerate generations as rejected examples to penalize looping behavior. Combined with Supervised Fine-Tuning (SFT) for enforcing a strict JSON schema (header, margin, footer, and text), DPO consistently reduces degeneration rate across model families (up to 87.6% relative) while preserving or improving extraction quality. The resulting models, namely, DharmaOCR Full (7B) and DharmaOCR Lite (3B), set a new state-of-the-art on DharmaOCR-Benchmark, outperforming each open-source and commercial baseline model evaluated regarding extraction quality, reaching 0.925 and 0.911 scores with 0.40% and 0.20% degeneration rates. AWQ quantization reduced up to 22% per-page cost with negligible quality loss, enabling a strong quality-cost trade-off in comparison to proprietary OCR APIs and open-source alternatives.
- Abstract(参考訳): この原稿は、転写品質、生成安定性、推論コストを共同で最適化する構造化OCR用の特殊小言語モデル(SSLM)であるDharmaOCR Full and Liteを紹介する。
また、印刷、手書き、法律/行政文書をカバーするベンチマークであるDharmaOCR-Benchmarkを提示し、一級ベンチマークの指標としてテキストの劣化を明示的に追跡しながら、忠実さと構造を測定する統一評価プロトコルを提案する。
劣化率の報告以外にも、原稿は、応答時間を増やし、スループットを低減し、異常に長い世代による計算コストを膨らませることで、生産性能を著しく悪化させるため、単に品質の低下を経験的に示しているわけではない。
著者の知識を最大限に活用するために、方法論的な貢献として、これはOCRの直接選好最適化(DPO)の最初の応用であり、明らかに退化世代をループの挙動をペナルライズするための拒否例として用いている。
厳格なJSONスキーマ(ヘッダ、マージン、フッタ、テキスト)を強制するためのSupervised Fine-Tuning (SFT)と組み合わせることで、DPOは、抽出品質を保存または改善しながら、モデルファミリ(最大87.6%の相対)間の変性率を一貫して減少させる。
DharmaOCR Full (7B) と DharmaOCR Lite (3B) は、DharmaOCR-Benchmark上で新しい最先端のモデルを設定し、抽出品質を評価するオープンソースと商用のベースラインモデルを上回っ、0.925 と 0.911 のスコアを 0.40% と 0.20% の縮退率で達成した。
AWQの量子化はページ単位のコストを22%まで削減し、プロプライエタリなOCR APIやオープンソースの代替品と比較して、品質とコストのトレードオフが強かった。
関連論文リスト
- GLM-OCR Technical Report [65.42028025507491]
GLM-OCRは実世界の文書理解のために設計された効率的なコンパクトモデルである。
CogViTビジュアルエンコーダとGLM言語デコーダを組み合わせることで、計算効率と認識性能のバランスが強い。
公開ベンチマークと産業シナリオの大規模な評価は、GLM-OCRが競争力や最先端のパフォーマンスを達成することを示している。
論文 参考訳(メタデータ) (2026-03-11T15:55:47Z) - Reward-Guided Speculative Decoding for Efficient LLM Reasoning [80.55186052123196]
Reward-Guided Speculative Decoding (RSD)は,大規模言語モデル(LLM)における推論の効率向上を目的とした新しいフレームワークである。
RSDは、厳密な偏りを強制する既存の投機的復号法とは対照的に、制御されたバイアスをハイリワード出力の優先順位付けに取り入れている。
RSDは,対象モデルのみでの復号化に対して,高い効率向上を実現し,並列復号法よりも高い精度を実現している。
論文 参考訳(メタデータ) (2025-01-31T17:19:57Z) - Bridging SFT and DPO for Diffusion Model Alignment with Self-Sampling Preference Optimization [67.8738082040299]
自己サンプリング優先最適化(SSPO)は,訓練後強化学習のための新しいアライメント手法である。
SSPOは、SFTのトレーニング安定性を維持しながら、ペアデータと報酬モデルの必要性を排除する。
SSPOは、テキスト・ツー・イメージベンチマークにおける以前のアプローチを全て上回り、テキスト・ツー・ビデオベンチマークにおける優れたパフォーマンスを示している。
論文 参考訳(メタデータ) (2024-10-07T17:56:53Z) - CLOCR-C: Context Leveraging OCR Correction with Pre-trained Language Models [0.0]
本稿では、コンテキストレバレッジOCR補正(CLOCR-C)を紹介する。
トランスフォーマーベースの言語モデル(LM)の組み込みとコンテキスト適応能力を使用して、OCRの品質を向上する。
本研究の目的は, LMがOCR後の修正を行うことができるか, 下流のNLPタスクを改善するか, 補正プロセスの一部として社会文化的文脈を提供する価値を判断することである。
論文 参考訳(メタデータ) (2024-08-30T17:26:05Z) - Rerunning OCR: A Machine Learning Approach to Quality Assessment and
Enhancement Prediction [0.0]
新しい改善されたOCRソリューションの反復は、適切な再処理候補をターゲットとする決定を強制する。
本稿はルクセンブルク国立図書館の取り組みを捉え、これらの決定を裏付けるものである。
論文 参考訳(メタデータ) (2021-10-04T18:52:59Z) - Lights, Camera, Action! A Framework to Improve NLP Accuracy over OCR
documents [2.6201102730518606]
我々は、下流のNLPタスクに対してOCRエラーを軽減するための効果的なフレームワークを実証する。
まず,文書合成パイプラインを構築することにより,モデル学習におけるデータ不足問題に対処する。
コミュニティの利益のために、私たちはドキュメント合成パイプラインをオープンソースプロジェクトとして利用可能にしました。
論文 参考訳(メタデータ) (2021-08-06T00:32:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。