論文の概要: DharmaOCR: Specialized Small Language Models for Structured OCR that outperform Open-Source and Commercial Baselines
- arxiv url: http://arxiv.org/abs/2604.14314v1
- Date: Wed, 15 Apr 2026 18:17:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-17 21:29:29.979303
- Title: DharmaOCR: Specialized Small Language Models for Structured OCR that outperform Open-Source and Commercial Baselines
- Title(参考訳): DharmaOCR:オープンソースおよび商用ベースラインを上回る構造化OCRのための特別化された小言語モデル
- Abstract要約: この原稿では、構造化OCR用の特殊小言語モデル(SSLM)であるDharmaOCR Full and Liteを紹介している。
DharmaOCR-Benchmarkも紹介されている。DharmaOCR-Benchmarkは、印刷、手書き、および法的/行政文書をカバーするベンチマークである。
テキストの劣化を明示的に追跡しながら、忠実度と構造を測定する統一評価プロトコルを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This manuscript introduces DharmaOCR Full and Lite, a pair of specialized small language models (SSLMs) for structured OCR that jointly optimize transcription quality, generation stability, and inference cost. It also presents DharmaOCR-Benchmark, a benchmark that covers printed, handwritten, and legal/administrative documents, and proposes a unified evaluation protocol that measures fidelity and structure while explicitly tracking text degeneration as a first-class benchmark metric (alongside unit cost). Beyond reporting degeneration rates, the manuscript empirically shows degeneration is not merely a quality failure, since it materially worsens production performance by increasing response time, reducing throughput, and inflating computational cost due to abnormally long generations. To the best of the author's knowledge, as a methodological contribution, this is the first application of Direct Preference Optimization (DPO) for OCR, explicitly using degenerate generations as rejected examples to penalize looping behavior. Combined with Supervised Fine-Tuning (SFT) for enforcing a strict JSON schema (header, margin, footer, and text), DPO consistently reduces degeneration rate across model families (up to 87.6% relative) while preserving or improving extraction quality. The resulting models, namely, DharmaOCR Full (7B) and DharmaOCR Lite (3B), set a new state-of-the-art on DharmaOCR-Benchmark, outperforming each open-source and commercial baseline model evaluated regarding extraction quality, reaching 0.925 and 0.911 scores with 0.40% and 0.20% degeneration rates. AWQ quantization reduced up to 22% per-page cost with negligible quality loss, enabling a strong quality-cost trade-off in comparison to proprietary OCR APIs and open-source alternatives.
- Abstract(参考訳): この原稿は、転写品質、生成安定性、推論コストを共同で最適化する構造化OCR用の特殊小言語モデル(SSLM)であるDharmaOCR Full and Liteを紹介する。
また、印刷、手書き、法律/行政文書をカバーするベンチマークであるDharmaOCR-Benchmarkを提示し、一級ベンチマークの指標としてテキストの劣化を明示的に追跡しながら、忠実さと構造を測定する統一評価プロトコルを提案する。
劣化率の報告以外にも、原稿は、応答時間を増やし、スループットを低減し、異常に長い世代による計算コストを膨らませることで、生産性能を著しく悪化させるため、単に品質の低下を経験的に示しているわけではない。
著者の知識を最大限に活用するために、方法論的な貢献として、これはOCRの直接選好最適化(DPO)の最初の応用であり、明らかに退化世代をループの挙動をペナルライズするための拒否例として用いている。
厳格なJSONスキーマ(ヘッダ、マージン、フッタ、テキスト)を強制するためのSupervised Fine-Tuning (SFT)と組み合わせることで、DPOは、抽出品質を保存または改善しながら、モデルファミリ(最大87.6%の相対)間の変性率を一貫して減少させる。
DharmaOCR Full (7B) と DharmaOCR Lite (3B) は、DharmaOCR-Benchmark上で新しい最先端のモデルを設定し、抽出品質を評価するオープンソースと商用のベースラインモデルを上回っ、0.925 と 0.911 のスコアを 0.40% と 0.20% の縮退率で達成した。
AWQの量子化はページ単位のコストを22%まで削減し、プロプライエタリなOCR APIやオープンソースの代替品と比較して、品質とコストのトレードオフが強かった。
関連論文リスト
- When Good OCR Is Not Enough: Benchmarking OCR Robustness for Retrieval-Augmented Generation [2.8437065210971872]
産業検索・拡張生成(RAG)システムは、視覚文書をテキストに変換するために光学文字認識(OCR)に依存している。
既存のOCRベンチマークは、実際の条件下で下流RAGの有効性を不適切に測定する文字レベルメトリクスに依存している。
本稿では,産業用RAGシステムを対象としたOCRベンチマークを紹介する。
論文 参考訳(メタデータ) (2026-04-29T09:42:42Z) - GLM-OCR Technical Report [65.42028025507491]
GLM-OCRは実世界の文書理解のために設計された効率的なコンパクトモデルである。
CogViTビジュアルエンコーダとGLM言語デコーダを組み合わせることで、計算効率と認識性能のバランスが強い。
公開ベンチマークと産業シナリオの大規模な評価は、GLM-OCRが競争力や最先端のパフォーマンスを達成することを示している。
論文 参考訳(メタデータ) (2026-03-11T15:55:47Z) - CDRRM: Contrast-Driven Rubric Generation for Reliable and Interpretable Reward Modeling [61.75914342638658]
CDRRM(Contrast-Driven Reward Model)は、高品質なルーリック生成と優先判断のためのフレームワークである。
この作業は、報酬モデリングのためのスケーラブルで解釈可能で、データ効率のよいパスを提供する。
論文 参考訳(メタデータ) (2026-03-09T07:15:23Z) - Reward-Guided Speculative Decoding for Efficient LLM Reasoning [80.55186052123196]
Reward-Guided Speculative Decoding (RSD)は,大規模言語モデル(LLM)における推論の効率向上を目的とした新しいフレームワークである。
RSDは、厳密な偏りを強制する既存の投機的復号法とは対照的に、制御されたバイアスをハイリワード出力の優先順位付けに取り入れている。
RSDは,対象モデルのみでの復号化に対して,高い効率向上を実現し,並列復号法よりも高い精度を実現している。
論文 参考訳(メタデータ) (2025-01-31T17:19:57Z) - Bridging SFT and DPO for Diffusion Model Alignment with Self-Sampling Preference Optimization [67.8738082040299]
自己サンプリング優先最適化(SSPO)は,訓練後強化学習のための新しいアライメント手法である。
SSPOは、SFTのトレーニング安定性を維持しながら、ペアデータと報酬モデルの必要性を排除する。
SSPOは、テキスト・ツー・イメージベンチマークにおける以前のアプローチを全て上回り、テキスト・ツー・ビデオベンチマークにおける優れたパフォーマンスを示している。
論文 参考訳(メタデータ) (2024-10-07T17:56:53Z) - CLOCR-C: Context Leveraging OCR Correction with Pre-trained Language Models [0.0]
本稿では、コンテキストレバレッジOCR補正(CLOCR-C)を紹介する。
トランスフォーマーベースの言語モデル(LM)の組み込みとコンテキスト適応能力を使用して、OCRの品質を向上する。
本研究の目的は, LMがOCR後の修正を行うことができるか, 下流のNLPタスクを改善するか, 補正プロセスの一部として社会文化的文脈を提供する価値を判断することである。
論文 参考訳(メタデータ) (2024-08-30T17:26:05Z) - Democratizing LLMs: An Exploration of Cost-Performance Trade-offs in
Self-Refined Open-Source Models [53.859446823312126]
SoTAは7Bから65Bまでのさまざまなサイズのオープンソースモデルを平均して、ベースラインのパフォーマンスから8.2%改善している。
厳密に言えば、Vicuna-7Bのような非常に小さなメモリフットプリントを持つモデルでさえ、全体的な11.74%の改善と、高い創造性、オープンエンドタスクの25.39%の改善を示している。
論文 参考訳(メタデータ) (2023-10-11T15:56:00Z) - Quality-Aware Translation Models: Efficient Generation and Quality Estimation in a Single Model [77.19693792957614]
そこで我々は,ニューラルネットワーク翻訳(NMT)モデルを用いて,その品質を学習し,その品質を推定する手法を提案する。
我々は、単一パスの復号化の効率性よりも、品質向上や品質改善のアプローチよりも優れた品質向上を得る。
論文 参考訳(メタデータ) (2023-10-10T15:33:51Z) - Donut: Document Understanding Transformer without OCR [17.397447819420695]
我々は,OCRフレームワークを基盤にすることなく,エンドツーエンドのトレーニングが可能な新しいVDUモデルを提案する。
提案手法は,公開ベンチマークデータセットとプライベート産業サービスデータセットの各種文書理解タスクにおける最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2021-11-30T18:55:19Z) - Rerunning OCR: A Machine Learning Approach to Quality Assessment and
Enhancement Prediction [0.0]
新しい改善されたOCRソリューションの反復は、適切な再処理候補をターゲットとする決定を強制する。
本稿はルクセンブルク国立図書館の取り組みを捉え、これらの決定を裏付けるものである。
論文 参考訳(メタデータ) (2021-10-04T18:52:59Z) - Lights, Camera, Action! A Framework to Improve NLP Accuracy over OCR
documents [2.6201102730518606]
我々は、下流のNLPタスクに対してOCRエラーを軽減するための効果的なフレームワークを実証する。
まず,文書合成パイプラインを構築することにより,モデル学習におけるデータ不足問題に対処する。
コミュニティの利益のために、私たちはドキュメント合成パイプラインをオープンソースプロジェクトとして利用可能にしました。
論文 参考訳(メタデータ) (2021-08-06T00:32:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。