論文の概要: Stockmark-Nemotron-3-Nano-Omni-JapanDocReader: Structured Document Parsing via Capability Injection and Forgetting Control

• arxiv url: http://arxiv.org/abs/2608.06758v1
• Date: Fri, 07 Aug 2026 03:24:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-10 16:21:25.338833
• Title: Stockmark-Nemotron-3-Nano-Omni-JapanDocReader: Structured Document Parsing via Capability Injection and Forgetting Control
• Title（参考訳）: Stockmark-Nemotron-3-Nano-Omni-JapanDocReader: 機能注入と蓄積制御による構造化文書解析
• Authors: Shi Chen, Hayato Aida, Makoto Morinaga, Shohei Tanaka, Kosuke Arima,
• Abstract要約: 我々はNemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16から構築した日本語文書理解モデルを提案する。 本研究では,構造化文書解析データのみを用いた解析中心SFT,構造化文書解析とVQAデータを組み合わせた混合SFTについて検討する。 混合SFTチェックポイント上にDAPOベースの構文解析中心RLを適用することにより、SFT天井を超える構造化文書解析をさらに改善する。
• 参考スコア（独自算出の注目度）: 2.661673377954457
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We present Stockmark-Nemotron-3-Nano-Omni-JapanDocReader, a Japanese document understanding model built from Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16. The central goal of this work is structured document parsing via capability injection and forgetting control: we inject Japanese structured document parsing capability into a reasoning-oriented multimodal model while preserving its document VQA capability as much as possible. We study parsing-centric SFT, which uses only structured document parsing data; mixed SFT, which combines structured document parsing and VQA data; and parsing-centric RL, which optimizes structured parsing with a task-level reward. Our experiments show that parsing-centric SFT substantially improves structured document parsing performance but causes measurable VQA forgetting. Mixed SFT mitigates this forgetting while preserving nearly the same structured parsing performance. Applying DAPO-based parsing-centric RL on top of the mixed SFT checkpoint further improves structured document parsing beyond the SFT ceiling, producing the final released model. The training data is constructed with a data engine consisting of two complementary synthetic streams: a Japanese Document VQA Stream and a programmatic structured document parsing stream. We also discuss reward design and variance-based prompt filtering for continuous structured document parsing rewards, highlighting their importance for making RL effective in long-reasoning structured document parsing tasks.
• Abstract（参考訳）: 我々は,Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16から構築した日本語文書理解モデルであるStockmark-Nemotron-3-Nano-Omni-JapanDocReaderを紹介する。 本研究の中心的な目的は、機能注入と制御の忘れ方による構造化文書解析である:我々は、できるだけ文書VQA能力を保ちながら、日本語構造化文書解析能力を推論指向のマルチモーダルモデルに注入する。 本研究では,構造化文書解析データのみを用いる構文解析中心のSFT,構造化文書解析とVQAデータを組み合わせた混合SFT,構造化文書解析をタスクレベルの報酬で最適化する構文解析中心のRLについて検討する。 解析中心のSFTは、構造化文書解析性能を大幅に向上するが、測定可能なVQAを忘れる原因となることを示す。 混合SFTは、ほぼ同じ構造化解析性能を維持しながら、この忘れを緩和する。 混合SFTチェックポイント上にDAPOベースの構文解析中心のRLを適用することで、SFT天井を超えた構造化文書解析をさらに改善し、最終リリースモデルを生成する。 トレーニングデータは、日本語文書VQAストリームとプログラム構造化文書解析ストリームの2つの相補的な合成ストリームからなるデータエンジンで構築される。 また、連続的構造化文書解析における報酬設計と分散に基づくプロンプトフィルタリングについても論じ、長期的構造化文書解析タスクにおいてRLを効果的にすることの重要性を強調した。

関連論文リスト

• RT-DocLayout: Real-Time End-to-End Document Layout Analysis with Reading Order in the Wild [14.715243408844058]
  文書レイアウト解析のための高効率なエンドツーエンドフレームワークRT-Docを提案する。 提案モデルは,レイアウト要素の分類,画素レベルのセグメンテーション,幾何学的順序順予測を統一する。 RT-Docは、フルドキュメントの再構築品質を大幅に改善し、現実世界の文書インテリジェンスシステムのスケーラブルで実用的な基盤を提供する。
  論文  参考訳（メタデータ） (2026-06-22T13:48:39Z)
• MPDocBench-Parse: Benchmarking Practical Multi-page Document Parsing [74.84107522458798]
  MPDocBench-Parseは、現実世界のアプリケーションにおけるマルチページ文書解析のためのベンチマークである。 433の注釈付き文書に3,246ページあり、英語と中国語の15種類の文書を網羅しており、レイアウトは様々である。
  論文  参考訳（メタデータ） (2026-05-21T07:36:41Z)
• Towards Real-World Document Parsing via Realistic Scene Synthesis and Document-Aware Training [23.87978106727431]
  本稿では、堅牢なエンドツーエンド文書解析のためのデータ学習協調設計フレームワークを提案する。 本手法は,スキャン・デジタル・実世界の両方のシナリオにおいて,精度とロバスト性を向上する。
  論文  参考訳（メタデータ） (2026-03-25T03:19:09Z)
• Training-Free Acceleration for Document Parsing Vision-Language Model with Hierarchical Speculative Decoding [102.88996030431662]
  本稿では,文書解析タスクの学習自由かつ高効率な高速化手法を提案する。 投機的復号化にインスパイアされた私たちは、将来のトークンのバッチを予測するために、ドラフトモデルとして軽量な文書解析パイプラインを使用します。 汎用OmniDocBenchに対するアプローチの有効性を示す。
  論文  参考訳（メタデータ） (2026-02-13T14:22:10Z)
• Infinity Parser: Layout Aware Reinforcement Learning for Scanned Document Parsing [46.14775667559124]
  layoutRLは、レイアウトを明示的に認識するようにモデルをトレーニングするエンドツーエンドの強化学習フレームワークである。 堅牢なドキュメント理解の進歩を加速するために、コードとデータセットを公開します。
  論文  参考訳（メタデータ） (2025-06-01T15:19:52Z)
• Document Structure in Long Document Transformers [64.76981299465885]
  長い文書は、しばしばセクションヘッダーや段落のような異なる機能で階層的に整理された要素を持つ構造を示す。 文書構造の不明瞭さにもかかわらず、自然言語処理(NLP)におけるその役割はいまだに不透明である。 長期文書変換モデルは事前学習中に文書構造の内部表現を取得するか? 事前トレーニング後に構造情報をモデルに伝達するにはどうすればよいのか、下流のパフォーマンスにどのように影響するのか?
  論文  参考訳（メタデータ） (2024-01-31T08:28:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。