論文の概要: Spatial Information Integration in Small Language Models for Document Layout Generation and Classification

• arxiv url: http://arxiv.org/abs/2501.05497v1
• Date: Thu, 09 Jan 2025 17:20:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-13 15:28:38.047107
• Title: Spatial Information Integration in Small Language Models for Document Layout Generation and Classification
• Title（参考訳）: 文書レイアウト生成と分類のための小言語モデルにおける空間情報の統合
• Authors: Pablo Melendez, Clemens Havas,
• Abstract要約: 文書レイアウト理解は、文書内の情報の空間的配置を分析して、その構造とレイアウトを理解する研究分野である。 半構造化データは日常的な生活(バランスシート、購入注文、レシート)では一般的だが、この種のドキュメントのために機械学習モデルをトレーニングするための公開データセットが不足している。 本稿では,このデータ不足を克服する上で有効な,新しい,合成されたレイアウト情報を生成する手法を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Document layout understanding is a field of study that analyzes the spatial arrangement of information in a document hoping to understand its structure and layout. Models such as LayoutLM (and its subsequent iterations) can understand semi-structured documents with SotA results; however, the lack of open semi-structured data is a limitation in itself. While semi-structured data is common in everyday life (balance sheets, purchase orders, receipts), there is a lack of public datasets for training machine learning models for this type of document. In this investigation we propose a method to generate new, synthetic, layout information that can help overcoming this data shortage. According to our results, the proposed method performs better than LayoutTransformer, another popular layout generation method. We also show that, in some scenarios, text classification can improve when supported by bounding box information.
• Abstract（参考訳）: 文書レイアウト理解は、その構造とレイアウトを理解しようとする文書における情報の空間的配置を分析する研究分野である。 LayoutLM(およびその後の反復)のようなモデルは、SotAの結果で半構造化文書を理解することができるが、オープンな半構造化データの欠如はそれ自体に制限がある。 半構造化データは日常的な生活(バランスシート、購入注文、レシート)では一般的だが、この種のドキュメントのために機械学習モデルをトレーニングするための公開データセットが不足している。 本研究では,このデータ不足を克服するための新しい,合成されたレイアウト情報を生成する手法を提案する。 その結果,提案手法はレイアウト生成手法であるLayoutTransformerよりも優れた性能を示した。 また、いくつかのシナリオでは、ボックス情報のバウンディングによってテキスト分類が改善できることも示している。

関連論文リスト

• Diachronic Document Dataset for Semantic Layout Analysis [9.145289299764991]
  このデータセットは、デジタル化されたデジタル・デジタル・マテリアルの大きな時間範囲(1600-2024)にまたがる7,254ページの注釈付きページを含む。 異なる時代やジャンルのコンテンツを取り入れることで、様々なレイアウトの複雑さと文書構造の歴史的変化に対処する。 本データセットを用いてオブジェクト検出モデルの評価を行い,入力サイズとサブセットベーストレーニングの影響について検討した。
  論文  参考訳（メタデータ） (2024-11-15T09:33:13Z)
• Lightweight Spatial Modeling for Combinatorial Information Extraction From Documents [31.434507306952458]
  文書エンティティのK-nearest-neighbor(KNN)グラフに基づいて,注目度計算の新たなバイアスを取り入れたKNNフォーマを提案する。 また、多くの文書に存在する1対1のマッピング特性に対処するために、マッチング空間を用いる。 本手法はトレーニング可能なパラメータの数の観点から既存の手法と比較して非常に効率的である。
  論文  参考訳（メタデータ） (2024-05-08T10:10:38Z)
• LLM Based Multi-Agent Generation of Semi-structured Documents from Semantic Templates in the Public Administration Domain [2.3999111269325266]
  大きな言語モデル(LLM)により、ユーザ要求を満たすカスタマイズされたテキスト出力が作成できるようになった。 所望の構造に適合した新しい文書を生成するために,LLMと迅速なエンジニアリングシステム,マルチエージェントシステムを組み合わせた新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-02-21T13:54:53Z)
• Enhancing Visually-Rich Document Understanding via Layout Structure Modeling [91.07963806829237]
  レイアウトの知識をモデルに注入する新しい文書理解モデルであるGraphLMを提案する。 我々は、FUNSD、XFUND、CORDなど様々なベンチマークでモデルを評価し、最先端の結果を得た。
  論文  参考訳（メタデータ） (2023-08-15T13:53:52Z)
• Few-Shot Data-to-Text Generation via Unified Representation and Multi-Source Learning [114.54944761345594]
  本稿では,既存の手法の限界に対処する構造化データ・テキスト生成手法を提案する。 提案手法は,マルチタスクトレーニング,ゼロショット,少数ショットシナリオの性能向上を目的としている。
  論文  参考訳（メタデータ） (2023-08-10T03:09:12Z)
• Are Layout-Infused Language Models Robust to Layout Distribution Shifts? A Case Study with Scientific Documents [54.744701806413204]
  近年の研究では、レイアウト機能を言語モデル(LM)に注入することで、科学論文などの視覚に富んだ文書の処理が改善されている。 レイアウトを注入したLMがレイアウト分布シフトに対して堅牢であるかどうかを検証する。
  論文  参考訳（メタデータ） (2023-06-01T18:01:33Z)
• Transforming Unstructured Text into Data with Context Rule Assisted Machine Learning (CRAML) [0.0]
  コンテキストルール支援機械学習(CRAML)法は、大量の非構造化テキストの正確な再現可能なラベル付けを可能にする。 CRAMLにより、ドメインの専門家はドキュメントコーパス内に埋もれている珍しい構造にアクセスすることができる。 CRAMLのユースケースは3つある: テキストデータから得られた最近の管理文献を分析し、プロプライエタリな求人広告テキストの分析から新しい機械学習モデルを記述・リリースし、フランチャイズ文書の公開コーパスから社会的・経済的関心の発見を示す。
  論文  参考訳（メタデータ） (2023-01-20T13:12:35Z)
• ERNIE-Layout: Layout Knowledge Enhanced Pre-training for Visually-rich Document Understanding [52.3895498789521]
  レイアウト知識を向上した新しい文書事前学習ソリューションであるERNIEを提案する。 まず、直列化段階で入力シーケンスを並べ替え、相関的な事前学習タスクを示し、順序予測を行い、文書の適切な読み順序を学習する。 実験の結果、ERNIEは様々な下流タスクにおいて優れた性能を示し、キー情報に新たな最先端設定、文書質問応答を実現している。
  論文  参考訳（メタデータ） (2022-10-12T12:59:24Z)
• RDU: A Region-based Approach to Form-style Document Understanding [69.29541701576858]
  キー情報抽出(KIE)は,フォーム形式の文書から構造化された情報を抽出することを目的としている。 我々は、Rerea-based Understanding Document (RDU) と呼ばれる新しいKIEモデルを開発する。 RDUは文書のテキスト内容と対応する座標を入力として、バウンディングボックスのような領域をローカライズして結果を予測しようとする。
  論文  参考訳（メタデータ） (2022-06-14T14:47:48Z)
• Value Retrieval with Arbitrary Queries for Form-like Documents [50.5532781148902]
  フォーム状文書に対する任意のクエリを用いた値検索を提案する。 本手法は,フォームのレイアウトやセマンティクスの理解に基づいて,任意のクエリのターゲット値を予測する。 本稿では,大規模モデル事前学習における文書理解を改善するためのシンプルな文書言語モデリング (simpleDLM) 戦略を提案する。
  論文  参考訳（メタデータ） (2021-12-15T01:12:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。