論文の概要: Towards Efficient Resume Understanding: A Multi-Granularity Multi-Modal Pre-Training Approach

• arxiv url: http://arxiv.org/abs/2404.13067v1
• Date: Sat, 13 Apr 2024 14:31:24 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-28 11:16:37.597853
• Title: Towards Efficient Resume Understanding: A Multi-Granularity Multi-Modal Pre-Training Approach
• Title（参考訳）: 効率的なResume理解に向けて:マルチグラニュラリティ・マルチモーダル事前学習アプローチ
• Authors: Feihu Jiang, Chuan Qin, Jingshuai Zhang, Kaichun Yao, Xi Chen, Dazhong Shen, Chen Zhu, Hengshu Zhu, Hui Xiong,
• Abstract要約: 本稿では,効率的な再帰的理解を実現するための新しいモデル ERU を提案する。 まず,履歴書中のセグメントをテキスト情報,視覚情報,レイアウト情報を統合して符号化するレイアウト対応マルチモーダル融合変換器を提案する。 次に、履歴書から構造化情報を取り出すために、多粒度シーケンスラベリングタスクでモデルを微調整する。
• 参考スコア（独自算出の注目度）: 43.0592922448035
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In the contemporary era of widespread online recruitment, resume understanding has been widely acknowledged as a fundamental and crucial task, which aims to extract structured information from resume documents automatically. Compared to the traditional rule-based approaches, the utilization of recently proposed pre-trained document understanding models can greatly enhance the effectiveness of resume understanding. The present approaches have, however, disregarded the hierarchical relations within the structured information presented in resumes, and have difficulty parsing resumes in an efficient manner. To this end, in this paper, we propose a novel model, namely ERU, to achieve efficient resume understanding. Specifically, we first introduce a layout-aware multi-modal fusion transformer for encoding the segments in the resume with integrated textual, visual, and layout information. Then, we design three self-supervised tasks to pre-train this module via a large number of unlabeled resumes. Next, we fine-tune the model with a multi-granularity sequence labeling task to extract structured information from resumes. Finally, extensive experiments on a real-world dataset clearly demonstrate the effectiveness of ERU.
• Abstract（参考訳）: オンライン採用の普及期には,履歴書から構造化情報を自動的に抽出することを目的とした基本的かつ重要な課題として,履歴書理解が広く認められてきた。 従来のルールベースアプローチと比較して、最近提案された事前学習文書理解モデルの利用は、再学習理解の有効性を大幅に向上させることができる。 しかし,本手法は履歴書に提示される構造化情報内の階層的関係を無視し,効率よく履歴書を解析することが困難である。 そこで本稿では,効率的な再帰的理解を実現するための新しいモデル ERU を提案する。 具体的には、まず、履歴書中のセグメントをテキスト情報、視覚情報、レイアウト情報と統合して符号化するレイアウト対応マルチモーダルフュージョントランスを導入する。 そして,多数の未ラベル履歴書を通して,このモジュールを事前学習するための3つの自己教師型タスクを設計する。 次に、履歴書から構造化情報を取り出すために、多粒度シーケンスラベリングタスクでモデルを微調整する。 最後に、実世界のデータセットに関する広範な実験により、ERUの有効性が明らかに示された。

関連論文リスト

• Event Temporal Relation Extraction based on Retrieval-Augmented on LLMs [21.888482292039956]
  イベント時間関係(TempRel)は、イベント関係抽出タスクの主テーマである。 伝統的な手作業でデザインされたテンプレートは、正確な時間的知識を引き出すのに苦労する。 本稿では,新しいTempRel抽出手法を提案する。
  論文  参考訳（メタデータ） (2024-03-22T15:16:10Z)
• TAROT: A Hierarchical Framework with Multitask Co-Pretraining on Semi-Structured Data towards Effective Person-Job Fit [60.31175803899285]
  本稿では,階層型マルチタスク協調訓練フレームワークであるTAROTを提案する。 TAROTは、プロファイルとジョブにおける半構造化テキストをターゲットにしており、取得したセマンティック情報を各レベルで制限するために、複数のきめ細かい事前訓練タスクと共に保持されている。
  論文  参考訳（メタデータ） (2024-01-15T07:57:58Z)
• On Task-personalized Multimodal Few-shot Learning for Visually-rich Document Entity Retrieval [59.25292920967197]
  VDER(Few-shot document entity search)は、NLPアプリケーションにおいて重要なトピックである。 FewVEXは、エンティティレベルの少数ショットVDERの分野における将来の研究を促進するための、新しいデータセットである。 本稿では,タスクパーソナライズを効果的に実現することを中心に,タスク認識型メタラーニングベースのフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-11-01T17:51:43Z)
• UniDoc: A Universal Large Multimodal Model for Simultaneous Text Detection, Recognition, Spotting and Understanding [93.92313947913831]
  テキスト検出と認識機能を備えた新しいマルチモーダルモデルUniDocを紹介する。 我々の知る限りでは、これはテキストの検出、認識、スポッティング、理解を同時に行うことができる最初の大規模マルチモーダルモデルである。
  論文  参考訳（メタデータ） (2023-08-19T17:32:34Z)
• Absformer: Transformer-based Model for Unsupervised Multi-Document Abstractive Summarization [1.066048003460524]
  MDS(Multi-document summarization)とは、複数の文書のテキストを簡潔な要約に要約する作業である。 抽象MDSは、自然言語生成技術を用いて、複数の文書の一貫性と流動性を備えた要約を生成することを目的としている。 本稿では、教師なし抽象要約生成のためのトランスフォーマーに基づく新しい手法であるAbsformerを提案する。
  論文  参考訳（メタデータ） (2023-06-07T21:18:23Z)
• Peek Across: Improving Multi-Document Modeling via Cross-Document Question-Answering [49.85790367128085]
  我々は,事前学習対象に答える新しいクロスドキュメント質問から,汎用的なマルチドキュメントモデルを事前学習する。 この新規なマルチドキュメントQA定式化は、クロステキスト情報関係をよりよく回復させるようモデルに指示する。 分類タスクや要約タスクに焦点を当てた従来のマルチドキュメントモデルとは異なり、事前学習対象の定式化により、短いテキスト生成と長いテキスト生成の両方を含むタスクを実行できる。
  論文  参考訳（メタデータ） (2023-05-24T17:48:40Z)
• Generalization with Lossy Affordances: Leveraging Broad Offline Data for Learning Visuomotor Tasks [65.23947618404046]
  本研究では,広範囲なデータを用いたオフライン強化学習を通じて,時間的拡張タスクの目標条件付きポリシを取得するフレームワークを提案する。 新たなタスク目標に直面した場合、フレームワークは余裕モデルを使用して、元のタスクをより簡単な問題に分解するサブゴールとして、損失のある表現のシーケンスを計画する。 我々は,従来の作業からロボット体験の大規模データセットを事前学習し,手動の報酬工学を使わずに視覚入力から,新しいタスクを効率的に微調整できることを実証した。
  論文  参考訳（メタデータ） (2022-10-12T21:46:38Z)
• Extending Multi-Text Sentence Fusion Resources via Pyramid Annotations [12.394777121890925]
  本稿では、過去のデータセット作成の取り組みを再考し、大幅に拡張する。 拡張版では、複数のドキュメントタスクにもっと代表的なテキストを使用し、より大きく、より多様なトレーニングセットを提供しています。
  論文  参考訳（メタデータ） (2021-10-09T09:15:05Z)
• A Span Extraction Approach for Information Extraction on Visually-Rich Documents [2.3131309703965135]
  視覚豊かな文書(VRD)を事前学習する言語モデルの能力向上のための新しいアプローチを提案する。 まず、クエリベースの新しいIEモデルを導入し、一般的に使用されるシーケンスラベリングアプローチの代わりにスパン抽出の定式化を採用する。 また、文書内の意味的エンティティ間の関係をモデル化することに焦点を当てた新しいトレーニングタスクを提案する。
  論文  参考訳（メタデータ） (2021-06-02T06:50:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。