論文の概要: A New Entity Extraction Method Based on Machine Reading Comprehension
- arxiv url: http://arxiv.org/abs/2108.06444v1
- Date: Sat, 14 Aug 2021 02:11:41 GMT
- ステータス: 処理完了
- システム内更新日: 2021-08-18 10:35:27.127505
- Title: A New Entity Extraction Method Based on Machine Reading Comprehension
- Title(参考訳): 機械読取理解に基づく新しいエンティティ抽出法
- Authors: Xiaobo Jiang, Kun He, Jiajun He and Guangyu Yan
- Abstract要約: 本稿では,MRC-I2DP を用いた有効実体抽出モデルを提案する。
提案手法は,テキストペアの各部分の復元を調整するために,ゲート付きアテンション抽出機構を用いている。
また、提案した2次元確率符号化モジュール、TALU関数、マスク機構を使用して、ターゲットの可能なすべてのターゲットの検出を強化する。
- 参考スコア(独自算出の注目度): 4.92025078254413
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Entity extraction is a key technology for obtaining information from massive
texts in natural language processing. The further interaction between them does
not meet the standards of human reading comprehension, thus limiting the
understanding of the model, and also the omission or misjudgment of the answer
(ie the target entity) due to the reasoning question. An effective MRC-based
entity extraction model-MRC-I2DP, which uses the proposed gated
attention-attracting mechanism to adjust the restoration of each part of the
text pair, creating problems and thinking for multi-level interactive attention
calculations to increase the target entity It also uses the proposed 2D
probability coding module, TALU function and mask mechanism to strengthen the
detection of all possible targets of the target, thereby improving the
probability and accuracy of prediction. Experiments have proved that MRC-I2DP
represents an overall state-of-the-art model in 7 from the scientific and
public domains, achieving a performance improvement of 2.1% ~ 10.4% compared to
the model model in F1.
- Abstract(参考訳): エンティティ抽出は、自然言語処理において大量のテキストから情報を取得するための重要な技術である。
それらの間のさらなる相互作用は、人間の読み理解の基準を満たさないため、モデルの理解が制限されるとともに、推論問題による回答(つまり対象の実体)の欠落や誤判断も制限される。
An effective MRC-based entity extraction model-MRC-I2DP, which uses the proposed gated attention-attracting mechanism to adjust the restoration of each part of the text pair, creating problems and thinking for multi-level interactive attention calculations to increase the target entity It also uses the proposed 2D probability coding module, TALU function and mask mechanism to strengthen the detection of all possible targets of the target, thereby improving the probability and accuracy of prediction.
実験により、RC-I2DPは科学領域と公共領域の7つの分野の総合的な最先端モデルであり、F1のモデルと比較して2.1%から10.4%の性能向上を達成した。
関連論文リスト
- The Buffer Mechanism for Multi-Step Information Reasoning in Language Models [52.77133661679439]
大きな言語モデルの内部的推論メカニズムを調べることは、よりよいモデルアーキテクチャとトレーニング戦略を設計するのに役立ちます。
本研究では,トランスフォーマーモデルが垂直思考戦略を採用するメカニズムを解明するために,シンボリックデータセットを構築した。
我々は,GPT-2モデルに必要なトレーニング時間を75%削減し,モデルの推論能力を高めるために,ランダムな行列ベースアルゴリズムを提案した。
論文 参考訳(メタデータ) (2024-05-24T07:41:26Z) - Enhancing Pre-Trained Generative Language Models with Question Attended Span Extraction on Machine Reading Comprehension [6.602323571343169]
学習前生成言語モデル(PLM)の微調整段階で統合されたQASEは,その性能を著しく向上させる。
QASEモジュールの有効性は、さまざまなデータセットで厳格にテストされている。
論文 参考訳(メタデータ) (2024-04-27T19:42:51Z) - A Novel Hybrid Feature Importance and Feature Interaction Detection
Framework for Predictive Optimization in Industry 4.0 Applications [1.0870564199697297]
本稿では,特徴重要度検出(LIME)と特徴相互作用検出(NID)を組み合わせた新しいハイブリッドフレームワークを提案する。
実験の結果、R2スコアの最大9.56%が増加し、ルート平均平方誤差の最大24.05%が縮小された。
論文 参考訳(メタデータ) (2024-03-04T13:22:53Z) - IMUGPT 2.0: Language-Based Cross Modality Transfer for Sensor-Based
Human Activity Recognition [0.19791587637442667]
クロスモーダリティ転送アプローチは、既存のデータセットを、ビデオのようなソースモーダリティからターゲットモーダリティ(IMU)に変換する。
我々はIMUGPTに2つの新しい拡張を導入し、実用的なHARアプリケーションシナリオの利用を拡大した。
我々の多様性指標は、仮想IMUデータの生成に必要な労力を少なくとも50%削減できることを示した。
論文 参考訳(メタデータ) (2024-02-01T22:37:33Z) - Bidirectional Trained Tree-Structured Decoder for Handwritten
Mathematical Expression Recognition [51.66383337087724]
Handwriting Mathematical Expression Recognition (HMER) タスクは、OCRの分野における重要な分岐である。
近年の研究では、双方向コンテキスト情報の導入により、HMERモデルの性能が大幅に向上することが示されている。
本稿では,MF-SLT と双方向非同期トレーニング (BAT) 構造を提案する。
論文 参考訳(メタデータ) (2023-12-31T09:24:21Z) - When Parameter-efficient Tuning Meets General-purpose Vision-language
Models [65.19127815275307]
PETALは、一意のモード近似技術によって達成される全パラメータの0.5%しか必要とせず、トレーニングプロセスに革命をもたらす。
実験の結果,PETALは現状の手法をほとんどのシナリオで上回るだけでなく,完全な微調整モデルよりも優れていることがわかった。
論文 参考訳(メタデータ) (2023-12-16T17:13:08Z) - Efficient Model-Free Exploration in Low-Rank MDPs [76.87340323826945]
低ランクマルコフ決定プロセスは、関数近似を持つRLに対して単純だが表現力のあるフレームワークを提供する。
既存のアルゴリズムは、(1)計算的に抽出可能であるか、または(2)制限的な統計的仮定に依存している。
提案手法は,低ランクMPPの探索のための最初の実証可能なサンプル効率アルゴリズムである。
論文 参考訳(メタデータ) (2023-07-08T15:41:48Z) - Clinical Concept and Relation Extraction Using Prompt-based Machine
Reading Comprehension [38.79665143111312]
我々は,統合されたプロンプトベース機械読解アーキテクチャを用いて,臨床概念抽出と関係抽出の両方を定式化する。
MRCモデルと既存のディープラーニングモデルを比較し,概念抽出とエンドツーエンド関係抽出を行う。
クロスインスティテュート・セッティングにおいて,提案したMRCモデルの伝達学習能力を評価する。
論文 参考訳(メタデータ) (2023-03-14T22:37:31Z) - USER: Unified Semantic Enhancement with Momentum Contrast for Image-Text
Retrieval [115.28586222748478]
Image-Text Retrieval (ITR) は、与えられたクエリに意味のあるターゲットインスタンスを、他のモダリティから検索することを目的としている。
既存のアプローチは通常、2つの大きな制限に悩まされる。
論文 参考訳(メタデータ) (2023-01-17T12:42:58Z) - MoEfication: Conditional Computation of Transformer Models for Efficient
Inference [66.56994436947441]
トランスフォーマーベースの事前学習言語モデルは、パラメータ容量が大きいため、ほとんどのNLPタスクにおいて優れた性能を実現することができるが、計算コストも大きい。
スパースアクティベーション現象に基づく条件計算により,大規模モデル推論を高速化する。
そこで本研究では,モデルサイズが等しいMoE(Mix-of-experts)バージョン,すなわちMoEficationに変換することを提案する。
論文 参考訳(メタデータ) (2021-10-05T02:14:38Z) - PSD2 Explainable AI Model for Credit Scoring [0.0]
本研究の目的は、信用リスクモデルの予測精度を向上させるための高度な分析手法の開発と試験である。
このプロジェクトは、銀行関連のデータベースに説明可能な機械学習モデルを適用することに焦点を当てている。
論文 参考訳(メタデータ) (2020-11-20T12:12:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。