論文の概要: Crude Oil-related Events Extraction and Processing: A Transfer Learning
Approach
- arxiv url: http://arxiv.org/abs/2205.00387v1
- Date: Sun, 1 May 2022 03:21:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-04 06:28:20.032895
- Title: Crude Oil-related Events Extraction and Processing: A Transfer Learning
Approach
- Title(参考訳): 原油関連イベントの抽出と処理:移行学習アプローチ
- Authors: Meisin Lee, Lay-Ki Soon, Eu-Gene Siew
- Abstract要約: 本稿では,CrudeOilNews corpusで発見された原油関連事象を抽出・処理するための完全な枠組みを提案する。
各事象の事実的確実性を決定するために、イベント特性(ポーラリティ、モダリティ、インテンシティ)の分類に特に重点を置いている。
- 参考スコア(独自算出の注目度): 0.7476901945542385
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: One of the challenges in event extraction via traditional supervised learning
paradigm is the need for a sizeable annotated dataset to achieve satisfactory
model performance. It is even more challenging when it comes to event
extraction in the finance and economics domain, a domain with considerably
fewer resources. This paper presents a complete framework for extracting and
processing crude oil-related events found in CrudeOilNews corpus, addressing
the issue of annotation scarcity and class imbalance by leveraging on the
effectiveness of transfer learning. Apart from event extraction, we place
special emphasis on event properties (Polarity, Modality, and Intensity)
classification to determine the factual certainty of each event. We build
baseline models first by supervised learning and then exploit Transfer Learning
methods to boost event extraction model performance despite the limited amount
of annotated data and severe class imbalance. This is done via methods within
the transfer learning framework such as Domain Adaptive Pre-training,
Multi-task Learning and Sequential Transfer Learning. Based on experiment
results, we are able to improve all event extraction sub-task models both in F1
and MCC1-score as compared to baseline models trained via the standard
supervised learning. Accurate and holistic event extraction from crude oil news
is very useful for downstream tasks such as understanding event chains and
learning event-event relations, which can be used for other downstream tasks
such as commodity price prediction, summarisation, etc. to support a wide range
of business decision making.
- Abstract(参考訳): 従来の教師付き学習パラダイムによるイベント抽出の課題のひとつは、十分なモデルパフォーマンスを達成するために、大きさのアノテートデータセットが必要であることだ。
はるかに少ないリソースを持つドメインである金融と経済学の領域では、イベントの抽出がさらに難しいのです。
本稿では, トランスファー・ラーニングの有効性を活かして, 注記不足やクラス不均衡の問題に対処し, 原油関連イベントを抽出・処理するための完全な枠組みを提案する。
イベント抽出とは別に,事象特性(極性,モダリティ,強度)の分類に特に重点を置いて各事象の事実的確実性を決定する。
まず,教師付き学習によってベースラインモデルを構築し,その後,アノテーション付きデータ量やクラス不均衡に拘わらず,イベント抽出モデルの性能を高めるためにトランスファー学習手法を活用した。
これはドメイン適応事前トレーニング、マルチタスク学習、シーケンシャル転送学習などのトランスファー学習フレームワーク内のメソッドを通じて行われる。
実験結果から,標準教師あり学習を用いたベースラインモデルと比較して,F1とMCC1スコアの両方のイベント抽出サブタスクモデルを改善することができる。
原油ニュースからの正確で包括的なイベント抽出は、イベントチェーンの理解や、商品価格予測や要約などの下流業務に使用できるイベント・イベント関係の学習といった下流業務において、幅広いビジネス意思決定を支援するために非常に有用である。
関連論文リスト
- Token-Event-Role Structure-based Multi-Channel Document-Level Event
Extraction [15.02043375212839]
本稿では,トークン・イベント・ロールと呼ばれる新しいデータ構造を取り入れた,文書レベルのイベント抽出のための新しいフレームワークを提案する。
提案したデータ構造により,複数のイベントにおけるトークンの主要な役割を明らかにすることができ,イベント関係のより包括的な理解が容易になる。
その結果,本手法はF1スコアの9.5ポイント向上した。
論文 参考訳(メタデータ) (2023-06-30T15:22:57Z) - Complementary Learning Subnetworks for Parameter-Efficient
Class-Incremental Learning [40.13416912075668]
本稿では,2つの補完学習サブネットワークス間のシナジーを通じて連続的に学習するリハーサルフリーなCILアプローチを提案する。
提案手法は, 精度向上, メモリコスト, トレーニング効率, タスク順序など, 最先端手法と競合する結果が得られる。
論文 参考訳(メタデータ) (2023-06-21T01:43:25Z) - ALP: Action-Aware Embodied Learning for Perception [60.64801970249279]
認知のための行動認識型身体学習(ALP)について紹介する。
ALPは、強化学習ポリシーと逆ダイナミクス予測目標を最適化することにより、行動情報を表現学習に組み込む。
ALPは、複数の下流認識タスクにおいて、既存のベースラインよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-06-16T21:51:04Z) - CMW-Net: Learning a Class-Aware Sample Weighting Mapping for Robust Deep
Learning [55.733193075728096]
現代のディープニューラルネットワークは、破損したラベルやクラス不均衡を含むバイアス付きトレーニングデータに容易に適合する。
サンプル再重み付け手法は、このデータバイアス問題を緩和するために一般的に使用されている。
本稿では,データから直接明示的な重み付け方式を適応的に学習できるメタモデルを提案する。
論文 参考訳(メタデータ) (2022-02-11T13:49:51Z) - Rethinking Importance Weighting for Transfer Learning [71.81262398144946]
教師あり学習における主要な前提は、トレーニングとテストデータが同じ確率分布に従うことである。
現実の機械学習タスクはますます複雑になりつつあるため、このような課題に対処するための新しいアプローチが検討されている。
論文 参考訳(メタデータ) (2021-12-19T14:35:25Z) - Active Learning for Event Extraction with Memory-based Loss Prediction
Model [12.509218857483223]
イベント抽出は、多くの産業アプリケーションシナリオにおいて重要な役割を果たす。
イベントアノテーションのコストを削減するために,アクティブラーニング(AL)技術を導入する。
バッチベースの選択戦略とメモリベース損失予測モデル(MBLP)を提案し,ラベルのないサンプルを効率的に選択する。
論文 参考訳(メタデータ) (2021-11-26T07:58:11Z) - Omni-Training for Data-Efficient Deep Learning [80.28715182095975]
近年の進歩により、適切に訓練されたモデルが重要な特性であるトランスファービリティを持つことが明らかとなった。
事前訓練とメタトレーニングの厳密な組み合わせは、どちらの種類のトランスファー可能性も達成できない。
このことが提案されているOmni-Trainingフレームワークを,データ効率のよいディープラーニングに動機付けている。
論文 参考訳(メタデータ) (2021-10-14T16:30:36Z) - Learning Constraints and Descriptive Segmentation for Subevent Detection [74.48201657623218]
本稿では,サブイベント検出とEventSeg予測の依存関係をキャプチャする制約を学習し,強制するアプローチを提案する。
我々は制約学習にRectifier Networksを採用し、学習した制約をニューラルネットワークの損失関数の正規化項に変換する。
論文 参考訳(メタデータ) (2021-09-13T20:50:37Z) - Back to Prior Knowledge: Joint Event Causality Extraction via
Convolutional Semantic Infusion [5.566928318239452]
複合イベントと因果関係抽出は,情報検索とデータマイニングにおいて極めて重要な課題である。
共同抽出フレームワーク内で長さの異なる n-gram の頻繁な窓に対する畳み込み知識注入を提案する。
我々のモデルは強力なBERT+CSNNベースラインをはるかに上回る。
論文 参考訳(メタデータ) (2021-02-19T13:31:46Z) - Active Learning for Sequence Tagging with Deep Pre-trained Models and
Bayesian Uncertainty Estimates [52.164757178369804]
自然言語処理のためのトランスファーラーニングとアクティブラーニングの最近の進歩は、必要なアノテーション予算を大幅に削減する可能性を開く。
我々は,様々なベイズ不確実性推定手法とモンテカルロドロップアウトオプションの実験的研究を,アクティブ学習フレームワークで実施する。
また, 能動学習中にインスタンスを取得するためには, 完全サイズのトランスフォーマーを蒸留版に置き換えることにより, 計算性能が向上することを示した。
論文 参考訳(メタデータ) (2021-01-20T13:59:25Z) - Minimax Lower Bounds for Transfer Learning with Linear and One-hidden
Layer Neural Networks [27.44348371795822]
転送学習の限界を特徴付けるための統計的ミニマックスフレームワークを開発する。
ラベル付きソース数とターゲットデータの関数として,任意のアルゴリズムで達成可能なターゲット一般化誤差に対して,低いバウンドを導出する。
論文 参考訳(メタデータ) (2020-06-16T22:49:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。