論文の概要: Domain Knowledge Empowered Structured Neural Net for End-to-End Event
Temporal Relation Extraction
- arxiv url: http://arxiv.org/abs/2009.07373v2
- Date: Tue, 6 Oct 2020 16:58:49 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-18 05:32:38.767235
- Title: Domain Knowledge Empowered Structured Neural Net for End-to-End Event
Temporal Relation Extraction
- Title(参考訳): イベントの終端関係抽出のためのドメイン知識を活用した構造化ニューラルネット
- Authors: Rujun Han, Yichao Zhou, Nanyun Peng
- Abstract要約: 本稿では,確率的ドメイン知識によって構築された分布制約を持つディープニューラルネットワークを強化するフレームワークを提案する。
ラグランジアン緩和(Lagrangian Relaxation)により制約付き推論問題を解き、終端事象の時間的関係抽出タスクに適用する。
- 参考スコア(独自算出の注目度): 44.95973272921582
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Extracting event temporal relations is a critical task for information
extraction and plays an important role in natural language understanding. Prior
systems leverage deep learning and pre-trained language models to improve the
performance of the task. However, these systems often suffer from two
short-comings: 1) when performing maximum a posteriori (MAP) inference based on
neural models, previous systems only used structured knowledge that are assumed
to be absolutely correct, i.e., hard constraints; 2) biased predictions on
dominant temporal relations when training with a limited amount of data. To
address these issues, we propose a framework that enhances deep neural network
with distributional constraints constructed by probabilistic domain knowledge.
We solve the constrained inference problem via Lagrangian Relaxation and apply
it on end-to-end event temporal relation extraction tasks. Experimental results
show our framework is able to improve the baseline neural network models with
strong statistical significance on two widely used datasets in news and
clinical domains.
- Abstract(参考訳): 事象の時間的関係の抽出は情報抽出の重要な課題であり、自然言語理解において重要な役割を果たす。
以前のシステムは、タスクのパフォーマンスを改善するためにディープラーニングと事前学習された言語モデルを活用する。
しかし、これらのシステムはしばしば2つの欠点に苦しむ。
1) 神経モデルに基づく最大後進(map)推論を行う場合,従来のシステムは,絶対正しいと仮定された構造的知識,すなわちハード制約のみを使用していた。
2) 限られたデータ量でのトレーニングにおける支配的時間関係の偏り予測。
これらの問題に対処するために,確率的ドメイン知識によって構築される分布的制約により,ディープニューラルネットワークを強化するフレームワークを提案する。
ラグランジュ緩和による制約付き推論問題を解き、エンドツーエンドのイベント時間関係抽出タスクに適用する。
実験の結果,ニュース領域と臨床領域で広く使用される2つのデータセットにおいて,統計学的に有意な意味を持つベースラインニューラルネットワークモデルの改善が可能となった。
関連論文リスト
- Multi-modal Causal Structure Learning and Root Cause Analysis [67.67578590390907]
根本原因局所化のためのマルチモーダル因果構造学習手法であるMulanを提案する。
ログ選択言語モデルを利用してログ表現学習を行い、ログシーケンスを時系列データに変換する。
また、モダリティの信頼性を評価し、最終因果グラフを共同学習するための新しいキーパフォーマンスインジケータ対応アテンション機構も導入する。
論文 参考訳(メタデータ) (2024-02-04T05:50:38Z) - An End-to-End Time Series Model for Simultaneous Imputation and Forecast [14.756607742477252]
我々は,推論関係を学習し,複数段階の予測を行うために,エンドツーエンドの時系列モデルを開発する。
我々のフレームワークは2つのニューラルネットワークを共同でトレーニングし、1つは特徴量相関を学習し、もう1つは時間的行動のモデリングを学習する。
論文 参考訳(メタデータ) (2023-06-01T15:08:22Z) - Temporal Relation Extraction with a Graph-Based Deep Biaffine Attention
Model [0.0]
本稿では, ディープ・バイファイン・アテンションに基づく新しい時間情報抽出モデルを提案する。
本研究では,時間的関係抽出における最先端性能の実現を実験的に実証した。
論文 参考訳(メタデータ) (2022-01-16T19:40:08Z) - Multi-head Temporal Attention-Augmented Bilinear Network for Financial
time series prediction [77.57991021445959]
本稿では,時間的注意と多面的注意の考え方に基づいて,ニューラルネットワークの能力を拡張するニューラルネットワーク層を提案する。
本手法の有効性を,大規模書籍市場データを用いて検証した。
論文 参考訳(メタデータ) (2022-01-14T14:02:19Z) - Multigoal-oriented dual-weighted-residual error estimation using deep
neural networks [0.0]
ディープラーニングは、関数を近似する柔軟性の高い強力なツールだと考えられている。
提案手法は,誤差の局所化に付随する問題を解く後続誤差推定法に基づく。
複数のゴール関数に対する後方誤差推定を得るために,効率的で実装が容易なアルゴリズムを開発した。
論文 参考訳(メタデータ) (2021-12-21T16:59:44Z) - Leveraging the structure of dynamical systems for data-driven modeling [111.45324708884813]
トレーニングセットとその構造が長期予測の品質に与える影響を考察する。
トレーニングセットのインフォームドデザインは,システムの不変性と基盤となるアトラクションの構造に基づいて,結果のモデルを大幅に改善することを示す。
論文 参考訳(メタデータ) (2021-12-15T20:09:20Z) - Multivariate Time Series Imputation by Graph Neural Networks [13.308026049048717]
我々は,多変量時系列の異なるチャネルにおける行方不明データを再構成することを目的としたGRILというグラフニューラルネットワークアーキテクチャを導入する。
予備的な結果は,本モデルが関連するベンチマーク上での計算処理において,最先端の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2021-07-31T17:47:10Z) - FF-NSL: Feed-Forward Neural-Symbolic Learner [70.978007919101]
本稿では,Feed-Forward Neural-Symbolic Learner (FF-NSL) と呼ばれるニューラルシンボリック学習フレームワークを紹介する。
FF-NSLは、ラベル付き非構造化データから解釈可能な仮説を学習するために、Answer Setセマンティクスに基づく最先端のICPシステムとニューラルネットワークを統合する。
論文 参考訳(メタデータ) (2021-06-24T15:38:34Z) - Network Diffusions via Neural Mean-Field Dynamics [52.091487866968286]
本稿では,ネットワーク上の拡散の推論と推定のための新しい学習フレームワークを提案する。
本研究の枠組みは, ノード感染確率の正確な進化を得るために, モリ・ズワンジッヒ形式から導かれる。
我々のアプローチは、基礎となる拡散ネットワークモデルのバリエーションに対して多用途で堅牢である。
論文 参考訳(メタデータ) (2020-06-16T18:45:20Z) - Latent Network Structure Learning from High Dimensional Multivariate
Point Processes [5.079425170410857]
本研究では,観測データの基盤となる複雑な過程を特徴付けるために,非定常ホークスプロセスの新たなクラスを提案する。
効率のよい最小二乗推定手法を用いて潜在ネットワーク構造を推定する。
シミュレーション研究を通じて提案手法の有効性を実証し, ニューロンスパイクトレインデータセットへの適用について述べる。
論文 参考訳(メタデータ) (2020-04-07T17:48:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。