論文の概要: Resolving the Scope of Speculation and Negation using Transformer-Based
Architectures
- arxiv url: http://arxiv.org/abs/2001.02885v1
- Date: Thu, 9 Jan 2020 08:43:30 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-13 04:49:12.229962
- Title: Resolving the Scope of Speculation and Negation using Transformer-Based
Architectures
- Title(参考訳): 変圧器に基づくアーキテクチャによる推論と否定のスコープの解消
- Authors: Benita Kathleen Britto, Aditya Khandelwal
- Abstract要約: 推測は、テキストデータに自然に発生する現象であり、多くのシステムの不可欠な構成要素を形成する。
本稿では,この課題に対して,BERT,XLNet,RoBERTaの3つの人気トランスフォーマベースアーキテクチャを適用した。
従来報告されていたキュー検出とスコープ分解能の大幅な改善を報告した。
- 参考スコア(独自算出の注目度): 23.414905586808874
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Speculation is a naturally occurring phenomena in textual data, forming an
integral component of many systems, especially in the biomedical information
retrieval domain. Previous work addressing cue detection and scope resolution
(the two subtasks of speculation detection) have ranged from rule-based systems
to deep learning-based approaches. In this paper, we apply three popular
transformer-based architectures, BERT, XLNet and RoBERTa to this task, on two
publicly available datasets, BioScope Corpus and SFU Review Corpus, reporting
substantial improvements over previously reported results (by at least 0.29 F1
points on cue detection and 4.27 F1 points on scope resolution). We also
experiment with joint training of the model on multiple datasets, which
outperforms the single dataset training approach by a good margin. We observe
that XLNet consistently outperforms BERT and RoBERTa, contrary to results on
other benchmark datasets. To confirm this observation, we apply XLNet and
RoBERTa to negation detection and scope resolution, reporting state-of-the-art
results on negation scope resolution for the BioScope Corpus (increase of 3.16
F1 points on the BioScope Full Papers, 0.06 F1 points on the BioScope
Abstracts) and the SFU Review Corpus (increase of 0.3 F1 points).
- Abstract(参考訳): 推測は、テキストデータにおいて自然に発生する現象であり、特に生体情報検索領域において、多くのシステムの不可欠な構成要素を形成する。
cue検出とスコープ解決(投機検出の2つのサブタスク)に取り組む以前の作業は、ルールベースのシステムからディープラーニングベースのアプローチまで多岐にわたる。
本稿では,BioScope CorpusとSFU Review Corpusの2つの公開データセットに対して,BERT,XLNet,RoBERTaの3つの人気のあるトランスフォーマーベースアーキテクチャを適用し,従来報告した結果よりも大幅に改善されていることを報告する(キュー検出の0.29ポイント,スコープ解像度の4.27F1ポイント)。
また、複数のデータセット上でモデルを共同でトレーニングする実験を行い、単一のデータセットトレーニングアプローチよりも良いマージンで優れています。
XLNetは、他のベンチマークデータセットの結果とは対照的にBERTとRoBERTaを一貫して上回ります。
この観測を裏付けるために、XLNetとRoBERTaを用いて、バイオスコープコーパス(バイオスコープフルペーパーでは3.16F1ポイント、バイオスコープ抽象では0.06F1ポイント)とSFUレビューコーパス(0.3F1ポイント)の否定範囲解決に関する最先端の結果を報告した。
関連論文リスト
- Multi-scale Quaternion CNN and BiGRU with Cross Self-attention Feature Fusion for Fault Diagnosis of Bearing [5.3598912592106345]
深層学習は断層診断(FD)に著しい進歩をもたらした
マルチスケール畳み込み畳み込みニューラルネットワーク(MQCNN)、双方向ゲートリカレントユニット(BiG)、クロス自己注意機能融合(CSAFF)を統合した新しいFDモデルを提案する。
論文 参考訳(メタデータ) (2024-05-25T07:55:02Z) - Multi-Base Station Cooperative Sensing with AI-Aided Tracking [10.400855135405251]
核融合センター(FC)を介して協調する複数の基地局(BS)からなる共同センシング・通信ネットワークについて検討する。
筆者らのフレームワークは,60cm未満の最適サブパターン割り当て(OSPA)を実現することで,優れたセンシング性能を提供できることを示す。
論文 参考訳(メタデータ) (2023-10-31T12:27:48Z) - Domain Adaptive Synapse Detection with Weak Point Annotations [63.97144211520869]
弱点アノテーションを用いたドメイン適応型シナプス検出のためのフレームワークであるAdaSynを提案する。
I SBI 2023のWASPSYNチャレンジでは、我々の手法が第1位にランクインした。
論文 参考訳(メタデータ) (2023-08-31T05:05:53Z) - Challenging the Myth of Graph Collaborative Filtering: a Reasoned and Reproducibility-driven Analysis [50.972595036856035]
本稿では,6つの人気グラフと最近のグラフ推薦モデルの結果を再現するコードを提案する。
これらのグラフモデルと従来の協調フィルタリングモデルを比較する。
ユーザの近所からの情報フローを調べることにより,データセット構造における内在的特徴にどのようなモデルが影響するかを同定することを目的とする。
論文 参考訳(メタデータ) (2023-08-01T09:31:44Z) - BSSAD: Towards A Novel Bayesian State-Space Approach for Anomaly
Detection in Multivariate Time Series [0.0]
ベイジアン状態空間異常検出(BSSAD)と呼ばれる新しい,革新的な異常検出手法を提案する。
提案手法の設計は,ベイズ状態空間アルゴリズムの次の状態予測における強みと,繰り返しニューラルネットワークとオートエンコーダの有効性を組み合わせたものである。
特に,粒子フィルタとアンサンブルカルマンフィルタのベイズ状態空間モデルの利用に着目する。
論文 参考訳(メタデータ) (2023-01-30T16:21:18Z) - Attentive Prototypes for Source-free Unsupervised Domain Adaptive 3D
Object Detection [85.11649974840758]
3Dオブジェクト検出ネットワークは、トレーニングされたデータに対してバイアスを受ける傾向がある。
そこで本研究では,ライダーを用いた3次元物体検出器のソースレス・教師なし領域適応のための単一フレーム手法を提案する。
論文 参考訳(メタデータ) (2021-11-30T18:42:42Z) - Disentangle Your Dense Object Detector [82.22771433419727]
深層学習に基づく高密度物体検出器はここ数年で大きな成功を収め、ビデオ理解などのマルチメディアアプリケーションにも応用されてきた。
しかし、現在の高密度検出器の訓練パイプラインは、保持できない多くの接続に妥協されている。
そこで本研究では, 簡易かつ効果的な遠心分離機構を設計し, 現在の最先端検出器に統合するDED(Disentangled Dense Object Detector)を提案する。
論文 参考訳(メタデータ) (2021-07-07T00:52:16Z) - Cycle and Semantic Consistent Adversarial Domain Adaptation for Reducing
Simulation-to-Real Domain Shift in LiDAR Bird's Eye View [110.83289076967895]
ドメイン適応プロセス中に関心のある小さなオブジェクトの情報を保存するために,事前の意味分類を用いたサイクガンに基づくbevドメイン適応法を提案する。
生成したBEVの品質は,KITTI 3D Object Detection Benchmarkの最先端3Dオブジェクト検出フレームワークを用いて評価されている。
論文 参考訳(メタデータ) (2021-04-22T12:47:37Z) - An Uncertainty-Driven GCN Refinement Strategy for Organ Segmentation [53.425900196763756]
本研究では,不確実性解析とグラフ畳み込みネットワークに基づくセグメンテーション改善手法を提案する。
半教師付きグラフ学習問題を定式化するために、特定の入力ボリュームにおける畳み込みネットワークの不確実性レベルを用いる。
本手法は膵臓で1%,脾臓で2%向上し,最先端のCRF改善法よりも優れていた。
論文 参考訳(メタデータ) (2020-12-06T18:55:07Z) - Recalibration of Neural Networks for Point Cloud Analysis [3.7814216736076434]
3Dポイントクラウドのためのディープニューラルネットワーク上での再校正モジュールを導入する。
提案モジュールを3次元ポイントクラウド解析のための3つの最先端ネットワークに組み込むことで,提案モジュールのメリットと汎用性を実証する。
第2の実験では,アルツハイマー病の診断における再校正ブロックの利点について検討した。
論文 参考訳(メタデータ) (2020-11-25T17:14:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。