論文の概要: Mortality Prediction Models with Clinical Notes Using Sparse Attention
at the Word and Sentence Levels
- arxiv url: http://arxiv.org/abs/2212.06267v1
- Date: Mon, 12 Dec 2022 22:08:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-14 13:35:48.135360
- Title: Mortality Prediction Models with Clinical Notes Using Sparse Attention
at the Word and Sentence Levels
- Title（参考訳）: 単語・文レベルでの軽度注意を用いた臨床ノートによる死亡予測モデル
- Authors: Miguel Rios, Ameen Abu-Hanna
- Abstract要約: 臨床神経予測モデルにおける注意機構について,その識別と校正の観点から検討した。
具体的には, 病院内死亡予測の課題において, 重み付けの代替としてスパース・アテンションを考察した。
スパース機構のアプローチは、公開データセットによる予測性能において、局所的な自己アテンションにおいて、密な自己アテンションよりも優れていることを示す。
- 参考スコア（独自算出の注目度）: 2.335152769484957
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Intensive Care in-hospital mortality prediction has various clinical
applications. Neural prediction models, especially when capitalising on
clinical notes, have been put forward as improvement on currently existing
models. However, to be acceptable these models should be performant and
transparent. This work studies different attention mechanisms for clinical
neural prediction models in terms of their discrimination and calibration.
Specifically, we investigate sparse attention as an alternative to dense
attention weights in the task of in-hospital mortality prediction from clinical
notes. We evaluate the attention mechanisms based on: i) local self-attention
over words in a sentence, and ii) global self-attention with a transformer
architecture across sentences. We demonstrate that the sparse mechanism
approach outperforms the dense one for the local self-attention in terms of
predictive performance with a publicly available dataset, and puts higher
attention to prespecified relevant directive words. The performance at the
sentence level, however, deteriorates as sentences including the influential
directive words tend to be dropped all together.
- Abstract（参考訳）: 集中治療院死亡予測には様々な臨床応用がある。
ニューラル予測モデル、特に臨床ノートに注目する場合には、既存のモデルの改善が期待されている。
しかし、受け入れるにはこれらのモデルは高性能で透明でなければならない。
本研究は, 臨床神経予測モデルにおいて, 識別・校正の観点から異なる注意機構について検討する。
具体的には, 臨床ノートによる病院内死亡予測タスクにおける集中的注意重みの代替として, 軽度注意力について検討した。
我々は注意機構を次のように評価する。
一 文中の単語に対する局所的な自己注意、及び
二 文にまたがるトランスフォーマーアーキテクチャによるグローバルな自己注意
sparse機構アプローチは,公開データセットを用いた予測性能の観点で,局所的自己着想に対する密接なアプローチよりも優れており,事前定義された関連する指示語に対する注意が高まることを実証する。
しかし、文レベルのパフォーマンスは、影響力のある指示語を含む文をまとめてドロップする傾向があるため、悪化する。
関連論文リスト
- Deep State-Space Generative Model For Correlated Time-to-Event Predictions [54.3637600983898]
そこで本研究では,様々な種類の臨床イベント間の相互作用を捉えるために,潜伏状態空間生成モデルを提案する。
また,死亡率と臓器不全の関連性について有意な知見が得られた。
論文 参考訳（メタデータ） (2024-07-28T02:42:36Z) - SepsisLab: Early Sepsis Prediction with Uncertainty Quantification and Active Sensing [67.8991481023825]
セプシスは米国での院内死亡の主な原因である。
既存の予測モデルは通常、情報不足の少ない高品質なデータで訓練される。
限られた観察により信頼性の低い高リスク患者に対して,ロバストな能動センシングアルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-07-24T04:47:36Z) - Interpretable Vital Sign Forecasting with Model Agnostic Attention Maps [5.354055742467353]
本稿では,ディープラーニングモデルとアテンションメカニズムを組み合わせたフレームワークを提案する。
注意機構は,N-HiTSやN-BEATSといった様々なブラックボックス時系列予測モデルに適用可能であることを示す。
論文 参考訳（メタデータ） (2024-05-02T20:19:07Z) - Aiming for Relevance [12.924312063047816]
臨床状況に合わせて,新しいバイタルサイン予測性能指標を導入する。
これらの指標は、ICU臨床医へのインタビューを通じて得られた経験的効用曲線から得られたものである。
これらの指標をニューラルネットワークの損失関数として用い,臨床上の重要な事象を予測できるモデルを構築した。
論文 参考訳（メタデータ） (2024-03-27T15:11:07Z) - A Saliency-based Clustering Framework for Identifying Aberrant
Predictions [49.1574468325115]
本稿では, 異常予測の概念を導入し, 分類誤差の性質が頻度と同じくらい重要であることを強調した。
本稿では,誤分類率の低減と異常予測の識別を両立する,新しい,効率的なトレーニング手法を提案する。
本手法を獣医学の分野である獣医学の分野に応用し, 被曝率は高いが, 人体医学に比べて広く研究されていない。
論文 参考訳（メタデータ） (2023-11-11T01:53:59Z) - Bayesian Networks for the robust and unbiased prediction of depression
and its symptoms utilizing speech and multimodal data [65.28160163774274]
我々は,抑うつ,抑うつ症状,および,胸腺で収集された音声,表情,認知ゲームデータから得られる特徴の関連性を把握するためにベイズ的枠組みを適用した。
論文 参考訳（メタデータ） (2022-11-09T14:48:13Z) - Enhanced Aspect-Based Sentiment Analysis Models with Progressive
Self-supervised Attention Learning [103.0064298630794]
アスペクトベース感情分析(absa)では、多くのニューラルモデルに感情予測に対する各文脈単語の寄与を定量化するための注意機構が備わっている。
注目ABSAモデルに対する自己監督型注意学習の進歩的アプローチを提案する。
提案手法を3つの最先端の神経ABSAモデルに統合する。
論文 参考訳（メタデータ） (2021-03-05T02:50:05Z) - EventScore: An Automated Real-time Early Warning Score for Clinical
Events [3.3039612529376625]
臨床劣化を示す各種臨床事象の早期予測のための解釈可能なモデルを構築した。
このモデルは2つのデータセットと4つの臨床イベントで評価される。
私達のモデルは手動で記録された特徴を要求しないで完全に自動化することができます。
論文 参考訳（メタデータ） (2021-02-11T11:55:08Z) - Clinical Outcome Prediction from Admission Notes using Self-Supervised
Knowledge Integration [55.88616573143478]
臨床テキストからのアウトカム予測は、医師が潜在的なリスクを見落としないようにする。
退院時の診断,手術手順,院内死亡率,長期予測は4つの一般的な結果予測対象である。
複数の公開資料から得られた患者結果に関する知識を統合するために,臨床結果の事前学習を提案する。
論文 参考訳（メタデータ） (2021-02-08T10:26:44Z) - Uncertainty estimation for classification and risk prediction on medical
tabular data [0.0]
本研究は,医療データの分類とリスク予測のための不確実性推定の理解を深めるものである。
医療などのデータ共有分野において、モデルの予測の不確実性を測定する能力は、意思決定支援ツールの改善につながる可能性がある。
論文 参考訳（メタデータ） (2020-04-13T08:46:41Z) - Hurtful Words: Quantifying Biases in Clinical Contextual Word Embeddings [16.136832979324467]
本研究は,MIMIC-III 病院データセットから医療用ノートにディープ埋め込みモデル(BERT)を事前訓練する。
文脈的単語埋め込みによって捉えられる危険な潜伏関係を同定する。
我々は,50以上の下流臨床予測課題において,フェアネスの定義の異なる性能ギャップを評価する。
論文 参考訳（メタデータ） (2020-03-11T23:21:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。