論文の概要: TEE4EHR: Transformer Event Encoder for Better Representation Learning in
Electronic Health Records
- arxiv url: http://arxiv.org/abs/2402.06367v1
- Date: Fri, 9 Feb 2024 12:19:06 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-12 16:50:06.906116
- Title: TEE4EHR: Transformer Event Encoder for Better Representation Learning in
Electronic Health Records
- Title（参考訳）: tee4ehr:電子健康記録における表現学習を改善するトランスフォーマーイベントエンコーダ
- Authors: Hojjat Karami, David Atienza, Anisoara Ionescu
- Abstract要約: 電子健康記録(EHR)における時系列の非規則サンプリングは、機械学習モデルを開発する上での大きな課題の1つである。
本稿では,EHRにおける実験結果のパターンを符号化する点過程損失を有する変圧器イベントエンコーダ(TEE)を提案する。
自己教師付き学習アプローチでは、TEEは既存の注目ベースのディープニューラルネットワークと共同で学習される。
- 参考スコア（独自算出の注目度）: 4.385313487148474
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Irregular sampling of time series in electronic health records (EHRs) is one
of the main challenges for developing machine learning models. Additionally,
the pattern of missing data in certain clinical variables is not at random but
depends on the decisions of clinicians and the state of the patient. Point
process is a mathematical framework for analyzing event sequence data that is
consistent with irregular sampling patterns. Our model, TEE4EHR, is a
transformer event encoder (TEE) with point process loss that encodes the
pattern of laboratory tests in EHRs. The utility of our TEE has been
investigated in a variety of benchmark event sequence datasets. Additionally,
we conduct experiments on two real-world EHR databases to provide a more
comprehensive evaluation of our model. Firstly, in a self-supervised learning
approach, the TEE is jointly learned with an existing attention-based deep
neural network which gives superior performance in negative log-likelihood and
future event prediction. Besides, we propose an algorithm for aggregating
attention weights that can reveal the interaction between the events. Secondly,
we transfer and freeze the learned TEE to the downstream task for the outcome
prediction, where it outperforms state-of-the-art models for handling
irregularly sampled time series. Furthermore, our results demonstrate that our
approach can improve representation learning in EHRs and can be useful for
clinical prediction tasks.
- Abstract（参考訳）: 電子健康記録(EHR)における時系列の不正サンプリングは、機械学習モデルを開発する上での大きな課題の1つである。
加えて、特定の臨床変数におけるデータ欠落のパターンはランダムではなく、臨床医の判断と患者の状態に依存する。
point processは不規則なサンプリングパターンと一致するイベントシーケンスデータを解析するための数学的フレームワークである。
我々のモデルであるTEE4EHRは、EHRにおける実験室試験のパターンを符号化する点過程損失を持つ変圧器イベントエンコーダ(TEE)である。
我々のTEEの有用性は、様々なベンチマークイベントシーケンスデータセットで調査されている。
さらに、2つの実世界のEHRデータベース上で実験を行い、より包括的なモデル評価を提供する。
まず、自己教師付き学習アプローチでは、TEEは既存の注目ベースのディープニューラルネットワークと共同で学習され、ネガティブなログや将来のイベント予測において優れたパフォーマンスを提供する。
また,イベント間の相互作用を明らかにするために注意重みを集約するアルゴリズムを提案する。
第2に、学習したTEEを下流タスクに転送して結果予測を行い、不規則にサンプリングされた時系列を扱う最先端モデルより優れる。
さらに,本研究は, EHRにおける表現学習を向上し, 臨床予測作業に有用であることを示す。
関連論文リスト
- An Efficient Contrastive Unimodal Pretraining Method for EHR Time Series Data [35.943089444017666]
本稿では,長期臨床経過データに適した比較事前学習法を提案する。
本モデルでは, 臨床医が患者の症状についてより深い知見を得られるように, 欠損測定をインプットする能力を示す。
論文 参考訳（メタデータ） (2024-10-11T19:05:25Z) - Synthesizing Multimodal Electronic Health Records via Predictive Diffusion Models [69.06149482021071]
EHRPDと呼ばれる新しいEHRデータ生成モデルを提案する。
時間間隔推定を組み込んだ拡散モデルである。
我々は2つの公開データセットで実験を行い、忠実さ、プライバシー、実用性の観点からEPHPDを評価する。
論文 参考訳（メタデータ） (2024-06-20T02:20:23Z) - Recent Advances in Predictive Modeling with Electronic Health Records [71.19967863320647]
EHRデータを予測モデリングに利用すると、その特徴からいくつかの課題が生じる。
深層学習は、医療を含む様々な応用においてその優位性を示している。
論文 参考訳（メタデータ） (2024-02-02T00:31:01Z) - COPER: Continuous Patient State Perceiver [13.735956129637945]
本研究では,ERHにおける不規則な時系列に対処するため,COPERと呼ばれる新規患者状態パーセンシバーモデルを提案する。
ニューラル常微分方程式(ODE)は、COPERが通常の時系列を生成してPerceiverモデルに供給するのに役立ちます。
提案モデルの性能評価には,MIMIC-IIIデータセット上での院内死亡予測タスクを用いる。
論文 参考訳（メタデータ） (2022-08-05T14:32:57Z) - Improving self-supervised pretraining models for epileptic seizure
detection from EEG data [0.23624125155742057]
本稿では、時系列に基づく拡散畳み込みニューラルネットワーク(DCRNN)モデルの性能を高めるための様々な自己超越戦略を提案する。
自己超越事前訓練フェーズの学習重量は、モデルの予測能力を高めるために教師付きトレーニングフェーズに移行することができる。
論文 参考訳（メタデータ） (2022-06-28T17:15:49Z) - Unsupervised Pre-Training on Patient Population Graphs for Patient-Level
Predictions [48.02011627390706]
プレトレーニングは、コンピュータビジョン(CV)、自然言語処理(NLP)、医療画像など、機械学習のさまざまな分野で成功している。
本稿では,患者結果の予測のために,教師なし事前学習を異種マルチモーダルEHRデータに適用する。
提案手法は,人口レベルでのデータモデリングに有効であることがわかった。
論文 参考訳（メタデータ） (2022-03-23T17:59:45Z) - Mixed Effects Neural ODE: A Variational Approximation for Analyzing the
Dynamics of Panel Data [50.23363975709122]
パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。
我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。
次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
論文 参考訳（メタデータ） (2022-02-18T22:41:51Z) - Simple Recurrent Neural Networks is all we need for clinical events
predictions using EHR data [22.81278657120305]
リカレントニューラルネットワーク(Recurrent Neural Network, RNN)は、EHRに基づく臨床イベント予測モデルのための一般的なアーキテクチャである。
心不全の発症リスクと入院早期入院のリスクの2つの予測課題を用いた。
GRUやLSTMなどの単純なゲート付きRNNモデルでは,ベイズ最適化を適切に調整した場合に,しばしば競合する結果が得られることがわかった。
論文 参考訳（メタデータ） (2021-10-03T13:07:23Z) - Self-Supervised Graph Learning with Hyperbolic Embedding for Temporal
Health Event Prediction [13.24834156675212]
本稿では,情報フローを組み込んだハイパーボリック埋め込み手法を提案する。
我々は、これらの事前学習された表現をグラフニューラルネットワークに組み込んで、疾患の合併症を検出する。
本稿では,EHRデータを完全に活用する自己教師付き学習フレームワークに,階層型で強化された履歴予測代行タスクを提案する。
論文 参考訳（メタデータ） (2021-06-09T00:42:44Z) - Bootstrapping Your Own Positive Sample: Contrastive Learning With
Electronic Health Record Data [62.29031007761901]
本稿では,新しいコントラスト型正規化臨床分類モデルを提案する。
EHRデータに特化した2つのユニークなポジティブサンプリング戦略を紹介します。
私たちのフレームワークは、現実世界のCOVID-19 EHRデータの死亡リスクを予測するために、競争の激しい実験結果をもたらします。
論文 参考訳（メタデータ） (2021-04-07T06:02:04Z) - Uncovering the structure of clinical EEG signals with self-supervised
learning [64.4754948595556]
教師付き学習パラダイムは、しばしば利用可能なラベル付きデータの量によって制限される。
この現象は脳波(EEG)などの臨床関連データに特に問題となる。
ラベルのないデータから情報を抽出することで、ディープニューラルネットワークとの競合性能に到達することができるかもしれない。
論文 参考訳（メタデータ） (2020-07-31T14:34:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。