論文の概要: Semantic Decomposition Improves Learning of Large Language Models on EHR
Data
- arxiv url: http://arxiv.org/abs/2212.06040v1
- Date: Mon, 14 Nov 2022 14:59:16 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-18 19:02:42.195517
- Title: Semantic Decomposition Improves Learning of Large Language Models on EHR
Data
- Title(参考訳): EHRデータに基づく大規模言語モデルの学習を改善する意味分解
- Authors: David A. Bloore, Romane Gauriau, Anna L. Decker, Jacob Oppenheim
- Abstract要約: H-BERTは、葉だけを摂取するのではなく、階層的な医療コードの完全なグラフツリー拡張を取り込み、患者レベルのラベルを訪問ごとに押し下げる。
この手法は, AUC と APS を集計し,500 以上の診断クラスにおける患者参加率の予測を有意に改善する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Electronic health records (EHR) are widely believed to hold a profusion of
actionable insights, encrypted in an irregular, semi-structured format, amidst
a loud noise background. To simplify learning patterns of health and disease,
medical codes in EHR can be decomposed into semantic units connected by
hierarchical graphs. Building on earlier synergy between Bidirectional Encoder
Representations from Transformers (BERT) and Graph Attention Networks (GAT), we
present H-BERT, which ingests complete graph tree expansions of hierarchical
medical codes as opposed to only ingesting the leaves and pushes patient-level
labels down to each visit. This methodology significantly improves prediction
of patient membership in over 500 medical diagnosis classes as measured by
aggregated AUC and APS, and creates distinct representations of patients in
closely related but clinically distinct phenotypes.
- Abstract(参考訳): 電子健康記録(EHR)は、大きなノイズの背景の中で不規則で半構造化された形式で暗号化された、行動可能な洞察の拡散を広く信じられている。
健康と病気の学習パターンを単純化するために、EHRの医療コードは階層グラフで連結された意味単位に分解することができる。
トランスフォーマー (bert) とグラフアテンションネットワーク (gat) の双方向エンコーダ表現とのより早い相乗効果に基づいて, 葉のみを取り込み, 患者レベルのラベルを各訪問にプッシュするのではなく, 階層的医用コードのグラフツリー展開を包含するh-bertを提案する。
本手法は,aucおよびapsの集計により,500以上の医療診断クラスにおける患者メンバーシップの予測を著しく改善し,近縁であるが臨床的に異なる表現型を示す。
関連論文リスト
- Next Visit Diagnosis Prediction via Medical Code-Centric Multimodal
Contrastive EHR Modelling with Hierarchical Regularisation [0.0]
NECHOは,階層的正規化を伴う新しい医用コード中心のマルチモーダル・コントラスト学習フレームワークである。
まず, 医用コード, 人口統計, 臨床ノートを含む多面的情報をネットワーク設計を用いて統合する。
また,EHRデータの階層構造を学習するために,医療オントロジーにおける親レベル情報を用いてモダリティ固有のエンコーダを正規化する。
論文 参考訳(メタデータ) (2024-01-22T01:58:32Z) - Hierarchical Pretraining for Biomedical Term Embeddings [4.69793648771741]
階層データに基づく新しいバイオメディカル用語表現モデルであるHiPrBERTを提案する。
HiPrBERTは階層的な情報からペアワイズ距離を効果的に学習し,さらにバイオメディカルな応用に極めて有用な埋め込みを実現できることを示す。
論文 参考訳(メタデータ) (2023-07-01T08:16:00Z) - Customizing General-Purpose Foundation Models for Medical Report
Generation [64.31265734687182]
ラベル付き医用画像-レポートペアの不足は、ディープニューラルネットワークや大規模ニューラルネットワークの開発において大きな課題となっている。
本稿では,コンピュータビジョンと自然言語処理の基盤モデル (FM) として,市販の汎用大規模事前学習モデルのカスタマイズを提案する。
論文 参考訳(メタデータ) (2023-06-09T03:02:36Z) - Dynamic Graph Enhanced Contrastive Learning for Chest X-ray Report
Generation [92.73584302508907]
コントラスト学習を用いた医療レポート作成を支援するために,動的構造とノードを持つ知識グラフを提案する。
詳しくは、グラフの基本構造は一般知識から事前構築される。
各イメージ機能は、レポート生成のためにデコーダモジュールに入力する前に、独自の更新グラフに統合される。
論文 参考訳(メタデータ) (2023-03-18T03:53:43Z) - Unifying Heterogenous Electronic Health Records Systems via Text-Based
Code Embedding [7.3394352452936085]
本稿では,コードに依存しない記述に基づく表現学習フレームワークであるDescEmbを紹介した。
予測タスクや伝達学習,プール学習など,さまざまな実験において,モデルの性能を検証した。
論文 参考訳(メタデータ) (2021-08-08T12:47:42Z) - MIMO: Mutual Integration of Patient Journey and Medical Ontology for
Healthcare Representation Learning [49.57261599776167]
本稿では、医療表現学習と予測分析のための、エンドツーエンドの堅牢なトランスフォーマーベースのソリューション、患者旅行の相互統合、医療オントロジー(MIMO)を提案する。
論文 参考訳(メタデータ) (2021-07-20T07:04:52Z) - G-MIND: An End-to-End Multimodal Imaging-Genetics Framework for
Biomarker Identification and Disease Classification [49.53651166356737]
診断によって誘導される画像データと遺伝データを統合し、解釈可能なバイオマーカーを提供する新しいディープニューラルネットワークアーキテクチャを提案する。
2つの機能的MRI(fMRI)パラダイムとSingle Nucleotide Polymorphism (SNP)データを含む統合失調症の集団研究で本モデルを評価した。
論文 参考訳(メタデータ) (2021-01-27T19:28:04Z) - BiteNet: Bidirectional Temporal Encoder Network to Predict Medical
Outcomes [53.163089893876645]
本稿では,患者の医療旅行におけるコンテキスト依存と時間的関係を捉える,新たな自己注意機構を提案する。
エンド・ツー・エンドの双方向時間エンコーダネットワーク(BiteNet)が患者の旅路の表現を学習する。
実世界のEHRデータセットを用いた2つの教師付き予測と2つの教師なしクラスタリングタスクにおける手法の有効性を評価した。
論文 参考訳(メタデータ) (2020-09-24T00:42:36Z) - Deep Representation Learning of Electronic Health Records to Unlock
Patient Stratification at Scale [0.5498849973527224]
ヘテロジニアスEHRを処理するためのディープラーニングに基づく教師なしフレームワークを提案する。
患者層形成を効果的かつ効果的に行うことができる患者表現を導出する。
論文 参考訳(メタデータ) (2020-03-14T00:04:20Z) - Learning Dynamic and Personalized Comorbidity Networks from Event Data
using Deep Diffusion Processes [102.02672176520382]
コンコルビンド病は、個人によって異なる複雑な時間的パターンを通じて発生し進行する。
電子的な健康記録では、患者が持つ異なる疾患を観察できるが、それぞれの共死状態の時間的関係を推測できるだけである。
我々は「ダイナミック・コオービディティ・ネットワーク」をモデル化するための深層拡散プロセスを開発する。
論文 参考訳(メタデータ) (2020-01-08T15:47:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。