論文の概要: Predicting Clinical Diagnosis from Patients Electronic Health Records
Using BERT-based Neural Networks
- arxiv url: http://arxiv.org/abs/2007.07562v1
- Date: Wed, 15 Jul 2020 09:22:55 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-10 04:34:58.319900
- Title: Predicting Clinical Diagnosis from Patients Electronic Health Records
Using BERT-based Neural Networks
- Title(参考訳): BERT-based Neural Networks を用いた電子カルテ患者の臨床診断予測
- Authors: Pavel Blinov, Manvel Avetisian, Vladimir Kokh, Dmitry Umerenkov,
Alexander Tuzhilin
- Abstract要約: 医療コミュニティにおけるこの問題の重要性を示す。
本稿では,変換器 (BERT) モデルによる2方向表現の分類順序の変更について述べる。
約400万人のユニークな患者訪問からなる、大規模なロシアのEHRデータセットを使用します。
- 参考スコア(独自算出の注目度): 62.9447303059342
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper we study the problem of predicting clinical diagnoses from
textual Electronic Health Records (EHR) data. We show the importance of this
problem in medical community and present comprehensive historical review of the
problem and proposed methods. As the main scientific contributions we present a
modification of Bidirectional Encoder Representations from Transformers (BERT)
model for sequence classification that implements a novel way of
Fully-Connected (FC) layer composition and a BERT model pretrained only on
domain data. To empirically validate our model, we use a large-scale Russian
EHR dataset consisting of about 4 million unique patient visits. This is the
largest such study for the Russian language and one of the largest globally. We
performed a number of comparative experiments with other text representation
models on the task of multiclass classification for 265 disease subset of
ICD-10. The experiments demonstrate improved performance of our models compared
to other baselines, including a fine-tuned Russian BERT (RuBERT) variant. We
also show comparable performance of our model with a panel of experienced
medical experts. This allows us to hope that implementation of this system will
reduce misdiagnosis.
- Abstract(参考訳): 本稿では,テキスト電子健康記録(EHR)データから臨床診断を予測する問題について検討する。
本研究は,医療コミュニティにおけるこの問題の重要性を示し,問題点の包括的歴史的考察と提案手法を提案する。
主要な科学的貢献として、完全連結(fc)層構成の新しい方法とドメインデータのみに事前学習されたbertモデルを実装したシーケンス分類のためのトランスフォーマー(bert)モデルからの双方向エンコーダ表現の修正を提案する。
我々のモデルを実証的に検証するために、約400万人のユニークな患者訪問からなる大規模なロシアのEHRデータセットを使用します。
これはロシア語で最大の研究であり、世界でも最大規模の研究である。
ICD-10の265疾患サブセットに対する多クラス分類の課題について,他のテキスト表現モデルとの比較実験を行った。
実験では,ロシア語 BERT (RuBERT) 変種を含む他のベースラインと比較して,モデルの性能が向上した。
また、経験豊富な医療専門家のパネルで、モデルの同等のパフォーマンスを示す。
これにより,本システムの実装による誤診の低減が期待できる。
関連論文リスト
- Towards Clinician-Preferred Segmentation: Leveraging Human-in-the-Loop for Test Time Adaptation in Medical Image Segmentation [10.65123164779962]
深層学習に基づく医療画像セグメンテーションモデルは、様々な医療センターに展開すると、しばしば性能劣化に直面します。
本稿では,クリニカル修正予測のほとんど見落とされがちな可能性を生かした,新規なHuman-in-the-loop TTAフレームワークを提案する。
我々のフレームワークは、ドメインの格差によって生じる予測のばらつきを減らし、分散損失を想定する。
論文 参考訳(メタデータ) (2024-05-14T02:02:15Z) - Towards a clinically accessible radiology foundation model: open-access and lightweight, with automated evaluation [113.5002649181103]
オープンソースの小型マルチモーダルモデル(SMM)を訓練し、放射線学における未測定臨床ニーズに対する能力ギャップを埋める。
トレーニングのために,697万以上の画像テキストペアからなる大規模なデータセットを組み立てる。
評価のために,GPT-4に基づく実測値CheXpromptを提案する。
LlaVA-Radの推論は高速で、単一のV100 GPU上でプライベート設定で実行できる。
論文 参考訳(メタデータ) (2024-03-12T18:12:02Z) - Estimating the severity of dental and oral problems via sentiment
classification over clinical reports [0.8287206589886879]
テキストにおける著者の感情を分析することは、医学や歯科など様々な分野において実用的で有用である。
CNN-LSTMとして知られる畳み込みニューラルネットワーク(CNN)とLong Short-Term Memory(LSTM)ネットワークアーキテクチャに基づくディープラーニングモデルを開発した。
論文 参考訳(メタデータ) (2024-01-17T14:33:13Z) - A Transformer-based representation-learning model with unified
processing of multimodal input for clinical diagnostics [63.106382317917344]
本稿では,マルチモーダル入力を統一的に処理する臨床診断支援として,トランスフォーマーを用いた表現学習モデルについて報告する。
統一モデルは, 肺疾患の同定において, 画像のみのモデル, 非統一型マルチモーダル診断モデルより優れていた。
論文 参考訳(メタデータ) (2023-06-01T16:23:47Z) - Textual Data Augmentation for Patient Outcomes Prediction [67.72545656557858]
本稿では,患者の電子カルテに人工的な臨床ノートを作成するための新しいデータ拡張手法を提案する。
生成言語モデルGPT-2を微調整し、ラベル付きテキストを元のトレーニングデータで合成する。
今回,最も多い患者,すなわち30日間の寛解率について検討した。
論文 参考訳(メタデータ) (2022-11-13T01:07:23Z) - An Ensemble Approach for Patient Prognosis of Head and Neck Tumor Using
Multimodal Data [0.0]
頭頸部腫瘍の予後を予測するために,深層マルチタスクロジスティック回帰(MTLR),コックス比重ハザード(CoxPH),CNNモデルを組み込んだマルチモーダルネットワークを提案する。
提案手法は,HECKTORテストセットのC-インデックス0.72を達成し,HECKTORチャレンジの予後タスクにおける第1位を救った。
論文 参考訳(メタデータ) (2022-02-25T07:50:59Z) - Development of patients triage algorithm from nationwide COVID-19
registry data based on machine learning [1.0323063834827415]
本稿では,機械学習技術を用いた重症度評価モデルの開発過程について述べる。
モデルは基本的な患者の基本的個人データのみを必要とするため、患者は自身の重症度を判断できる。
本研究の目的は、患者が自身の重症度をチェックできる医療システムを構築し、同様の重症度を持つ他の患者の過去の治療内容に基づいて、適切な診療所への訪問を通知することである。
論文 参考訳(メタデータ) (2021-09-18T19:56:27Z) - Medical Profile Model: Scientific and Practical Applications in
Healthcare [1.718235998156457]
本研究は, 患者の病歴を, 病の時間的シーケンスとして提示し, その埋め込みを教師なしで学習する。
埋め込みスペースには、一般化された患者プロファイルの作成を可能にする人口統計パラメータが含まれている。
このような医療プロファイルモデルのトレーニングは、100万人以上の患者のデータセット上で実施されている。
論文 参考訳(メタデータ) (2021-06-21T13:30:43Z) - Many-to-One Distribution Learning and K-Nearest Neighbor Smoothing for
Thoracic Disease Identification [83.6017225363714]
ディープラーニングは、病気の識別性能を改善するための最も強力なコンピュータ支援診断技術となった。
胸部X線撮影では、大規模データの注釈付けには専門的なドメイン知識が必要で、時間を要する。
本論文では、単一モデルにおける疾患同定性能を改善するために、複数対1の分布学習(MODL)とK-nearest neighbor smoothing(KNNS)手法を提案する。
論文 参考訳(メタデータ) (2021-02-26T02:29:30Z) - Select-ProtoNet: Learning to Select for Few-Shot Disease Subtype
Prediction [55.94378672172967]
本研究は, 類似患者のサブグループを同定し, 数発の疾患のサブタイプ予測問題に焦点を当てた。
新しいモデルを開発するためにメタラーニング技術を導入し、関連する臨床課題から共通の経験や知識を抽出する。
我々の新しいモデルは、単純だが効果的なメタ学習マシンであるPrototypeal Networkと呼ばれる、慎重に設計されたメタラーナーに基づいて構築されている。
論文 参考訳(メタデータ) (2020-09-02T02:50:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。