論文の概要: Neural Language Models with Distant Supervision to Identify Major
Depressive Disorder from Clinical Notes
- arxiv url: http://arxiv.org/abs/2104.09644v1
- Date: Mon, 19 Apr 2021 21:11:41 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-21 13:52:00.786760
- Title: Neural Language Models with Distant Supervision to Identify Major
Depressive Disorder from Clinical Notes
- Title（参考訳）: 臨床ノートから主うつ病性障害を識別するための遠隔監視型ニューラルランゲージモデル
- Authors: Bhavani Singh Agnikula Kshatriya, Nicolas A Nunez, Manuel Gardea-
Resendez, Euijung Ryu, Brandon J Coombes, Sunyang Fu, Mark A Frye, Joanna M
Biernacka, Yanshan Wang
- Abstract要約: 大うつ病 (Major depressive disorder, MDD) は、世界中で深刻な医療負担を伴う精神疾患である。
近年、Bidirectional Representations for Transformers (BERT) モデルなどのニューラルネットワークモデルが進歩し、最先端のニューラルネットワークモデルが生まれた。
臨床ノートからMDD表現型を同定するために,遠隔監視パラダイムでニューラルネットワークモデルを活用することを提案する。
- 参考スコア（独自算出の注目度）: 2.1060613825447407
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Major depressive disorder (MDD) is a prevalent psychiatric disorder that is
associated with significant healthcare burden worldwide. Phenotyping of MDD can
help early diagnosis and consequently may have significant advantages in
patient management. In prior research MDD phenotypes have been extracted from
structured Electronic Health Records (EHR) or using Electroencephalographic
(EEG) data with traditional machine learning models to predict MDD phenotypes.
However, MDD phenotypic information is also documented in free-text EHR data,
such as clinical notes. While clinical notes may provide more accurate
phenotyping information, natural language processing (NLP) algorithms must be
developed to abstract such information. Recent advancements in NLP resulted in
state-of-the-art neural language models, such as Bidirectional Encoder
Representations for Transformers (BERT) model, which is a transformer-based
model that can be pre-trained from a corpus of unsupervised text data and then
fine-tuned on specific tasks. However, such neural language models have been
underutilized in clinical NLP tasks due to the lack of large training datasets.
In the literature, researchers have utilized the distant supervision paradigm
to train machine learning models on clinical text classification tasks to
mitigate the issue of lacking annotated training data. It is still unknown
whether the paradigm is effective for neural language models. In this paper, we
propose to leverage the neural language models in a distant supervision
paradigm to identify MDD phenotypes from clinical notes. The experimental
results indicate that our proposed approach is effective in identifying MDD
phenotypes and that the Bio- Clinical BERT, a specific BERT model for clinical
data, achieved the best performance in comparison with conventional machine
learning models.
- Abstract（参考訳）: 大うつ病 (Major depressive disorder, MDD) は、世界中で深刻な医療負担を伴う精神疾患である。
mddの表現型は早期診断の助けとなり、患者の管理に重要な利点がある。
以前の研究では、mdd表現型は構造化電子健康記録(ehr)や脳波(eeg)データから抽出され、従来の機械学習モデルを用いてmdd表現型を予測する。
しかし、MDDの表現型情報は、臨床ノートなどの自由テキストEHRデータにも記録されている。
臨床ノートはより正確な表現型情報を提供するが、自然言語処理(NLP)アルゴリズムはそのような情報を抽象化するために開発する必要がある。
nlpの最近の進歩により、トランスフォーマー(bert)モデルのための双方向エンコーダ表現(bidirectional encoder representations for transformers)のような最先端のニューラルネットワークモデルが生まれた。
しかし、そのようなニューラルネットワークモデルは、大規模なトレーニングデータセットが不足しているため、臨床NLPタスクでは使われていない。
論文では,遠隔指導パラダイムを用いて臨床テキスト分類タスクにおける機械学習モデルを訓練し,注釈付き訓練データの欠如問題を軽減した。
このパラダイムがニューラルネットワークモデルに有効かどうかはまだ分かっていない。
本稿では,臨床ノートからMDD表現型を識別するために,遠隔監視パラダイムのニューラルネットワークモデルを活用することを提案する。
実験結果から,本手法はMDD表現型同定に有効であり,臨床データに特有のBERTモデルであるBio- Clinical BERTが従来の機械学習モデルと比較して優れた性能を示した。
関連論文リスト
- EEG-Language Modeling for Pathology Detection [0.0]
本研究は臨床報告に基づく脳波モデルの先駆者であり,脳波は15,000である。
以上の結果から,よりリッチな表現をさまざまなレポートセグメントに公開することで,モデルが学習できることが示唆された。
EEG言語モデルの表現は、脳波のみのモデルと比較して、病理診断を大幅に改善することができる。
論文 参考訳（メタデータ） (2024-09-02T10:03:03Z) - Interpretable Medical Diagnostics with Structured Data Extraction by
Large Language Models [59.89454513692417]
タブラルデータはしばしばテキストに隠され、特に医学的診断報告に使用される。
本稿では,TEMED-LLM と呼ばれるテキスト医療報告から構造化表状データを抽出する手法を提案する。
本手法は,医学診断における最先端のテキスト分類モデルよりも優れていることを示す。
論文 参考訳（メタデータ） (2023-06-08T09:12:28Z) - Mitigating Data Scarcity for Large Language Models [7.259279261659759]
近年,事前学習型ニューラルネットワークモデル (PNLM) が嵐による自然言語処理の分野に進出している。
データ不足は、医学などの専門分野や、AI研究によって調査されていない低リソース言語でよく見られる。
この論文では、データ強化とニューラルアンサンブル学習技術を用いて、データの不足を軽減することに焦点を当てる。
論文 参考訳（メタデータ） (2023-02-03T15:17:53Z) - Clinical Deterioration Prediction in Brazilian Hospitals Based on
Artificial Neural Networks and Tree Decision Models [56.93322937189087]
超強化ニューラルネットワーク(XBNet)は臨床劣化(CD)を予測するために用いられる
XGBoostモデルはブラジルの病院のデータからCDを予測する最良の結果を得た。
論文 参考訳（メタデータ） (2022-12-17T23:29:14Z) - DR.BENCH: Diagnostic Reasoning Benchmark for Clinical Natural Language
Processing [5.022185333260402]
診断推論ベンチマーク(DR.BENCH)は臨床診断推論能力を持つcNLPモデルの開発と評価のための新しいベンチマークである。
DR.BENCHは、訓練済みの言語モデルを評価するための自然言語生成フレームワークとして設計された最初の臨床スイートである。
論文 参考訳（メタデータ） (2022-09-29T16:05:53Z) - Neural Language Models are not Born Equal to Fit Brain Data, but
Training Helps [75.84770193489639]
音声ブックを聴く被験者の機能的磁気共鳴イメージングの時間軸予測に及ぼすテスト損失,トレーニングコーパス,モデルアーキテクチャの影響について検討した。
各モデルの訓練されていないバージョンは、同じ単語をまたいだ脳反応の類似性を捉えることで、脳内のかなりの量のシグナルをすでに説明していることがわかりました。
ニューラル言語モデルを用いたヒューマン・ランゲージ・システムの説明を目的とした今後の研究の実践を提案する。
論文 参考訳（メタデータ） (2022-07-07T15:37:17Z) - EINNs: Epidemiologically-Informed Neural Networks [75.34199997857341]
本稿では,疫病予測のための新しい物理インフォームドニューラルネットワークEINNを紹介する。
メカニスティックモデルによって提供される理論的柔軟性と、AIモデルによって提供されるデータ駆動表現性の両方を活用する方法について検討する。
論文 参考訳（メタデータ） (2022-02-21T18:59:03Z) - Rationale production to support clinical decision-making [31.66739991129112]
本稿では,病院の退院予測にInfoCalを適用した。
選択された解釈可能性を持つ各提示モデルや特徴重要度法は,それぞれ異なる結果をもたらす。
論文 参考訳（メタデータ） (2021-11-15T09:02:10Z) - Hybrid deep learning methods for phenotype prediction from clinical
notes [4.866431869728018]
本稿では,自然言語処理とディープラーニングモデルを用いて,患者表現型を自動的に抽出するハイブリッドモデルを提案する。
提案したハイブリッドモデルは,患者の退院報告における表現型を特定するために,ニューラル双方向シーケンスモデル(BiLSTMまたはBiGRU)と畳み込みニューラルネットワーク(CNN)に基づいている。
論文 参考訳（メタデータ） (2021-08-16T05:57:28Z) - Select-ProtoNet: Learning to Select for Few-Shot Disease Subtype
Prediction [55.94378672172967]
本研究は, 類似患者のサブグループを同定し, 数発の疾患のサブタイプ予測問題に焦点を当てた。
新しいモデルを開発するためにメタラーニング技術を導入し、関連する臨床課題から共通の経験や知識を抽出する。
我々の新しいモデルは、単純だが効果的なメタ学習マシンであるPrototypeal Networkと呼ばれる、慎重に設計されたメタラーナーに基づいて構築されている。
論文 参考訳（メタデータ） (2020-09-02T02:50:30Z) - Predicting Clinical Diagnosis from Patients Electronic Health Records
Using BERT-based Neural Networks [62.9447303059342]
医療コミュニティにおけるこの問題の重要性を示す。
本稿では,変換器 (BERT) モデルによる2方向表現の分類順序の変更について述べる。
約400万人のユニークな患者訪問からなる、大規模なロシアのEHRデータセットを使用します。
論文 参考訳（メタデータ） (2020-07-15T09:22:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。