論文の概要: DRG-LLaMA : Tuning LLaMA Model to Predict Diagnosis-related Group for
Hospitalized Patients
- arxiv url: http://arxiv.org/abs/2309.12625v2
- Date: Fri, 29 Sep 2023 02:32:51 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-02 17:16:37.458334
- Title: DRG-LLaMA : Tuning LLaMA Model to Predict Diagnosis-related Group for
Hospitalized Patients
- Title(参考訳): DRG-LLaMA : LLaMAモデルによる入院患者の診断関連集団の予測
- Authors: Hanyin Wang, Chufan Gao, Christopher Dantona, Bryan Hull, Jimeng Sun
- Abstract要約: 本研究はDRG-LLaMA(DRG-LLaMA)について紹介する。
DRG-LLaMA-7Bモデルでは,平均F1スコアが0.327,トップ-1予測精度が52.0%,マクロ平均Curve(AUC)が0.986,最大入力トークン長が512であった。
- 参考スコア(独自算出の注目度): 25.481921617905414
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In the U.S. inpatient payment system, the Diagnosis-Related Group (DRG) is
pivotal, but its assignment process is inefficient. The study introduces
DRG-LLaMA, an advanced large language model (LLM) fine-tuned on clinical notes
to enhance DRGs assignment. Utilizing LLaMA as the foundational model and
optimizing it through Low-Rank Adaptation (LoRA) on 236,192 MIMIC-IV discharge
summaries, our DRG-LLaMA-7B model exhibited a noteworthy macro-averaged F1
score of 0.327, a top-1 prediction accuracy of 52.0%, and a macro-averaged Area
Under the Curve (AUC) of 0.986, with a maximum input token length of 512. This
model surpassed the performance of prior leading models in DRG prediction,
showing a relative improvement of 40.3% and 35.7% in macro-averaged F1 score
compared to ClinicalBERT and CAML, respectively. Applied to base DRG and
complication or comorbidity (CC)/major complication or comorbidity (MCC)
prediction, DRG-LLaMA achieved a top-1 prediction accuracy of 67.8% and 67.5%,
respectively. Additionally, our findings indicate that DRG-LLaMA's performance
correlates with increased model parameters and input context lengths.
- Abstract(参考訳): 米国の入院医療システムでは、診断関連グループ(DRG)が重要であるが、その割り当てプロセスは非効率である。
本研究は,臨床ノートに微調整された先進的大規模言語モデル (llm) である drg-llama について紹介する。
LLaMAを基礎モデルとして, 236,192 MIMIC-IV放電サマリー上のローランド適応 (LoRA) を用いて最適化し, DRG-LLaMA-7Bモデルでは, 注目すべきマクロ平均F1スコア0.327, トップ-1予測精度52.0%, 最大入力トークン長0.986, マクロ平均領域512を示した。
このモデルは、DRG予測における先行モデルの性能を上回り、平均F1スコアの40.3%と35.7%の相対的な改善を示した。
ベースDRGとCC/MCC予測に適用すると、DRG-LLaMAはそれぞれ67.8%と67.5%の予測精度でトップ1の予測精度を達成した。
さらに, DRG-LLaMAの性能はモデルパラメータの増加と入力コンテキスト長と相関していることがわかった。
関連論文リスト
- Predicting postoperative risks using large language models [7.42249589630227]
各種チューニング手法を用いて, 臨床テキストによる術後リスク予測のための大規模言語モデル (LLM) について検討した。
その結果,30日間の死亡,肺塞栓症,肺炎が認められた。
事前訓練されたLLMは従来の単語の埋め込みよりも優れており、AUROCは38.3%、AUPRCは14%だった。
論文 参考訳(メタデータ) (2024-02-27T13:18:00Z) - Development and Testing of Retrieval Augmented Generation in Large
Language Models -- A Case Study Report [2.523433459887027]
Retrieval Augmented Generation (RAG)は、大規模言語モデル(LLM)におけるドメイン知識をカスタマイズするための有望なアプローチとして出現する。
LLM-RAGモデルを35の術前ガイドラインを用いて開発し,人為的反応に対して試験を行った。
このモデルでは平均15~20秒で回答が生成され、人間の要求する10分よりもはるかに速くなった。
論文 参考訳(メタデータ) (2024-01-29T06:49:53Z) - A Federated Learning Framework for Stenosis Detection [70.27581181445329]
本研究は,冠動脈造影画像(CA)の狭窄検出におけるFL(Federated Learning)の使用について検討した。
アンコナのOspedale Riuniti(イタリア)で取得した200人の患者1219枚の画像を含む2施設の異種データセットについて検討した。
データセット2には、文献で利用可能な90人の患者からの7492のシーケンシャルな画像が含まれている。
論文 参考訳(メタデータ) (2023-10-30T11:13:40Z) - Clinical Deterioration Prediction in Brazilian Hospitals Based on
Artificial Neural Networks and Tree Decision Models [56.93322937189087]
超強化ニューラルネットワーク(XBNet)は臨床劣化(CD)を予測するために用いられる
XGBoostモデルはブラジルの病院のデータからCDを予測する最良の結果を得た。
論文 参考訳(メタデータ) (2022-12-17T23:29:14Z) - AD-BERT: Using Pre-trained contextualized embeddings to Predict the
Progression from Mild Cognitive Impairment to Alzheimer's Disease [14.59521645987661]
本研究では,変換器(BERT)モデルから事前学習した双方向表現に基づくディープラーニングフレームワークを開発する。
軽度認知障害(MCI)からアルツハイマー病(AD)への進行リスクを非構造的臨床ノートを用いて予測した。
論文 参考訳(メタデータ) (2022-11-07T04:05:46Z) - Federated Learning Enables Big Data for Rare Cancer Boundary Detection [98.5549882883963]
6大陸にわたる71の医療機関のデータを含む,これまでで最大のフェデレーテッドML研究の結果を報告する。
グリオ芽腫の稀な疾患に対する腫瘍境界自動検出装置を作製した。
当科では, 外科的に標的とした腫瘍の悪性度を高めるために, 33%の改善率を示し, 腫瘍全体に対する23%の改善率を示した。
論文 参考訳(メタデータ) (2022-04-22T17:27:00Z) - An Interpretable Web-based Glioblastoma Multiforme Prognosis Prediction
Tool using Random Forest Model [1.1024591739346292]
治療後1年間のGBM患者の健康状態を推定する予測モデルを提案する。
総計467名のGBM患者の臨床像を13の特徴と2つの経過日で比較検討した。
GBM患者生存の予後因子のトップ3はMGMT遺伝子プロモーター,切除範囲,年齢であった。
論文 参考訳(メタデータ) (2021-08-30T07:56:34Z) - Comparison of Machine Learning Classifiers to Predict Patient Survival
and Genetics of GBM: Towards a Standardized Model for Clinical Implementation [44.02622933605018]
放射線モデルは、グリオ芽腫(GBM)の結果予測のための臨床データを上回ることが示されています。
GBM患者の生存率(OS),IDH変異,O-6-メチルグアニン-DNA-メチルトランスフェラーゼ(MGMT)プロモーターメチル化,EGFR(EGFR)VII増幅,Ki-67発現の9種類の機械学習分類器を比較した。
xgb は os (74.5%), ab for idh 変異 (88%), mgmt メチル化 (71,7%), ki-67 発現 (86,6%), egfr増幅 (81。
論文 参考訳(メタデータ) (2021-02-10T15:10:37Z) - Cauchy-Schwarz Regularized Autoencoder [68.80569889599434]
変分オートエンコーダ(VAE)は、強力で広く使われている生成モデルのクラスである。
GMMに対して解析的に計算できるCauchy-Schwarz分散に基づく新しい制約対象を導入する。
本研究の目的は,密度推定,教師なしクラスタリング,半教師なし学習,顔分析における変分自動エンコーディングモデルの改善である。
論文 参考訳(メタデータ) (2021-01-06T17:36:26Z) - Performance of Dual-Augmented Lagrangian Method and Common Spatial
Patterns applied in classification of Motor-Imagery BCI [68.8204255655161]
運動画像に基づく脳-コンピュータインタフェース(MI-BCI)は、神経リハビリテーションのための画期的な技術になる可能性がある。
使用する脳波信号のノイズの性質のため、信頼性の高いBCIシステムは特徴の最適化と抽出のために特別な手順を必要とする。
論文 参考訳(メタデータ) (2020-10-13T20:50:13Z) - Segmentation of the Myocardium on Late-Gadolinium Enhanced MRI based on
2.5 D Residual Squeeze and Excitation Deep Learning Model [55.09533240649176]
本研究の目的は,LGE-MRIを用いた心筋境界領域の深部学習モデルに基づく正確な自動セグメンテーション法を開発することである。
合計320回の試験(平均6回の試験)と28回の試験が行われた。
ベーススライスとミドルスライスにおけるアンサンブルモデルの性能解析は, サーバ内調査と同等であり, アトピーススライスではわずかに低かった。
論文 参考訳(メタデータ) (2020-05-27T20:44:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。