論文の概要: DRG-LLaMA : Tuning LLaMA Model to Predict Diagnosis-related Group for
Hospitalized Patients
- arxiv url: http://arxiv.org/abs/2309.12625v2
- Date: Fri, 29 Sep 2023 02:32:51 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-02 17:16:37.458334
- Title: DRG-LLaMA : Tuning LLaMA Model to Predict Diagnosis-related Group for
Hospitalized Patients
- Title(参考訳): DRG-LLaMA : LLaMAモデルによる入院患者の診断関連集団の予測
- Authors: Hanyin Wang, Chufan Gao, Christopher Dantona, Bryan Hull, Jimeng Sun
- Abstract要約: 本研究はDRG-LLaMA(DRG-LLaMA)について紹介する。
DRG-LLaMA-7Bモデルでは,平均F1スコアが0.327,トップ-1予測精度が52.0%,マクロ平均Curve(AUC)が0.986,最大入力トークン長が512であった。
- 参考スコア(独自算出の注目度): 25.481921617905414
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In the U.S. inpatient payment system, the Diagnosis-Related Group (DRG) is
pivotal, but its assignment process is inefficient. The study introduces
DRG-LLaMA, an advanced large language model (LLM) fine-tuned on clinical notes
to enhance DRGs assignment. Utilizing LLaMA as the foundational model and
optimizing it through Low-Rank Adaptation (LoRA) on 236,192 MIMIC-IV discharge
summaries, our DRG-LLaMA-7B model exhibited a noteworthy macro-averaged F1
score of 0.327, a top-1 prediction accuracy of 52.0%, and a macro-averaged Area
Under the Curve (AUC) of 0.986, with a maximum input token length of 512. This
model surpassed the performance of prior leading models in DRG prediction,
showing a relative improvement of 40.3% and 35.7% in macro-averaged F1 score
compared to ClinicalBERT and CAML, respectively. Applied to base DRG and
complication or comorbidity (CC)/major complication or comorbidity (MCC)
prediction, DRG-LLaMA achieved a top-1 prediction accuracy of 67.8% and 67.5%,
respectively. Additionally, our findings indicate that DRG-LLaMA's performance
correlates with increased model parameters and input context lengths.
- Abstract(参考訳): 米国の入院医療システムでは、診断関連グループ(DRG)が重要であるが、その割り当てプロセスは非効率である。
本研究は,臨床ノートに微調整された先進的大規模言語モデル (llm) である drg-llama について紹介する。
LLaMAを基礎モデルとして, 236,192 MIMIC-IV放電サマリー上のローランド適応 (LoRA) を用いて最適化し, DRG-LLaMA-7Bモデルでは, 注目すべきマクロ平均F1スコア0.327, トップ-1予測精度52.0%, 最大入力トークン長0.986, マクロ平均領域512を示した。
このモデルは、DRG予測における先行モデルの性能を上回り、平均F1スコアの40.3%と35.7%の相対的な改善を示した。
ベースDRGとCC/MCC予測に適用すると、DRG-LLaMAはそれぞれ67.8%と67.5%の予測精度でトップ1の予測精度を達成した。
さらに, DRG-LLaMAの性能はモデルパラメータの増加と入力コンテキスト長と相関していることがわかった。
関連論文リスト
- CRTRE: Causal Rule Generation with Target Trial Emulation Framework [47.2836994469923]
ターゲットトライアルエミュレーションフレームワーク(CRTRE)を用いた因果ルール生成という新しい手法を提案する。
CRTREは、アソシエーションルールの因果効果を推定するためにランダム化トライアル設計原則を適用している。
次に、病気発症予測などの下流アプリケーションにそのような関連ルールを組み込む。
論文 参考訳(メタデータ) (2024-11-10T02:40:06Z) - Development and Testing of Retrieval Augmented Generation in Large
Language Models -- A Case Study Report [2.523433459887027]
Retrieval Augmented Generation (RAG)は、大規模言語モデル(LLM)におけるドメイン知識をカスタマイズするための有望なアプローチとして出現する。
LLM-RAGモデルを35の術前ガイドラインを用いて開発し,人為的反応に対して試験を行った。
このモデルでは平均15~20秒で回答が生成され、人間の要求する10分よりもはるかに速くなった。
論文 参考訳(メタデータ) (2024-01-29T06:49:53Z) - A Federated Learning Framework for Stenosis Detection [70.27581181445329]
本研究は,冠動脈造影画像(CA)の狭窄検出におけるFL(Federated Learning)の使用について検討した。
アンコナのOspedale Riuniti(イタリア)で取得した200人の患者1219枚の画像を含む2施設の異種データセットについて検討した。
データセット2には、文献で利用可能な90人の患者からの7492のシーケンシャルな画像が含まれている。
論文 参考訳(メタデータ) (2023-10-30T11:13:40Z) - Clinical Deterioration Prediction in Brazilian Hospitals Based on
Artificial Neural Networks and Tree Decision Models [56.93322937189087]
超強化ニューラルネットワーク(XBNet)は臨床劣化(CD)を予測するために用いられる
XGBoostモデルはブラジルの病院のデータからCDを予測する最良の結果を得た。
論文 参考訳(メタデータ) (2022-12-17T23:29:14Z) - AD-BERT: Using Pre-trained contextualized embeddings to Predict the
Progression from Mild Cognitive Impairment to Alzheimer's Disease [14.59521645987661]
本研究では,変換器(BERT)モデルから事前学習した双方向表現に基づくディープラーニングフレームワークを開発する。
軽度認知障害(MCI)からアルツハイマー病(AD)への進行リスクを非構造的臨床ノートを用いて予測した。
論文 参考訳(メタデータ) (2022-11-07T04:05:46Z) - MRI-based classification of IDH mutation and 1p/19q codeletion status of
gliomas using a 2.5D hybrid multi-task convolutional neural network [0.18374319565577152]
グリオーマにおけるIsocitrate dehydrogenase変異と1p/19q符号欠失は重要な予後マーカーである。
我々の目標は、MRIからこれらの分子変化を非侵襲的に決定する人工知能ベースの手法を開発することであった。
2.5Dハイブリッド畳み込みニューラルネットワークは、腫瘍を同時に局在させ、その分子状態を分類するために提案された。
論文 参考訳(メタデータ) (2022-10-07T18:46:39Z) - An Interpretable Web-based Glioblastoma Multiforme Prognosis Prediction
Tool using Random Forest Model [1.1024591739346292]
治療後1年間のGBM患者の健康状態を推定する予測モデルを提案する。
総計467名のGBM患者の臨床像を13の特徴と2つの経過日で比較検討した。
GBM患者生存の予後因子のトップ3はMGMT遺伝子プロモーター,切除範囲,年齢であった。
論文 参考訳(メタデータ) (2021-08-30T07:56:34Z) - Comparison of Machine Learning Classifiers to Predict Patient Survival
and Genetics of GBM: Towards a Standardized Model for Clinical Implementation [44.02622933605018]
放射線モデルは、グリオ芽腫(GBM)の結果予測のための臨床データを上回ることが示されています。
GBM患者の生存率(OS),IDH変異,O-6-メチルグアニン-DNA-メチルトランスフェラーゼ(MGMT)プロモーターメチル化,EGFR(EGFR)VII増幅,Ki-67発現の9種類の機械学習分類器を比較した。
xgb は os (74.5%), ab for idh 変異 (88%), mgmt メチル化 (71,7%), ki-67 発現 (86,6%), egfr増幅 (81。
論文 参考訳(メタデータ) (2021-02-10T15:10:37Z) - Cauchy-Schwarz Regularized Autoencoder [68.80569889599434]
変分オートエンコーダ(VAE)は、強力で広く使われている生成モデルのクラスである。
GMMに対して解析的に計算できるCauchy-Schwarz分散に基づく新しい制約対象を導入する。
本研究の目的は,密度推定,教師なしクラスタリング,半教師なし学習,顔分析における変分自動エンコーディングモデルの改善である。
論文 参考訳(メタデータ) (2021-01-06T17:36:26Z) - Performance of Dual-Augmented Lagrangian Method and Common Spatial
Patterns applied in classification of Motor-Imagery BCI [68.8204255655161]
運動画像に基づく脳-コンピュータインタフェース(MI-BCI)は、神経リハビリテーションのための画期的な技術になる可能性がある。
使用する脳波信号のノイズの性質のため、信頼性の高いBCIシステムは特徴の最適化と抽出のために特別な手順を必要とする。
論文 参考訳(メタデータ) (2020-10-13T20:50:13Z) - Segmentation of the Myocardium on Late-Gadolinium Enhanced MRI based on
2.5 D Residual Squeeze and Excitation Deep Learning Model [55.09533240649176]
本研究の目的は,LGE-MRIを用いた心筋境界領域の深部学習モデルに基づく正確な自動セグメンテーション法を開発することである。
合計320回の試験(平均6回の試験)と28回の試験が行われた。
ベーススライスとミドルスライスにおけるアンサンブルモデルの性能解析は, サーバ内調査と同等であり, アトピーススライスではわずかに低かった。
論文 参考訳(メタデータ) (2020-05-27T20:44:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。