論文の概要: DRG-LLaMA : Tuning LLaMA Model to Predict Diagnosis-related Group for Hospitalized Patients

• arxiv url: http://arxiv.org/abs/2309.12625v1
• Date: Fri, 22 Sep 2023 05:18:54 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-25 16:03:35.509929
• Title: DRG-LLaMA : Tuning LLaMA Model to Predict Diagnosis-related Group for Hospitalized Patients
• Title（参考訳）: DRG-LLaMA : LLaMAモデルによる入院患者の診断関連集団の予測
• Authors: Hanyin Wang, Chufan Gao, Christopher Dantona, Bryan Hull, Jimeng Sun
• Abstract要約: DRG予測の改善のために臨床ノートに微調整した大言語モデル(LLM)であるDRG-LLaMAを導入する。 入力トークン長512, DRG-LLaMA-7Bは平均F1スコア0.327, トップ-1予測精度52.0%, 平均AUC0.986。
• 参考スコア（独自算出の注目度）: 25.481921617905414
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In the U.S. inpatient payment system, the Diagnosis-Related Group (DRG) plays a key role but its current assignment process is time-consuming. We introduce DRG-LLaMA, a large language model (LLM) fine-tuned on clinical notes for improved DRG prediction. Using Meta's LLaMA as the base model, we optimized it with Low-Rank Adaptation (LoRA) on 236,192 MIMIC-IV discharge summaries. With an input token length of 512, DRG-LLaMA-7B achieved a macro-averaged F1 score of 0.327, a top-1 prediction accuracy of 52.0% and a macro-averaged Area Under the Curve (AUC) of 0.986. Impressively, DRG-LLaMA-7B surpassed previously reported leading models on this task, demonstrating a relative improvement in macro-averaged F1 score of 40.3% compared to ClinicalBERT and 35.7% compared to CAML. When DRG-LLaMA is applied to predict base DRGs and complication or comorbidity (CC) / major complication or comorbidity (MCC), the top-1 prediction accuracy reached 67.8% for base DRGs and 67.5% for CC/MCC status. DRG-LLaMA performance exhibits improvements in correlation with larger model parameters and longer input context lengths. Furthermore, usage of LoRA enables training even on smaller GPUs with 48 GB of VRAM, highlighting the viability of adapting LLMs for DRGs prediction.
• Abstract（参考訳）: 米国の入院医療システムでは、診断関連グループ(DRG)が重要な役割を果たすが、現在の割り当てプロセスは時間がかかる。 DRG予測の改善のために臨床ノートに微調整した大言語モデル(LLM)であるDRG-LLaMAを導入する。 メタのLLaMAをベースモデルとして, 236,192 MIMIC-IV放電サマリー上でローランド適応(LoRA)を最適化した。 drg-llama-7bは入力トークンの長さが512で、マクロ平均f1スコアが0.327、トップ1予測精度が52.0%、マクロ平均面積が0.986である。 興味深いことに、DRG-LLaMA-7Bはこのタスクの先行モデルを上回っ、マクロ平均F1スコアの40.3%、CAMLと比較して35.7%改善した。 DRG-LLaMAをベースDRGとコンプリケーション(CC)/メジャーコンプリケーション(MCC)の予測に適用すると、トップ-1予測精度はベースDRGでは67.8%、CC/MCCでは67.5%に達した。 DRG-LLaMAの性能は、より大きなモデルパラメータと長い入力コンテキスト長との相関性の向上を示す。 さらに、LoRAを使用することで、48GBのVRAMを持つ小さなGPUでもトレーニングが可能となり、DRGの予測にLLMを適用することが可能になった。

関連論文リスト

• CRTRE: Causal Rule Generation with Target Trial Emulation Framework [47.2836994469923]
  ターゲットトライアルエミュレーションフレームワーク(CRTRE)を用いた因果ルール生成という新しい手法を提案する。 CRTREは、アソシエーションルールの因果効果を推定するためにランダム化トライアル設計原則を適用している。 次に、病気発症予測などの下流アプリケーションにそのような関連ルールを組み込む。
  論文  参考訳（メタデータ） (2024-11-10T02:40:06Z)
• Development and Testing of Retrieval Augmented Generation in Large Language Models -- A Case Study Report [2.523433459887027]
  Retrieval Augmented Generation (RAG)は、大規模言語モデル(LLM)におけるドメイン知識をカスタマイズするための有望なアプローチとして出現する。 LLM-RAGモデルを35の術前ガイドラインを用いて開発し,人為的反応に対して試験を行った。 このモデルでは平均15～20秒で回答が生成され、人間の要求する10分よりもはるかに速くなった。
  論文  参考訳（メタデータ） (2024-01-29T06:49:53Z)
• A Federated Learning Framework for Stenosis Detection [70.27581181445329]
  本研究は,冠動脈造影画像(CA)の狭窄検出におけるFL(Federated Learning)の使用について検討した。 アンコナのOspedale Riuniti(イタリア)で取得した200人の患者1219枚の画像を含む2施設の異種データセットについて検討した。 データセット2には、文献で利用可能な90人の患者からの7492のシーケンシャルな画像が含まれている。
  論文  参考訳（メタデータ） (2023-10-30T11:13:40Z)
• Clinical Deterioration Prediction in Brazilian Hospitals Based on Artificial Neural Networks and Tree Decision Models [56.93322937189087]
  超強化ニューラルネットワーク(XBNet)は臨床劣化(CD)を予測するために用いられる XGBoostモデルはブラジルの病院のデータからCDを予測する最良の結果を得た。
  論文  参考訳（メタデータ） (2022-12-17T23:29:14Z)
• AD-BERT: Using Pre-trained contextualized embeddings to Predict the Progression from Mild Cognitive Impairment to Alzheimer's Disease [14.59521645987661]
  本研究では,変換器(BERT)モデルから事前学習した双方向表現に基づくディープラーニングフレームワークを開発する。 軽度認知障害(MCI)からアルツハイマー病(AD)への進行リスクを非構造的臨床ノートを用いて予測した。
  論文  参考訳（メタデータ） (2022-11-07T04:05:46Z)
• MRI-based classification of IDH mutation and 1p/19q codeletion status of gliomas using a 2.5D hybrid multi-task convolutional neural network [0.18374319565577152]
  グリオーマにおけるIsocitrate dehydrogenase変異と1p/19q符号欠失は重要な予後マーカーである。 我々の目標は、MRIからこれらの分子変化を非侵襲的に決定する人工知能ベースの手法を開発することであった。 2.5Dハイブリッド畳み込みニューラルネットワークは、腫瘍を同時に局在させ、その分子状態を分類するために提案された。
  論文  参考訳（メタデータ） (2022-10-07T18:46:39Z)
• An Interpretable Web-based Glioblastoma Multiforme Prognosis Prediction Tool using Random Forest Model [1.1024591739346292]
  治療後1年間のGBM患者の健康状態を推定する予測モデルを提案する。 総計467名のGBM患者の臨床像を13の特徴と2つの経過日で比較検討した。 GBM患者生存の予後因子のトップ3はMGMT遺伝子プロモーター,切除範囲,年齢であった。
  論文  参考訳（メタデータ） (2021-08-30T07:56:34Z)
• Comparison of Machine Learning Classifiers to Predict Patient Survival and Genetics of GBM: Towards a Standardized Model for Clinical Implementation [44.02622933605018]
  放射線モデルは、グリオ芽腫(GBM)の結果予測のための臨床データを上回ることが示されています。 GBM患者の生存率(OS),IDH変異,O-6-メチルグアニン-DNA-メチルトランスフェラーゼ(MGMT)プロモーターメチル化,EGFR(EGFR)VII増幅,Ki-67発現の9種類の機械学習分類器を比較した。 xgb は os (74.5%), ab for idh 変異 (88%), mgmt メチル化 (71,7%), ki-67 発現 (86,6%), egfr増幅 (81。
  論文  参考訳（メタデータ） (2021-02-10T15:10:37Z)
• Cauchy-Schwarz Regularized Autoencoder [68.80569889599434]
  変分オートエンコーダ(VAE)は、強力で広く使われている生成モデルのクラスである。 GMMに対して解析的に計算できるCauchy-Schwarz分散に基づく新しい制約対象を導入する。 本研究の目的は,密度推定,教師なしクラスタリング,半教師なし学習,顔分析における変分自動エンコーディングモデルの改善である。
  論文  参考訳（メタデータ） (2021-01-06T17:36:26Z)
• Performance of Dual-Augmented Lagrangian Method and Common Spatial Patterns applied in classification of Motor-Imagery BCI [68.8204255655161]
  運動画像に基づく脳-コンピュータインタフェース(MI-BCI)は、神経リハビリテーションのための画期的な技術になる可能性がある。 使用する脳波信号のノイズの性質のため、信頼性の高いBCIシステムは特徴の最適化と抽出のために特別な手順を必要とする。
  論文  参考訳（メタデータ） (2020-10-13T20:50:13Z)
• Segmentation of the Myocardium on Late-Gadolinium Enhanced MRI based on 2.5 D Residual Squeeze and Excitation Deep Learning Model [55.09533240649176]
  本研究の目的は,LGE-MRIを用いた心筋境界領域の深部学習モデルに基づく正確な自動セグメンテーション法を開発することである。 合計320回の試験(平均6回の試験)と28回の試験が行われた。 ベーススライスとミドルスライスにおけるアンサンブルモデルの性能解析は, サーバ内調査と同等であり, アトピーススライスではわずかに低かった。
  論文  参考訳（メタデータ） (2020-05-27T20:44:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。