論文の概要: CovidLLM: A Robust Large Language Model with Missing Value Adaptation and Multi-Objective Learning Strategy for Predicting Disease Severity and Clinical Outcomes in COVID-19 Patients

• arxiv url: http://arxiv.org/abs/2412.03593v1
• Date: Thu, 28 Nov 2024 11:27:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-08 08:18:03.147081
• Title: CovidLLM: A Robust Large Language Model with Missing Value Adaptation and Multi-Objective Learning Strategy for Predicting Disease Severity and Clinical Outcomes in COVID-19 Patients
• Title（参考訳）: CovidLLM: 新型コロナウイルス患者の重症度と臨床結果を予測するための多目的学習戦略と価値適応の欠如を伴うロバストな大規模言語モデル
• Authors: Shengjun Zhu, Siyu Liu, Yang Li, Qing Lei, Hongyan Hou, Hewei Jiang, Shujuan Guo, Feng Wang, Rongshang Chen, Xionglin Fan, Shengce Tao, Jiaxin Cai,
• Abstract要約: コロナウイルス病2019(COVID-19)は世界中で何百万人もの死者を出した。 これらの疾患の重症度と臨床症状の早期発見は, 予後不良の予防に不可欠である。 本研究は,専門的なプロンプトの構築と多目的学習戦略の採用に重点を置いている。
• 参考スコア（独自算出の注目度）: 4.063838267166007
• License:
• Abstract: Coronavirus Disease 2019 (COVID-19), which emerged in 2019, has caused millions of deaths worldwide. Although effective vaccines have been developed to mitigate severe symptoms, certain populations, particularly the elderly and those with comorbidities, remain at high risk for severe outcomes and increased mortality. Consequently, early identification of the severity and clinical outcomes of the disease in these patients is vital to prevent adverse prognoses. Although traditional machine learning and deep learning models have been widely employed in this area, the potential of large language models (LLMs) remains largely unexplored. Our research focuses primarily on constructing specialized prompts and adopting multi-objective learning strategies. We started by selecting serological indicators that significantly correlate with clinical outcomes and disease severity to serve as input data for the model. Blood test samples often contain numerous missing values, and traditional models generally rely on imputation to handle these gaps in the data. In contrast, LLMs offer the advantage of robust semantic understanding. By setting prompts, we can explicitly inform the model when a feature's value is missing, without the need for imputation. For the multi-objective learning strategy, the model is designed to first predict disease severity and then predict clinical outcomes. Given that LLMs utilize both the input text and the generated tokens as input for generating the next token, the predicted severity is used as a basis for generating the clinical outcome. During the fine-tuning of the LLM, the two objectives influence and improve each other. Our experiments were implemented based on the ChatGLM model. The results demonstrate the effectiveness of LLMs in this task, suggesting promising potential for further development.
• Abstract（参考訳）: 2019年に発生したコロナウイルス病2019(COVID-19)は、世界中で何百万人もの死者を出した。 重篤な症状を緩和するために効果的なワクチンが開発されているが、特定の人口、特に高齢者や共生者などは、重篤な結果や死亡率の増加のリスクが高いままである。 これらの疾患の重症度と臨床症状の早期発見は, 予後不良の予防に不可欠である。 従来の機械学習モデルやディープラーニングモデルはこの分野で広く採用されているが、大きな言語モデル(LLM)の可能性はほとんど未解明のままである。 本研究は,専門的なプロンプトの構築と多目的学習戦略の採用に重点を置いている。 まず,臨床結果と重症度に相関する血清学的指標を選別し,モデルの入力データとして機能することから開始した。 血液検査サンプルは、多くの欠落した値を含むことが多いが、従来のモデルは、データ内のこれらのギャップを処理するために、通常、計算に頼っている。 対照的に、LLMは堅牢な意味理解の利点を提供する。 プロンプトを設定することで、インプットを必要とせずに、フィーチャーの値がなくなったときにモデルに明示的に通知することができます。 多目的学習戦略では、まず病気の重症度を予測し、臨床結果を予測するように設計されている。 LLMは、入力テキストと生成されたトークンの両方を次のトークンを生成する入力として利用するので、予測された重症度を臨床結果を生成する基盤として使用する。 LLMの微調整の間、2つの目的は互いに影響を与え、改善する。 実験はChatGLMモデルに基づいて実施した。 その結果, LLM の有効性が示され, 今後の発展の可能性が示唆された。

関連論文リスト

• Memorize and Rank: Elevating Large Language Models for Clinical Diagnosis Prediction [10.403187385041702]
  本稿では,自然言語知識と医療実践を橋渡しする臨床診断予測モデルMERAを紹介する。 疾患候補ランキングリストに階層的コントラスト学習を適用し,大規模な意思決定空間の問題を軽減する。
  論文  参考訳（メタデータ） (2025-01-28T22:38:45Z)
• Explainable Diagnosis Prediction through Neuro-Symbolic Integration [11.842565087408449]
  我々は、診断予測のための説明可能なモデルを開発するために、神経象徴的手法、特に論理ニューラルネットワーク(LNN)を用いている。 私たちのモデル、特に$M_textmulti-pathway$と$M_textcomprehensive$は、従来のモデルよりも優れたパフォーマンスを示します。 これらの知見は、医療AI応用における精度と説明可能性のギャップを埋める神経象徴的アプローチの可能性を強調している。
  論文  参考訳（メタデータ） (2024-10-01T22:47:24Z)
• Prompting Large Language Models for Zero-Shot Clinical Prediction with Structured Longitudinal Electronic Health Record Data [7.815738943706123]
  大規模言語モデル(LLM)は、伝統的に自然言語処理に向いている。 本研究では, GPT-4 などの LLM の EHR データへの適応性について検討する。 EHRデータの長手性、スパース性、知識を注入した性質に対応するため、本研究は特定の特徴を考慮に入れている。
  論文  参考訳（メタデータ） (2024-01-25T20:14:50Z)
• Adapting Machine Learning Diagnostic Models to New Populations Using a Small Amount of Data: Results from Clinical Neuroscience [21.420302408947194]
  我々は、ソースグループからのデータを最適に組み合わせ、ターゲットグループで予測する、重み付き経験的リスク最小化手法を開発した。 本研究では,アルツハイマー病の診断と脳年齢推定のためのMLモデルを構築するため,20の神経画像研究から15,363人のマルチソースデータに適用した。
  論文  参考訳（メタデータ） (2023-08-06T18:05:39Z)
• Predicting multiple sclerosis disease severity with multimodal deep neural networks [10.599189568556508]
  患者のMS病重症度を予測するための多モード深層学習フレームワークを構築するために,構造化ERHデータ,ニューロイメージングデータ,臨床ノートを活用するパイロット取り組みについて述べる。 提案したパイプラインは、単一モーダルデータを用いたモデルと比較して、受信者動作特性曲線(AUROC)の下での面積の最大25%増加を示す。
  論文  参考訳（メタデータ） (2023-04-08T16:23:18Z)
• Detecting Shortcut Learning for Fair Medical AI using Shortcut Testing [62.9062883851246]
  機械学習は医療の改善に大いに貢献するが、その利用が健康格差を広めたり増幅したりしないことを確実にすることは重要である。 アルゴリズムの不公平性の潜在的な要因の1つ、ショートカット学習は、トレーニングデータにおける不適切な相関に基づいてMLモデルが予測した時に発生する。 マルチタスク学習を用いて,臨床MLシステムの公平性評価の一環として,ショートカット学習の評価と緩和を行う手法を提案する。
  論文  参考訳（メタデータ） (2022-07-21T09:35:38Z)
• Benchmarking Machine Learning Robustness in Covid-19 Genome Sequence Classification [109.81283748940696]
  我々は、IlluminaやPacBioといった一般的なシークエンシングプラットフォームのエラープロファイルを模倣するために、SARS-CoV-2ゲノム配列を摂動する方法をいくつか紹介する。 シミュレーションに基づくいくつかのアプローチは、入力シーケンスに対する特定の敵攻撃に対する特定の埋め込み手法に対して、他の手法よりも堅牢(かつ正確)であることを示す。
  論文  参考訳（メタデータ） (2022-07-18T19:16:56Z)
• LifeLonger: A Benchmark for Continual Disease Classification [59.13735398630546]
  MedMNISTコレクションの連続的な疾患分類のためのベンチマークであるLifeLongerを紹介する。 タスクとクラスでの病気の漸進的な学習は、モデルをスクラッチから再トレーニングすることなく、新しいサンプルを分類する問題に対処する。 クロスドメインインクリメンタル学習は、これまで得られた知識を維持しながら、異なる機関から派生したデータセットを扱う問題に対処する。
  論文  参考訳（メタデータ） (2022-04-12T12:25:05Z)
• Relational Subsets Knowledge Distillation for Long-tailed Retinal Diseases Recognition [65.77962788209103]
  本研究では,長尾データを知識に基づいて複数のクラスサブセットに分割し,クラスサブセット学習を提案する。 モデルがサブセット固有の知識の学習に集中するように強制する。 提案手法は長期網膜疾患認識タスクに有効であることが判明した。
  論文  参考訳（メタデータ） (2021-04-22T13:39:33Z)
• Clinical Outcome Prediction from Admission Notes using Self-Supervised Knowledge Integration [55.88616573143478]
  臨床テキストからのアウトカム予測は、医師が潜在的なリスクを見落としないようにする。 退院時の診断,手術手順,院内死亡率,長期予測は4つの一般的な結果予測対象である。 複数の公開資料から得られた患者結果に関する知識を統合するために,臨床結果の事前学習を提案する。
  論文  参考訳（メタデータ） (2021-02-08T10:26:44Z)
• Select-ProtoNet: Learning to Select for Few-Shot Disease Subtype Prediction [55.94378672172967]
  本研究は, 類似患者のサブグループを同定し, 数発の疾患のサブタイプ予測問題に焦点を当てた。 新しいモデルを開発するためにメタラーニング技術を導入し、関連する臨床課題から共通の経験や知識を抽出する。 我々の新しいモデルは、単純だが効果的なメタ学習マシンであるPrototypeal Networkと呼ばれる、慎重に設計されたメタラーナーに基づいて構築されている。
  論文  参考訳（メタデータ） (2020-09-02T02:50:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。