論文の概要: Fine-Tuning Open-Source Large Language Models to Improve Their Performance on Radiation Oncology Tasks: A Feasibility Study to Investigate Their Potential Clinical Applications in Radiation Oncology

• arxiv url: http://arxiv.org/abs/2501.17286v1
• Date: Tue, 28 Jan 2025 20:37:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-30 15:54:32.831791
• Title: Fine-Tuning Open-Source Large Language Models to Improve Their Performance on Radiation Oncology Tasks: A Feasibility Study to Investigate Their Potential Clinical Applications in Radiation Oncology
• Title（参考訳）: 放射線オンコロジー課題における性能向上を目的としたオープンソース大規模言語モデルの構築:放射線オンコロジーにおける臨床応用の可能性の検討
• Authors: Peilong Wang, Zhengliang Liu, Yiwei Li, Jason Holmes, Peng Shu, Lian Zhang, Xiang Li, Quanzheng Li, Brady S. Laughlin, Diego Santos Toesca, Sujay A. Vora, Samir H. Patel, Terence T. Sio, Tianming Liu, Wei Liu,
• Abstract要約: 大規模言語モデルは、複雑なテキスト情報を処理する際、顕著な能力を示した。 本研究の目的は、ドメイン知識を持つ微調整LDMがタスクの性能を向上させるかどうかを検討することである。 片面のウィルコクソンサインランク試験は、統計的に結果を分析するために使用された。
• 参考スコア（独自算出の注目度）: 23.986096971629777
• License:
• Abstract: Background: The radiation oncology clinical practice involves many steps relying on the dynamic interplay of abundant text data. Large language models have displayed remarkable capabilities in processing complex text information. But their direct applications in specific fields like radiation oncology remain underexplored. Purpose: This study aims to investigate whether fine-tuning LLMs with domain knowledge can improve the performance on Task (1) treatment regimen generation, Task (2) treatment modality selection (photon, proton, electron, or brachytherapy), and Task (3) ICD-10 code prediction in radiation oncology. Methods: Data for 15,724 patient cases were extracted. Cases where patients had a single diagnostic record, and a clearly identifiable primary treatment plan were selected for preprocessing and manual annotation to have 7,903 cases of the patient diagnosis, treatment plan, treatment modality, and ICD-10 code. Each case was used to construct a pair consisting of patient diagnostics details and an answer (treatment regimen, treatment modality, or ICD-10 code respectively) for the supervised fine-tuning of these three tasks. Open source LLaMA2-7B and Mistral-7B models were utilized for the fine-tuning with the Low-Rank Approximations method. Accuracy and ROUGE-1 score were reported for the fine-tuned models and original models. Clinical evaluation was performed on Task (1) by radiation oncologists, while precision, recall, and F-1 score were evaluated for Task (2) and (3). One-sided Wilcoxon signed-rank tests were used to statistically analyze the results. Results: Fine-tuned LLMs outperformed original LLMs across all tasks with p-value <= 0.001. Clinical evaluation demonstrated that over 60% of the fine-tuned LLMs-generated treatment regimens were clinically acceptable. Precision, recall, and F1-score showed improved performance of fine-tuned LLMs.
• Abstract（参考訳）: 背景: 放射線腫瘍学臨床実践は、豊富なテキストデータの動的相互作用に依存する多くのステップを含む。 大規模言語モデルは、複雑なテキスト情報を処理する際、顕著な能力を示した。 しかし、放射線腫瘍学のような特定の分野への直接的応用はいまだ研究されていない。 目的: 本研究は, 領域知識を有する微調整LDMが, (1) 治療レギュレン生成, (2) 治療モダリティ選択(光子, 陽子, 電子, ブラキセラピー), (3) 放射線腫瘍学におけるICD-10コード予測における性能を向上できるかを検討することを目的とする。 方法: 患者15,724例のデータを抽出した。 術前診断, 治療計画, 治療モダリティ, ICD-10符号の7,903例を前処理および手動アノテーションとして, 診断記録が1例, 明確な一次治療計画が選択された。 各症例は, 患者診断の詳細と回答(治療規則, 治療モダリティ, ICD-10コード)から構成され, これら3つのタスクを監督的微調整するためのペアを構築するために用いられた。 オープンソースのLLaMA2-7BとMistral-7Bはローランド近似法による微調整に使用された。 精度とROUGE-1スコアは、微調整されたモデルとオリジナルのモデルに対して報告された。 放射線腫瘍専門医による第1タスクの臨床的評価を行い,第2タスクと第3タスクの精度,リコール,F-1スコアを評価した。 片面のウィルコクソンサインランク試験は、統計的に結果を分析するために使用された。 結果: p-value <= 0.001。 臨床評価の結果, 微調整LDMが生成する治療レギュラーの60%以上が臨床的に許容されることがわかった。 精度、リコール、F1スコアは微調整LDMの性能が向上した。

関連論文リスト

• Evaluating Computational Accuracy of Large Language Models in Numerical Reasoning Tasks for Healthcare Applications [0.0]
  医療分野で大きな言語モデル(LLM)が変革的なツールとして登場した。 数値推論の習熟度、特に臨床応用のような高い評価の領域では、未解明のままである。 本研究では,医療現場における数値推論作業におけるLCMの計算精度について検討した。
  論文  参考訳（メタデータ） (2025-01-14T04:29:43Z)
• Language Models and Retrieval Augmented Generation for Automated Structured Data Extraction from Diagnostic Reports [2.932283627137903]
  この研究は、2つのデータセットを利用していた:7,294の放射線診断報告は、BT-RADS(Brain tumor Reporting and Data System)スコアに注釈付けされ、2,154の病理診断報告は、isocitrate dehydrogenase(IDH)変異のステータスに注釈付けされた。
  論文  参考訳（メタデータ） (2024-09-15T15:21:45Z)
• MGH Radiology Llama: A Llama 3 70B Model for Radiology [50.42811030970618]
  本稿では,高度な放射線学に焦点を当てた大規模言語モデルMGH Radiology Llamaを提案する。 Llama 3 70Bモデルを使用して開発され、Radiology-GPTやRadiology-Llama2といった従来のドメイン固有モデルをベースにしている。 従来の指標とGPT-4に基づく評価の両方を取り入れた評価では,汎用LLMよりも高い性能を示す。
  論文  参考訳（メタデータ） (2024-08-13T01:30:03Z)
• Data-Driven Machine Learning Approaches for Predicting In-Hospital Sepsis Mortality [0.0]
  セプシスはアメリカ合衆国と世界中で多くの死者を負う重篤な状態である。 機械学習を用いたこれまでの研究では、特徴選択とモデル解釈可能性に制限があった。 本研究は,院内敗血症死亡率を予測するための,解釈可能かつ正確な機械学習モデルを開発することを目的とした。
  論文  参考訳（メタデータ） (2024-08-03T00:28:25Z)
• LLM-driven Multimodal Target Volume Contouring in Radiation Oncology [46.23891509553877]
  大規模言語モデル(LLM)は、テキスト情報と画像の統合を容易にする。 LLM駆動型マルチモーダルAI,すなわちLLMSegを提案する。 提案モデルでは,従来のユニモーダルAIモデルと比較して,性能が著しく向上していることが実証された。
  論文  参考訳（メタデータ） (2023-11-03T13:38:42Z)
• Segmentation of Planning Target Volume in CT Series for Total Marrow Irradiation Using U-Net [0.0]
  U-Netアーキテクチャを用いたTMLI処理のためのプランニングターゲットボリューム(PTV)のセグメンテーションのためのディープラーニングに基づく自動コンストラクション手法を提案する。 本研究は放射線腫瘍学者を相当の時間で救うことができるセグメンテーションモデルの開発に向けた予備的だが重要なステップである。
  論文  参考訳（メタデータ） (2023-04-05T10:40:37Z)
• Ensemble model for pre-discharge icd10 coding prediction [45.82374977939355]
  正確なコード予測のための複数の臨床データソースを組み込んだアンサンブルモデルを提案する。 平均精度は0.73および0.58、F1スコアは0.56および0.35、患者および外来データセットの主診断予測では0.71および0.4のマルチラベル分類精度を得る。
  論文  参考訳（メタデータ） (2020-12-16T07:02:56Z)
• MIA-Prognosis: A Deep Learning Framework to Predict Therapy Response [58.0291320452122]
  本稿では,患者の予後と治療反応を予測するための統合型深層学習手法を提案する。 我々は,マルチモーダル非同期時系列分類タスクとして,確率モデリングを定式化する。 我々の予測モデルは、長期生存の観点から、低リスク、高リスクの患者をさらに階層化する可能性がある。
  論文  参考訳（メタデータ） (2020-10-08T15:30:17Z)
• Hemogram Data as a Tool for Decision-making in COVID-19 Management: Applications to Resource Scarcity Scenarios [62.997667081978825]
  新型コロナウイルス(COVID-19)のパンデミックは世界中の緊急対応システムに挑戦している。 本研究は, 症状患者の血液検査データから得られた機械学習モデルについて述べる。 提案されたモデルでは、新型コロナウイルスqRT-PCRの結果を、高い精度、感度、特異性で症状のある個人に予測することができる。
  論文  参考訳（メタデータ） (2020-05-10T01:45:03Z)
• DTR Bandit: Learning to Make Response-Adaptive Decisions With Low Regret [59.81290762273153]
  動的治療体制 (DTR) はパーソナライズされ適応された多段階の治療計画であり、治療決定を個人の初期特徴に適応させ、その後の各段階における中間結果と特徴に適応させる。 本稿では,探索と搾取を慎重にバランスさせることで,遷移モデルと報酬モデルが線形である場合に,速度-最適後悔を実現する新しいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-05-06T13:03:42Z)
• Med7: a transferable clinical natural language processing model for electronic health records [6.935142529928062]
  本稿では,臨床自然言語処理のための匿名認識モデルを提案する。 このモデルは、薬物名、ルート、頻度、摂取量、強度、形態、期間の7つのカテゴリを認識するよう訓練されている。 本研究は、米国における集中治療室のデータから、英国における二次医療精神保健記録(CRIS)へのモデル導入可能性を評価するものである。
  論文  参考訳（メタデータ） (2020-03-03T00:55:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。