論文の概要: Fine-Tuning Open-Source Large Language Models to Improve Their Performance on Radiation Oncology Tasks: A Feasibility Study to Investigate Their Potential Clinical Applications in Radiation Oncology

• arxiv url: http://arxiv.org/abs/2501.17286v1
• Date: Tue, 28 Jan 2025 20:37:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-30 15:54:32.831791
• Title: Fine-Tuning Open-Source Large Language Models to Improve Their Performance on Radiation Oncology Tasks: A Feasibility Study to Investigate Their Potential Clinical Applications in Radiation Oncology
• Title（参考訳）: 放射線オンコロジー課題における性能向上を目的としたオープンソース大規模言語モデルの構築:放射線オンコロジーにおける臨床応用の可能性の検討
• Authors: Peilong Wang, Zhengliang Liu, Yiwei Li, Jason Holmes, Peng Shu, Lian Zhang, Xiang Li, Quanzheng Li, Brady S. Laughlin, Diego Santos Toesca, Sujay A. Vora, Samir H. Patel, Terence T. Sio, Tianming Liu, Wei Liu,
• Abstract要約: 大規模言語モデルは、複雑なテキスト情報を処理する際、顕著な能力を示した。 本研究の目的は、ドメイン知識を持つ微調整LDMがタスクの性能を向上させるかどうかを検討することである。 片面のウィルコクソンサインランク試験は、統計的に結果を分析するために使用された。
• 参考スコア（独自算出の注目度）: 23.986096971629777
• License:
• Abstract: Background: The radiation oncology clinical practice involves many steps relying on the dynamic interplay of abundant text data. Large language models have displayed remarkable capabilities in processing complex text information. But their direct applications in specific fields like radiation oncology remain underexplored. Purpose: This study aims to investigate whether fine-tuning LLMs with domain knowledge can improve the performance on Task (1) treatment regimen generation, Task (2) treatment modality selection (photon, proton, electron, or brachytherapy), and Task (3) ICD-10 code prediction in radiation oncology. Methods: Data for 15,724 patient cases were extracted. Cases where patients had a single diagnostic record, and a clearly identifiable primary treatment plan were selected for preprocessing and manual annotation to have 7,903 cases of the patient diagnosis, treatment plan, treatment modality, and ICD-10 code. Each case was used to construct a pair consisting of patient diagnostics details and an answer (treatment regimen, treatment modality, or ICD-10 code respectively) for the supervised fine-tuning of these three tasks. Open source LLaMA2-7B and Mistral-7B models were utilized for the fine-tuning with the Low-Rank Approximations method. Accuracy and ROUGE-1 score were reported for the fine-tuned models and original models. Clinical evaluation was performed on Task (1) by radiation oncologists, while precision, recall, and F-1 score were evaluated for Task (2) and (3). One-sided Wilcoxon signed-rank tests were used to statistically analyze the results. Results: Fine-tuned LLMs outperformed original LLMs across all tasks with p-value <= 0.001. Clinical evaluation demonstrated that over 60% of the fine-tuned LLMs-generated treatment regimens were clinically acceptable. Precision, recall, and F1-score showed improved performance of fine-tuned LLMs.
• Abstract（参考訳）: 背景: 放射線腫瘍学臨床実践は、豊富なテキストデータの動的相互作用に依存する多くのステップを含む。 大規模言語モデルは、複雑なテキスト情報を処理する際、顕著な能力を示した。 しかし、放射線腫瘍学のような特定の分野への直接的応用はいまだ研究されていない。 目的: 本研究は, 領域知識を有する微調整LDMが, (1) 治療レギュレン生成, (2) 治療モダリティ選択(光子, 陽子, 電子, ブラキセラピー), (3) 放射線腫瘍学におけるICD-10コード予測における性能を向上できるかを検討することを目的とする。 方法: 患者15,724例のデータを抽出した。 術前診断, 治療計画, 治療モダリティ, ICD-10符号の7,903例を前処理および手動アノテーションとして, 診断記録が1例, 明確な一次治療計画が選択された。 各症例は, 患者診断の詳細と回答(治療規則, 治療モダリティ, ICD-10コード)から構成され, これら3つのタスクを監督的微調整するためのペアを構築するために用いられた。 オープンソースのLLaMA2-7BとMistral-7Bはローランド近似法による微調整に使用された。 精度とROUGE-1スコアは、微調整されたモデルとオリジナルのモデルに対して報告された。 放射線腫瘍専門医による第1タスクの臨床的評価を行い,第2タスクと第3タスクの精度,リコール,F-1スコアを評価した。 片面のウィルコクソンサインランク試験は、統計的に結果を分析するために使用された。 結果: p-value <= 0.001。 臨床評価の結果, 微調整LDMが生成する治療レギュラーの60%以上が臨床的に許容されることがわかった。 精度、リコール、F1スコアは微調整LDMの性能が向上した。

関連論文リスト

• Language Models and Retrieval Augmented Generation for Automated Structured Data Extraction from Diagnostic Reports [2.932283627137903]
  この研究は、2つのデータセットを利用していた:7,294の放射線診断報告は、BT-RADS(Brain tumor Reporting and Data System)スコアに注釈付けされ、2,154の病理診断報告は、isocitrate dehydrogenase(IDH)変異のステータスに注釈付けされた。
  論文  参考訳（メタデータ） (2024-09-15T15:21:45Z)
• ChatRadio-Valuer: A Chat Large Language Model for Generalizable Radiology Report Generation Based on Multi-institution and Multi-system Data [115.0747462486285]
  ChatRadio-Valuerは、一般化可能な表現を学習する自動放射線学レポート生成のための調整されたモデルである。 本研究で利用した臨床データセットは,textbf332,673の顕著な総計を含む。 ChatRadio-Valuerは、最先端のモデル、特にChatGPT(GPT-3.5-Turbo)やGPT-4などより一貫して優れている。
  論文  参考訳（メタデータ） (2023-10-08T17:23:17Z)
• Segmentation of Planning Target Volume in CT Series for Total Marrow Irradiation Using U-Net [0.0]
  U-Netアーキテクチャを用いたTMLI処理のためのプランニングターゲットボリューム(PTV)のセグメンテーションのためのディープラーニングに基づく自動コンストラクション手法を提案する。 本研究は放射線腫瘍学者を相当の時間で救うことができるセグメンテーションモデルの開発に向けた予備的だが重要なステップである。
  論文  参考訳（メタデータ） (2023-04-05T10:40:37Z)
• Benchmarking Heterogeneous Treatment Effect Models through the Lens of Interpretability [82.29775890542967]
  治療のパーソナライズされた効果を見積もるのは複雑だが、普及している問題である。 ヘテロジニアス処理効果推定に関する機械学習文献の最近の進歩は、洗練されたが不透明なツールの多くを生み出した。 我々は、ポストホックな特徴重要度法を用いて、モデルの予測に影響を及ぼす特徴を特定する。
  論文  参考訳（メタデータ） (2022-06-16T17:59:05Z)
• A multi-stage machine learning model on diagnosis of esophageal manometry [50.591267188664666]
  このフレームワークには、飲み込みレベルにおけるディープラーニングモデルと、学習レベルにおける機能ベースの機械学習モデルが含まれている。 これは、生のマルチスワローデータからHRM研究のCC診断を自動的に予測する最初の人工知能モデルである。
  論文  参考訳（メタデータ） (2021-06-25T20:09:23Z)
• Machine Learning and Glioblastoma: Treatment Response Monitoring Biomarkers in 2021 [0.3266995794795542]
  組織的検討の目的は,成人のグリオブラスト腫治療反応モニタリングバイオマーカーの診断検査精度に関する最近の研究を評価することである。 MRI機能を使用して進行と模倣を区別する機械学習モデルの良好な診断性能がある可能性が高い。 暗黙的特徴を用いたMLの診断性能は明示的特徴を用いたMLよりも優れていなかった。
  論文  参考訳（メタデータ） (2021-04-15T10:49:34Z)
• A Systematic Review of Natural Language Processing Applied to Radiology Reports [3.600747505433814]
  本研究は, 放射線学報告に応用されたNLPの最近の文献を体系的に評価する。 本研究は, 放射線学的特徴, nlp法, 性能, 研究, 臨床応用特性を含む21の変数に基づく。
  論文  参考訳（メタデータ） (2021-02-18T18:54:41Z)
• MIA-Prognosis: A Deep Learning Framework to Predict Therapy Response [58.0291320452122]
  本稿では,患者の予後と治療反応を予測するための統合型深層学習手法を提案する。 我々は,マルチモーダル非同期時系列分類タスクとして,確率モデリングを定式化する。 我々の予測モデルは、長期生存の観点から、低リスク、高リスクの患者をさらに階層化する可能性がある。
  論文  参考訳（メタデータ） (2020-10-08T15:30:17Z)
• Hemogram Data as a Tool for Decision-making in COVID-19 Management: Applications to Resource Scarcity Scenarios [62.997667081978825]
  新型コロナウイルス(COVID-19)のパンデミックは世界中の緊急対応システムに挑戦している。 本研究は, 症状患者の血液検査データから得られた機械学習モデルについて述べる。 提案されたモデルでは、新型コロナウイルスqRT-PCRの結果を、高い精度、感度、特異性で症状のある個人に予測することができる。
  論文  参考訳（メタデータ） (2020-05-10T01:45:03Z)
• DTR Bandit: Learning to Make Response-Adaptive Decisions With Low Regret [59.81290762273153]
  動的治療体制 (DTR) はパーソナライズされ適応された多段階の治療計画であり、治療決定を個人の初期特徴に適応させ、その後の各段階における中間結果と特徴に適応させる。 本稿では,探索と搾取を慎重にバランスさせることで,遷移モデルと報酬モデルが線形である場合に,速度-最適後悔を実現する新しいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-05-06T13:03:42Z)
• Med7: a transferable clinical natural language processing model for electronic health records [6.935142529928062]
  本稿では,臨床自然言語処理のための匿名認識モデルを提案する。 このモデルは、薬物名、ルート、頻度、摂取量、強度、形態、期間の7つのカテゴリを認識するよう訓練されている。 本研究は、米国における集中治療室のデータから、英国における二次医療精神保健記録(CRIS)へのモデル導入可能性を評価するものである。
  論文  参考訳（メタデータ） (2020-03-03T00:55:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。