論文の概要: Fine-tuning foundational models to code diagnoses from veterinary health records

• arxiv url: http://arxiv.org/abs/2410.15186v1
• Date: Sat, 19 Oct 2024 19:30:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-22 13:21:26.928670
• Title: Fine-tuning foundational models to code diagnoses from veterinary health records
• Title（参考訳）: 獣医学記録からのコード診断のための微調整基礎モデル
• Authors: Mayla R. Boguslav, Adam Kiehl, David Kott, G. Joseph Strecker, Tracy Webb, Nadia Saklou, Terri Ward, Michael Kirby,
• Abstract要約: 本研究は,コロラド州立大学獣医学教育病院(VTH)が認定したSNOMED-CT診断符号7,739点を取り入れたものである。 246,473人の医師が手動で獣医を診察した自由テキストで, LLMを10種類の訓練済みの大規模言語モデル(LLMs)に微調整した。
• 参考スコア（独自算出の注目度）: 2.007589967804153
• License:
• Abstract: Veterinary medical records represent a large data resource for application to veterinary and One Health clinical research efforts. Use of the data is limited by interoperability challenges including inconsistent data formats and data siloing. Clinical coding using standardized medical terminologies enhances the quality of medical records and facilitates their interoperability with veterinary and human health records from other sites. Previous studies, such as DeepTag and VetTag, evaluated the application of Natural Language Processing (NLP) to automate veterinary diagnosis coding, employing long short-term memory (LSTM) and transformer models to infer a subset of Systemized Nomenclature of Medicine - Clinical Terms (SNOMED-CT) diagnosis codes from free-text clinical notes. This study expands on these efforts by incorporating all 7,739 distinct SNOMED-CT diagnosis codes recognized by the Colorado State University (CSU) Veterinary Teaching Hospital (VTH) and by leveraging the increasing availability of pre-trained large language models (LLMs). Ten freely-available pre-trained LLMs were fine-tuned on the free-text notes from 246,473 manually-coded veterinary patient visits included in the CSU VTH's electronic health records (EHRs), which resulted in superior performance relative to previous efforts. The most accurate results were obtained when expansive labeled data were used to fine-tune relatively large clinical LLMs, but the study also showed that comparable results can be obtained using more limited resources and non-clinical LLMs. The results of this study contribute to the improvement of the quality of veterinary EHRs by investigating accessible methods for automated coding and support both animal and human health research by paving the way for more integrated and comprehensive health databases that span species and institutions.
• Abstract（参考訳）: 獣医学記録は、獣医学およびワンヘルス臨床研究に応用するための大きなデータ資源である。 データの利用は、一貫性のないデータフォーマットやデータサイロ化といった相互運用性の問題によって制限される。 標準化された医療用語を用いた臨床コーディングは、医療記録の品質を高め、他の場所からの獣医やヒトの健康記録との相互運用性を促進する。 DeepTag(英語版)やVetTag(英語版)といった過去の研究は、自然言語処理(英語版) (NLP) による獣医学診断の自動化、長期記憶 (LSTM) とトランスフォーマーモデル(英語版)を用いて、フリーテキスト臨床ノートから、体系化された命名法 - 臨床用語 (SNOMED-CT) の診断符号のサブセットを推測するために、自然言語処理 (NLP) の適用を評価した。 本研究は,コロラド州立大学獣医学部附属病院(VTH)で認識されている7,739個のSNOMED-CT診断コードと,事前訓練された大規模言語モデル(LLM)の活用により,これらの取り組みを拡大する。 CSU VTHの電子健康記録 (EHRs) に含まれる246,473人の医師による獣医訪問から, フリーテキストのノートに, 10個の学習済みLCMを微調整し, 従来よりも優れた成績を示した。 拡張ラベルデータを用いて比較的大きな臨床用LDMを微調整した場合に最も正確な結果が得られたが,本研究では,より限られた資源と非臨床用LDMを用いて同等の結果が得られることを示した。 本研究は,動物およびヒトの健康研究を自動化・支援する手段として,動物・施設にまたがるより統合された総合的な健康データベースを構築することにより,獣医師の質向上に寄与する。

関連論文リスト

• Enhancing AI Accessibility in Veterinary Medicine: Linking Classifiers and Electronic Health Records [0.0]
  本稿では,医学における機械学習と電子健康記録(EHR)の統合について述べる。 Annaは、EHR実験データのML分類結果をリアルタイムで提供する、フリーソフトウェアソリューションである。
  論文  参考訳（メタデータ） (2024-10-18T17:27:07Z)
• When Raw Data Prevails: Are Large Language Model Embeddings Effective in Numerical Data Representation for Medical Machine Learning Applications? [8.89829757177796]
  大規模言語モデルの最後の隠れ状態からベクター表現が医療診断および予後に有効であることを示す。 我々は,異常な生理的データを表すため,ゼロショット設定の命令調整LDMに着目し,それらのユーティリティを特徴抽出器として評価する。 医学MLタスクでは生データの特徴が依然として有効であることが示唆されているが、ゼロショットLSM埋め込みは競争力のある結果を示している。
  論文  参考訳（メタデータ） (2024-08-15T03:56:40Z)
• Classifying Cancer Stage with Open-Source Clinical Large Language Models [0.35998666903987897]
  オープンソースの臨床大言語モデル(LLMs)は、実世界の病理報告から病理組織学的腫瘍-リンパ節転移(pTNM)のステージング情報を抽出することができる。 以上より, LLMは腫瘍 (T) 分類においてサブパーパフォーマンスを示すが, プロンプト戦略の適切な適用により, 転移 (M) では同等の性能を示し, Node (N) 分類では性能が向上することが示唆された。
  論文  参考訳（メタデータ） (2024-04-02T02:30:47Z)
• Development and validation of a natural language processing algorithm to pseudonymize documents in the context of a clinical data warehouse [53.797797404164946]
  この研究は、この領域でツールやリソースを共有する際に直面する困難を浮き彫りにしている。 臨床文献のコーパスを12種類に分類した。 私たちは、ディープラーニングモデルと手動ルールの結果をマージして、ハイブリッドシステムを構築します。
  論文  参考訳（メタデータ） (2023-03-23T17:17:46Z)
• Does Synthetic Data Generation of LLMs Help Clinical Text Mining? [51.205078179427645]
  臨床テキストマイニングにおけるOpenAIのChatGPTの可能性を検討する。 本稿では,高品質な合成データを大量に生成する新たな学習パラダイムを提案する。 提案手法により,下流タスクの性能が大幅に向上した。
  論文  参考訳（メタデータ） (2023-03-08T03:56:31Z)
• ICDBigBird: A Contextual Embedding Model for ICD Code Classification [71.58299917476195]
  文脈単語埋め込みモデルは、複数のNLPタスクにおいて最先端の結果を得た。 ICDBigBirdは、Graph Convolutional Network(GCN)を統合するBigBirdベースのモデルである。 ICD分類作業におけるBigBirdモデルの有効性を実世界の臨床データセットで実証した。
  論文  参考訳（メタデータ） (2022-04-21T20:59:56Z)
• How to Leverage Multimodal EHR Data for Better Medical Predictions? [13.401754962583771]
  電子健康記録(EHR)データの複雑さは、ディープラーニングの適用の課題である。 本稿では,まずEHRから臨床ノートを抽出し,これらのデータを統合する方法を提案する。 2つの医療予測タスクの結果、異なるデータを持つ融合モデルが最先端の手法より優れていることが示された。
  論文  参考訳（メタデータ） (2021-10-29T13:26:05Z)
• Active learning for medical code assignment [55.99831806138029]
  臨床領域における多ラベルテキスト分類におけるアクティブラーニング(AL)の有効性を示す。 MIMIC-IIIデータセットにICD-9コードを自動的に割り当てるために、よく知られたALメソッドのセットを適用します。 その結果、有益なインスタンスの選択は、大幅に減少したトレーニングセットで満足のいく分類を提供する。
  論文  参考訳（メタデータ） (2021-04-12T18:11:17Z)
• Does the Magic of BERT Apply to Medical Code Assignment? A Quantitative Study [2.871614744079523]
  事前訓練されたモデルが、さらなるアーキテクチャエンジニアリングなしで医療コード予測に有用かどうかは明らかではない。 本稿では,単語間のインタラクションをキャプチャし,ラベル情報を活用する階層的な微調整アーキテクチャを提案する。 現在の傾向とは対照的に、我々は慎重に訓練された古典的なCNNは、頻繁なコードでMIMIC-IIIサブセット上の注意ベースのモデルを上回ることを実証します。
  論文  参考訳（メタデータ） (2021-03-11T07:23:45Z)
• PyHealth: A Python Library for Health Predictive Models [53.848478115284195]
  PyHealthは、医療データ上で様々な予測モデルを開発するためのオープンソースのPythonツールボックスである。 データ前処理モジュールにより、複雑なヘルスケアデータセットを機械学習フレンドリーなフォーマットに変換できます。 予測モデリングモジュールは、確立されたアンサンブルツリーとディープニューラルネットワークベースのアプローチを含む30以上の機械学習モデルを提供します。
  論文  参考訳（メタデータ） (2021-01-11T22:02:08Z)
• Predicting Clinical Diagnosis from Patients Electronic Health Records Using BERT-based Neural Networks [62.9447303059342]
  医療コミュニティにおけるこの問題の重要性を示す。 本稿では,変換器 (BERT) モデルによる2方向表現の分類順序の変更について述べる。 約400万人のユニークな患者訪問からなる、大規模なロシアのEHRデータセットを使用します。
  論文  参考訳（メタデータ） (2020-07-15T09:22:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。