論文の概要: Advancing Clinical Trial Outcome Prediction with Domain-Specific Large Language Models
- arxiv url: http://arxiv.org/abs/2610.41710v1
- Date: Fri, 30 Oct 2026 13:17:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.754249
- Title: Advancing Clinical Trial Outcome Prediction with Domain-Specific Large Language Models
- Title(参考訳): ドメイン特化大言語モデルによる治験結果予測の改善
- Abstract要約: 我々はBioBERT (108Mパラメータ)とBioMistral (7Bパラメータ)の2つのドメイン固有言語モデルを評価する。
我々は,BioBERTの微調整と,事前学習されたモデルが凍結され,軽量な分類器のみが埋め込みで訓練されるプローブとの比較を行った。
これらの結果は,すでに事前訓練された生体医学的表現が,試験結果に関連するシグナルを符号化していることを示唆している。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Clinical trial failures are a major barrier to efficient drug development, incurring substantial costs and delaying patient access to effective therapies. Structured approaches such as the Hierarchical Interaction Network (HINT) predict trial outcomes by explicitly modelling interactions between drugs, diseases and protocols, but make limited use of the free text in trial registrations. We evaluate two domain-specific language models, BioBERT (108M parameters) and BioMistral (7B parameters), for phase-level outcome prediction on the TOP benchmark (12,477 trials), representing each trial as text built from ten ClinicalTrials.gov fields. We compare fine-tuning (full fine-tuning for BioBERT, low-rank adaptation for BioMistral) with probing, in which the pretrained model is frozen and only a lightweight classifier is trained on its embeddings. On the held-out test set of each phase, all four language-model variants achieved higher ROC-AUC (0.613--0.772) and PR-AUC (0.649--0.901) than the published HINT results, corresponding to relative PR-AUC gains of 10--20\%. F1 differences were small and mixed, and no model, including HINT, clearly exceeded the F1 of a trivial classifier that predicts success for every trial. Under the configurations tested, probing performed comparably to fine-tuning: fine-tuned models scored highest on ROC-AUC and PR-AUC in Phases I and II, and frozen BioMistral embeddings in Phase III (ROC-AUC 0.772; PR-AUC 0.901), although most differences between variants were below 0.03 and were not tested for significance. These results suggest that pretrained biomedical representations already encode signal relevant to trial outcome, and that probing is a computationally cheaper alternative to fine-tuning for this task.
- Abstract(参考訳): 臨床試験の失敗は、効果的な薬物開発の主要な障壁であり、かなりのコストがかかり、効果的な治療法への患者アクセスが遅れる。
階層的相互作用ネットワーク(HINT)のような構造的アプローチは、薬物、疾患、プロトコル間の相互作用を明示的にモデル化することで、トライアル結果を予測するが、トライアル登録における無料テキストの使用は限定的である。
ToPベンチマーク(12,477試験)の位相レベルの結果予測には,BioBERT (108Mパラメータ) とBioMistral (7Bパラメータ) の2つのドメイン固有言語モデルを評価し,各試験を10の ClinicalTrials.govフィールドから構築したテキストとして表現する。
我々は,BioBERTの微調整(BioMistralの低ランク適応)と,事前学習したモデルが凍結され,軽量な分類器のみが埋め込みで訓練されるプローブとの比較を行った。
各フェーズの保留テストセットでは、4つの言語モデルが、公表されたHINT結果よりも高いROC-AUC (0.613--0.772) とPR-AUC (0.649--0.901) を達成した。
F1の差は小さく混ざり合っており、HINTを含むモデルでは、試行ごとに成功を予測する自明な分類器のF1を明らかに上回っていなかった。
ROC-AUCとPR-AUCは第1相と第2相で最高値を記録し、第III相(ROC-AUC 0.772; PR-AUC 0.901)に凍結されたバイオミストラルの埋め込みは、変種の違いは0.03以下であり、重要度はテストされなかった。
これらの結果から,すでに訓練済みのバイオメディカル表現が試験結果に関連するシグナルを符号化しており,この課題に対する微調整の代案として計算的に安価であることが示唆された。
関連論文リスト
- CaresAI at SMM4H-HeaRD 2026: Predicting TNM Staging [2.7998963147546143]
本研究は,SMM4H-HeaRD 2026の6番目の共有タスクとして癌ゲノムアトラス(TCGA)を報告し,腫瘍,リンパ節,転移(TNM)ステージラベルを独立に予測することを目的としている。
本稿では,TF-IDF(Term Frequency-Inverse Document Frequency)機能を用いた古典的および深層学習のアプローチと,CeriorBERT,BioBERT,PubMedBERTの埋め込みについて検討する。
以上の結果から,TNMラベルの分類と同様の埋め込みが可能である一方で,それらの組み合わせによって予測能力が向上することが示唆された。
論文 参考訳(メタデータ) (2026-07-03T16:25:35Z) - Evaluating the Limitations of Protein Sequence Representations for Parkinson's Disease Classification [6.24518052314374]
タンパク質配列は、生物学的情報の根本的で広く利用可能な源である。
複雑な疾患分類のための識別能力は未だ不明である。
ベストパフォーマンス設定(ProtBERT +)は0.704+/-0.028のF1スコアと0.748+/-0.047のROC-AUCを達成する。
論文 参考訳(メタデータ) (2026-04-13T03:54:24Z) - Multimodal Machine Learning for Early Prediction of Metastasis in a Swedish Multi-Cancer Cohort [1.5829605001132387]
マルチモーダル機械学習(Multimodal Machine Learning)は、患者の状態の全体像を提供し、電子的健康記録から構造化データと非構造化データを統合する。
EHRデータから6カ月の経過を経過観察し,診断の1ヶ月前に転移リスクを予測する枠組みを提案する。
論文 参考訳(メタデータ) (2026-03-31T14:27:21Z) - Automated Detection of Dosing Errors in Clinical Trial Narratives: A Multi-Modal Feature Engineering Approach with LightGBM [1.0152838128195467]
本研究では,非構造的臨床試験におけるドスリングエラーの自動検出システムを提案する。
提案手法は,従来のNLP(TF-IDF,キャラクタn-gram),密接なセマンティック埋め込み,ドメイン固有の医療パターン,トランスフォーマーベースのスコアにまたがる3,451の特徴を組み合わせたものである。
論文 参考訳(メタデータ) (2026-03-25T14:56:34Z) - Transparent Early ICU Mortality Prediction with Clinical Transformer and Per-Case Modality Attribution [42.85462513661566]
ICU滞在後48時間から, 生理的時系列測定と非構造的臨床記録とを融合した, 軽量で透明なマルチモーダルアンサンブルを提案する。
ロジスティック回帰モデルは、バイタル用双方向LSTMとノート用微調整された臨床ModernBERT変換器の2つのモード固有モデルからの予測を組み合わせる。
MIMIC-IIIベンチマークでは、遅延融合アンサンブルは、よく校正された予測を維持しながら、最高の単一モデルに対する差別を改善する。
論文 参考訳(メタデータ) (2025-11-19T20:11:49Z) - Predicting Length of Stay in Neurological ICU Patients Using Classical Machine Learning and Neural Network Models: A Benchmark Study on MIMIC-IV [49.1574468325115]
本研究は、MIMIC-IVデータセットに基づく神経疾患患者を対象とした、ICUにおけるLOS予測のための複数のMLアプローチについて検討する。
評価されたモデルには、古典的MLアルゴリズム(K-Nearest Neighbors、Random Forest、XGBoost、CatBoost)とニューラルネットワーク(LSTM、BERT、テンポラルフュージョントランス)が含まれる。
論文 参考訳(メタデータ) (2025-05-23T14:06:42Z) - Segment-and-Classify: ROI-Guided Generalizable Contrast Phase Classification in CT Using XGBoost [7.689389068258514]
本研究は,別機関の3つの公開CTデータセットを利用した。
位相予測モデルはWAW-TACEデータセットに基づいてトレーニングされ、VinDr-MultiphaseとC4KC-KiTSデータセット上で検証された。
論文 参考訳(メタデータ) (2025-01-23T20:01:33Z) - CRTRE: Causal Rule Generation with Target Trial Emulation Framework [47.2836994469923]
ターゲットトライアルエミュレーションフレームワーク(CRTRE)を用いた因果ルール生成という新しい手法を提案する。
CRTREは、アソシエーションルールの因果効果を推定するためにランダム化トライアル設計原則を適用している。
次に、病気発症予測などの下流アプリケーションにそのような関連ルールを組み込む。
論文 参考訳(メタデータ) (2024-11-10T02:40:06Z) - Using Pre-training and Interaction Modeling for ancestry-specific disease prediction in UK Biobank [69.90493129893112]
近年のゲノムワイド・アソシエーション(GWAS)研究は、複雑な形質の遺伝的基盤を明らかにしているが、非ヨーロッパ系個体の低発現を示している。
そこで本研究では,マルチオミクスデータを用いて,多様な祖先間での疾患予測を改善することができるかを評価する。
論文 参考訳(メタデータ) (2024-04-26T16:39:50Z) - Language Interaction Network for Clinical Trial Approval Estimation [37.60098683485169]
本稿では,言語相互作用ネットワーク(LINT, Language Interaction Network)について紹介する。
臨床治験の3段階にわたって厳格にLINTを試験し,ROC-AUCスコアは0.770,0.740,0.748となった。
論文 参考訳(メタデータ) (2024-04-26T14:50:59Z) - Predicting Clinical Trial Results by Implicit Evidence Integration [40.80948875051806]
新規な臨床試験結果予測(CTRP)タスクを導入する。
CTRPフレームワークでは、モデルがPICO形式の臨床試験の提案を受け、その背景を入力として、その結果を予測する。
PICOを暗黙的に含む医学文献から大規模非構造化文を引用し,その結果を証拠とした。
論文 参考訳(メタデータ) (2020-10-12T12:25:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。