論文の概要: Toward System One Clinical Intelligence: Parameter-Efficient Fine-Tuning and Counterfactual Explainability of Decision Foundation Models
- arxiv url: http://arxiv.org/abs/2610.15029v1
- Date: Sat, 10 Oct 2026 16:13:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.143746
- Title: Toward System One Clinical Intelligence: Parameter-Efficient Fine-Tuning and Counterfactual Explainability of Decision Foundation Models
- Title(参考訳): システムワンクリニカルインテリジェンスに向けて:パラメータ効率の良い微調整と意思決定基礎モデルの非現実的説明可能性
- Abstract要約: 決定基礎モデルは、自由形式のテキスト生成のない候補クラスに直接表現をマッピングすることで代替を提供する。
我々は,Qwen3.5のバックボーン上に構築された9ビリオンパラメータ決定モデルであるClef-Flashを,Symphom2ベンチマークで24クラスの疾患分類に適用した。
4ビットの量子化低ランク適応(QLoRA)と差分学習率、960のトレーニングと240のテストケースの階層分割を用いて、95.42%のモデルは診断精度を達成し、マクロF1スコアは0.9551である。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Automated disease classification from patient-reported symptoms requires balancing the speed of lightweight discriminative models against the contextual understanding and latency costs of autoregressive large language models (LLMs). Decision foundation models offer an alternative by mapping representations directly to candidate classes without free-form text generation. We adapt Clef-Flash, a 9-billion-parameter decision model built on a Qwen3.5 backbone, for 24-class disease classification on the Symptom2Disease benchmark. Using 4-bit quantized low-rank adaptation (QLoRA) with differential learning rates and a stratified split of 960 training and 240 test cases, the model achieves 95.42% diagnostic accuracy and a macro F1 score of 0.9551. This improves upon the reported zero-shot baselines of 61.67% for a remote API and 65.00% for a local unadapted initialization, and outperforms the ClinicalBERT baseline (90.90%). By evaluating candidate logits in a single forward pass without autoregressive decoding, inference takes under 80 milliseconds per record on a single GPU, yielding a reported 31-fold speedup over generative LLM baselines. To examine symptom-level evidence, we introduce a Leave-One-Symptom-Out (LOSO) counterfactual perturbation framework. Removing disease-defining symptom clauses in a psoriasis example reduces predicted-class confidence from 100.00% to 0.12% and shifts the prediction to impetigo with 99.59% confidence, while removing secondary systemic symptoms produces less than 0.01% change in confidence. These findings suggest that decision-based architectures can combine the linguistic capabilities of large foundation models with low-latency inference and symptom-level interpretability for clinical triage.
- Abstract(参考訳): 患者が報告した症状から自動的に疾患を分類するには、軽度判別モデルの速度と、自己回帰的大言語モデル(LLM)の文脈的理解と遅延コストのバランスをとる必要がある。
決定基礎モデルは、自由形式のテキスト生成のない候補クラスに直接表現をマッピングすることで代替を提供する。
我々は,Qwen3.5のバックボーン上に構築された9ビリオンパラメータ決定モデルであるClef-Flashを,Syptom2Diseaseベンチマーク上で24クラスの疾患分類に適用する。
4ビットの量子化低ランク適応(QLoRA)と差分学習率、960のトレーニングと240のテストケースの階層分割を用いて、95.42%の精度で、マクロF1スコアは0.9551である。
これにより、リモートAPIでは61.67%、未適応の初期化では65.00%のゼロショットベースラインが向上し、クリニカルBERTベースライン(90.90%)を上回っている。
自動回帰復号化なしで単一のフォワードパスの候補ロジットを評価することで、推論は1つのGPU上で80ミリ秒未満で、生成LDMベースラインよりも31倍のスピードアップが報告される。
症状レベルの証拠を調べるために,我々は,LOSO(Leave-One-Symptom-Out)対実摂動フレームワークを導入する。
乾息例における疾患定義症状節の除去は、予測階級の信頼度を100.00%から0.12%に減少させ、予測を99.59%の信頼で衝動に移行させ、二次的全身症状の除去は0.01%未満の信頼度の変化をもたらす。
これらの結果から, 意思決定に基づくアーキテクチャは, 大規模基盤モデルの言語機能と低遅延推論, 症状レベル解釈能力とを併用できる可能性が示唆された。
関連論文リスト
- RareLens: Towards End-to-End Rare Disease Care via Aligning Divergent Large Language Model Reasoning [42.80742579670377]
RareLensは、まれな疾患の軌跡全体にわたる臨床的意思決定を支援するシステムである。
RareBenchは、33のOrphanetカテゴリと7000以上の条件にまたがる157,525件の実際のデータセットである。
検診で0.917、診断と治療で65.5%、89.8%の成績を収めた。
論文 参考訳(メタデータ) (2026-07-25T16:58:10Z) - DiffEEG: A Self-Supervised Denoising Diffusion Model for Learning EEG Generic Representations [1.901880164206253]
脳波による発作検出のための自己教師型基礎モデルDiffEEGを提案する。
DiffEEGは、Temple University Hospital Seizure Corpus (TUHSZ)から1.3Mの未ラベルセグメントで事前訓練され、多頭部自己注意の1D U-Netを介して汎用神経表現を学習する。
厳密な患者の評価では、DiffEEGは61%の精度、59%のF1が4級発作のサブタイプで、81%の精度で重み付けされたF1が2値検出で85%の精度で達成されている。
論文 参考訳(メタデータ) (2026-07-13T13:59:45Z) - LLM Doesn't Know What It Doesn't Know: Detecting Epistemic Blind Spots via Cross-Model Attribution Divergence on Clinical Tabular Data [2.1443570696048906]
大規模言語モデル(LLM)は、構造化された臨床データにますます適用される。
Qwen 2.5 7B と XGBoost を比較する。
論文 参考訳(メタデータ) (2026-06-17T18:49:44Z) - Benchmarking Multi-turn Medical Diagnosis: Hold, Lure, and Self-Correction [72.89352076103889]
大規模言語モデル (LLM) は, 臨床情報がすべて一ターンで提供される場合に, 高い精度で診断を行う。
1,035例からなる高忠実多ターン診断ベンチマークであるMINTを導入する。
診断決定に大きな影響を及ぼす3つの永続的な行動パターンを明らかにする。
論文 参考訳(メタデータ) (2026-04-06T00:23:10Z) - Predicting Neuromodulation Outcome for Parkinson's Disease with Generative Virtual Brain Model [95.41752463487008]
パーキンソン病は世界中で1千万人以上に影響している。
個人間変異は経験的治療の選択を制限し、非無視的な外科的リスクとコストを増大させる。
我々は、このギャップをトレーニング済みのファインタニングフレームワークで埋めて、静止状態fMRIから直接結果を予測する。
論文 参考訳(メタデータ) (2026-03-31T02:36:10Z) - Explainable Admission-Level Predictive Modeling for Prolonged Hospital Stay in Elderly Populations: Challenges in Low- and Middle-Income Countries [65.4286079244589]
長期滞在期間 (pLoS) は, 院内感染のリスクに関連する重要な要因である。
入院レベルの患者と病院の診療データを用いて, pLosの予測モデルを開発し, 解説する。
論文 参考訳(メタデータ) (2026-01-07T23:35:24Z) - CytoDINO: Risk-Aware and Biologically-Informed Adaptation of DINOv3 for Bone Marrow Cytomorphology [0.0]
我々はミュンヘン白血病研究所のデータセット上で最先端のパフォーマンスを実現するフレームワークであるCytoDINOを紹介した。
私たちの主な貢献は、細胞間の生物学的な関係をコード化し、臨床的に危険な誤分類を明示的に罰する、ヒエララルカル・フーカル・ロス・ウィット・クリティカル・ペナルティ(Hierarchical Focal Loss with critical penalties)である。
CytoDINOは21種類のテストセットで88.2%の重み付きF1スコアと76.5%のマクロF1を達成している。
論文 参考訳(メタデータ) (2025-12-09T23:09:22Z) - Transparent Early ICU Mortality Prediction with Clinical Transformer and Per-Case Modality Attribution [42.85462513661566]
ICU滞在後48時間から, 生理的時系列測定と非構造的臨床記録とを融合した, 軽量で透明なマルチモーダルアンサンブルを提案する。
ロジスティック回帰モデルは、バイタル用双方向LSTMとノート用微調整された臨床ModernBERT変換器の2つのモード固有モデルからの予測を組み合わせる。
MIMIC-IIIベンチマークでは、遅延融合アンサンブルは、よく校正された予測を維持しながら、最高の単一モデルに対する差別を改善する。
論文 参考訳(メタデータ) (2025-11-19T20:11:49Z) - Predicting Metabolic Dysfunction-Associated Steatotic Liver Disease using Machine Learning Methods [0.8642326601683298]
我々は、公正で厳密で再現可能なMASLD予測モデルを開発した。
MASLDは米国の成人の33%に影響を与え、最も一般的な慢性肝疾患である。
論文 参考訳(メタデータ) (2025-10-25T13:36:18Z) - From Scores to Steps: Diagnosing and Improving LLM Performance in Evidence-Based Medical Calculations [45.414878840652115]
大規模言語モデル(LLM)は医療ベンチマークで有望な性能を示した。
しかし、医学的な計算を行う能力は未熟であり、評価も不十分である。
本研究は,臨床信頼性を重視した医療計算評価を再考する。
論文 参考訳(メタデータ) (2025-09-20T09:10:26Z) - Artificial Intelligence Methods Based Hierarchical Classification of
Frontotemporal Dementia to Improve Diagnostic Predictability [0.0]
Frontotemporal Dementia(FTD)患者は、認知能力、エグゼクティブおよび行動特性、言語能力の喪失、および記憶能力の低下を損ないました。
本研究の目的は、皮質厚さデータに人工知能(AI)のデータ駆動技術を適用することにより、各被験者のMRI画像をFTDのスペクトルの1つに階層的に分類することである。
自動分類モデルでは, 支持ベクトルマシン (SVM) , 線形判別分析 (LDA) , ナイブベイズ法 (Naive Bayes) が10倍のクロスバリデーション解析でそれぞれ86.5, 76, 72.7の分類精度を得た。
論文 参考訳(メタデータ) (2021-04-12T07:04:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。