論文の概要: Lumen: Parameter-Efficient Alignment of Pretrained Vision and Language Encoders for Zero-Shot Computational Pathology
- arxiv url: http://arxiv.org/abs/2609.17868v1
- Date: Tue, 15 Sep 2026 21:47:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:53.551664
- Title: Lumen: Parameter-Efficient Alignment of Pretrained Vision and Language Encoders for Zero-Shot Computational Pathology
- Title(参考訳): Lumen: Zero-Shot Computational Pathologyのための事前学習された視覚と言語エンコーダのパラメータ効率の良いアライメント
- Abstract要約: フリーズしたVirchow2とBioMedBERTのバックボーンを、ランク4アダプターとプロジェクションヘッドを使って調整するLumenを提案する。
9つの公的なゼロショットパッチベンチマークで、Lumenは平均的なチャンス補正バランスの正確さを達成した。
- 参考スコア(独自算出の注目度): 1.041244287595653
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Pathology vision-language models are commonly built by pretraining or fine-tuning large encoders on paired image-caption data. We asked whether a pathology vision-language model can instead be assembled by parameter-efficient alignment of frozen unimodal foundation models, leaving their pretrained representations untouched. Here we present Lumen, which aligns frozen Virchow2 and BioMedBERT backbones using rank-4 adapters and projection heads, training only 0.40% of the total parameters on the public QUILT-1M corpus. Across nine public zero-shot patch benchmarks, Lumen achieved the highest mean chance-corrected balanced accuracy, 0.546 versus 0.461 for the strongest baseline (paired difference 0.086, 95% CI 0.042-0.136). On lymph-node metastasis detection, Lumen reached an AUROC of 0.964 (95% CI 0.956-0.971) on 4,214 held-out internal slides and 0.955 (95% CI 0.942-0.966) on 2,368 slides across nine external cohorts and six organs. At the internally calibrated threshold, it outperformed all vision-language baselines, with a balanced accuracy of 0.909 (95% CI 0.896-0.923) internally and 0.915 (95% CI 0.902-0.929) externally. Lumen performed competitively across the evaluations, with the exception of cross-modal retrieval, where it ranked third behind CONCH and PathGen-L/14. Fully fine-tuning both encoders gave Lumen no consistent benefit over low-rank adaptation, although it improved retrieval. Aligning frozen unimodal foundation models therefore yields strong and transferable performance at patch and slide level while training only a small fraction of the parameters.
- Abstract(参考訳): 病理視覚言語モデルは通常、ペア画像キャプチャーデータに基づいて、事前訓練または微調整された大きなエンコーダによって構築される。
そこで我々は,凍結した不定形基礎モデルのパラメータ係数アライメントにより,病的視覚言語モデルを構築することができるかどうかを質問した。
ここでは、ランク4アダプターとプロジェクションヘッドを用いて、凍結したVirchow2とBioMedBERTのバックボーンを調整し、パブリックQUILT-1Mコーパスの合計パラメータのわずか0.40%をトレーニングするLumenを紹介する。
9つの公的なゼロショットパッチベンチマークで、ルーメンは最強のベースラインに対して0.546対0.461という、平均的なチャンス補正バランスの精度を達成した(paired difference 0.086, 95% CI 0.042-0.136)。
リンパ節転移検出では4,214個の内部スライドで0.964(95% CI 0.956-0.971)、9個の外部コホートと6個の臓器で2,368個のスライドで0.955(95% CI 0.942-0.966)に達した。
内部の校正基準では、全ての視覚言語ベースラインを上回り、内部の精度は0.909 (95% CI 0.896-0.923)、外部の精度は0.915 (95% CI 0.902-0.929)であった。
Lumenは、conCHとPathGen-L/14の3位にランクインしたクロスモーダル検索を除いて、評価を巡って競争的に実行した。
両エンコーダの完全な微調整により、Lumenは低ランク適応よりも一貫した利点を得られなかったが、検索は改善された。
したがって、凍結した単調な基礎モデルの調整は、少数のパラメータをトレーニングしながら、パッチレベルとスライドレベルで強力で転送可能な性能をもたらす。
関連論文リスト
- Domain-Specific Hallucination Detection in Large Language Models [0.0]
大規模言語モデルは、不誠実なクレームを含むことができる流動的なテキストを生成する。
微調整されたDeBERTa-v3分類, Monte Carlo (MC) Dropoutの不確実性定量化を組み合わせた多信号検出パイプラインを提案する。
論文 参考訳(メタデータ) (2026-09-10T17:45:36Z) - Post-Operative Glioma Segmentation via Loss Stabilization, Normalization and Subspace Attention [46.03321798937855]
ドメインシフトの際,GDL(Generalized Dice Loss)が不安定であることを示す。
本稿では,ボトルネック機能を再校正するサブスペース・アウェア・クラス・アテンション(SACA)モジュールを提案し,腫瘍の感度を8%向上させる。
論文 参考訳(メタデータ) (2026-07-23T09:59:30Z) - Calibrated Alzheimer's Conversion Risk in Mild Cognitive Impairment: Persistent Homology of Clinical Trajectories with Conformal Guarantees [0.0]
軽度の認知障害からアルツハイマー病への転換を予測することは、臨床試験とケア計画の中心である。
既存のモデルは個々のレベルの不確実性評価を提供しておらず、透明な漏洩監査を含むことは滅多にない。
本研究は, 持続的ホモロジーの経時的臨床軌道点雲への応用について紹介する。
論文 参考訳(メタデータ) (2026-07-20T00:00:17Z) - Putting HUMANS first: Efficient LAM Evaluation with Human Preference Alignment [53.72927532626824]
わずか50個のサンプル(0.3%のデータ)のサブセットは、完全なベンチマークスコアと0.93以上のピアソン相関を達成可能であることを示す。
選好をより良く予測するために、選択したサブセットの回帰モデルを訓練し、0.98の相関を達成した。
これは回帰モデリングにおいて、よく計算されたサブセットが完全なベンチマークを予測し、量を超える品質を示すことを示している。
論文 参考訳(メタデータ) (2026-04-20T00:57:31Z) - Explainable Admission-Level Predictive Modeling for Prolonged Hospital Stay in Elderly Populations: Challenges in Low- and Middle-Income Countries [65.4286079244589]
長期滞在期間 (pLoS) は, 院内感染のリスクに関連する重要な要因である。
入院レベルの患者と病院の診療データを用いて, pLosの予測モデルを開発し, 解説する。
論文 参考訳(メタデータ) (2026-01-07T23:35:24Z) - Fixed-Budget Parameter-Efficient Training with Frozen Encoders Improves Multimodal Chest X-Ray Classification [0.0]
マルチモーダル胸部X線分析は、しばしば計算コストのかかる大きな視覚言語モデルを微調整する。
我々は,インディアナ大学チェストX線データセットのマルチラベル分類のための冷凍エンコーダ,BitFit,LoRA,アダプタなど,パラメータ効率のよいトレーニング戦略について検討した。
論文 参考訳(メタデータ) (2025-12-25T05:02:19Z) - Generalizable Diabetes Risk Stratification via Hybrid Machine Learning Models [0.0]
糖尿病は世界中で5億3700万人を超え、2045年までに7億8300万人に達すると予測されている。
2つのハイブリッド分類器を比較し、外部コホート上での一般化性を評価する。
論文 参考訳(メタデータ) (2025-09-24T21:18:52Z) - Enhancement Without Contrast: Stability-Aware Multicenter Machine Learning for Glioma MRI Imaging [2.5012408467295555]
機械学習(ML)を用いた非コントラストMRIからのコントラスト強調予測は、ガドリニウムベースのコントラストエージェント(GBCA)のより安全な代替手段を提供する
グリオーマMRIコントラスト強調のマルチセンター予測のための再現可能なMLパイプラインを同定するための安定性を考慮したフレームワークを提案する。
論文 参考訳(メタデータ) (2025-09-13T00:47:07Z) - Impact of Labeling Inaccuracy and Image Noise on Tooth Segmentation in Panoramic Radiographs using Federated, Centralized and Local Learning [46.232038247686745]
フェデレートラーニング(FL)は、歯科診断AIにおけるプライバシー制約、不均一なデータ品質、一貫性のないラベル付けを緩和する。
複数のデータ破損シナリオを対象としたパノラマX線撮影において,FLと集中学習(CL)と局所学習(LL)を比較した。
論文 参考訳(メタデータ) (2025-09-08T11:07:47Z) - Predicting Length of Stay in Neurological ICU Patients Using Classical Machine Learning and Neural Network Models: A Benchmark Study on MIMIC-IV [49.1574468325115]
本研究は、MIMIC-IVデータセットに基づく神経疾患患者を対象とした、ICUにおけるLOS予測のための複数のMLアプローチについて検討する。
評価されたモデルには、古典的MLアルゴリズム(K-Nearest Neighbors、Random Forest、XGBoost、CatBoost)とニューラルネットワーク(LSTM、BERT、テンポラルフュージョントランス)が含まれる。
論文 参考訳(メタデータ) (2025-05-23T14:06:42Z) - Self-supervised contrastive learning of echocardiogram videos enables
label-efficient cardiac disease diagnosis [48.64462717254158]
心エコービデオを用いた自己教師型コントラスト学習手法であるエコーCLRを開発した。
左室肥大症 (LVH) と大動脈狭窄症 (AS) の分類成績は,EchoCLR の訓練により有意に改善した。
EchoCLRは、医療ビデオの表現を学習する能力に特有であり、SSLがラベル付きデータセットからラベル効率の高い疾患分類を可能にすることを実証している。
論文 参考訳(メタデータ) (2022-07-23T19:17:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。