論文の概要: Can We Simplify Slide-level Fine-tuning of Pathology Foundation Models?
- arxiv url: http://arxiv.org/abs/2502.20823v1
- Date: Fri, 28 Feb 2025 08:10:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-03 13:41:55.221581
- Title: Can We Simplify Slide-level Fine-tuning of Pathology Foundation Models?
- Title(参考訳): 病理基礎モデルのスライドレベルの微調整をシンプルにできるか?
- Authors: Jiawen Li, Jiali Hu, Qiehe Sun, Renao Yan, Minxi Ouyang, Tian Guan, Anjia Han, Chao He, Yonghong He,
- Abstract要約: 平均プーリングと多層パーセプトロンを組み合わせた単純な非線形マッピング戦略であるSiMLPは、複雑なMIL学習を伴わずに基礎モデルをスライドレベルタスクに効果的に適応させることができる。
本研究は,タスクに依存しない表現戦略だけで基礎モデルをWSI分析に効果的に適用できることを実証し,従来のMILに基づく微調整パラダイムに挑戦する。
- 参考スコア(独自算出の注目度): 5.888444803253168
- License:
- Abstract: The emergence of foundation models in computational pathology has transformed histopathological image analysis, with whole slide imaging (WSI) diagnosis being a core application. Traditionally, weakly supervised fine-tuning via multiple instance learning (MIL) has been the primary method for adapting foundation models to WSIs. However, in this work we present a key experimental finding: a simple nonlinear mapping strategy combining mean pooling and a multilayer perceptron, called SiMLP, can effectively adapt patch-level foundation models to slide-level tasks without complex MIL-based learning. Through extensive experiments across diverse downstream tasks, we demonstrate the superior performance of SiMLP with state-of-the-art methods. For instance, on a large-scale pan-cancer classification task, SiMLP surpasses popular MIL-based methods by 3.52%. Furthermore, SiMLP shows strong learning ability in few-shot classification and remaining highly competitive with slide-level foundation models pretrained on tens of thousands of slides. Finally, SiMLP exhibits remarkable robustness and transferability in lung cancer subtyping. Overall, our findings challenge the conventional MIL-based fine-tuning paradigm, demonstrating that a task-agnostic representation strategy alone can effectively adapt foundation models to WSI analysis. These insights offer a unique and meaningful perspective for future research in digital pathology, paving the way for more efficient and broadly applicable methodologies.
- Abstract(参考訳): コンピュータ病理学における基礎モデルの出現は、病理組織学的画像解析に変化をもたらし、全スライド画像診断(WSI)が中核となる。
伝統的に、MIL(Multiple Case Learning)による微調整が基礎モデルをWSIに適応するための主要な手法であった。
平均プーリングとSiMLPと呼ばれる多層パーセプトロンを組み合わせた単純な非線形マッピング戦略は、複雑なMIL学習を伴わずに、パッチレベルの基礎モデルをスライドレベルタスクに効果的に適応させることができる。
様々な下流タスクにわたる広範囲な実験を通して、我々は最先端の手法によるSiMLPの優れた性能を実証した。
例えば、大規模なパンがん分類タスクでは、SiMLPは人気のあるMILベースのメソッドを3.52%上回る。
さらに、SiMLPは、数ショットの分類において強力な学習能力を示し、数万のスライドで事前訓練されたスライドレベルの基礎モデルと高い競争力を保っている。
最後に、SiMLPは肺癌の亜型化において顕著な堅牢性と転移性を示す。
全体として、従来のMILに基づく微調整パラダイムに挑戦し、タスクに依存しない表現戦略だけで基礎モデルをWSI分析に効果的に適用できることを実証した。
これらの知見は、デジタル病理学における将来の研究に独特で有意義な視点を与え、より効率的で広く適用可能な方法論の道を開く。
関連論文リスト
- Foundation Models for Slide-level Cancer Subtyping in Digital Pathology [1.7641392161755438]
本研究の目的は,MIL フレームワークを用いて,WSI 上の癌サブタイプのための事前訓練戦略に基づいて開発された様々な特徴抽出器の性能を比較することである。
その結果、6種類の皮膚がんの亜型を予測するために、イメージネットが事前訓練したモデルを超える基礎モデルの有効性が示された。
論文 参考訳(メタデータ) (2024-10-21T11:04:58Z) - Model-GLUE: Democratized LLM Scaling for A Large Model Zoo in the Wild [84.57103623507082]
本稿では,全体論的な大規模言語モデルスケーリングガイドラインであるModel-GLUEを紹介する。
既存のスケーリングテクニック,特に選択的マージ,および混合の変種をベンチマークする。
次に、異種モデル動物園の選択と集約のための最適な戦略を定式化する。
我々の手法は、マージ可能なモデルのクラスタリング、最適なマージ戦略選択、クラスタの統合を含む。
論文 参考訳(メタデータ) (2024-10-07T15:55:55Z) - MM-UNet: A Mixed MLP Architecture for Improved Ophthalmic Image Segmentation [3.2846676620336632]
眼科画像分割は眼疾患の診断において重要な基礎となる。
トランスフォーマーベースのモデルはこれらの制限に対処するが、かなりの計算オーバーヘッドをもたらす。
本稿では,眼内画像分割に適したMixedモデルであるMM-UNetを紹介する。
論文 参考訳(メタデータ) (2024-08-16T08:34:50Z) - An efficient framework based on large foundation model for cervical cytopathology whole slide image screening [13.744580492120749]
本稿では,教師なし・弱教師付き学習によるWSIレベルラベルのみを用いた頚部細胞病理学WSI分類のための効率的なフレームワークを提案する。
CSDおよびFNAC 2019データセットで実施された実験は、提案手法が様々なMIL手法の性能を高め、最先端(SOTA)性能を達成することを示した。
論文 参考訳(メタデータ) (2024-07-16T08:21:54Z) - Model-Based RL for Mean-Field Games is not Statistically Harder than Single-Agent RL [57.745700271150454]
モデルに基づく関数近似を用いた平均フィールドゲーム(MFG)における強化学習のサンプル複雑性について検討した。
本稿では、モデルクラスの複雑性を特徴付けるためのより効果的な概念である部分モデルベースエルダー次元(P-MBED)を紹介する。
論文 参考訳(メタデータ) (2024-02-08T14:54:47Z) - Robust Analysis of Multi-Task Learning Efficiency: New Benchmarks on Light-Weighed Backbones and Effective Measurement of Multi-Task Learning Challenges by Feature Disentanglement [69.51496713076253]
本稿では,既存のMTL手法の効率性に焦点をあてる。
バックボーンを小さくしたメソッドの大規模な実験と,MetaGraspNetデータセットを新しいテストグラウンドとして実施する。
また,MTLにおける課題の新規かつ効率的な識別子として,特徴分散尺度を提案する。
論文 参考訳(メタデータ) (2024-02-05T22:15:55Z) - AdvMIL: Adversarial Multiple Instance Learning for the Survival Analysis
on Whole-Slide Images [12.09957276418002]
本稿では,新しい逆多重インスタンス学習(AdvMIL)フレームワークを提案する。
このフレームワークは、WSI表現学習に非常に必要な多重インスタンス学習(MIL)を統合する。
実験の結果,AdvMILは比較的低コストで主要なWSIサバイバル分析手法に性能改善をもたらすだけでなく,半教師付き学習によるラベルなしデータの有効活用を可能にした。
論文 参考訳(メタデータ) (2022-12-13T12:02:05Z) - Benchmarking Self-Supervised Learning on Diverse Pathology Datasets [10.868779327544688]
自己教師付き学習は、ラベルのないデータを活用する効果的な方法であることが示されている。
我々は、病理画像データに基づいてSSL事前トレーニングを行う最大規模の研究を行う。
核インスタンスセグメンテーションの課題に対してSSLを初めて適用する。
論文 参考訳(メタデータ) (2022-12-09T06:38:34Z) - Model-Agnostic Multitask Fine-tuning for Few-shot Vision-Language
Transfer Learning [59.38343286807997]
未知タスクの視覚言語モデルのためのモデル非依存型マルチタスクファインチューニング(MAMF)を提案する。
モデルに依存しないメタラーニング(MAML)と比較して、MAMFは二段階最適化を捨て、一階勾配のみを使用する。
MAMFは5つのベンチマークデータセット上で、数ショットの転送学習において古典的な微調整法よりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2022-03-09T17:26:53Z) - A multi-stage machine learning model on diagnosis of esophageal
manometry [50.591267188664666]
このフレームワークには、飲み込みレベルにおけるディープラーニングモデルと、学習レベルにおける機能ベースの機械学習モデルが含まれている。
これは、生のマルチスワローデータからHRM研究のCC診断を自動的に予測する最初の人工知能モデルである。
論文 参考訳(メタデータ) (2021-06-25T20:09:23Z) - On Data-Augmentation and Consistency-Based Semi-Supervised Learning [77.57285768500225]
最近提案された整合性に基づく半教師付き学習(SSL)手法は,複数のSSLタスクにおいて最先端技術である。
これらの進歩にもかかわらず、これらの手法の理解はまだ比較的限られている。
論文 参考訳(メタデータ) (2021-01-18T10:12:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。