論文の概要: Exploring Foundation Models Fine-Tuning for Cytology Classification

• arxiv url: http://arxiv.org/abs/2411.14975v1
• Date: Fri, 22 Nov 2024 14:34:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-25 15:03:38.796997
• Title: Exploring Foundation Models Fine-Tuning for Cytology Classification
• Title（参考訳）: 細胞学分類のための微調整基礎モデルの探索
• Authors: Manon Dausort, Tiffanie Godelaine, Maxime Zanella, Karim El Khoury, Isabelle Salmon, Benoît Macq,
• Abstract要約: 既存の基盤モデルが細胞学的分類にどのように適用できるかを示す。 4つの細胞分類データセットにまたがる5つの基盤モデルを評価する。 以上の結果から,LoRAによる事前学習したバックボーンの微調整により,モデル性能が大幅に向上することが示唆された。
• 参考スコア（独自算出の注目度）: 0.10555513406636088
• License:
• Abstract: Cytology slides are essential tools in diagnosing and staging cancer, but their analysis is time-consuming and costly. Foundation models have shown great potential to assist in these tasks. In this paper, we explore how existing foundation models can be applied to cytological classification. More particularly, we focus on low-rank adaptation, a parameter-efficient fine-tuning method suited to few-shot learning. We evaluated five foundation models across four cytological classification datasets. Our results demonstrate that fine-tuning the pre-trained backbones with LoRA significantly improves model performance compared to fine-tuning only the classifier head, achieving state-of-the-art results on both simple and complex classification tasks while requiring fewer data samples.
• Abstract（参考訳）: 細胞学のスライドはがんの診断とステージングに欠かせないツールであるが、その分析には時間と費用がかかる。 ファンデーションモデルは、これらのタスクを支援する大きな可能性を示しています。 本稿では,既存の基盤モデルを細胞学的分類に適用する方法について検討する。 特に,少数ショット学習に適したパラメータ効率のよい微調整法である低ランク適応に着目した。 4つの細胞分類データセットの5つの基盤モデルについて検討した。 以上の結果から,LoRAによる事前学習したバックボーンの微調整は,分類器ヘッドのみの微調整よりもモデル性能が有意に向上し,単純な分類タスクと複雑な分類タスクの両方において,より少ないデータサンプルを伴いながら最先端の結果が得られることが示された。

関連論文リスト

• Benchmarking Pathology Foundation Models: Adaptation Strategies and Scenarios [2.1953732467962324]
  14のデータセットと2つのシナリオ整合性評価と柔軟性評価の4つの病理特異的基盤モデルをベンチマークする。 その結果、パラメータ効率のよい微調整手法は、同じ下流タスク内の多様なデータセットに病理学固有の基礎モデルを適用するのに効率的かつ効果的であることが判明した。
  論文  参考訳（メタデータ） (2024-10-21T14:10:18Z)
• High-Performance Few-Shot Segmentation with Foundation Models: An Empirical Study [64.06777376676513]
  基礎モデルに基づく数ショットセグメンテーション(FSS)フレームワークを開発した。 具体的には、基礎モデルから暗黙的な知識を抽出し、粗い対応を構築するための簡単なアプローチを提案する。 2つの広く使われているデータセットの実験は、我々のアプローチの有効性を実証している。
  論文  参考訳（メタデータ） (2024-09-10T08:04:11Z)
• Benchmarking foundation models as feature extractors for weakly-supervised computational pathology [0.6151041580858937]
  肺・大腸癌・胃癌・乳癌の13例を対象に, 病理組織学的基盤モデルを10例, 6,791例, 9,493例に比較検討した。 視覚言語基礎モデルであるCONCHは,視覚のみの基礎モデルと比較して,タスクの42%で最高の性能を示した。
  論文  参考訳（メタデータ） (2024-08-28T14:34:45Z)
• A Comprehensive Evaluation of Histopathology Foundation Models for Ovarian Cancer Subtype Classification [1.9499122087408571]
  病理組織学の基礎モデルは、多くのタスクにまたがる大きな約束を示している。 これまでで最も厳格な単一タスクによる病理組織学的基盤モデルの検証を報告した。 病理組織学的基盤モデルは卵巣がんの亜型化に明確な利益をもたらす。
  論文  参考訳（メタデータ） (2024-05-16T11:21:02Z)
• The Importance of Model Inspection for Better Understanding Performance Characteristics of Graph Neural Networks [15.569758991934934]
  脳形状分類タスクに適用したグラフニューラルネットワークの特徴学習特性に対するモデル選択の影響について検討する。 モデルの異なるレイヤに機能の埋め込みを組み込むことで、かなりの違いが見つかります。
  論文  参考訳（メタデータ） (2024-05-02T13:26:18Z)
• A Comprehensive Evaluation and Analysis Study for Chinese Spelling Check [53.152011258252315]
  音声とグラフィックの情報を合理的に使用することは,中国語のスペルチェックに有効であることを示す。 モデルはテストセットのエラー分布に敏感であり、モデルの欠点を反映している。 一般的なベンチマークであるSIGHANは、モデルの性能を確実に評価できない。
  論文  参考訳（メタデータ） (2023-07-25T17:02:38Z)
• Universal Domain Adaptation from Foundation Models: A Baseline Study [58.51162198585434]
  基礎モデルを用いた最先端UniDA手法の実証的研究を行った。 CLIPモデルからターゲット知識を抽出するためのパラメータフリーな手法であるtextitCLIP 蒸留を導入する。 単純な手法ではあるが、ほとんどのベンチマークタスクでは従来の手法よりも優れている。
  論文  参考訳（メタデータ） (2023-05-18T16:28:29Z)
• Class-Incremental Learning with Strong Pre-trained Models [97.84755144148535]
  CIL(Class-incremental Learning)は、少数のクラス(ベースクラス)から始まる設定で広く研究されている。 我々は、多数のベースクラスで事前訓練された強力なモデルから始まるCILの実証済み実世界の設定について検討する。 提案手法は、解析されたCIL設定すべてに頑健で一般化されている。
  論文  参考訳（メタデータ） (2022-04-07T17:58:07Z)
• A multi-stage machine learning model on diagnosis of esophageal manometry [50.591267188664666]
  このフレームワークには、飲み込みレベルにおけるディープラーニングモデルと、学習レベルにおける機能ベースの機械学習モデルが含まれている。 これは、生のマルチスワローデータからHRM研究のCC診断を自動的に予測する最初の人工知能モデルである。
  論文  参考訳（メタデータ） (2021-06-25T20:09:23Z)
• Few-shot Classification via Adaptive Attention [93.06105498633492]
  ごく少数の参照サンプルに基づいて,クエリサンプル表現を最適化し,高速に適応する新しい数ショット学習手法を提案する。 実験で実証したように,提案モデルでは,様々なベンチマーク数ショット分類と微粒化認識データセットを用いて,最先端の分類結果を達成している。
  論文  参考訳（メタデータ） (2020-08-06T05:52:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。