論文の概要: CytoFM: The first cytology foundation model
- arxiv url: http://arxiv.org/abs/2504.13402v1
- Date: Fri, 18 Apr 2025 01:37:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-28 19:45:22.73767
- Title: CytoFM: The first cytology foundation model
- Title(参考訳): CytoFM : 最初の細胞学基礎モデル
- Authors: Vedrana Ivezić, Ashwath Radhachandran, Ekaterina Redekop, Shreeram Athreya, Dongwoo Lee, Vivek Sant, Corey Arnold, William Speier,
- Abstract要約: 本稿では,デジタル細胞学のための初の自己教師型基礎モデルであるCytoFMを紹介する。
我々はCytoFMをさまざまなデータセットで事前訓練し、堅牢で転送可能な表現を学習する。
以上の結果から,CytoFMは3つの下流課題のうち2つの課題において,病理組織学で事前訓練された既存の基礎モデルよりも優れていたことが示唆された。
- 参考スコア(独自算出の注目度): 3.591868126270513
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Cytology is essential for cancer diagnostics and screening due to its minimally invasive nature. However, the development of robust deep learning models for digital cytology is challenging due to the heterogeneity in staining and preparation methods of samples, differences across organs, and the limited availability of large, diverse, annotated datasets. Developing a task-specific model for every cytology application is impractical and non-cytology-specific foundation models struggle to generalize to tasks in this domain where the emphasis is on cell morphology. To address these challenges, we introduce CytoFM, the first cytology self-supervised foundation model. Using iBOT, a self-supervised Vision Transformer (ViT) training framework incorporating masked image modeling and self-distillation, we pretrain CytoFM on a diverse collection of cytology datasets to learn robust, transferable representations. We evaluate CytoFM on multiple downstream cytology tasks, including breast cancer classification and cell type identification, using an attention-based multiple instance learning framework. Our results demonstrate that CytoFM performs better on two out of three downstream tasks than existing foundation models pretrained on histopathology (UNI) or natural images (iBOT-Imagenet). Visualizations of learned representations demonstrate our model is able to attend to cytologically relevant features. Despite a small pre-training dataset, CytoFM's promising results highlight the ability of task-agnostic pre-training approaches to learn robust and generalizable features from cytology data.
- Abstract(参考訳): 細胞診は、癌の診断とスクリーニングに必要不可欠である。
しかし、デジタル細胞診のための堅牢な深層学習モデルの開発は、サンプルの染色法と調製法の不均一性、臓器間の差異、および大規模で多種多様な注釈付きデータセットの限られた可用性のために困難である。
あらゆる細胞学応用のためのタスク固有モデルの開発は現実的ではなく、非細胞学固有の基礎モデルは、細胞形態に重点を置いているこの領域のタスクに一般化するのに苦労する。
これらの課題に対処するために,最初の細胞学自己管理基盤モデルであるCytoFMを紹介する。
マスク付き画像モデリングと自己蒸留を併用した自己教師型ビジョントランスフォーマー(ViT)トレーニングフレームワークであるiBOTを用いて,CytoFMを多種多様な細胞学データセットに事前学習し,堅牢で伝達可能な表現を学習する。
乳がん分類や細胞型同定など,複数の下流細胞診タスクにおけるCytoFMの評価を,注目に基づくマルチ・インスタンス・ラーニング・フレームワークを用いて行った。
以上の結果から,CytoFMは,病理組織学 (UNI) や自然画像学 (iBOT-Imagenet) で事前訓練された既存の基盤モデルよりも,3つの下流課題のうち2つにおいて優れた性能を示した。
学習した表現の可視化は、我々のモデルが細胞学的に関連性のある特徴に対応することができることを示す。
トレーニング前の小さなデータセットにもかかわらず、CytoFMの有望な結果は、サイトロジーデータから堅牢で一般化可能な特徴を学ぶためのタスクに依存しない事前トレーニングアプローチの能力を強調している。
関連論文リスト
- PathSegDiff: Pathology Segmentation using Diffusion model representations [63.20694440934692]
そこで我々は,Latent Diffusion Models (LDMs) を事前学習した特徴抽出器として活用する,病理組織像分割の新しい手法であるPathSegDiffを提案する。
本手法は,H&E染色組織像から多彩な意味情報を抽出するために,自己教師型エンコーダによって誘導される病理特異的LCMを用いる。
本実験は,BCSSおよびGlaSデータセットにおける従来の手法よりも大幅に改善されたことを示す。
論文 参考訳(メタデータ) (2025-04-09T14:58:21Z) - Molecular-driven Foundation Model for Oncologic Pathology [6.922502805825084]
スライドレベルの基盤モデルであるThreadsを導入し、任意のサイズの全スライド画像の普遍的な表現を生成する。
スレッドは47,171ヘマトキシリンとエオシン(H&E)染色組織分画の多モード学習法を用いて事前訓練を行った。
論文 参考訳(メタデータ) (2025-01-28T02:35:02Z) - Dynamic Entity-Masked Graph Diffusion Model for histopathological image Representation Learning [25.197342542821843]
動的Entity-Masked Graph Diffusion Modelによる自己管理型病理画像表現学習法であるH-MGDMを紹介する。
具体的には,予備訓練において,相補的な部分グラフを潜時拡散条件として,自己教師対象として用いることを提案する。
論文 参考訳(メタデータ) (2024-12-13T10:18:36Z) - Learning biologically relevant features in a pathology foundation model using sparse autoencoders [2.5919097694815365]
我々は、病理予知基礎モデルの埋め込みについてスパースオートエンコーダを訓練した。
Sparse Autoencoderの機能は, 解釈可能な, 単意味的な生物学的概念を表す。
論文 参考訳(メタデータ) (2024-07-15T15:03:01Z) - PathoDuet: Foundation Models for Pathological Slide Analysis of H&E and IHC Stains [5.422494000842841]
PathoDuetは、病理組織像の事前訓練された一連のモデルであり、組織化学における新しい自己教師型学習フレームワークである。
このフレームワークは、新しく導入されたプリテキストトークンと後続のタスクライザーによって特徴付けられ、画像間の特定の関係を明示的に活用する。
クロススケール位置決めとクロスステイン転送という2つのプレテキストタスクは、モデルがヘマトキシリンとエオシンの画像で事前訓練されるように設計されている。
論文 参考訳(メタデータ) (2023-12-15T15:45:52Z) - Tertiary Lymphoid Structures Generation through Graph-based Diffusion [54.37503714313661]
本研究では,最先端のグラフベース拡散モデルを用いて生物学的に意味のある細胞グラフを生成する。
本研究では, グラフ拡散モデルを用いて, 3次リンパ構造(TLS)の分布を正確に学習できることを示す。
論文 参考訳(メタデータ) (2023-10-10T14:37:17Z) - Self-Supervised Vision Transformers Learn Visual Concepts in
Histopathology [5.164102666113966]
我々は、様々な弱い教師付きおよびパッチレベルのタスクに対する検証を行い、様々な自己教師付きモデルを訓練することにより、病理学における良い表現を探索する。
我々の重要な発見は、DINOベースの知識蒸留を用いたビジョントランスフォーマーが、組織像におけるデータ効率と解釈可能な特徴を学習できることを発見したことである。
論文 参考訳(メタデータ) (2022-03-01T16:14:41Z) - A multi-stage machine learning model on diagnosis of esophageal
manometry [50.591267188664666]
このフレームワークには、飲み込みレベルにおけるディープラーニングモデルと、学習レベルにおける機能ベースの機械学習モデルが含まれている。
これは、生のマルチスワローデータからHRM研究のCC診断を自動的に予測する最初の人工知能モデルである。
論文 参考訳(メタデータ) (2021-06-25T20:09:23Z) - Data-driven generation of plausible tissue geometries for realistic
photoacoustic image synthesis [53.65837038435433]
光音響トモグラフィ(pat)は形態的および機能的組織特性を回復する可能性がある。
我々は,PATデータシミュレーションの新たなアプローチを提案し,これを「シミュレーションの学習」と呼ぶ。
我々は、意味的注釈付き医療画像データに基づいて訓練されたGAN(Generative Adversarial Networks)の概念を活用して、可塑性組織ジオメトリを生成する。
論文 参考訳(メタデータ) (2021-03-29T11:30:18Z) - Towards an Automatic Analysis of CHO-K1 Suspension Growth in
Microfluidic Single-cell Cultivation [63.94623495501023]
我々は、人間の力で抽象化されたニューラルネットワークをデータレベルで注入できる新しい機械学習アーキテクチャを提案する。
具体的には、自然データと合成データに基づいて生成モデルを同時に訓練し、細胞数などの対象変数を確実に推定できる共有表現を学習する。
論文 参考訳(メタデータ) (2020-10-20T08:36:51Z) - Select-ProtoNet: Learning to Select for Few-Shot Disease Subtype
Prediction [55.94378672172967]
本研究は, 類似患者のサブグループを同定し, 数発の疾患のサブタイプ予測問題に焦点を当てた。
新しいモデルを開発するためにメタラーニング技術を導入し、関連する臨床課題から共通の経験や知識を抽出する。
我々の新しいモデルは、単純だが効果的なメタ学習マシンであるPrototypeal Networkと呼ばれる、慎重に設計されたメタラーナーに基づいて構築されている。
論文 参考訳(メタデータ) (2020-09-02T02:50:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。