論文の概要: Learning Where to Focus: Self-Supervised Multi-Scale ViTs for Histopathology
- arxiv url: http://arxiv.org/abs/2609.18578v1
- Date: Wed, 16 Sep 2026 12:38:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:53.800682
- Title: Learning Where to Focus: Self-Supervised Multi-Scale ViTs for Histopathology
- Title(参考訳): 注目すべき場所を学習する: 病理組織学のための自己監督型マルチスケールVTT
- Abstract要約: 病理学者は、まず不審な組織を特定し、高い倍率で検査することで病気を診断する。
自己監督型視覚変換器(ViT)は、複数の生物学的スケールに分散しているにもかかわらず、すべての画像領域に同じ空間分解能を割り当てる。
最近の病理基盤モデルでは、トレーニングデータとモデルキャパシティのスケーリングにより、表現品質が大幅に改善されているが、ほぼ均一なトークン化が維持されている。
- 参考スコア(独自算出の注目度): 4.936165689668498
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Pathologists diagnose diseases by first locating suspicious tissue and then examining it at higher magnification, whereas self-supervised vision transformers (ViTs) allocate the same spatial resolution to every image region despite diagnostic evidence being sparse and spanning multiple biological scales. Recent pathology foundation models have substantially improved representation quality by scaling training data and model capacity, but largely retain uniform tokenization. We instead investigate whether pathology representations can be improved by learning where to allocate spatial resolution during self-supervised learning. To this end, we propose CRAFT (Coarse-to-fine Region-Adaptive Feature Tokenization), a DINO-based framework that learns image-dependent mixed-scale representations by using self-supervised attention to selectively refine informative regions while preserving coarse context, together with a symmetric cross-scale regularization objective that encourages complementary coarse and fine representations. Across CAMELYON16, TCGA-Lung subtype classification, and TCGA-LUAD survival prediction, CRAFT consistently outperforms comparable-scale self-supervised methods while requiring lower inference computation. Despite using only a compact 22M parameter backbone trained on comparatively small pathology datasets, CRAFT remains competitive with, and often surpasses, substantially larger pathology foundation models.
- Abstract(参考訳): 病理学者は、まず不審な組織を特定し、高い倍率で検査することで病気を診断する一方、自己監督型視覚変換器(ViT)は、診断の証拠が希少であり、複数の生物学的スケールに分散しているにもかかわらず、すべての画像領域に同じ空間分解能を割り当てている。
最近の病理基盤モデルでは、トレーニングデータとモデルキャパシティのスケーリングにより、表現品質が大幅に改善されているが、ほぼ均一なトークン化が維持されている。
そこで我々は,自己教師型学習における空間分解能の配置を学習することで,病的表現を改善することができるかどうかを検討する。
そこで本研究では,CRAFT(Coarse-to-fine Region-Adaptive Feature Tokenization)を提案する。CRAFT(Coarse-to-fine Region-Adaptive Feature Tokenization)は,粗いコンテキストを保ちながら情報領域を選択的に洗練するために,自己監督的注意を用いて画像依存の混合スケール表現を学習するフレームワークである。
CAMELYON16、TCGA-Lungサブタイプ分類、およびTCGA-LUADサバイバル予測において、CRAFTは低い推論計算を必要としながら、同等のスケールの自己管理手法を一貫して上回っている。
比較的小さな病理モデルで訓練された2Mパラメータのバックボーンしか使用していないが、CRAFTは依然としてかなり大きな病理基盤モデルと競合し、しばしば上回っている。
関連論文リスト
- Dementia Etiology Diagnosis via Collaborative Meta Knowledge Enhancement [81.27196033392559]
認知症発症診断のための協調的メタ知識向上(COME)フレームワークを提案する。
COMEは、マルチセンタ取得セマンティクス、ソース識別子、モダリティインジケータを異種性を認識した埋め込みとして、スケールアップトレーニングのためにTransformerアーキテクチャに注入する。
本手法は,平均マクロ平均AUCが85.62%,最強ベースラインが4.29ポイント向上し,最先端のドメイン性能を実現する。
論文 参考訳(メタデータ) (2026-07-24T04:26:47Z) - Multi-View Synergistic Learning with Vision-Language Adaption for Low-Resource Biomedical Image Classification [59.24009931000134]
MVSL(Multi-View Synergistic Learning)は、適応パラダイム、表現の粒度、疾患の意味的関係に対処する統合フレームワークである。
MVSLは、視覚的およびテキスト的エンコーダの適応を分離し、それぞれの表現特性を尊重する。
さらに、グローバルなイメージセマンティクスと局所的な病変レベルの証拠の両方を明示的にモデル化するために、多粒性コントラスト学習を導入する。
MVSLは、いくつかのショットとゼロショットの分類設定において、最先端のメソッドを一貫して上回る。
論文 参考訳(メタデータ) (2026-04-27T02:41:27Z) - A Semantically Enhanced Generative Foundation Model Improves Pathological Image Synthesis [82.01597026329158]
本稿では,組織合成のための相関調整フレームワーク(CRAFTS)について紹介する。
CRAFTSは、生物学的精度を確保するためにセマンティックドリフトを抑制する新しいアライメント機構を組み込んでいる。
本モデルは,30種類の癌にまたがる多彩な病理像を生成する。
論文 参考訳(メタデータ) (2025-12-15T10:22:43Z) - From Classification to Cross-Modal Understanding: Leveraging Vision-Language Models for Fine-Grained Renal Pathology [9.268389327736735]
臨床的に現実的な数ショット問題として,細粒度糸球体サブタイプをモデル化した。
この条件下では、病理特化モデルと汎用視覚言語モデルの両方を評価する。
論文 参考訳(メタデータ) (2025-11-15T01:44:11Z) - Gradient Attention Map Based Verification of Deep Convolutional Neural Networks with Application to X-ray Image Datasets [1.0208529247755187]
複数の相補的戦略を通じてモデル適合性を評価する包括的検証フレームワークを提案する。
まず、グラディエント・アテンション・マップ(GAM)に基づくアプローチを導入し、グラディエント・アテンション・マップを用いて注意パターンを解析する。
第2に、初期畳み込み特徴写像に検証を拡張し、注意を欠いた構造的ミスアライメントをキャプチャする。
第3に,配布外入力を明示的に拒否するために,新たなガベージクラスを分類モデルに組み込む。
論文 参考訳(メタデータ) (2025-04-29T23:41:37Z) - Leveraging Vision-Language Embeddings for Zero-Shot Learning in Histopathology Images [7.048241543461529]
ゼロショット組織像分類におけるこれらの課題に対処するため, MR-PHE(Multi-Resolution Prompt-Guided Hybrid Embedding)と呼ばれる新しいフレームワークを提案する。
我々は,グローバルな画像埋め込みと重み付けされたパッチ埋め込みを統合したハイブリッドな埋め込み戦略を導入する。
類似性に基づくパッチ重み付け機構は、クラス埋め込みとの関連性に基づいて、アテンションのような重み付けをパッチに割り当てる。
論文 参考訳(メタデータ) (2025-03-13T12:18:37Z) - Incremental Cross-view Mutual Distillation for Self-supervised Medical
CT Synthesis [88.39466012709205]
本稿では,スライス間の分解能を高めるために,新しい医療スライスを構築した。
臨床実践において, 根本・中間医療スライスは常に欠落していることを考慮し, 相互蒸留の段階的相互蒸留戦略を導入する。
提案手法は,最先端のアルゴリズムよりも明確なマージンで優れる。
論文 参考訳(メタデータ) (2021-12-20T03:38:37Z) - Many-to-One Distribution Learning and K-Nearest Neighbor Smoothing for
Thoracic Disease Identification [83.6017225363714]
ディープラーニングは、病気の識別性能を改善するための最も強力なコンピュータ支援診断技術となった。
胸部X線撮影では、大規模データの注釈付けには専門的なドメイン知識が必要で、時間を要する。
本論文では、単一モデルにおける疾患同定性能を改善するために、複数対1の分布学習(MODL)とK-nearest neighbor smoothing(KNNS)手法を提案する。
論文 参考訳(メタデータ) (2021-02-26T02:29:30Z) - Learning Interpretable Microscopic Features of Tumor by Multi-task
Adversarial CNNs To Improve Generalization [1.7371375427784381]
既存のCNNモデルはブラックボックスとして機能し、医師が重要な診断機能がモデルによって使用されることを保証しない。
ここでは,マルチタスクと敵の損失を両立させる不確実性に基づく重み付けの組み合わせをエンド・ツー・エンドで学習することにより,病理的特徴に焦点を合わせることを推奨する。
AUC 0.89 (0.01) がベースラインであるAUC 0.86 (0.005) に対して最も高い値を示した。
論文 参考訳(メタデータ) (2020-08-04T12:10:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。