論文の概要: Precise Location Matching Improves Dense Contrastive Learning in Digital Pathology

• arxiv url: http://arxiv.org/abs/2212.12105v2
• Date: Thu, 23 Mar 2023 01:26:35 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-24 17:44:12.600381
• Title: Precise Location Matching Improves Dense Contrastive Learning in Digital Pathology
• Title（参考訳）: 正確な位置マッチングはデジタル病理学におけるDense Contrastive Learningを改善する
• Authors: Jingwei Zhang, Saarthak Kapse, Ke Ma, Prateek Prasanna, Maria Vakalopoulou, Joel Saltz, Dimitris Samaras
• Abstract要約: 本研究では,2つの拡張領域を正確にマッチングする位置ベースマッチング機構を提案する。 本手法は,従来の密マッチング手法よりも,検出平均精度が7.2%,インスタンスセグメンテーション平均精度が5.6%向上した。
• 参考スコア（独自算出の注目度）: 28.62539784951823
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Dense prediction tasks such as segmentation and detection of pathological entities hold crucial clinical value in computational pathology workflows. However, obtaining dense annotations on large cohorts is usually tedious and expensive. Contrastive learning (CL) is thus often employed to leverage large volumes of unlabeled data to pre-train the backbone network. To boost CL for dense prediction, some studies have proposed variations of dense matching objectives in pre-training. However, our analysis shows that employing existing dense matching strategies on histopathology images enforces invariance among incorrect pairs of dense features and, thus, is imprecise. To address this, we propose a precise location-based matching mechanism that utilizes the overlapping information between geometric transformations to precisely match regions in two augmentations. Extensive experiments on two pretraining datasets (TCGA-BRCA, NCT-CRC-HE) and three downstream datasets (GlaS, CRAG, BCSS) highlight the superiority of our method in semantic and instance segmentation tasks. Our method outperforms previous dense matching methods by up to 7.2% in average precision for detection and 5.6% in average precision for instance segmentation tasks. Additionally, by using our matching mechanism in the three popular contrastive learning frameworks, MoCo-v2, VICRegL, and ConCL, the average precision in detection is improved by 0.7% to 5.2%, and the average precision in segmentation is improved by 0.7% to 4.0%, demonstrating generalizability. Our code is available at https://github.com/cvlab-stonybrook/PLM_SSL.
• Abstract（参考訳）: セグメンテーションや病理組織の検出といった複雑な予測タスクは、計算病理ワークフローにおいて重要な臨床的価値を持っている。 しかし、大きなコホートに密集した注釈を得るのは通常退屈で高価である。 コントラスト学習(CL)は、バックボーンネットワークを事前訓練するために大量のラベルのないデータを活用するためにしばしば用いられる。 密接な予測のためにCLを高めるために、事前学習における密接なマッチング目的のバリエーションを提案する研究もある。 しかし, 組織像に既存の密集マッチング戦略を用いることで, 不正確な一対の密集特徴の分散を強制し, 不正確であることを示す。 そこで本研究では,幾何変換間の重なり情報を利用する高精度な位置情報マッチング機構を提案する。 2つの事前学習データセット(TCGA-BRCA, NCT-CRC-HE)と3つの下流データセット(GlaS, CRAG, BCSS)に対する大規模な実験は、セマンティックおよびインスタンスセグメンテーションタスクにおける我々の手法の優位性を強調している。 本手法は,従来の密マッチング手法よりも,検出平均精度が7.2%,インスタンスセグメンテーション平均精度が5.6%向上した。 さらに、MoCo-v2、VICRegL、ConCLの3つの一般的なコントラスト学習フレームワークにおけるマッチング機構を用いて、検出の平均精度を0.7%から5.2%改善し、セグメンテーションの平均精度を0.7%から4.0%改善し、一般化可能性を示している。 私たちのコードはhttps://github.com/cvlab-stonybrook/PLM_SSLで利用可能です。

関連論文リスト

• CLAMP-ViT: Contrastive Data-Free Learning for Adaptive Post-Training Quantization of ViTs [6.456189487006878]
  視覚変換器(ViT)のためのデータフリー後学習量子化法であるCLAMP-ViTを提案する。 我々は、近年の手法の限界、特に意味のあるパッチ間の関係を活用できないことを特定する。 CLAMP-ViTは2段階のアプローチを採用し、データ生成とモデル量子化の間に循環的に適応する。
  論文  参考訳（メタデータ） (2024-07-07T05:39:25Z)
• Decoupled Contrastive Learning for Long-Tailed Recognition [58.255966442426484]
  Supervised Contrastive Loss (SCL) は視覚表現学習で人気がある。 ロングテール認識のシナリオでは、各クラスのサンプル数が不均衡である場合、2種類の正のサンプルを同じように扱うと、カテゴリー内距離に対するバイアス最適化が導かれる。 そこで我々は,尾級の低表現を緩和するために,頭級から尾級へ知識を伝達するためのパッチベースの自己蒸留法を提案する。
  論文  参考訳（メタデータ） (2024-03-10T09:46:28Z)
• SSL-CPCD: Self-supervised learning with composite pretext-class discrimination for improved generalisability in endoscopic image analysis [3.1542695050861544]
  深層学習に基づく教師付き手法は医用画像解析において広く普及している。 大量のトレーニングデータと、目に見えないデータセットに対する一般的な問題に直面する必要がある。 本稿では,加法的角マージンを用いたパッチレベルのインスタンスグループ識別とクラス間変動のペナル化について検討する。
  論文  参考訳（メタデータ） (2023-05-31T21:28:08Z)
• Prompt Tuning for Parameter-efficient Medical Image Segmentation [79.09285179181225]
  2つの医用画像データセットのセマンティックセグメンテーションにパラメータ効率が良いが効果的な適応を実現するために,いくつかのコントリビューションを提案し,検討する。 我々はこのアーキテクチャを、オンライン生成プロトタイプへの割り当てに基づく専用密集型セルフスーパービジョンスキームで事前訓練する。 得られたニューラルネットワークモデルにより、完全に微調整されたモデルとパラメータに適応したモデルとのギャップを緩和できることを実証する。
  論文  参考訳（メタデータ） (2022-11-16T21:55:05Z)
• Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
  半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。 SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
  論文  参考訳（メタデータ） (2021-12-12T06:11:16Z)
• Source-free unsupervised domain adaptation for cross-modality abdominal multi-organ segmentation [10.151144203061778]
  腹部多臓器セグメンテーションのための未ラベルMRデータセットに,ソースラベル付きCTデータセットから学習知識を転送することが望ましい。 そこで本研究では, ソースデータセットにアクセスすることなく, 効率的なソースレス非教師なし領域適応手法を提案する。
  論文  参考訳（メタデータ） (2021-11-24T01:42:07Z)
• Meta Learning Low Rank Covariance Factors for Energy-Based Deterministic Uncertainty [58.144520501201995]
  ニューラルネットワーク層のBi-Lipschitz正規化は、各レイヤの特徴空間におけるデータインスタンス間の相対距離を保存する。 注意セットエンコーダを用いて,タスク固有の共分散行列を効率的に構築するために,対角的,対角的,低ランクな要素のメタ学習を提案する。 また,最終的な予測分布を達成するために,スケールしたエネルギーを利用する推論手法を提案する。
  論文  参考訳（メタデータ） (2021-10-12T22:04:19Z)
• Semi-supervised Contrastive Learning with Similarity Co-calibration [72.38187308270135]
  SsCL(Semi-supervised Contrastive Learning)と呼ばれる新しいトレーニング戦略を提案する。 ssclは、自己教師付き学習におけるよく知られたコントラスト損失と、半教師付き学習におけるクロスエントロピー損失を組み合わせる。 SsCLはより差別的な表現を生じさせ,ショット学習に有益であることを示す。
  論文  参考訳（メタデータ） (2021-05-16T09:13:56Z)
• Dense Contrastive Learning for Self-Supervised Visual Pre-Training [102.15325936477362]
  入力画像の2つのビュー間の画素レベルでの差分差分差分差分差分差分差分差分差分差分差分差分差分差分差分差分差分差分差分差分差分差分差分差分差分差分差分)を最適化することにより自己教師学習を実現する。 ベースライン法であるMoCo-v2と比較すると,計算オーバーヘッドは1%遅かった。
  論文  参考訳（メタデータ） (2020-11-18T08:42:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。