論文の概要: S5CL: Unifying Fully-Supervised, Self-Supervised, and Semi-Supervised Learning Through Hierarchical Contrastive Learning

• arxiv url: http://arxiv.org/abs/2203.07307v1
• Date: Mon, 14 Mar 2022 17:10:01 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-15 14:31:27.475256
• Title: S5CL: Unifying Fully-Supervised, Self-Supervised, and Semi-Supervised Learning Through Hierarchical Contrastive Learning
• Title（参考訳）: S5CL:階層的コントラスト学習による完全教師付き、自己監督型、半監督型学習の統合
• Authors: Manuel Tran, Sophia J. Wagner, Melanie Boxberg, Tingying Peng
• Abstract要約: 完全教師付き,自己教師型,半教師型学習のための統合フレームワークであるS5CLを紹介する。 ラベル付き、ラベルなし、擬似ラベル付き画像に対して定義された3つの対照的な損失により、S5CLは距離関係の階層を反映した特徴表現を学習できる。
• 参考スコア（独自算出の注目度）: 0.22940141855172028
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In computational pathology, we often face a scarcity of annotations and a large amount of unlabeled data. One method for dealing with this is semi-supervised learning which is commonly split into a self-supervised pretext task and a subsequent model fine-tuning. Here, we compress this two-stage training into one by introducing S5CL, a unified framework for fully-supervised, self-supervised, and semi-supervised learning. With three contrastive losses defined for labeled, unlabeled, and pseudo-labeled images, S5CL can learn feature representations that reflect the hierarchy of distance relationships: similar images and augmentations are embedded the closest, followed by different looking images of the same class, while images from separate classes have the largest distance. Moreover, S5CL allows us to flexibly combine these losses to adapt to different scenarios. Evaluations of our framework on two public histopathological datasets show strong improvements in the case of sparse labels: for a H&E-stained colorectal cancer dataset, the accuracy increases by up to 9% compared to supervised cross-entropy loss; for a highly imbalanced dataset of single white blood cells from leukemia patient blood smears, the F1-score increases by up to 6%.
• Abstract（参考訳）: 計算病理学では、注釈の不足と大量のラベルなしデータに直面することが多い。 これを扱う方法の1つは半教師付き学習であり、通常は自己教師付きプレテキストタスクとその後のモデル微調整に分けられる。 ここでは,完全教師付き,自己教師付き,半教師付き学習のための統一フレームワークであるs5clを導入することで,この2段階学習を1つに圧縮する。 ラベル付き、ラベルなし、擬似ラベル付き画像に対して定義された3つの対照的な損失により、S5CLは距離関係の階層を反映した特徴表現を学習することができる。 さらに、S5CLはこれらの損失を柔軟に組み合わせて異なるシナリオに適応できるようにします。 病理組織学的検討では,H&E-stained colorectal cancer datasetでは, 観察されたクロスエントロピー損失と比較して, 精度が最大9%向上し, 白血病患者の血液スマアーからの単一白血球の高度不均衡データセットではF1スコアが最大6%上昇した。

関連論文リスト

• Multi-Scale Cross Contrastive Learning for Semi-Supervised Medical Image Segmentation [14.536384387956527]
  医用画像の構造を分割するマルチスケールクロススーパービジョンコントラスト学習フレームワークを開発した。 提案手法は,頑健な特徴表現を抽出するために,地上構造と横断予測ラベルに基づくマルチスケール特徴と対比する。 Diceでは最先端の半教師あり手法を3.0%以上上回っている。
  論文  参考訳（メタデータ） (2023-06-25T16:55:32Z)
• SSL-CPCD: Self-supervised learning with composite pretext-class discrimination for improved generalisability in endoscopic image analysis [3.1542695050861544]
  深層学習に基づく教師付き手法は医用画像解析において広く普及している。 大量のトレーニングデータと、目に見えないデータセットに対する一般的な問題に直面する必要がある。 本稿では,加法的角マージンを用いたパッチレベルのインスタンスグループ識別とクラス間変動のペナル化について検討する。
  論文  参考訳（メタデータ） (2023-05-31T21:28:08Z)
• Semi-Supervised Relational Contrastive Learning [8.5285439285139]
  本稿では,自己教師付きコントラスト損失と一貫性を利用した半教師付き学習モデルを提案する。 我々は,ISIC 2018 Challengeベンチマークの皮膚病変分類を検証し,各種ラベル付きデータに対する本手法の有効性を実証した。
  論文  参考訳（メタデータ） (2023-04-11T08:14:30Z)
• Rethinking Semi-Supervised Medical Image Segmentation: A Variance-Reduction Perspective [51.70661197256033]
  医用画像セグメンテーションのための階層化グループ理論を用いた半教師付きコントラスト学習フレームワークARCOを提案する。 まず、分散還元推定の概念を用いてARCOを構築することを提案し、特定の分散還元技術が画素/ボクセルレベルのセグメンテーションタスクにおいて特に有用であることを示す。 5つの2D/3D医療データセットと3つのセマンティックセグメンテーションデータセットのラベル設定が異なる8つのベンチマークで、我々のアプローチを実験的に検証する。
  論文  参考訳（メタデータ） (2023-02-03T13:50:25Z)
• GraVIS: Grouping Augmented Views from Independent Sources for Dermatology Analysis [52.04899592688968]
  皮膚科画像から自己教師付き特徴を学習するために特に最適化されたGraVISを提案する。 GraVISは、病変のセグメンテーションと疾患分類のタスクにおいて、転送学習と自己教師型学習を著しく上回っている。
  論文  参考訳（メタデータ） (2023-01-11T11:38:37Z)
• Self-supervised contrastive learning of echocardiogram videos enables label-efficient cardiac disease diagnosis [48.64462717254158]
  心エコービデオを用いた自己教師型コントラスト学習手法であるエコーCLRを開発した。 左室肥大症 (LVH) と大動脈狭窄症 (AS) の分類成績は,EchoCLR の訓練により有意に改善した。 EchoCLRは、医療ビデオの表現を学習する能力に特有であり、SSLがラベル付きデータセットからラベル効率の高い疾患分類を可能にすることを実証している。
  論文  参考訳（メタデータ） (2022-07-23T19:17:26Z)
• Weakly Supervised Contrastive Learning [68.47096022526927]
  この問題に対処するために,弱教師付きコントラスト学習フレームワーク(WCL)を導入する。 WCLはResNet50を使用して65%と72%のImageNet Top-1の精度を実現している。
  論文  参考訳（メタデータ） (2021-10-10T12:03:52Z)
• Semi-supervised Contrastive Learning with Similarity Co-calibration [72.38187308270135]
  SsCL(Semi-supervised Contrastive Learning)と呼ばれる新しいトレーニング戦略を提案する。 ssclは、自己教師付き学習におけるよく知られたコントラスト損失と、半教師付き学習におけるクロスエントロピー損失を組み合わせる。 SsCLはより差別的な表現を生じさせ,ショット学習に有益であることを示す。
  論文  参考訳（メタデータ） (2021-05-16T09:13:56Z)
• Multi-label Thoracic Disease Image Classification with Cross-Attention Networks [65.37531731899837]
  胸部X線画像から胸部疾患を自動分類するためのCAN(Cross-Attention Networks)を提案する。 また,クロスエントロピー損失を超える新たな損失関数を設計し,クラス間の不均衡を克服する。
  論文  参考訳（メタデータ） (2020-07-21T14:37:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。