論文の概要: Resolution-Based Distillation for Efficient Histology Image Classification

• arxiv url: http://arxiv.org/abs/2101.04170v1
• Date: Mon, 11 Jan 2021 20:00:35 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-04 14:32:43.494539
• Title: Resolution-Based Distillation for Efficient Histology Image Classification
• Title（参考訳）: 効率的な組織像分類のための解像度に基づく蒸留法
• Authors: Joseph DiPalma, Arief A. Suriawinata, Laura J. Tafe, Lorenzo Torresani, Saeed Hassanpour
• Abstract要約: 本論文では,ヒストロジー画像分類の計算効率向上のための深層学習に基づく新しい手法を提案する。 提案手法は,入力解像度を低減し,限定ラベルデータを用いて効果的にトレーニングできる画像に対して頑健である。 セリアック病(CD)と肺腺癌(LUAD)に関連する2つの組織学的画像データセットに対するアプローチを評価した。
• 参考スコア（独自算出の注目度）: 29.603903713682275
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Developing deep learning models to analyze histology images has been computationally challenging, as the massive size of the images causes excessive strain on all parts of the computing pipeline. This paper proposes a novel deep learning-based methodology for improving the computational efficiency of histology image classification. The proposed approach is robust when used with images that have reduced input resolution and can be trained effectively with limited labeled data. Pre-trained on the original high-resolution (HR) images, our method uses knowledge distillation (KD) to transfer learned knowledge from a teacher model to a student model trained on the same images at a much lower resolution. To address the lack of large-scale labeled histology image datasets, we perform KD in a self-supervised manner. We evaluate our approach on two histology image datasets associated with celiac disease (CD) and lung adenocarcinoma (LUAD). Our results show that a combination of KD and self-supervision allows the student model to approach, and in some cases, surpass the classification accuracy of the teacher, while being much more efficient. Additionally, we observe an increase in student classification performance as the size of the unlabeled dataset increases, indicating that there is potential to scale further. For the CD data, our model outperforms the HR teacher model, while needing 4 times fewer computations. For the LUAD data, our student model results at 1.25x magnification are within 3% of the teacher model at 10x magnification, with a 64 times computational cost reduction. Moreover, our CD outcomes benefit from performance scaling with the use of more unlabeled data. For 0.625x magnification, using unlabeled data improves accuracy by 4% over the baseline. Thus, our method can improve the feasibility of deep learning solutions for digital pathology with standard computational hardware.
• Abstract（参考訳）: 組織像を分析するディープラーニングモデルの開発は、画像の膨大なサイズが計算パイプラインのすべての部分に過大な負荷をもたらしているため、計算的に困難である。 本稿では,組織像分類の計算効率を向上させるための新しい深層学習手法を提案する。 提案手法は,入力解像度を低減し,限定ラベルデータを用いて効果的にトレーニングできる画像に対して頑健である。 本手法は, 従来の高分解能画像に基づいて, 知識蒸留(KD)を用いて, 教師モデルから同じ画像上で訓練された学生モデルへ, はるかに低い解像度で学習知識を伝達する。 大規模ラベル付きヒストロジー画像データセットの欠如に対処するため,自己教師あり方式でkdを行う。 セリアック病 (CD) と肺腺癌 (LUAD) に関連する2つの組織像データセットについて検討した。 以上の結果から,KDと自己監督の組み合わせにより,生徒モデルがより効率的に教師の分類精度を越えながら,生徒モデルにアプローチすることが可能であることが示唆された。 さらに,ラベルなしデータセットのサイズが増加するにつれて学生の分類性能が向上し,さらに拡大する可能性が示唆された。 CDデータの場合、我々のモデルはHR教師モデルより優れ、計算量は4倍少ない。 LUADデータの場合、学生モデルは1.25倍の倍率で10倍の倍率で教師モデルの3%以内であり、計算コストは64倍である。 さらに、cdの結果は、ラベルなしのデータを使用することで、パフォーマンススケーリングの恩恵を受けます。 0.625倍の場合、ラベルのないデータを使用すると、ベースラインよりも4%精度が向上する。 これにより,標準計算ハードウェアを用いて,デジタル病理学における深層学習ソリューションの実現可能性を高めることができる。

関連論文リスト

• Additional Look into GAN-based Augmentation for Deep Learning COVID-19 Image Classification [57.1795052451257]
  我々は,GANに基づく拡張性能のデータセットサイズ依存性について,小サンプルに着目して検討した。 両方のセットでStyleGAN2-ADAをトレーニングし、生成した画像の品質を検証した後、マルチクラス分類問題における拡張アプローチの1つとしてトレーニングされたGANを使用する。 GANベースの拡張アプローチは、中規模および大規模データセットでは古典的な拡張に匹敵するが、より小さなデータセットでは不十分である。
  論文  参考訳（メタデータ） (2024-01-26T08:28:13Z)
• Learned Image resizing with efficient training (LRET) facilitates improved performance of large-scale digital histopathology image classification models [0.0]
  組織学的検査は腫瘍学の研究と診断において重要な役割を担っている。 深層畳み込みニューラルネットワーク(DCNN)のトレーニングへの最近のアプローチは、最適下モデルの性能をもたらす。 本稿では,従来の病理組織学分類モデルトレーニングの主な限界に対処する新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2024-01-19T23:45:47Z)
• Attention to detail: inter-resolution knowledge distillation [1.927195358774599]
  デジタル病理学におけるギガピクセル画像のためのコンピュータビジョンソリューションの開発は、スライド画像全体の大きさによって妨げられる。 近年の文献では, 画像分解能の低下によるモデル性能の向上を目的として, 知識蒸留法が提案されている。 本研究では,トレーニング中に注意マップを組み込むことで,これらの情報を抽出することを提案する。
  論文  参考訳（メタデータ） (2024-01-11T16:16:20Z)
• Iterative-in-Iterative Super-Resolution Biomedical Imaging Using One Real Image [8.412910029745762]
  本稿では,1つの実画像のみを用いて深層学習に基づく超解像モデルを訓練する手法を提案する。 我々は,地中真実に類似した分布を持つ画像を自動的に選択するために,画像スクリーニングの混合指標を用いる。 5回のトレーニングの後、提案されたディープラーニングベースの超解像モデルでは、構造的類似性とピーク信号対雑音比が7.5%と5.49%改善した。
  論文  参考訳（メタデータ） (2023-06-26T07:57:03Z)
• Performance of GAN-based augmentation for deep learning COVID-19 image classification [57.1795052451257]
  ディープラーニングを医療分野に適用する上で最大の課題は、トレーニングデータの提供である。 データ拡張は、限られたデータセットに直面した時に機械学習で使用される典型的な方法論である。 本研究は, 新型コロナウイルスの胸部X線画像セットを限定して, StyleGAN2-ADAモデルを用いて訓練するものである。
  論文  参考訳（メタデータ） (2023-04-18T15:39:58Z)
• SSD-KD: A Self-supervised Diverse Knowledge Distillation Method for Lightweight Skin Lesion Classification Using Dermoscopic Images [62.60956024215873]
  皮膚がんは最も一般的な悪性腫瘍の1つであり、人口に影響を与え、世界中で経済的な重荷を負っている。 皮膚がん検出のほとんどの研究は、ポータブルデバイス上での計算資源の制限を考慮せずに、高い予測精度を追求している。 本研究は,皮膚疾患分類のための汎用的なKDフレームワークに多様な知識を統一する,SSD-KDと呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-03-22T06:54:29Z)
• Categorical Relation-Preserving Contrastive Knowledge Distillation for Medical Image Classification [75.27973258196934]
  そこで本研究では,一般的な平均教師モデルであるCRCKD(Categorical Relation-Reserving Contrastive Knowledge Distillation)アルゴリズムを提案する。 この正規化により、学生モデルの特徴分布はクラス内類似度が高く、クラス間分散を示す。 CCDとCRPの貢献により、我々のCRCKDアルゴリズムはより包括的に関係知識を蒸留することができる。
  論文  参考訳（メタデータ） (2021-07-07T13:56:38Z)
• Many-to-One Distribution Learning and K-Nearest Neighbor Smoothing for Thoracic Disease Identification [83.6017225363714]
  ディープラーニングは、病気の識別性能を改善するための最も強力なコンピュータ支援診断技術となった。 胸部X線撮影では、大規模データの注釈付けには専門的なドメイン知識が必要で、時間を要する。 本論文では、単一モデルにおける疾患同定性能を改善するために、複数対1の分布学習(MODL)とK-nearest neighbor smoothing(KNNS)手法を提案する。
  論文  参考訳（メタデータ） (2021-02-26T02:29:30Z)
• Classification of COVID-19 in CT Scans using Multi-Source Transfer Learning [91.3755431537592]
  我々は,従来のトランスファー学習の改良にマルチソース・トランスファー・ラーニングを応用して,CTスキャンによる新型コロナウイルスの分類を提案する。 マルチソースファインチューニングアプローチでは、ImageNetで微調整されたベースラインモデルよりも優れています。 我々の最高のパフォーマンスモデルは、0.893の精度と0.897のリコールスコアを達成でき、ベースラインのリコールスコアを9.3%上回った。
  論文  参考訳（メタデータ） (2020-09-22T11:53:06Z)
• Optimal Transfer Learning Model for Binary Classification of Funduscopic Images through Simple Heuristics [0.8370915747360484]
  深層学習ニューラルネットワークを用いて、眼内画像の視覚的表現を診断する。 本稿では, 病原体が健康であるか, 病原体なのかを, 低コストで推定する, 病原体分類の統一モデルを提案する。
  論文  参考訳（メタデータ） (2020-02-11T03:49:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。