論文の概要: Knowledge Distillation approach towards Melanoma Detection
- arxiv url: http://arxiv.org/abs/2210.08086v1
- Date: Fri, 14 Oct 2022 20:18:07 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-18 16:04:29.606668
- Title: Knowledge Distillation approach towards Melanoma Detection
- Title(参考訳): 知識蒸留法によるメラノーマ検出
- Authors: Md. Shakib Khan, Kazi Nabiul Alam, Abdur Rab Dhruba, Hasib Zunair,
Nabeel Mohammed
- Abstract要約: メラノーマはすべての皮膚がんの中で最も危険であると考えられている。
メラノーマの早期発見と、患者のタイムリーな治療を可能にするシステムを構築する必要がある。
近年の手法は、画像認識や、メラノーマや非メラノーマなどの皮膚病変の画像にタグを付ける機械学習に基づくシステムに向けられている。
- 参考スコア(独自算出の注目度): 0.7250756081498245
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Melanoma is regarded as the most threatening among all skin cancers. There is
a pressing need to build systems which can aid in the early detection of
melanoma and enable timely treatment to patients. Recent methods are geared
towards machine learning based systems where the task is posed as image
recognition, tag dermoscopic images of skin lesions as melanoma or
non-melanoma. Even though these methods show promising results in terms of
accuracy, they are computationally quite expensive to train, that questions the
ability of these models to be deployable in a clinical setting or memory
constraint devices. To address this issue, we focus on building simple and
performant models having few layers, less than ten compared to hundreds. As
well as with fewer learnable parameters, 0.26 million (M) compared to 42.5M
using knowledge distillation with the goal to detect melanoma from dermoscopic
images. First, we train a teacher model using a ResNet-50 to detect melanoma.
Using the teacher model, we train the student model known as Distilled Student
Network (DSNet) which has around 0.26M parameters using knowledge distillation
achieving an accuracy of 91.7%. We compare against ImageNet pre-trained models
such MobileNet, VGG-16, Inception-V3, EfficientNet-B0, ResNet-50 and
ResNet-101. We find that our approach works well in terms of inference runtime
compared to other pre-trained models, 2.57 seconds compared to 14.55 seconds.
We find that DSNet (0.26M parameters), which is 15 times smaller, consistently
performs better than EfficientNet-B0 (4M parameters) in both melanoma and
non-melanoma detection across Precision, Recall and F1 scores
- Abstract(参考訳): メラノーマはすべての皮膚がんの中で最も危険であると考えられている。
悪性黒色腫の早期発見と、患者へのタイムリーな治療を可能にするシステムを構築する必要がある。
近年の手法は、画像認識や、メラノーマや非メラノーマなどの皮膚病変の画像にタグを付ける機械学習に基づくシステムに向けられている。
これらの手法は精度の面で有望な結果を示すが、トレーニングにはかなりコストがかかるため、臨床設定やメモリ制約デバイスにこれらのモデルをデプロイする能力に疑問を呈する。
この問題に対処するために、数百と比較して10未満のレイヤが少ない単純でパフォーマンスの高いモデルを構築することに重点を置いています。
学習可能なパラメータは少ないが、42.5Mと比較して0.26万 (M) であり、皮膚内視鏡画像からメラノーマを検出することが目的である。
まず,ResNet-50を用いて教師モデルを訓練し,メラノーマを検出する。
教師モデルを用いて, 約0.26mパラメータを有する蒸留学生ネットワーク (dsnet) と呼ばれる学生モデルを, 91.7%の精度で学習する。
mobilenet, vgg-16, inception-v3, efficientnet-b0, resnet-50, resnet-101などのimagenet事前学習モデルと比較した。
我々のアプローチは、他のトレーニング済みモデルと比べて、14.55秒に比べて2.57秒の推論ランタイムでうまく機能している。
DSNet (0.26Mパラメータ) は, 精度, リコール, F1スコア間のメラノーマ, 非メラノーマの検出において, 有効Net-B0 (4Mパラメータ) よりも常に優れていた。
関連論文リスト
- Brain Tumor Classification on MRI in Light of Molecular Markers [61.77272414423481]
1p/19q遺伝子の同時欠失は、低グレードグリオーマの臨床成績と関連している。
本研究の目的は,MRIを用いた畳み込みニューラルネットワークを脳がん検出に活用することである。
論文 参考訳(メタデータ) (2024-09-29T07:04:26Z) - Skin Cancer Detection utilizing Deep Learning: Classification of Skin Lesion Images using a Vision Transformer [0.0]
我々は、自己認識機構のアイデアに基づいて開発された視覚変換器(ViT)を用いる。
ViT-L32モデルは91.57%、メラノーマリコールは58.54%、ViT-L16は92.79%、メラノーマリコールは56.10%である。
論文 参考訳(メタデータ) (2024-07-26T07:06:42Z) - A Comparative Analysis Towards Melanoma Classification Using Transfer
Learning by Analyzing Dermoscopic Images [0.0]
本稿では,皮膚病変の分類と診断を可能にするために,深層学習技術と確立された転写学習手法を組み合わせたシステムを提案する。
研究者たちは'Deep Learning'テクニックを使って、膨大な数の写真を訓練し、基本的には期待される結果を得る。
DenseNetは、96.64%のバリデーション精度、9.43%のバリデーション損失、99.63%のテストセット精度など、他のものよりも優れていた。
論文 参考訳(メタデータ) (2023-12-02T19:46:48Z) - SkinDistilViT: Lightweight Vision Transformer for Skin Lesion
Classification [2.565087754012606]
我々は、専門家が注釈を付けたメラノーマの医療画像に視覚変換器を訓練する。
我々は,教師のバランスの取れた複数クラスの精度の98.33%を,コストのごく一部で保持するモデルを得る。
論文 参考訳(メタデータ) (2023-08-16T20:39:06Z) - Core Risk Minimization using Salient ImageNet [53.616101711801484]
私たちは、1000のImagenetクラスのコアとスプリアス機能をローカライズする100万人以上のソフトマスクを備えたSalient Imagenetデータセットを紹介します。
このデータセットを用いて、まず、いくつかのImagenet事前訓練されたモデル(総計42件)の素早い特徴に対する依存度を評価する。
次に、コアリスク最小化(CoRM)と呼ばれる新しい学習パラダイムを導入する。
論文 参考訳(メタデータ) (2022-03-28T01:53:34Z) - EMT-NET: Efficient multitask network for computer-aided diagnosis of
breast cancer [58.720142291102135]
乳腺腫瘍の分類と分別を同時に行うための,効率的で軽量な学習アーキテクチャを提案する。
腫瘍分類ネットワークにセグメンテーションタスクを組み込むことにより,腫瘍領域に着目したバックボーンネットワークで表現を学習する。
腫瘍分類の精度、感度、特異性はそれぞれ88.6%、94.1%、85.3%である。
論文 参考訳(メタデータ) (2022-01-13T05:24:40Z) - Wide & Deep neural network model for patch aggregation in CNN-based
prostate cancer detection systems [51.19354417900591]
前立腺癌(PCa)は、2020年に約141万件の新規感染者と約37万5000人の死者を出した男性の死因の1つである。
自動診断を行うには、まず前立腺組織サンプルをギガピクセル分解能全スライド画像にデジタイズする。
パッチと呼ばれる小さなサブイメージが抽出され、予測され、パッチレベルの分類が得られる。
論文 参考訳(メタデータ) (2021-05-20T18:13:58Z) - DisCo: Remedy Self-supervised Learning on Lightweight Models with
Distilled Contrastive Learning [94.89221799550593]
SSL(Self-supervised representation Learning)はコミュニティから広く注目を集めている。
最近の研究では、モデルサイズが小さくなれば、その性能は低下すると主張している。
単純かつ効果的な蒸留コントラスト学習(DisCo)を提案し、問題を大きなマージンで緩和します。
論文 参考訳(メタデータ) (2021-04-19T08:22:52Z) - Deep Transfer Learning for Automated Diagnosis of Skin Lesions from
Photographs [0.0]
メラノーマは最も一般的な皮膚がんではないが、最も致命的な病気である。現在、この病気は専門の皮膚科医によって診断されている。費用がかかり、治療に時間を要する。
近年の深層学習の進歩は、診断性能の向上、緊急紹介の迅速化、臨床医の負担軽減につながる可能性がある。
論文 参考訳(メタデータ) (2020-11-06T16:49:40Z) - Classification of COVID-19 in CT Scans using Multi-Source Transfer
Learning [91.3755431537592]
我々は,従来のトランスファー学習の改良にマルチソース・トランスファー・ラーニングを応用して,CTスキャンによる新型コロナウイルスの分類を提案する。
マルチソースファインチューニングアプローチでは、ImageNetで微調整されたベースラインモデルよりも優れています。
我々の最高のパフォーマンスモデルは、0.893の精度と0.897のリコールスコアを達成でき、ベースラインのリコールスコアを9.3%上回った。
論文 参考訳(メタデータ) (2020-09-22T11:53:06Z) - Method to Classify Skin Lesions using Dermoscopic images [0.0]
皮膚がんは、がん患者の3分の1を構成する既存の世界でもっとも一般的ながんである。
そこで本研究では,CNN(Convolution Neural Networks)をトレーニングモデルとして,皮膚画像を用いた皮膚病変の自動分類モデルを開発した。
このモデルが達成できる最良の精度は0.886である。
論文 参考訳(メタデータ) (2020-08-21T10:58:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。