論文の概要: Leveraging Knowledge Distillation for Lightweight Skin Cancer Classification: Balancing Accuracy and Computational Efficiency
- arxiv url: http://arxiv.org/abs/2406.17051v1
- Date: Mon, 24 Jun 2024 18:13:09 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-26 18:40:56.026479
- Title: Leveraging Knowledge Distillation for Lightweight Skin Cancer Classification: Balancing Accuracy and Computational Efficiency
- Title(参考訳): 軽度皮膚癌分類における知識蒸留の活用 : 精度と計算効率のバランス
- Authors: Niful Islam, Khan Md Hasib, Fahmida Akter Joti, Asif Karim, Sami Azam,
- Abstract要約: 皮膚がんは公衆衛生にとって大きな関心事であり、報告されているがんの3分の1を占めている。
本稿では,軽量ながら高い性能の分類器を作成するための知識蒸留に基づく手法を提案する。
高精度でコンパクトなサイズを持つため、われわれのモデルは、特に資源制約のある環境では、正確な皮膚がん分類の候補となる可能性がある。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Skin cancer is a major concern to public health, accounting for one-third of the reported cancers. If not detected early, the cancer has the potential for severe consequences. Recognizing the critical need for effective skin cancer classification, we address the limitations of existing models, which are often too large to deploy in areas with limited computational resources. In response, we present a knowledge distillation based approach for creating a lightweight yet high-performing classifier. The proposed solution involves fusing three models, namely ResNet152V2, ConvNeXtBase, and ViT Base, to create an effective teacher model. The teacher model is then employed to guide a lightweight student model of size 2.03 MB. This student model is further compressed to 469.77 KB using 16-bit quantization, enabling smooth incorporation into edge devices. With six-stage image preprocessing, data augmentation, and a rigorous ablation study, the model achieves an impressive accuracy of 98.75% on the HAM10000 dataset and 98.94% on the Kaggle dataset in classifying benign and malignant skin cancers. With its high accuracy and compact size, our model appears to be a potential choice for accurate skin cancer classification, particularly in resource-constrained settings.
- Abstract(参考訳): 皮膚がんは公衆衛生にとって大きな関心事であり、報告されているがんの3分の1を占めている。
早期に発見されなければ、がんは重篤な結果をもたらす可能性がある。
有効な皮膚がん分類の必要性を認識し、計算資源が限られている領域に展開するには、しばしば大きすぎる既存のモデルの限界に対処する。
そこで本研究では,軽量だが高性能な分類器を作成するための知識蒸留に基づく手法を提案する。
提案されたソリューションは、3つのモデル、すなわちResNet152V2、ConvNeXtBase、ViT Baseを融合して効果的な教師モデルを作成する。
教師モデルは、2.03MBの軽量の学生モデルをガイドするために使用される。
この学生モデルは16ビット量子化を使用して469.77KBに圧縮され、エッジデバイスへのスムーズな取り込みを可能にする。
6段階の画像前処理、データ拡張、厳密なアブレーションの研究により、HAM10000データセットでは98.75%、Kaggleデータセットでは98.94%の精度で良性および悪性皮膚がんを分類している。
高精度でコンパクトなサイズを持つため、われわれのモデルは、特に資源制約のある環境では、正確な皮膚がん分類の候補となる可能性がある。
関連論文リスト
- Skin Cancer Images Classification using Transfer Learning Techniques [0.0]
良性期における皮膚癌の早期診断は、がん死亡率の低下に重要である。
これまで,様々な深層学習モデルを用いた皮膚癌診断の課題に対処してきた。
本研究は, 良性および悪性期における皮膚癌検出のバイナリ分類に, 5種類の事前学習型トランスファーラーニングアプローチを適用した。
論文 参考訳(メタデータ) (2024-06-18T15:48:20Z) - Boosting Medical Image-based Cancer Detection via Text-guided Supervision from Reports [68.39938936308023]
本研究では, 高精度ながん検出を実現するための新しいテキスト誘導学習法を提案する。
本手法は,大規模プレトレーニングVLMによる臨床知識の活用により,一般化能力の向上が期待できる。
論文 参考訳(メタデータ) (2024-05-23T07:03:38Z) - Diagnosis of Skin Cancer Using VGG16 and VGG19 Based Transfer Learning Models [0.6827423171182154]
ディープ畳み込みニューラルネットワーク(CNN)は、データと画像の分類に優れた可能性を示している。
本稿では,CNNを用いた皮膚病変分類問題について検討する。
本研究では, 転写学習の枠組みを適切に設計し, 適用することにより, 病変検出の顕著な分類精度を得ることができることを示す。
論文 参考訳(メタデータ) (2024-04-01T15:06:20Z) - Explainable Knowledge Distillation for On-device Chest X-Ray
Classification [7.319145625411966]
実時間多ラベルCXR画像分類のための,コンパクトな深層学習モデルを作成するための知識蒸留(KD)戦略を提案する。
3つのベンチマークCXRデータセットの結果から,我々のKD戦略は,コンパクトな学生モデルの性能向上を図っている。
論文 参考訳(メタデータ) (2023-05-10T15:25:05Z) - Multi-class Skin Cancer Classification Architecture Based on Deep
Convolutional Neural Network [2.4469484645516837]
本稿では,異なる種類の皮膚病変を正確に同定するコンピュータによる深層学習手法を提案する。
ディープラーニングアプローチは、モデルが画像の各ピクセルを学習するため、皮膚がんを極めて正確に検出することができる。
いくつかのディープラーニングモデルには制限があり、モデルが偽陽性の結果に導かれる。
論文 参考訳(メタデータ) (2023-03-13T23:16:18Z) - Federated Learning Enables Big Data for Rare Cancer Boundary Detection [98.5549882883963]
6大陸にわたる71の医療機関のデータを含む,これまでで最大のフェデレーテッドML研究の結果を報告する。
グリオ芽腫の稀な疾患に対する腫瘍境界自動検出装置を作製した。
当科では, 外科的に標的とした腫瘍の悪性度を高めるために, 33%の改善率を示し, 腫瘍全体に対する23%の改善率を示した。
論文 参考訳(メタデータ) (2022-04-22T17:27:00Z) - New pyramidal hybrid textural and deep features based automatic skin
cancer classification model: Ensemble DarkNet and textural feature extractor [1.4502611532302039]
本研究は, 皮膚癌自動検出の課題を克服することを目的とする。
自動多段階テクスチャおよびディープ特徴ベースモデルを提案する。
選ばれた上位1000の機能は、10倍のクロスバリデーション技術を使って分類される。
論文 参考訳(メタデータ) (2022-03-28T20:53:09Z) - SSD-KD: A Self-supervised Diverse Knowledge Distillation Method for
Lightweight Skin Lesion Classification Using Dermoscopic Images [62.60956024215873]
皮膚がんは最も一般的な悪性腫瘍の1つであり、人口に影響を与え、世界中で経済的な重荷を負っている。
皮膚がん検出のほとんどの研究は、ポータブルデバイス上での計算資源の制限を考慮せずに、高い予測精度を追求している。
本研究は,皮膚疾患分類のための汎用的なKDフレームワークに多様な知識を統一する,SSD-KDと呼ばれる新しい手法を提案する。
論文 参考訳(メタデータ) (2022-03-22T06:54:29Z) - EMT-NET: Efficient multitask network for computer-aided diagnosis of
breast cancer [58.720142291102135]
乳腺腫瘍の分類と分別を同時に行うための,効率的で軽量な学習アーキテクチャを提案する。
腫瘍分類ネットワークにセグメンテーションタスクを組み込むことにより,腫瘍領域に着目したバックボーンネットワークで表現を学習する。
腫瘍分類の精度、感度、特異性はそれぞれ88.6%、94.1%、85.3%である。
論文 参考訳(メタデータ) (2022-01-13T05:24:40Z) - Many-to-One Distribution Learning and K-Nearest Neighbor Smoothing for
Thoracic Disease Identification [83.6017225363714]
ディープラーニングは、病気の識別性能を改善するための最も強力なコンピュータ支援診断技術となった。
胸部X線撮影では、大規模データの注釈付けには専門的なドメイン知識が必要で、時間を要する。
本論文では、単一モデルにおける疾患同定性能を改善するために、複数対1の分布学習(MODL)とK-nearest neighbor smoothing(KNNS)手法を提案する。
論文 参考訳(メタデータ) (2021-02-26T02:29:30Z) - A Systematic Approach to Featurization for Cancer Drug Sensitivity
Predictions with Deep Learning [49.86828302591469]
35,000以上のニューラルネットワークモデルをトレーニングし、一般的な成果化技術を駆使しています。
RNA-seqは128以上のサブセットであっても非常に冗長で情報的であることがわかった。
論文 参考訳(メタデータ) (2020-04-30T20:42:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。