論文の概要: RoS-KD: A Robust Stochastic Knowledge Distillation Approach for Noisy Medical Imaging

• arxiv url: http://arxiv.org/abs/2210.08388v1
• Date: Sat, 15 Oct 2022 22:32:20 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-18 17:25:29.378988
• Title: RoS-KD: A Robust Stochastic Knowledge Distillation Approach for Noisy Medical Imaging
• Title（参考訳）: RoS-KD : ノイズ医学イメージングのためのロバスト確率的知識蒸留法
• Authors: Ajay Jaiswal, Kumar Ashutosh, Justin F Rousseau, Yifan Peng, Zhangyang Wang, and Ying Ding
• Abstract要約: ノイズの多いデータセットでトレーニングされたディープラーニングモデルは、ノイズタイプに敏感であり、目に見えないサンプルの一般化が少なくなる。 本稿では,複数の情報源からトピックを学習する概念を模倣したロバスト知識蒸留(RoS-KD)フレームワークを提案する。 RoS-KDは、訓練データの重複する部分集合について訓練された複数の教師から知識を蒸留することにより、滑らかで、よく表現された、堅牢な学生多様体を学習する。
• 参考スコア（独自算出の注目度）: 67.02500668641831
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI-powered Medical Imaging has recently achieved enormous attention due to its ability to provide fast-paced healthcare diagnoses. However, it usually suffers from a lack of high-quality datasets due to high annotation cost, inter-observer variability, human annotator error, and errors in computer-generated labels. Deep learning models trained on noisy labelled datasets are sensitive to the noise type and lead to less generalization on the unseen samples. To address this challenge, we propose a Robust Stochastic Knowledge Distillation (RoS-KD) framework which mimics the notion of learning a topic from multiple sources to ensure deterrence in learning noisy information. More specifically, RoS-KD learns a smooth, well-informed, and robust student manifold by distilling knowledge from multiple teachers trained on overlapping subsets of training data. Our extensive experiments on popular medical imaging classification tasks (cardiopulmonary disease and lesion classification) using real-world datasets, show the performance benefit of RoS-KD, its ability to distill knowledge from many popular large networks (ResNet-50, DenseNet-121, MobileNet-V2) in a comparatively small network, and its robustness to adversarial attacks (PGD, FSGM). More specifically, RoS-KD achieves >2% and >4% improvement on F1-score for lesion classification and cardiopulmonary disease classification tasks, respectively, when the underlying student is ResNet-18 against recent competitive knowledge distillation baseline. Additionally, on cardiopulmonary disease classification task, RoS-KD outperforms most of the SOTA baselines by ~1% gain in AUC score.
• Abstract（参考訳）: AIを利用したメディカルイメージングは、医療診断の迅速化によって、最近大きな注目を集めている。 しかし、通常は高いアノテーションコスト、オブザーバ間の可変性、ヒューマンアノテータエラー、コンピュータ生成ラベルのエラーなどにより、高品質なデータセットの欠如に苦しむ。 ノイズラベル付きデータセットでトレーニングされたディープラーニングモデルは、ノイズタイプに敏感であり、目に見えないサンプルの一般化を減少させる。 この課題に対処するために,複数の情報源からトピックを学習する概念を模倣したロバスト確率的知識蒸留(RoS-KD)フレームワークを提案する。 より具体的には、RoS-KDは、訓練データの重複部分集合について訓練された複数の教師から知識を蒸留することで、滑らかで、よく表現され、堅牢な学生多様体を学ぶ。 実世界のデータセットを用いた一般的な医用画像分類タスク(心肺疾患と病変分類)に関する広範な実験は、RoS-KDの性能上の利点、比較的小さなネットワーク(ResNet-50, DenseNet-121, MobileNet-V2)で多くの大手ネットワークから知識を抽出する能力、および敵対的攻撃(PGD, FSGM)に対する堅牢性を示す。 より具体的には、RoS-KDは、近年の競争的知識蒸留ベースラインに対してResNet-18であるときに、病変分類および心肺疾患分類タスクにおいて、F1スコアの2%と4%の改善を達成する。 さらに、心肺疾患分類タスクでは、RoS-KDはAUCスコアにおいてSOTAベースラインの大部分を約1%向上させる。

関連論文リスト

• Deep Learning-Based Assessment of Cerebral Microbleeds in COVID-19 [0.5382679710017695]
  脳微小血腫(CMBs)は感受性強調画像(SWI)から低強度で観察される 新型コロナウイルスに関する最近の研究は、新型コロナウイルス感染者のCMBの増加を示している。 既存のディープラーニング手法はほとんどが、非常に限られた研究データに基づいて訓練されている。 マルチドメインデータに積極的に学習する効率的な3次元ディープラーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-01-23T08:46:17Z)
• Machine Learning Performance Analysis to Predict Stroke Based on Imbalanced Medical Dataset [0.0]
  脳卒中は、世界で2番目に重大な死因であり、ここ数年で主要な公衆衛生上の問題となっている。 医療データセットは、しばしばクラスラベルで不均衡であり、少数クラスの予測が不十分な傾向にある。 本稿では,脳卒中リスク要因について検討する。 不均衡脳卒中データセットにおけるマイノリティクラスの分類を改善するために, 4つの特徴的アプローチを適用した。
  論文  参考訳（メタデータ） (2022-11-14T17:36:46Z)
• Knowledge distillation with a class-aware loss for endoscopic disease detection [1.1470070927586016]
  本研究では, 深層学習を活用して, 病変検出の困難さの局所化を改善するためのフレームワークを開発する。 本モデルは,内視鏡的疾患検出課題とKvasir-SEGデータセットの両方において,平均平均精度(mAP)において高い性能を実現する。
  論文  参考訳（メタデータ） (2022-07-19T19:56:12Z)
• When Accuracy Meets Privacy: Two-Stage Federated Transfer Learning Framework in Classification of Medical Images on Limited Data: A COVID-19 Case Study [77.34726150561087]
  新型コロナウイルスのパンデミックが急速に広がり、世界の医療資源が不足している。 CNNは医療画像の解析に広く利用され、検証されている。
  論文  参考訳（メタデータ） (2022-03-24T02:09:41Z)
• SSD-KD: A Self-supervised Diverse Knowledge Distillation Method for Lightweight Skin Lesion Classification Using Dermoscopic Images [62.60956024215873]
  皮膚がんは最も一般的な悪性腫瘍の1つであり、人口に影響を与え、世界中で経済的な重荷を負っている。 皮膚がん検出のほとんどの研究は、ポータブルデバイス上での計算資源の制限を考慮せずに、高い予測精度を追求している。 本研究は,皮膚疾患分類のための汎用的なKDフレームワークに多様な知識を統一する,SSD-KDと呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-03-22T06:54:29Z)
• Machine Learning-Based Classification Algorithms for the Prediction of Coronary Heart Diseases [0.0]
  この研究は、いくつかの機械学習に基づく分類モデルを作成し、テストした。 その結果、ロジスティック回帰は、元のデータセット上で最高のパフォーマンススコアを生み出した。 結論として,順調に処理され,標準化されたデータセット上のLRが,他のアルゴリズムよりも精度の高い冠状心疾患を予測できることが示唆された。
  論文  参考訳（メタデータ） (2021-12-02T18:52:56Z)
• Improving Medical Image Classification with Label Noise Using Dual-uncertainty Estimation [72.0276067144762]
  医用画像における2種類のラベルノイズについて論じ,定義する。 医用画像分類作業中にこれら2つのラベルノイズを処理する不確実性推定に基づくフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-02-28T14:56:45Z)
• A Benchmark for Studying Diabetic Retinopathy: Segmentation, Grading, and Transferability [76.64661091980531]
  糖尿病患者は糖尿病網膜症(DR)を発症するリスクがある コンピュータ支援型DR診断は、DRの早期検出と重度評価のための有望なツールである。 このデータセットは、ピクセルレベルのDR関連病変アノテーションを持つ1,842枚の画像と、6人の眼科医によって評価された画像レベルのラベルを持つ1,000枚の画像を有する。
  論文  参考訳（メタデータ） (2020-08-22T07:48:04Z)
• Deep Multi-Scale Resemblance Network for the Sub-class Differentiation of Adrenal Masses on Computed Tomography Images [16.041873352037594]
  副腎の腫瘤は良性または悪性であり、良性は様々な有病率を持つ。 CNNは、大規模な医用画像訓練データセットのクラス間差を最大化する最先端技術である。 副腎腫瘤に対するCNNの応用は、大きなクラス内変異、大きなクラス間類似性、不均衡なトレーニングデータにより困難である。 そこで我々は,これらの制約を克服する深層マルチスケール類似ネットワーク(DMRN)を開発し,クラス内類似性を評価するためにペアCNNを利用した。
  論文  参考訳（メタデータ） (2020-07-29T06:24:53Z)
• Multi-label Thoracic Disease Image Classification with Cross-Attention Networks [65.37531731899837]
  胸部X線画像から胸部疾患を自動分類するためのCAN(Cross-Attention Networks)を提案する。 また,クロスエントロピー損失を超える新たな損失関数を設計し,クラス間の不均衡を克服する。
  論文  参考訳（メタデータ） (2020-07-21T14:37:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。