論文の概要: AI can evolve without labels: self-evolving vision transformer for chest X-ray diagnosis through knowledge distillation

• arxiv url: http://arxiv.org/abs/2202.06431v1
• Date: Sun, 13 Feb 2022 22:40:46 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-15 15:32:48.843393
• Title: AI can evolve without labels: self-evolving vision transformer for chest X-ray diagnosis through knowledge distillation
• Title（参考訳）: AIはラベルなしで進化できる:知識蒸留による胸部X線診断のための自己進化型視覚変換器
• Authors: Sangjoon Park, Gwanghyun Kim, Yujin Oh, Joon Beom Seo, Sang Min Lee, Jin Hwan Kim, Sungjun Moon, Jae-Kwang Lim, Chang Min Park, and Jong Chul Ye
• Abstract要約: 本稿では,自己指導型学習と自己学習による知識蒸留を利用した新しい深層学習フレームワークを提案する。 実験の結果,提案フレームワークは実環境に対して顕著な堅牢性を維持していることがわかった。 提案されたフレームワークは、毎年大量のデータが蓄積される医療画像にとって大きな可能性を秘めている。
• 参考スコア（独自算出の注目度）: 30.075714642990768
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Although deep learning-based computer-aided diagnosis systems have recently achieved expert-level performance, developing a robust deep learning model requires large, high-quality data with manual annotation, which is expensive to obtain. This situation poses the problem that the chest x-rays collected annually in hospitals cannot be used due to the lack of manual labeling by experts, especially in deprived areas. To address this, here we present a novel deep learning framework that uses knowledge distillation through self-supervised learning and self-training, which shows that the performance of the original model trained with a small number of labels can be gradually improved with more unlabeled data. Experimental results show that the proposed framework maintains impressive robustness against a real-world environment and has general applicability to several diagnostic tasks such as tuberculosis, pneumothorax, and COVID-19. Notably, we demonstrated that our model performs even better than those trained with the same amount of labeled data. The proposed framework has a great potential for medical imaging, where plenty of data is accumulated every year, but ground truth annotations are expensive to obtain.
• Abstract（参考訳）: ディープラーニングに基づくコンピュータ支援診断システムは最近、専門家レベルのパフォーマンスを達成したが、堅牢なディープラーニングモデルを開発するには、手動アノテーションによる大規模で高品質なデータが必要である。 この状況は、特に奪われた地域では、専門家による手動ラベリングの欠如により、毎年病院で収集される胸部X線は使用できないという問題を引き起こす。 そこで本研究では,自己指導型学習と自己学習による知識蒸留を利用した新たなディープラーニングフレームワークを提案する。 実験の結果, 提案手法は現実環境に対する優れた堅牢性を維持し, 結核, 気胸, およびcovid-19などの診断タスクに適用可能であることがわかった。 特に、同じラベル付きデータでトレーニングされたモデルよりも、我々のモデルの方がパフォーマンスがよいことを示した。 提案するフレームワークは医療画像に非常に大きな可能性を秘めており、毎年大量のデータが蓄積されているが、根拠となる真実の注釈を得るには高価である。

関連論文リスト

• Automated Labeling of German Chest X-Ray Radiology Reports using Deep Learning [50.591267188664666]
  本稿では,ルールベースのドイツ語CheXpertモデルによってラベル付けされたレポートに基づいて,ディープラーニングに基づくCheXpertラベル予測モデルを提案する。 その結果,3つのタスクすべてにおいて,ルールベースモデルを大幅に上回ったアプローチの有効性が示された。
  論文  参考訳（メタデータ） (2023-06-09T16:08:35Z)
• Deep Reinforcement Learning Framework for Thoracic Diseases Classification via Prior Knowledge Guidance [49.87607548975686]
  関連疾患に対するラベル付きデータの不足は、正確な診断にとって大きな課題となる。 本稿では,診断エージェントの学習を指導するための事前知識を導入する,新しい深層強化学習フレームワークを提案する。 提案手法の性能はNIHX-ray 14とCheXpertデータセットを用いて実証した。
  論文  参考訳（メタデータ） (2023-06-02T01:46:31Z)
• Time-based Self-supervised Learning for Wireless Capsule Endoscopy [1.3514953384460016]
  本研究は,無線内視鏡ビデオにおける自己教師あり学習の活用を提案する。 本研究では,時間軸から抽出した推定固有構造を用いることで,重度の不均衡下であっても,複数の領域固有のアプリケーションにおける検出率を向上させることを証明する。
  論文  参考訳（メタデータ） (2022-04-20T20:31:06Z)
• LifeLonger: A Benchmark for Continual Disease Classification [59.13735398630546]
  MedMNISTコレクションの連続的な疾患分類のためのベンチマークであるLifeLongerを紹介する。 タスクとクラスでの病気の漸進的な学習は、モデルをスクラッチから再トレーニングすることなく、新しいサンプルを分類する問題に対処する。 クロスドメインインクリメンタル学習は、これまで得られた知識を維持しながら、異なる機関から派生したデータセットを扱う問題に対処する。
  論文  参考訳（メタデータ） (2022-04-12T12:25:05Z)
• Many-to-One Distribution Learning and K-Nearest Neighbor Smoothing for Thoracic Disease Identification [83.6017225363714]
  ディープラーニングは、病気の識別性能を改善するための最も強力なコンピュータ支援診断技術となった。 胸部X線撮影では、大規模データの注釈付けには専門的なドメイン知識が必要で、時間を要する。 本論文では、単一モデルにおける疾患同定性能を改善するために、複数対1の分布学習(MODL)とK-nearest neighbor smoothing(KNNS)手法を提案する。
  論文  参考訳（メタデータ） (2021-02-26T02:29:30Z)
• Towards Trainable Saliency Maps in Medical Imaging [4.438919530397659]
  アーキテクチャの複雑さとモデルタスクの両方に非依存なモデル設計要素を導入することが、本質的に自己説明型モデルをもたらすことを示す。 本研究は,RSNA肺炎データセットにおける非トレーニング性唾液濃度マップの現状と比較し,導入した手法を用いて,より高い局所化効果を示す。
  論文  参考訳（メタデータ） (2020-11-15T09:01:55Z)
• Learning Invariant Feature Representation to Improve Generalization across Chest X-ray Datasets [55.06983249986729]
  我々は、トレーニングデータと同じデータセットでテストすると、ディープラーニングモデルが、異なるソースからデータセットでテストされると、パフォーマンスが低下し始めることを示す。 対戦型トレーニング戦略を用いることで、ネットワークはソース不変表現を学習せざるを得ないことを示す。
  論文  参考訳（メタデータ） (2020-08-04T07:41:15Z)
• Self-Training with Improved Regularization for Sample-Efficient Chest X-Ray Classification [80.00316465793702]
  挑戦的なシナリオで堅牢なモデリングを可能にするディープラーニングフレームワークを提案する。 その結果,85%のラベル付きデータを用いて,大規模データ設定で学習した分類器の性能に適合する予測モデルを構築することができた。
  論文  参考訳（メタデータ） (2020-05-03T02:36:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。