論文の概要: Unsupervised Representation Learning Meets Pseudo-Label Supervised
Self-Distillation: A New Approach to Rare Disease Classification
- arxiv url: http://arxiv.org/abs/2110.04558v1
- Date: Sat, 9 Oct 2021 12:56:09 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-12 17:33:25.307263
- Title: Unsupervised Representation Learning Meets Pseudo-Label Supervised
Self-Distillation: A New Approach to Rare Disease Classification
- Title（参考訳）: 非教師なし表現学習と擬似ラベルによる自己蒸留 : 希少疾患分類の新しいアプローチ
- Authors: Jinghan Sun, Dong Wei, Kai Ma, Liansheng Wang, and Yefeng Zheng
- Abstract要約: 本稿では,2つの重要な新奇性を有するレア疾患分類への新しいハイブリッドアプローチを提案する。
まず、自己監督型コントラスト損失に基づく教師なし表現学習(URL)を採用する。
第二に、これらのURLを擬似ラベル管理分類と統合し、稀な疾患に関する知識を効果的に自己蒸留する。
- 参考スコア（独自算出の注目度）: 26.864435224276964
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Rare diseases are characterized by low prevalence and are often chronically
debilitating or life-threatening. Imaging-based classification of rare diseases
is challenging due to the severe shortage in training examples. Few-shot
learning (FSL) methods tackle this challenge by extracting generalizable prior
knowledge from a large base dataset of common diseases and normal controls, and
transferring the knowledge to rare diseases. Yet, most existing methods require
the base dataset to be labeled and do not make full use of the precious
examples of the rare diseases. To this end, we propose in this work a novel
hybrid approach to rare disease classification, featuring two key novelties
targeted at the above drawbacks. First, we adopt the unsupervised
representation learning (URL) based on self-supervising contrastive loss,
whereby to eliminate the overhead in labeling the base dataset. Second, we
integrate the URL with pseudo-label supervised classification for effective
self-distillation of the knowledge about the rare diseases, composing a hybrid
approach taking advantages of both unsupervised and (pseudo-) supervised
learning on the base dataset. Experimental results on classification of rare
skin lesions show that our hybrid approach substantially outperforms existing
FSL methods (including those using fully supervised base dataset) for rare
disease classification via effective integration of the URL and pseudo-label
driven self-distillation, thus establishing a new state of the art.
- Abstract（参考訳）: まれな疾患は感染頻度が低く、慢性的な衰弱や生命を脅かす。
画像に基づく希少疾患の分類は,訓練例の不足により困難である。
FSL(Few-shot Learning)法は、一般的な疾患と正常なコントロールの大規模なデータセットから一般化可能な事前知識を抽出し、希少な疾患に知識を移すことによって、この課題に対処する。
しかし、既存のほとんどの手法では、基準データセットにラベルを付ける必要があり、稀な疾患の貴重な例を十分に利用していない。
そこで本研究では,上記の欠点を主とする2つの重要な特徴を特徴とする,希少疾患分類への新しいハイブリッドアプローチを提案する。
まず、教師なし表現学習(URL)を自己監督型コントラスト損失に基づいて導入し、ベースデータセットのラベル付けのオーバーヘッドを解消する。
第2に,urlと疑似ラベル教師付き分類を統合し,希少疾患に関する知識の効果的な自己蒸留を行い,非教師なし学習と (pseudo-) 教師付き学習の利点を生かしたハイブリッドアプローチを構築した。
稀な皮膚病変の分類実験の結果,我々のハイブリッドアプローチは,URLと偽ラベルによる自己蒸留を効果的に統合することにより,既存のFSL法(完全教師付きベースデータセットの使用を含む)を著しく上回り,新たな治療法の確立を図っている。
関連論文リスト
- From Uncertainty to Clarity: Uncertainty-Guided Class-Incremental Learning for Limited Biomedical Samples via Semantic Expansion [0.0]
バイオメディカル分野における限られたサンプルの下でのクラスインクリメンタル学習手法を提案する。
提案手法は,最先端の手法を最大53.54%の精度で上回り,最適性能を実現する。
論文 参考訳（メタデータ） (2024-09-12T05:22:45Z) - Benchmarking In-the-wild Multimodal Disease Recognition and A Versatile Baseline [42.49727243388804]
そこで本研究では,植物病原体認識データセットを提案する。
病気のクラスが最も多いだけでなく、各疾患に関するテキストベースの記述も含んでいる。
提案したデータセットは,実世界の疾患認識手法を評価するための理想的なテストベッドとみなすことができる。
論文 参考訳（メタデータ） (2024-08-06T11:49:13Z) - A Noisy-Label-Learning Formulation for Immune Repertoire Classification
and Disease-Associated Immune Receptor Sequence Identification [7.619591696318021]
免疫レパートリー分類(Immune repertoire classification)は、計算生物学における最前線の研究課題である。
免疫レパートリー分類の課題を解決するために,雑音に富んだラベル学習の定式化を提案する。
サイトメガロウイルス(CMV)および癌データセットを用いた実験は,本手法の有効性と優れた性能を示す。
論文 参考訳（メタデータ） (2023-07-29T09:19:27Z) - Leveraging Unlabelled Data in Multiple-Instance Learning Problems for
Improved Detection of Parkinsonian Tremor in Free-Living Conditions [80.88681952022479]
本稿では,半教師付き学習とマルチスタンス学習を組み合わせた新しい手法を提案する。
本研究は,454被験者の非競合データを活用することにより,物体ごとの震動検出において大きな性能向上が達成できることを示す。
論文 参考訳（メタデータ） (2023-04-29T12:25:10Z) - Hierarchical Semi-Supervised Contrastive Learning for
Contamination-Resistant Anomaly Detection [81.07346419422605]
異常検出は、通常のデータ分布から逸脱したサンプルを特定することを目的としている。
コントラスト学習は、異常の効果的な識別を可能にする表現のサンプル化に成功している。
汚染耐性異常検出のための新しい階層型半教師付きコントラスト学習フレームワークを提案する。
論文 参考訳（メタデータ） (2022-07-24T18:49:26Z) - Learning Discriminative Representation via Metric Learning for
Imbalanced Medical Image Classification [52.94051907952536]
本稿では,特徴抽出器がより識別的な特徴表現を抽出するのを助けるために,2段階フレームワークの第1段階にメトリック学習を組み込むことを提案する。
主に3つの医用画像データセットを用いて実験したところ、提案手法は既存の1段階と2段階のアプローチより一貫して優れていた。
論文 参考訳（メタデータ） (2022-07-14T14:57:01Z) - LifeLonger: A Benchmark for Continual Disease Classification [59.13735398630546]
MedMNISTコレクションの連続的な疾患分類のためのベンチマークであるLifeLongerを紹介する。
タスクとクラスでの病気の漸進的な学習は、モデルをスクラッチから再トレーニングすることなく、新しいサンプルを分類する問題に対処する。
クロスドメインインクリメンタル学習は、これまで得られた知識を維持しながら、異なる機関から派生したデータセットを扱う問題に対処する。
論文 参考訳（メタデータ） (2022-04-12T12:25:05Z) - Hierarchical Knowledge Guided Learning for Real-world Retinal Diseases
Recognition [20.88407972858568]
眼科AIで最近発表されたいくつかのデータセットは、40種類以上の網膜疾患からなり、複雑な異常と様々な致死性がある。
モデリングの観点からは、これらのデータセットでトレーニングされたほとんどのディープラーニングモデルは、まれな疾患に一般化する能力に欠ける可能性がある。
本稿では,網膜疾患認識のための長期データベースから深部ニューラルネットワークを学習するための新しい手法を提案する。
論文 参考訳（メタデータ） (2021-11-17T05:44:39Z) - Select-ProtoNet: Learning to Select for Few-Shot Disease Subtype
Prediction [55.94378672172967]
本研究は, 類似患者のサブグループを同定し, 数発の疾患のサブタイプ予測問題に焦点を当てた。
新しいモデルを開発するためにメタラーニング技術を導入し、関連する臨床課題から共通の経験や知識を抽出する。
我々の新しいモデルは、単純だが効果的なメタ学習マシンであるPrototypeal Networkと呼ばれる、慎重に設計されたメタラーナーに基づいて構築されている。
論文 参考訳（メタデータ） (2020-09-02T02:50:30Z) - Semi-supervised Medical Image Classification with Relation-driven
Self-ensembling Model [71.80319052891817]
医用画像分類のための関係駆動型半教師付きフレームワークを提案する。
これは、摂動下で与えられた入力の予測一貫性を促進することでラベルのないデータを利用する。
本手法は,シングルラベルおよびマルチラベル画像分類のシナリオにおいて,最先端の半教師付き学習手法よりも優れる。
論文 参考訳（メタデータ） (2020-05-15T06:57:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。