論文の概要: Long-Tailed Multi-Label Retinal Diseases Recognition Using Hierarchical
Information and Hybrid Knowledge Distillation
- arxiv url: http://arxiv.org/abs/2111.08913v1
- Date: Wed, 17 Nov 2021 05:44:39 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-18 14:42:31.633342
- Title: Long-Tailed Multi-Label Retinal Diseases Recognition Using Hierarchical
Information and Hybrid Knowledge Distillation
- Title(参考訳): 階層的情報とハイブリッド知識蒸留を用いた多層網膜疾患認識
- Authors: Lie Ju, Xin Wang, Zhen Yu, Lin Wang, Xin Zhao, Zongyuan Ge
- Abstract要約: 本稿では、網膜疾患の先行知識を利用して、より堅牢なモデル表現を訓練する新しい枠組みを提案する。
実験では,100万以上の試料の網膜データセットを用いて実験を行い,提案手法の優位性を実証した。
- 参考スコア(独自算出の注目度): 17.57043102456759
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In the real world, medical datasets often exhibit a long-tailed data
distribution (i.e., a few classes occupy most of the data, while most classes
have rarely few samples), which results in a challenging imbalance learning
scenario. For example, there are estimated more than 40 different kinds of
retinal diseases with variable morbidity, however with more than 30+ conditions
are very rare from the global patient cohorts, which results in a typical
long-tailed learning problem for deep learning-based screening models.
Moreover, there may exist more than one kind of disease on the retina, which
results in a multi-label scenario and bring label co-occurrence issue for
re-sampling strategy. In this work, we propose a novel framework that leverages
the prior knowledge in retinal diseases for training a more robust
representation of the model under a hierarchy-sensible constraint. Then, an
instance-wise class-balanced sampling strategy and hybrid knowledge
distillation manner are firstly introduced to learn from the long-tailed
multi-label distribution. Our experiments training on the retinal dataset of
more than one million samples demonstrate the superiority of our proposed
methods which outperform all competitors and significantly improve the
recognition accuracy of most diseases especially those rare diseases.
- Abstract(参考訳): 現実の世界では、医学データセットは長い尾を持つデータ分布を示すことが多く(一部のクラスはデータの大半を占めるが、ほとんどのクラスはサンプルをほとんど持たない)、これは挑戦的な不均衡学習シナリオをもたらす。
例えば、40種類以上の網膜疾患が様々な病原性を持つと推定されているが、30以上の条件を持つ患者は、世界的な患者コホートから非常に稀であり、ディープラーニングベースのスクリーニングモデルに典型的な長い尾の学習問題をもたらす。
さらに、網膜には複数の種類の疾患が存在し、これは多ラベルのシナリオをもたらし、再サンプリング戦略にラベル共起の問題をもたらす可能性がある。
本研究では,網膜疾患の先行知識を利用して,階層性制約の下でモデルをより堅牢な表現を訓練する枠組みを提案する。
次に, 長期の多ラベル分布から学習するために, インスタンス単位のクラスバランスサンプリング戦略とハイブリッド知識蒸留手法を導入する。
実験では,100万以上の検体を用いた網膜データセットのトレーニングを行い,競合する疾患,特に稀な疾患の認識精度を大幅に向上させる手法が提案されている。
関連論文リスト
- Medical diffusion on a budget: textual inversion for medical image
generation [0.0]
テキスト・画像生成のための拡散モデルは非常に人気がある。
それらをスクラッチからトレーニングするには、大きなデータセットと重要な計算リソースにアクセスする必要がある。
本研究は,テキストインバージョンによるテキスト埋め込みをトレーニングすることにより,事前学習した安定拡散モデルが様々な医用画像モダリティに適応できることを実証する。
論文 参考訳(メタデータ) (2023-03-23T16:50:19Z) - LifeLonger: A Benchmark for Continual Disease Classification [59.13735398630546]
MedMNISTコレクションの連続的な疾患分類のためのベンチマークであるLifeLongerを紹介する。
タスクとクラスでの病気の漸進的な学習は、モデルをスクラッチから再トレーニングすることなく、新しいサンプルを分類する問題に対処する。
クロスドメインインクリメンタル学習は、これまで得られた知識を維持しながら、異なる機関から派生したデータセットを扱う問題に対処する。
論文 参考訳(メタデータ) (2022-04-12T12:25:05Z) - When Accuracy Meets Privacy: Two-Stage Federated Transfer Learning
Framework in Classification of Medical Images on Limited Data: A COVID-19
Case Study [77.34726150561087]
新型コロナウイルスのパンデミックが急速に広がり、世界の医療資源が不足している。
CNNは医療画像の解析に広く利用され、検証されている。
論文 参考訳(メタデータ) (2022-03-24T02:09:41Z) - Generalized Multi-Task Learning from Substantially Unlabeled
Multi-Source Medical Image Data [11.061381376559053]
MultiMixは、病気の分類と解剖学的セグメンテーションを半教師付きで共同で学習する、新しいマルチタスク学習モデルである。
トレーニングセットにおける多ソースラベル付きデータの多量化実験により,MultiMixの有効性が確認された。
論文 参考訳(メタデータ) (2021-10-25T18:09:19Z) - Unsupervised Representation Learning Meets Pseudo-Label Supervised
Self-Distillation: A New Approach to Rare Disease Classification [26.864435224276964]
本稿では,2つの重要な新奇性を有するレア疾患分類への新しいハイブリッドアプローチを提案する。
まず、自己監督型コントラスト損失に基づく教師なし表現学習(URL)を採用する。
第二に、これらのURLを擬似ラベル管理分類と統合し、稀な疾患に関する知識を効果的に自己蒸留する。
論文 参考訳(メタデータ) (2021-10-09T12:56:09Z) - Relational Subsets Knowledge Distillation for Long-tailed Retinal
Diseases Recognition [65.77962788209103]
本研究では,長尾データを知識に基づいて複数のクラスサブセットに分割し,クラスサブセット学習を提案する。
モデルがサブセット固有の知識の学習に集中するように強制する。
提案手法は長期網膜疾患認識タスクに有効であることが判明した。
論文 参考訳(メタデータ) (2021-04-22T13:39:33Z) - Domain Generalization for Medical Imaging Classification with
Linear-Dependency Regularization [59.5104563755095]
本稿では,医用画像分類分野におけるディープニューラルネットワークの一般化能力向上のための,シンプルだが効果的なアプローチを提案する。
医用画像の領域変数がある程度コンパクトであることに感銘を受けて,変分符号化による代表的特徴空間の学習を提案する。
論文 参考訳(メタデータ) (2020-09-27T12:30:30Z) - Select-ProtoNet: Learning to Select for Few-Shot Disease Subtype
Prediction [55.94378672172967]
本研究は, 類似患者のサブグループを同定し, 数発の疾患のサブタイプ予測問題に焦点を当てた。
新しいモデルを開発するためにメタラーニング技術を導入し、関連する臨床課題から共通の経験や知識を抽出する。
我々の新しいモデルは、単純だが効果的なメタ学習マシンであるPrototypeal Networkと呼ばれる、慎重に設計されたメタラーナーに基づいて構築されている。
論文 参考訳(メタデータ) (2020-09-02T02:50:30Z) - Semi-supervised Medical Image Classification with Relation-driven
Self-ensembling Model [71.80319052891817]
医用画像分類のための関係駆動型半教師付きフレームワークを提案する。
これは、摂動下で与えられた入力の予測一貫性を促進することでラベルのないデータを利用する。
本手法は,シングルラベルおよびマルチラベル画像分類のシナリオにおいて,最先端の半教師付き学習手法よりも優れる。
論文 参考訳(メタデータ) (2020-05-15T06:57:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。