論文の概要: From Uncertainty to Clarity: Uncertainty-Guided Class-Incremental Learning for Limited Biomedical Samples via Semantic Expansion

• arxiv url: http://arxiv.org/abs/2409.07757v1
• Date: Thu, 12 Sep 2024 05:22:45 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-13 17:41:46.059333
• Title: From Uncertainty to Clarity: Uncertainty-Guided Class-Incremental Learning for Limited Biomedical Samples via Semantic Expansion
• Title（参考訳）: 不確実性から明確性: セマンティック拡張による限定的生体医学サンプルのための不確実性ガイド型クラスインクリメンタルラーニング
• Authors: Yifei Yao, Hanrong Zhang,
• Abstract要約: バイオメディカル分野における限られたサンプルの下でのクラスインクリメンタル学習手法を提案する。 提案手法は,最先端の手法を最大53.54%の精度で上回り,最適性能を実現する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In real-world clinical settings, data distributions evolve over time, with a continuous influx of new, limited disease cases. Therefore, class incremental learning is of great significance, i.e., deep learning models are required to learn new class knowledge while maintaining accurate recognition of previous diseases. However, traditional deep neural networks often suffer from severe forgetting of prior knowledge when adapting to new data unless trained from scratch, which undesirably costs much time and computational burden. Additionally, the sample sizes for different diseases can be highly imbalanced, with newly emerging diseases typically having much fewer instances, consequently causing the classification bias. To tackle these challenges, we are the first to propose a class-incremental learning method under limited samples in the biomedical field. First, we propose a novel cumulative entropy prediction module to measure the uncertainty of the samples, of which the most uncertain samples are stored in a memory bank as exemplars for the model's later review. Furthermore, we theoretically demonstrate its effectiveness in measuring uncertainty. Second, we developed a fine-grained semantic expansion module through various augmentations, leading to more compact distributions within the feature space and creating sufficient room for generalization to new classes. Besides, a cosine classifier is utilized to mitigate classification bias caused by imbalanced datasets. Across four imbalanced data distributions over two datasets, our method achieves optimal performance, surpassing state-of-the-art methods by as much as 53.54% in accuracy.
• Abstract（参考訳）: 実際の臨床環境では、データ分布は時間とともに進化し、新しい限られた疾患が連続的に流入する。 したがって,従来の疾患の正確な認識を維持しつつ,新たなクラス知識を学習するためには,ディープラーニングモデルが必要である。 しかしながら、従来のディープニューラルネットワークは、スクラッチからトレーニングを受けない限り、新しいデータに適応する際に、事前の知識をひどく忘れることに悩まされることが多い。 さらに、異なる疾患のサンプルサイズは極めて不均衡であり、新しい病気は典型的にはより少ないインスタンスを持ち、結果として分類バイアスを引き起こす。 これらの課題に対処するため,生物医学分野における限定的なサンプルに基づくクラス増分学習手法を最初に提案する。 まず,サンプルの不確実性を測定するための新しい累積エントロピー予測モジュールを提案する。 さらに,不確実性の測定における有効性についても理論的に検証した。 第二に、様々な拡張を通じて細粒度のセマンティック展開モジュールを開発し、特徴空間内のよりコンパクトな分布をもたらし、新しいクラスに一般化するのに十分な空間を作り出した。 さらに、コサイン分類器を用いて、不均衡なデータセットによる分類バイアスを軽減する。 2つのデータセット上での4つの不均衡なデータ分布に対して、我々の手法は最適な性能を達成し、最先端の手法を最大53.54%精度で上回る。

関連論文リスト

• CCSI: Continual Class-Specific Impression for Data-free Class Incremental Learning [22.37848405465699]
  クラスインクリメンタル学習は、特定の病気クラスで訓練されたディープネットワークを新しい病気に適応することで、有望なソリューションを提供する。 以前に提案された手法では、過去のサンプルを永久に保存する必要がある。 本研究では,従来の学習クラスからのデータストレージの代わりに,学習クラス上でのデータ合成を利用する新しいデータ自由クラスインクリメンタルラーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-09T03:52:21Z)
• Seeing Unseen: Discover Novel Biomedical Concepts via Geometry-Constrained Probabilistic Modeling [53.7117640028211]
  同定された問題を解決するために,幾何制約付き確率的モデリング処理を提案する。 構成された埋め込み空間のレイアウトに適切な制約を課すために、重要な幾何学的性質のスイートを組み込む。 スペクトルグラフ理論法は、潜在的な新規クラスの数を推定するために考案された。
  論文  参考訳（メタデータ） (2024-03-02T00:56:05Z)
• Few-Shot Class-Incremental Learning with Prior Knowledge [94.95569068211195]
  本稿では,事前学習モデルの一般化能力を高めるために,先行知識を用いた学習(LwPK)を提案する。 実験結果から,LwPKは破滅的忘れ込みに対するモデルレジリエンスを効果的に向上させることが示された。
  論文  参考訳（メタデータ） (2024-02-02T08:05:35Z)
• Continual Learning with Bayesian Model based on a Fixed Pre-trained Feature Extractor [55.9023096444383]
  現在のディープラーニングモデルは、新しいクラスを学ぶ際に古い知識を破滅的に忘れることによって特徴づけられる。 人間の脳における新しい知識の学習プロセスに着想を得て,連続学習のためのベイズ生成モデルを提案する。
  論文  参考訳（メタデータ） (2022-04-28T08:41:51Z)
• LifeLonger: A Benchmark for Continual Disease Classification [59.13735398630546]
  MedMNISTコレクションの連続的な疾患分類のためのベンチマークであるLifeLongerを紹介する。 タスクとクラスでの病気の漸進的な学習は、モデルをスクラッチから再トレーニングすることなく、新しいサンプルを分類する問題に対処する。 クロスドメインインクリメンタル学習は、これまで得られた知識を維持しながら、異なる機関から派生したデータセットを扱う問題に対処する。
  論文  参考訳（メタデータ） (2022-04-12T12:25:05Z)
• The unreasonable effectiveness of Batch-Norm statistics in addressing catastrophic forgetting across medical institutions [8.244654685687054]
  モデル改良と事前学習した知識の保持のトレードオフについて検討する。 本稿では,従来のデータセットのグローバルバッチ正規化統計値を用いて,弾性重み付け(EWC)を適応する,単純で効果的な手法を提案する。
  論文  参考訳（メタデータ） (2020-11-16T16:57:05Z)
• Select-ProtoNet: Learning to Select for Few-Shot Disease Subtype Prediction [55.94378672172967]
  本研究は, 類似患者のサブグループを同定し, 数発の疾患のサブタイプ予測問題に焦点を当てた。 新しいモデルを開発するためにメタラーニング技術を導入し、関連する臨床課題から共通の経験や知識を抽出する。 我々の新しいモデルは、単純だが効果的なメタ学習マシンであるPrototypeal Networkと呼ばれる、慎重に設計されたメタラーナーに基づいて構築されている。
  論文  参考訳（メタデータ） (2020-09-02T02:50:30Z)
• Regularizing Class-wise Predictions via Self-knowledge Distillation [80.76254453115766]
  類似サンプル間の予測分布を解析する新しい正規化法を提案する。 これにより、単一のネットワークの暗黒知識(すなわち誤った予測に関する知識)を規則化する。 画像分類タスクにおける実験結果から, 単純だが強力な手法が一般化能力を大幅に向上することを示した。
  論文  参考訳（メタデータ） (2020-03-31T06:03:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。