論文の概要: Uncertainty-Aware Multi-Expert Knowledge Distillation for Imbalanced Disease Grading

• arxiv url: http://arxiv.org/abs/2505.00592v1
• Date: Thu, 01 May 2025 15:26:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-02 19:15:55.352488
• Title: Uncertainty-Aware Multi-Expert Knowledge Distillation for Imbalanced Disease Grading
• Title（参考訳）: 不均衡な疾患の診断のための不確かさを意識したマルチエキスパート知識蒸留法
• Authors: Shuo Tong, Shangde Gao, Ke Liu, Zihang Huang, Hongxia Xu, Haochao Ying, Jian Wu,
• Abstract要約: 我々は,複数のエキスパートモデルから単一学生モデルに知識を伝達するための,新しいtextbfUncertainty-aware textbfMulti-experts textbfKnowledge textbfDistillation (UMKD) フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 9.879930338032736
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Automatic disease image grading is a significant application of artificial intelligence for healthcare, enabling faster and more accurate patient assessments. However, domain shifts, which are exacerbated by data imbalance, introduce bias into the model, posing deployment difficulties in clinical applications. To address the problem, we propose a novel \textbf{U}ncertainty-aware \textbf{M}ulti-experts \textbf{K}nowledge \textbf{D}istillation (UMKD) framework to transfer knowledge from multiple expert models to a single student model. Specifically, to extract discriminative features, UMKD decouples task-agnostic and task-specific features with shallow and compact feature alignment in the feature space. At the output space, an uncertainty-aware decoupled distillation (UDD) mechanism dynamically adjusts knowledge transfer weights based on expert model uncertainties, ensuring robust and reliable distillation. Additionally, UMKD also tackles the problems of model architecture heterogeneity and distribution discrepancies between source and target domains, which are inadequately tackled by previous KD approaches. Extensive experiments on histology prostate grading (\textit{SICAPv2}) and fundus image grading (\textit{APTOS}) demonstrate that UMKD achieves a new state-of-the-art in both source-imbalanced and target-imbalanced scenarios, offering a robust and practical solution for real-world disease image grading.
• Abstract（参考訳）: 疾患画像の自動評価は、人工知能の医療への重要な応用であり、より高速で正確な患者の評価を可能にする。 しかし、データ不均衡によって悪化する領域シフトはモデルにバイアスをもたらし、臨床応用におけるデプロイメントの困難を生じさせる。 この問題に対処するために,複数のエキスパートモデルから単一学生モデルに知識を移すための,新しい \textbf{U}ncertainty-aware \textbf{M}ulti-experts \textbf{K}nowledge \textbf{D}istillation (UMKD) フレームワークを提案する。 具体的には、識別的特徴を抽出するために、UMKDは、タスクに依存しない、タスク固有の特徴と、特徴空間における浅くコンパクトな特徴アライメントを分離する。 出力空間において、不確実性を考慮した非結合蒸留(UDD)機構は、専門家モデルの不確実性に基づいて知識伝達重量を動的に調整し、堅牢で信頼性の高い蒸留を保証する。 さらにUMKDは、以前のKDアプローチでは不十分であった、ソースとターゲットドメイン間のモデルアーキテクチャの不均一性と分散の相違の問題にも対処している。 組織学的前立腺グレーディング(\textit{SICAPv2})と基底画像グレーディング(\textit{APTOS})の広範な実験により、UMKDはソース不均衡とターゲット不均衡の両方のシナリオにおいて新しい最先端技術を実現し、現実の疾患画像グレーディングのための堅牢で実用的なソリューションを提供することを示した。

関連論文リスト

• Knowledge Distillation and Enhanced Subdomain Adaptation Using Graph Convolutional Network for Resource-Constrained Bearing Fault Diagnosis [0.0]
  複雑な教師モデルからコンパクトで効率的な学生モデルに知識を伝達する進歩的知識蒸留フレームワークを提案する。 再生ケルネルヒルベルト空間(RKHS)における平均および分散統計を利用してラベル間の事前確率分布を組み込むELMMSD(Enhanced Local Maximum Mean Squared Discrepancy)を導入する。
  論文  参考訳（メタデータ） (2025-01-13T10:05:47Z)
• Overcoming Uncertain Incompleteness for Robust Multimodal Sequential Diagnosis Prediction via Curriculum Data Erasing Guided Knowledge Distillation [0.0]
  NECHO v2, NECHO v2は, 欠席頻度が不確実な患者診断の予測精度を高めるために設計された新しいフレームワークである。 まず、不完全なデータの下で、不完全なモダリティ表現の優位性を扱うために、コード中心の診断で設計されたNECHOを修正する。 第2に,修正NECHOを教師と学生の両方に活用して,体系的な知識蒸留を開発する。
  論文  参考訳（メタデータ） (2024-07-28T17:14:27Z)
• Interpretability of Uncertainty: Exploring Cortical Lesion Segmentation in Multiple Sclerosis [33.91263917157504]
  不確実性定量化(UQ)は人工知能システムの信頼性を評価する上で重要である。 本研究では,磁気共鳴画像における焦点病変分割のための深層学習モデルにおけるインスタンス単位の不確実性値の解釈可能性について検討する。
  論文  参考訳（メタデータ） (2024-07-08T09:13:30Z)
• Seeing Unseen: Discover Novel Biomedical Concepts via Geometry-Constrained Probabilistic Modeling [53.7117640028211]
  同定された問題を解決するために,幾何制約付き確率的モデリング処理を提案する。 構成された埋め込み空間のレイアウトに適切な制約を課すために、重要な幾何学的性質のスイートを組み込む。 スペクトルグラフ理論法は、潜在的な新規クラスの数を推定するために考案された。
  論文  参考訳（メタデータ） (2024-03-02T00:56:05Z)
• Distilling Privileged Multimodal Information for Expression Recognition using Optimal Transport [46.91791643660991]
  マルチモーダル表現認識のための深層学習モデルは, 制御された実験室環境において顕著な性能を示した。 これらのモデルは、トレーニングに使用されるモダリティの可用性と品質のために、荒野で苦労する。 実際には、テスト時に利用できるのはトレーニング時モダリティのサブセットのみである。 特権情報による学習により、モデルはトレーニング中にのみ利用できる追加のモダリティからデータを利用することができる。
  論文  参考訳（メタデータ） (2024-01-27T19:44:15Z)
• Improving Multiple Sclerosis Lesion Segmentation Across Clinical Sites: A Federated Learning Approach with Noise-Resilient Training [75.40980802817349]
  深層学習モデルは、自動的にMS病変を分節する約束を示しているが、正確な注釈付きデータの不足は、この分野の進歩を妨げている。 我々は,MS病変の不均衡分布とファジィ境界を考慮したDecoupled Hard Label Correction(DHLC)戦略を導入する。 また,集約型中央モデルを利用したCELC(Centrally Enhanced Label Correction)戦略も導入した。
  論文  参考訳（メタデータ） (2023-08-31T00:36:10Z)
• SCLIFD:Supervised Contrastive Knowledge Distillation for Incremental Fault Diagnosis under Limited Fault Data [8.354404360859263]
  限られた断層データから識別的特徴を抽出することは困難である。 十分に訓練されたモデルは、新しいクラスからサンプルを分類するために、スクラッチから再訓練されなければならない。 モデル決定は、クラスの不均衡のため、新しいクラスに偏っている。
  論文  参考訳（メタデータ） (2023-02-12T14:50:12Z)
• Towards Reliable Medical Image Segmentation by utilizing Evidential Calibrated Uncertainty [52.03490691733464]
  本稿では,医療画像セグメンテーションネットワークにシームレスに統合可能な,実装が容易な基礎モデルであるDEviSを紹介する。 主観的論理理論を利用して、医用画像分割の問題に対する確率と不確実性を明示的にモデル化する。 DeviSには不確実性を考慮したフィルタリングモジュールが組み込まれている。
  論文  参考訳（メタデータ） (2023-01-01T05:02:46Z)
• BSM loss: A superior way in modeling aleatory uncertainty of fine_grained classification [0.0]
  混合データ拡張戦略を用いた改良型ブートストラップ損失(BS損失)関数を提案する。 実験の結果,Mixup(BSM)モデルによるBS損失は,標準データ拡張と比較して予測誤差(ECE)を半減できることがわかった。 BSMモデルはドメイン外のデータのセマンティックな距離を知覚することができ、実際の臨床実践において高い可能性を示す。
  論文  参考訳（メタデータ） (2022-06-09T13:06:51Z)
• SSD-KD: A Self-supervised Diverse Knowledge Distillation Method for Lightweight Skin Lesion Classification Using Dermoscopic Images [62.60956024215873]
  皮膚がんは最も一般的な悪性腫瘍の1つであり、人口に影響を与え、世界中で経済的な重荷を負っている。 皮膚がん検出のほとんどの研究は、ポータブルデバイス上での計算資源の制限を考慮せずに、高い予測精度を追求している。 本研究は,皮膚疾患分類のための汎用的なKDフレームワークに多様な知識を統一する,SSD-KDと呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-03-22T06:54:29Z)
• Many-to-One Distribution Learning and K-Nearest Neighbor Smoothing for Thoracic Disease Identification [83.6017225363714]
  ディープラーニングは、病気の識別性能を改善するための最も強力なコンピュータ支援診断技術となった。 胸部X線撮影では、大規模データの注釈付けには専門的なドメイン知識が必要で、時間を要する。 本論文では、単一モデルにおける疾患同定性能を改善するために、複数対1の分布学習(MODL)とK-nearest neighbor smoothing(KNNS)手法を提案する。
  論文  参考訳（メタデータ） (2021-02-26T02:29:30Z)
• Semi-supervised Medical Image Classification with Relation-driven Self-ensembling Model [71.80319052891817]
  医用画像分類のための関係駆動型半教師付きフレームワークを提案する。 これは、摂動下で与えられた入力の予測一貫性を促進することでラベルのないデータを利用する。 本手法は,シングルラベルおよびマルチラベル画像分類のシナリオにおいて,最先端の半教師付き学習手法よりも優れる。
  論文  参考訳（メタデータ） (2020-05-15T06:57:54Z)
• A Heteroscedastic Uncertainty Model for Decoupling Sources of MRI Image Quality [3.5480752735999417]
  セグメンテーションなどの下流分析を成功させるためには、医用画像の品質管理(QC)が不可欠である。 本研究では,不確実性を推定する確率的ネットワークをヘテロセダスティックノイズモデルにより構築し,そのプロセスを自動化することを目的とする。 シミュレーションされた人工物を用いて訓練したモデルは、実世界の画像に不確実性を示す情報的尺度を提供するとともに、人間のレーダが特定した問題画像に対する不確実性予測を検証する。
  論文  参考訳（メタデータ） (2020-01-31T16:04:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。