論文の概要: KDAS: Knowledge Distillation via Attention Supervision Framework for Polyp Segmentation

• arxiv url: http://arxiv.org/abs/2312.08555v3
• Date: Tue, 23 Apr 2024 19:31:25 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-25 16:15:09.032490
• Title: KDAS: Knowledge Distillation via Attention Supervision Framework for Polyp Segmentation
• Title（参考訳）: KDAS:ポリプセグメンテーションのための意識監視フレームワークによる知識蒸留
• Authors: Quoc-Huy Trinh, Minh-Van Nguyen, Phuoc-Thao Vo Thi,
• Abstract要約: KDASは,注意の監視を取り入れた知識蒸留フレームワークであり,提案した対称性誘導モジュールについて述べる。 このフレームワークは、より少ないパラメータでコンパクトな学生モデルを容易にし、教師モデルの強みを学習できるように設計されている。 当社のコンパクトモデルでは,最先端手法による競争結果の達成により,その強度を実証している。
• 参考スコア（独自算出の注目度）: 6.148777307966648
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Polyp segmentation, a contentious issue in medical imaging, has seen numerous proposed methods aimed at improving the quality of segmented masks. While current state-of-the-art techniques yield impressive results, the size and computational cost of these models create challenges for practical industry applications. To address this challenge, we present KDAS, a Knowledge Distillation framework that incorporates attention supervision, and our proposed Symmetrical Guiding Module. This framework is designed to facilitate a compact student model with fewer parameters, allowing it to learn the strengths of the teacher model and mitigate the inconsistency between teacher features and student features, a common challenge in Knowledge Distillation, via the Symmetrical Guiding Module. Through extensive experiments, our compact models demonstrate their strength by achieving competitive results with state-of-the-art methods, offering a promising approach to creating compact models with high accuracy for polyp segmentation and in the medical imaging field. The implementation is available on https://github.com/huyquoctrinh/KDAS.
• Abstract（参考訳）: 医療画像における論争的な問題であるポリプセグメンテーションでは、セグメンテーションマスクの品質向上を目的とした多くの手法が提案されている。 現在の最先端技術は印象的な結果をもたらすが、これらのモデルのサイズと計算コストは、実用的な産業アプリケーションのための課題を生み出している。 この課題に対処するために,注目の監視を取り入れた知識蒸留フレームワークであるKDASと,提案したシンメトリカルガイドモジュールを提案する。 このフレームワークは、より少ないパラメータでコンパクトな学生モデルを促進するために設計されており、教師モデルの強みを学習し、教師の特徴と生徒の特徴との整合性を緩和することができる。 より広範な実験により, 提案するコンパクトモデルは, 最先端の手法を用いて, 競合する結果を達成し, ポリープセグメンテーションや医用画像分野において高い精度でコンパクトなモデルを作成するための有望なアプローチを提供することによって, それらの強みを実証した。 実装はhttps://github.com/huyquoctrinh/KDASで公開されている。

関連論文リスト

• Enhancing Weakly-Supervised Histopathology Image Segmentation with Knowledge Distillation on MIL-Based Pseudo-Labels [8.934328206473456]
  病理組織像分割のための新しい蒸留フレームワークを提案する。 この枠組みは, 学生が教師の総合的な成果から直接学習できる, 反復的融合知識蒸留戦略を導入している。
  論文  参考訳（メタデータ） (2024-07-14T17:15:47Z)
• SAM-EG: Segment Anything Model with Egde Guidance framework for efficient Polyp Segmentation [6.709243857842895]
  本稿では,ポリプセグメンテーションのための小さなセグメンテーションモデルを用いて,コスト問題に対処するフレームワークを提案する。 本研究では,エッジ情報を画像特徴に組み込むEdge Guidingモジュールを提案する。 我々の小型モデルは、最先端の手法で競争結果を得ることで、その効果を実証する。
  論文  参考訳（メタデータ） (2024-06-21T01:42:20Z)
• Multi-scale Information Sharing and Selection Network with Boundary Attention for Polyp Segmentation [10.152504573356413]
  本稿では,多目的セグメンテーションタスクのためのマルチスケール情報共有選択ネットワーク(MISNet)を提案する。 5つのpolypセグメンテーションデータセットの実験により、MISNetはセグメンテーション結果の精度と明確性を改善した。
  論文  参考訳（メタデータ） (2024-05-18T02:48:39Z)
• ECC-PolypDet: Enhanced CenterNet with Contrastive Learning for Automatic Polyp Detection [88.4359020192429]
  既存の手法では、計算コストのかかるコンテキストアグリゲーションが伴うか、ポリープの事前モデリングが欠如しているため、難解なケースでは性能が低下する。 本稿では,2段階のトレーニングとエンドツーエンド推論フレームワークである Enhanced CenterNet with Contrastive Learning (ECC-PolypDet) を提案する。 Box-assisted Contrastive Learning (BCL) は, クラス内差を最小限に抑え, 前庭ポリープと背景のクラス間差を最大化するため, 隠れポリープを捕捉する。 微調整段階におけるIoU誘導サンプル再重み付けの導入
  論文  参考訳（メタデータ） (2024-01-10T07:03:41Z)
• Module-wise Adaptive Distillation for Multimodality Foundation Models [125.42414892566843]
  マルチモーダル・ファンデーション・モデルは 目覚ましい 一般化性を示したが 規模が大きいため 展開に挑戦する 規模を減らすための効果的なアプローチの1つは層単位での蒸留であり、小さな学生モデルは各層で大きな教師モデルの隠された表現と一致するように訓練される。 そこで本研究では, 各モジュールの蒸留後の損失デクリメントを記録し, より頻繁な蒸留に寄与するモジュールを選択することによって, 個々のモジュールの寄与をトラックすることを提案する。
  論文  参考訳（メタデータ） (2023-10-06T19:24:00Z)
• Knowledge Distillation for Adaptive MRI Prostate Segmentation Based on Limit-Trained Multi-Teacher Models [4.711401719735324]
  圧縮法と加速技術として知識蒸留(KD)が提案されている。 KDは、負担の多いモデルから軽量モデルに知識を移行できる効率的な学習戦略である。 本研究では,KDに基づく前立腺MRIセグメンテーションの深部モデルを構築し,Kellback-Leiblerの発散,Lovasz,Diceの損失と特徴量に基づく蒸留を組み合わせる。
  論文  参考訳（メタデータ） (2023-03-16T17:15:08Z)
• SSD-KD: A Self-supervised Diverse Knowledge Distillation Method for Lightweight Skin Lesion Classification Using Dermoscopic Images [62.60956024215873]
  皮膚がんは最も一般的な悪性腫瘍の1つであり、人口に影響を与え、世界中で経済的な重荷を負っている。 皮膚がん検出のほとんどの研究は、ポータブルデバイス上での計算資源の制限を考慮せずに、高い予測精度を追求している。 本研究は,皮膚疾患分類のための汎用的なKDフレームワークに多様な知識を統一する,SSD-KDと呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-03-22T06:54:29Z)
• Weakly Supervised Semantic Segmentation via Alternative Self-Dual Teaching [82.71578668091914]
  本稿では,分類とマスク・リファインメント・コンポーネントを統合された深層モデルに組み込む,コンパクトな学習フレームワークを確立する。 本稿では,高品質な知識相互作用を促進するために,新たな自己双対学習(ASDT)機構を提案する。
  論文  参考訳（メタデータ） (2021-12-17T11:56:56Z)
• Demystifying Deep Learning Models for Retinal OCT Disease Classification using Explainable AI [0.6117371161379209]
  様々な深層学習技術の採用は、非常に一般的かつ効果的であり、網膜光コヒーレンス・トモグラフィー分野に実装する上でも同様に真実である。 これらの技術はブラックボックスの特徴を持ち、医療従事者がそれらの成果を完全に信頼できないようにする。 本稿では,この研究に説明可能なAIを導入したLimeの使用とともに,比較的小型で簡易な自己開発CNNモデルを提案する。
  論文  参考訳（メタデータ） (2021-11-06T13:54:07Z)
• BoundarySqueeze: Image Segmentation as Boundary Squeezing [104.43159799559464]
  本研究では,オブジェクトとシーンの微細な高画質画像分割のための新しい手法を提案する。 形態素画像処理技術による拡張と浸食に着想を得て,画素レベルのセグメンテーション問題をスクイーズ対象境界として扱う。 提案手法は,COCO,Cityscapesのインスタンス・セグメンテーション・セグメンテーション・セグメンテーションにおいて大きく向上し,同一条件下での精度・速度ともに従来のPointRendよりも優れていた。
  論文  参考訳（メタデータ） (2021-05-25T04:58:51Z)
• Few-shot Medical Image Segmentation using a Global Correlation Network with Discriminative Embedding [60.89561661441736]
  医療画像分割のための新しい手法を提案する。 深層畳み込みネットワークを用いた数ショット画像セグメンタを構築します。 深層埋め込みの識別性を高め,同一クラスの特徴領域のクラスタリングを促進する。
  論文  参考訳（メタデータ） (2020-12-10T04:01:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。