論文の概要: Paced-Curriculum Distillation with Prediction and Label Uncertainty for Image Segmentation

• arxiv url: http://arxiv.org/abs/2302.01049v1
• Date: Thu, 2 Feb 2023 12:24:14 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-03 14:12:26.930516
• Title: Paced-Curriculum Distillation with Prediction and Label Uncertainty for Image Segmentation
• Title（参考訳）: 画像セグメンテーションのための予測とラベルの不確かさを伴うペーストキュリオクルム蒸留
• Authors: Mobarakol Islam and Lalithkumar Seenivasan and S. P. Sharan and V. K. Viekash and Bhavesh Gupta and Ben Glocker and Hongliang Ren
• Abstract要約: カリキュラム学習では、まず簡単なサンプルをトレーニングし、徐々に困難を増すことが考えられている。 自己ペースト学習では、ペアリング関数はトレーニングの進捗に適応する速度を定義する。 医用画像セグメンテーションのための新しいペースドキュリキュラム蒸留法(PCD)を開発した。
• 参考スコア（独自算出の注目度）: 25.20877071896899
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Purpose: In curriculum learning, the idea is to train on easier samples first and gradually increase the difficulty, while in self-paced learning, a pacing function defines the speed to adapt the training progress. While both methods heavily rely on the ability to score the difficulty of data samples, an optimal scoring function is still under exploration. Methodology: Distillation is a knowledge transfer approach where a teacher network guides a student network by feeding a sequence of random samples. We argue that guiding student networks with an efficient curriculum strategy can improve model generalization and robustness. For this purpose, we design an uncertainty-based paced curriculum learning in self distillation for medical image segmentation. We fuse the prediction uncertainty and annotation boundary uncertainty to develop a novel paced-curriculum distillation (PCD). We utilize the teacher model to obtain prediction uncertainty and spatially varying label smoothing with Gaussian kernel to generate segmentation boundary uncertainty from the annotation. We also investigate the robustness of our method by applying various types and severity of image perturbation and corruption. Results: The proposed technique is validated on two medical datasets of breast ultrasound image segmentation and robotassisted surgical scene segmentation and achieved significantly better performance in terms of segmentation and robustness. Conclusion: P-CD improves the performance and obtains better generalization and robustness over the dataset shift. While curriculum learning requires extensive tuning of hyper-parameters for pacing function, the level of performance improvement suppresses this limitation.
• Abstract（参考訳）: 目的: カリキュラム学習では, より簡単なサンプルをまず訓練し, 難易度を徐々に高め, 自己ペース学習では, ペアリング関数が学習の進行に適応するための速度を定義する。 どちらの手法もデータサンプルの難易度を評価する能力に大きく依存しているが、最適なスコアリング関数はまだ探索中である。 方法: 蒸留は、教師ネットワークがランダムサンプルのシーケンスを供給して学生ネットワークを誘導する知識伝達アプローチである。 我々は、効率的なカリキュラム戦略で学生ネットワークを導くことは、モデルの一般化と堅牢性を改善することができると論じている。 この目的のために,医療画像セグメンテーションのための自己蒸留における不確実性に基づくペースドカリキュラムを設計する。 予測の不確実性とアノテーション境界の不確かさを融合させ,新しいペースド・キュリオム蒸留法(pcd)を開発した。 教師モデルを用いて,ガウス核を用いた予測不確実性と空間変動ラベル平滑化を行い,アノテーションからセグメンテーション境界不確実性を生成する。 また,画像摂動と汚損の多種多様さと重症度を適用して,本手法のロバスト性についても検討した。 結果: 提案手法は, 乳房超音波画像分割とロボット支援手術シーン分割の2つの医療データセットで検証され, セグメント化とロバスト性の観点から有意に優れた性能を得た。 結論: P-CDはパフォーマンスを改善し、データセットシフトよりも一般化と堅牢性を向上させる。 カリキュラム学習は、ペーシング機能のためにハイパーパラメータの広範なチューニングを必要とするが、パフォーマンス改善のレベルはこの制限を抑える。

関連論文リスト

• Boosting Few-Shot Learning with Disentangled Self-Supervised Learning and Meta-Learning for Medical Image Classification [8.975676404678374]
  低データ体制下で訓練されたモデルの性能と一般化能力を改善するための戦略を提案する。 提案手法は、自己教師付き学習環境において学習した特徴をアンタングル化して、下流タスクの表現の堅牢性を向上する事前学習段階から開始する。 次に、メタファインニングのステップを導入し、メタトレーニングとメタテストフェーズの関連クラスを活用するが、レベルは変化する。
  論文  参考訳（メタデータ） (2024-03-26T09:36:20Z)
• PCA: Semi-supervised Segmentation with Patch Confidence Adversarial Training [52.895952593202054]
  医用画像セグメンテーションのためのPatch Confidence Adrial Training (PCA) と呼ばれる半教師付き対向法を提案する。 PCAは各パッチの画素構造とコンテキスト情報を学習し、十分な勾配フィードバックを得る。 本手法は, 医用画像のセグメンテーションにおいて, 最先端の半教師付き手法より優れており, その有効性を示している。
  論文  参考訳（メタデータ） (2022-07-24T07:45:47Z)
• Bayesian Graph Contrastive Learning [55.36652660268726]
  本稿では,ランダムな拡張がエンコーダにつながることを示すグラフコントラスト学習手法の新たな視点を提案する。 提案手法は,各ノードを決定論的ベクトルに埋め込む既存の手法とは対照的に,各ノードを潜在空間の分布で表現する。 いくつかのベンチマークデータセットにおける既存の最先端手法と比較して,性能が大幅に向上したことを示す。
  論文  参考訳（メタデータ） (2021-12-15T01:45:32Z)
• Uncertainty-Guided Mutual Consistency Learning for Semi-Supervised Medical Image Segmentation [9.745971699005857]
  医用画像セグメンテーションのための新しい不確実性誘導相互整合学習フレームワークを提案する。 タスクレベルの正規化によるタスク内一貫性学習と、タスク間の整合性学習を統合して、幾何学的な形状情報を活用する。 本手法は,ラベルのないデータを活用し,既存の半教師付きセグメンテーション法より優れた性能を実現する。
  論文  参考訳（メタデータ） (2021-12-05T08:19:41Z)
• Flip Learning: Erase to Segment [65.84901344260277]
  弱い教師付きセグメンテーション(WSS)は、時間と面倒な手作業のアノテーションを減らすのに役立ちます。 ボックスアノテーションのみを必要とするFlip Learningという,斬新で汎用的なWSSフレームワークを提案する。 提案手法は,完全教師付き学習と弱教師付き学習のギャップを狭める大きな可能性を示す。
  論文  参考訳（メタデータ） (2021-08-02T09:56:10Z)
• Cascaded Robust Learning at Imperfect Labels for Chest X-ray Segmentation [61.09321488002978]
  不完全アノテーションを用いた胸部X線分割のための新しいカスケードロバスト学習フレームワークを提案する。 モデルは3つの独立したネットワークから成り,ピアネットワークから有用な情報を効果的に学習できる。 提案手法は,従来の手法と比較して,セグメント化タスクの精度を大幅に向上させることができる。
  論文  参考訳（メタデータ） (2021-04-05T15:50:16Z)
• Uncertainty guided semi-supervised segmentation of retinal layers in OCT images [4.046207281399144]
  セグメンテーションネットワークを訓練する学生・教師のアプローチに基づく,新しい不確実性誘導半教師学習を提案する。 提案するフレームワークは,様々な画像モダリティにまたがるバイオメディカルイメージセグメンテーションに有効である。
  論文  参考訳（メタデータ） (2021-03-02T23:14:25Z)
• Deep Semi-supervised Knowledge Distillation for Overlapping Cervical Cell Instance Segmentation [54.49894381464853]
  本稿では, ラベル付きデータとラベルなしデータの両方を, 知識蒸留による精度向上に活用することを提案する。 摂動に敏感なサンプルマイニングを用いたマスク誘導型平均教師フレームワークを提案する。 実験の結果,ラベル付きデータのみから学習した教師付き手法と比較して,提案手法は性能を著しく向上することがわかった。
  論文  参考訳（メタデータ） (2020-07-21T13:27:09Z)
• Rectified Meta-Learning from Noisy Labels for Robust Image-based Plant Disease Diagnosis [64.82680813427054]
  植物病は食料安全保障と作物生産に対する主要な脅威の1つである。 1つの一般的なアプローチは、葉画像分類タスクとしてこの問題を変換し、強力な畳み込みニューラルネットワーク(CNN)によって対処できる。 本稿では,正規化メタ学習モジュールを共通CNNパラダイムに組み込んだ新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-03-17T09:51:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。