論文の概要: Confidence-Aware Paced-Curriculum Learning by Label Smoothing for
Surgical Scene Understanding
- arxiv url: http://arxiv.org/abs/2212.11511v1
- Date: Thu, 22 Dec 2022 07:19:15 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-23 14:45:46.560986
- Title: Confidence-Aware Paced-Curriculum Learning by Label Smoothing for
Surgical Scene Understanding
- Title(参考訳): 手術場面理解のためのラベル平滑化による信頼度認識ペースト・キュリオクルム学習
- Authors: Mengya Xu, Mobarakol Islam, Ben Glocker and Hongliang Ren
- Abstract要約: 我々は,一様ラベルスムースメント(ULS)を用いたペースドラーニング(P-CBLS)による分類タスクのラベルスムースメント(P-CBLS)と,一様ラベルスムースメント(SVLS)と空間変化ラベルスムースメント(SVLS)を用いたカリキュラムをカリキュラム的に設計する。
トレーニング開始時によりスムーズな値を設定し,モデル学習ユーティリティを下位から上位に制御するために,徐々にゼロに減らした。
提案手法は4つのロボット手術データセットで検証される。
- 参考スコア(独自算出の注目度): 33.62888947753327
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Curriculum learning and self-paced learning are the training strategies that
gradually feed the samples from easy to more complex. They have captivated
increasing attention due to their excellent performance in robotic vision. Most
recent works focus on designing curricula based on difficulty levels in input
samples or smoothing the feature maps. However, smoothing labels to control the
learning utility in a curriculum manner is still unexplored. In this work, we
design a paced curriculum by label smoothing (P-CBLS) using paced learning with
uniform label smoothing (ULS) for classification tasks and fuse uniform and
spatially varying label smoothing (SVLS) for semantic segmentation tasks in a
curriculum manner. In ULS and SVLS, a bigger smoothing factor value enforces a
heavy smoothing penalty in the true label and limits learning less information.
Therefore, we design the curriculum by label smoothing (CBLS). We set a bigger
smoothing value at the beginning of training and gradually decreased it to zero
to control the model learning utility from lower to higher. We also designed a
confidence-aware pacing function and combined it with our CBLS to investigate
the benefits of various curricula. The proposed techniques are validated on
four robotic surgery datasets of multi-class, multi-label classification,
captioning, and segmentation tasks. We also investigate the robustness of our
method by corrupting validation data into different severity levels. Our
extensive analysis shows that the proposed method improves prediction accuracy
and robustness.
- Abstract(参考訳): カリキュラム学習とセルフペース学習は、サンプルを簡単からより複雑なものに徐々に供給するトレーニング戦略である。
彼らはロボットビジョンの優れた性能のために注目を集めている。
最近の研究は、入力サンプルの難易度や特徴写像の平滑化に基づくカリキュラムの設計に重点を置いている。
しかし、学習ユーティリティをカリキュラム的に制御するためのラベルの平滑化はいまだに未検討である。
本研究では,一様ラベルスムースメント(ULS)を用いたペースト学習を用いたラベルスムースメント(P-CBLS)と,一様ラベルスムースメント(SVLS)を用いた意味的セグメンテーションタスクのための均一かつ空間的に変化するラベルスムースメント(SVLS)をカリキュラム的に設計する。
ULS と SVLS では、より大きな滑らか化係数が真のラベルにおいて重い滑らか化ペナルティを強制し、より少ない情報の学習を制限する。
そこで我々はラベルスムーシング(CBLS)を用いてカリキュラムを設計する。
トレーニング開始時によりスムーズな値を設定し,モデル学習ユーティリティを下位から上位に制御するために,徐々にゼロに減らした。
また,信頼度対応のペーシング関数を設計し,cblと組み合わせて様々なカリキュラムの利点について検討した。
提案手法は,マルチクラス,マルチラベル分類,キャプション,セグメンテーションタスクの4つのロボット手術データセット上で検証される。
また, 本手法のロバスト性についても, 検証データを異なる重度レベルに分解することで検討した。
提案手法は予測精度とロバスト性が向上することを示す。
関連論文リスト
- Semi-Supervised Class-Agnostic Motion Prediction with Pseudo Label
Regeneration and BEVMix [59.55173022987071]
クラス非依存動作予測のための半教師あり学習の可能性について検討する。
我々のフレームワークは一貫性に基づく自己学習パラダイムを採用しており、ラベルのないデータからモデルを学習することができる。
本手法は,弱さと完全教師付き手法に匹敵する性能を示す。
論文 参考訳(メタデータ) (2023-12-13T09:32:50Z) - SoftMatch: Addressing the Quantity-Quality Trade-off in Semi-supervised
Learning [101.86916775218403]
本稿では, サンプル重み付けを統一した定式化により, 一般的な擬似ラベル法を再検討する。
トレーニング中の擬似ラベルの量と質を両立させることでトレードオフを克服するSoftMatchを提案する。
実験では、画像、テキスト、不均衡な分類など、さまざまなベンチマークで大幅に改善されている。
論文 参考訳(メタデータ) (2023-01-26T03:53:25Z) - Learning with Partial Labels from Semi-supervised Perspective [28.735185883881172]
部分ラベル学習(Partial Label、PL)とは、部分ラベル付きデータから学習するタスクである。
セミスーパーバイザード・パースペクティブ(PLSP)を用いた部分ラベル学習という新しいPL学習手法を提案する。
PLSPは、特に高いあいまいさレベルにおいて、既存のPLベースライン法よりも著しく優れている。
論文 参考訳(メタデータ) (2022-11-24T15:12:16Z) - Is margin all you need? An extensive empirical study of active learning
on tabular data [66.18464006872345]
我々は,OpenML-CC18ベンチマークを用いて,69の実世界のデータセット上での各種能動学習アルゴリズムの性能を解析した。
意外なことに、古典的なマージンサンプリング技術は、現在の最先端技術を含む、他のすべてのものよりも優れている。
論文 参考訳(メタデータ) (2022-10-07T21:18:24Z) - Open-Set Semi-Supervised Learning for 3D Point Cloud Understanding [62.17020485045456]
半教師付き学習(SSL)では、ラベル付きデータと同じ分布からラベル付きデータが引き出されることが一般的である。
サンプル重み付けによりラベルなしデータを選択的に活用することを提案する。
論文 参考訳(メタデータ) (2022-05-02T16:09:17Z) - L2B: Learning to Bootstrap Robust Models for Combating Label Noise [52.02335367411447]
本稿では,Learning to Bootstrap (L2B) という,シンプルで効果的な手法を提案する。
モデルは、誤った擬似ラベルの影響を受けずに、自身の予測を使ってブートストラップを行うことができる。
これは、実際の観測されたラベルと生成されたラベル間の重みを動的に調整し、メタラーニングを通じて異なるサンプル間の重みを動的に調整することで実現される。
論文 参考訳(メタデータ) (2022-02-09T05:57:08Z) - STAR: Noisy Semi-Supervised Transfer Learning for Visual Classification [0.8662293148437356]
半教師付き学習(SSL)は、大規模なラベルなしデータの活用に有効であることが証明されている。
最近のSSLメソッドは、数十億のスケールでラベル付けされていないイメージデータに依存している。
本稿では,移動学習と自己学習を統合した半教師あり半教師ありトランスファー学習を提案する。
論文 参考訳(メタデータ) (2021-08-18T19:35:05Z) - Improving Self-supervised Learning with Hardness-aware Dynamic
Curriculum Learning: An Application to Digital Pathology [2.2742357407157847]
自己教師付き学習(SSL)は、最近、多くの画像解析タスクに有用な汎用的な視覚表現を学習する大きな可能性を示している。
既存のSSLメソッドは、ラベル付きトレーニングインスタンスの数が少ない場合や、転送ドメイン間のドメインシフトが重要である場合、ダウンストリームタスクに一般化できない。
本稿では,カリキュラム学習のレンズを用いて,自己指導型事前学習表現の改善を試みる。
論文 参考訳(メタデータ) (2021-08-16T15:44:48Z) - SCARF: Self-Supervised Contrastive Learning using Random Feature
Corruption [72.35532598131176]
本稿では,特徴のランダムなサブセットを乱してビューを形成するコントラスト学習手法であるSCARFを提案する。
SCARFは既存の戦略を補完し、オートエンコーダのような代替手段より優れていることを示す。
論文 参考訳(メタデータ) (2021-06-29T08:08:33Z) - Boosting the Performance of Semi-Supervised Learning with Unsupervised
Clustering [10.033658645311188]
学習中の間欠的にラベルを完全に無視することは,小サンプル体制における性能を著しく向上させることを示す。
本手法は,最先端のSSLアルゴリズムの高速化に有効であることを示す。
論文 参考訳(メタデータ) (2020-12-01T14:19:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。