論文の概要: Semi-supervision semantic segmentation with uncertainty-guided self
cross supervision
- arxiv url: http://arxiv.org/abs/2203.05118v1
- Date: Thu, 10 Mar 2022 02:32:13 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-12 02:17:58.836735
- Title: Semi-supervision semantic segmentation with uncertainty-guided self
cross supervision
- Title(参考訳): 不確実性誘導自己クロス監督による半スーパービジョン意味セグメンテーション
- Authors: Yunyang Zhang, Zhiqiang Gong, Xiaohu Zheng, Xiaoyu Zhao, Wen Yao
- Abstract要約: 相互監督法は、豊富なラベルのない画像を用いて、独立したアンサンブルモデルに基づいて交差一貫性を学習する。
このような方法でのアンサンブルモデルのトレーニングプロセスは、リソースのコストを乗じて、トレーニング効率を低下させる。
これらの問題を解決するために,不確実性誘導型自己交差監視(USCS)を提案する。
USCSは、パラメータや計算に40.5%と49.1%のコストを節約しながら、最先端のパフォーマンスを実現している。
- 参考スコア(独自算出の注目度): 9.641391150181919
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: As a powerful way of realizing semi-supervised segmentation, the cross
supervision method learns cross consistency based on independent ensemble
models using abundant unlabeled images. However, the wrong pseudo labeling
information generated by cross supervision would confuse the training process
and negatively affect the effectiveness of the segmentation model. Besides, the
training process of ensemble models in such methods also multiplies the cost of
computation resources and decreases the training efficiency. To solve these
problems, we propose a novel cross supervision method, namely
uncertainty-guided self cross supervision (USCS). In addition to ensemble
models, we first design a multi-input multi-output (MIMO) segmentation model
which can generate multiple outputs with shared model and consequently impose
consistency over the outputs, saving the cost on parameters and calculations.
On the other hand, we employ uncertainty as guided information to encourage the
model to focus on the high confident regions of pseudo labels and mitigate the
effects of wrong pseudo labeling in self cross supervision, improving the
performance of the segmentation model. Extensive experiments show that our
method achieves state-of-the-art performance while saving 40.5% and 49.1% cost
on parameters and calculations.
- Abstract(参考訳): 半教師付きセグメンテーションを実現する強力な方法として,無ラベル画像を用いた独立アンサンブルモデルに基づくクロス一貫性を学習する。
しかし、クロス監督によって生成された誤った擬似ラベル情報はトレーニングプロセスを混乱させ、セグメンテーションモデルの有効性に悪影響を及ぼす。
さらに、このような方法でのアンサンブルモデルのトレーニングプロセスは、計算資源のコストを乗じて、トレーニング効率を低下させる。
そこで本研究では,不確実性誘導型自己横断監視 (uscs) という新しい横断監視手法を提案する。
まず,マルチ入力マルチ出力(mimo)セグメンテーションモデルの設計を行い,複数の出力を共有モデルで生成し,その結果,出力に一貫性を課し,パラメータや計算コストを削減した。
一方,疑似ラベルの高信頼領域に着目し,自己クロス監督における誤った擬似ラベルの影響を緩和し,セグメンテーションモデルの性能を向上させるために,不確実性を指導情報として活用する。
実験の結果,提案手法はパラメータや計算に40.5%,49.1%のコストを節約しつつ,最先端の性能を実現することがわかった。
関連論文リスト
- Multi-Output Distributional Fairness via Post-Processing [47.94071156898198]
本稿では,タスクに依存しない公平度尺度である分散パリティを高めるために,マルチ出力モデルに対する後処理手法を提案する。
提案手法では, モデル出力を実験的なワッサーシュタインバリセンタへ移動させるため, 最適トランスポートマッピングを用いる。
論文 参考訳(メタデータ) (2024-08-31T22:41:26Z) - MAP: Low-compute Model Merging with Amortized Pareto Fronts via Quadratic Approximation [80.47072100963017]
Amortized Pareto Front (MAP) を用いた新しい低演算アルゴリズム Model Merging を導入する。
MAPは、複数のモデルをマージするためのスケーリング係数のセットを効率的に識別し、関連するトレードオフを反映する。
また,タスク数が比較的少ないシナリオではベイジアンMAP,タスク数の多い状況ではNested MAPを導入し,計算コストを削減した。
論文 参考訳(メタデータ) (2024-06-11T17:55:25Z) - Robust Training of Federated Models with Extremely Label Deficiency [84.00832527512148]
フェデレーション半教師付き学習(FSSL)は、ラベル不足を伴う分散データを用いて機械学習モデルを協調訓練するための強力なパラダイムとして登場した。
我々は,ラベル付きおよびラベルなしデータの異なる視点から洞察を提供することにより相互指導を強化するために,ツインサイトと呼ばれる新しいツインモデルパラダイムを提案する。
4つのベンチマークデータセットに関する包括的な実験は、Twin-sightが様々な実験環境において最先端の手法を著しく上回っていることを示す重要な証拠となる。
論文 参考訳(メタデータ) (2024-02-22T10:19:34Z) - AdaMerging: Adaptive Model Merging for Multi-Task Learning [68.75885518081357]
本稿では,Adaptive Model Merging (AdaMerging)と呼ばれる革新的な手法を紹介する。
本来のトレーニングデータに頼ることなく、タスクレベルでも階層的にも、モデルマージの係数を自律的に学習することを目指している。
AdaMergingは、現在の最先端のタスク演算のマージ方式と比較すると、パフォーマンスが11%向上している。
論文 参考訳(メタデータ) (2023-10-04T04:26:33Z) - Self-aware and Cross-sample Prototypical Learning for Semi-supervised
Medical Image Segmentation [10.18427897663732]
整合性学習は半教師付き医療画像セグメンテーションにおいて重要な役割を担っている。
これにより、注釈なしデータの豊富さを生かしながら、限られた注釈付きデータの有効利用が可能になる。
一貫性学習における予測の多様性を高めるために,自己認識型・クロスサンプル型学習法(SCP-Net)を提案する。
論文 参考訳(メタデータ) (2023-05-25T16:22:04Z) - Adversarial Dual-Student with Differentiable Spatial Warping for
Semi-Supervised Semantic Segmentation [70.2166826794421]
本研究では、教師なしデータ拡張を行うために、微分可能な幾何ワープを提案する。
また,平均教師数を改善するために,新しい対角的二重学習フレームワークを提案する。
我々のソリューションは、両方のデータセットで得られるパフォーマンスと最先端の結果を大幅に改善します。
論文 参考訳(メタデータ) (2022-03-05T17:36:17Z) - Identifying and Mitigating Spurious Correlations for Improving
Robustness in NLP Models [19.21465581259624]
多くの問題は、刺激的な相関を利用したモデルや、トレーニングデータとタスクラベルの間のショートカットに起因する可能性がある。
本論文では,NLPモデルにおけるこのような素因的相関を大規模に同定することを目的とする。
提案手法は,スケーラブルな「ショートカット」の集合を効果的かつ効率的に同定し,複数のアプリケーションにおいてより堅牢なモデルに導かれることを示す。
論文 参考訳(メタデータ) (2021-10-14T21:40:03Z) - Contrastive Learning for Fair Representations [50.95604482330149]
訓練された分類モデルは、意図せずバイアスのある表現や予測につながる可能性がある。
対戦訓練のような既存の分類モデルのデバイアス化手法は、訓練に高価であり、最適化が困難であることが多い。
比較学習を取り入れたバイアス軽減手法を提案し、同じクラスラベルを共有するインスタンスに類似した表現を推奨する。
論文 参考訳(メタデータ) (2021-09-22T10:47:51Z) - Orthogonal Ensemble Networks for Biomedical Image Segmentation [10.011414604407681]
モデル多様性を明示する新しいフレームワークであるOrthogonal Ensemble Networks (OEN)を紹介する。
提案手法を2つの課題脳病変セグメンテーションタスクでベンチマークする。
実験結果から,本手法はより頑健でよく校正されたアンサンブルモデルを生成することが示された。
論文 参考訳(メタデータ) (2021-05-22T23:44:55Z) - Unleashing the Power of Contrastive Self-Supervised Visual Models via
Contrast-Regularized Fine-Tuning [94.35586521144117]
コントラスト学習を微調整に適用することでさらにメリットが得られるか検討する。
本研究では,コントラスト正規化調律(core-tuning)を提案する。
論文 参考訳(メタデータ) (2021-02-12T16:31:24Z) - Modeling Score Distributions and Continuous Covariates: A Bayesian
Approach [8.772459063453285]
連続共変量に対するマッチングと非マッチスコア分布の生成モデルを構築した。
混合モデルを用いて任意の分布と局所基底関数をキャプチャする。
提案手法の精度と有効性を示す3つの実験を行った。
論文 参考訳(メタデータ) (2020-09-21T02:41:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。