論文の概要: ConMatch: Semi-Supervised Learning with Confidence-Guided Consistency Regularization

• arxiv url: http://arxiv.org/abs/2208.08631v1
• Date: Thu, 18 Aug 2022 04:37:50 GMT
• ステータス: 処理完了
• システム内更新日: 2022-08-19 13:40:07.546806
• Title: ConMatch: Semi-Supervised Learning with Confidence-Guided Consistency Regularization
• Title（参考訳）: conmatch: 信頼誘導型一貫性規則化による半教師付き学習
• Authors: Jiwon Kim, Youngjo Min, Daehwan Kim, Gyuseong Lee, Junyoung Seo, Kwangrok Ryoo, Seungryong Kim
• Abstract要約: 本稿では,ConMatchと呼ばれる擬似ラベルの信頼度によって重み付けされた画像の2つの強化されたビューから,モデルの予測間の一貫性の正則化をインテリジェントに活用する,新しい半教師付き学習フレームワークを提案する。 提案手法に対するConMatchの有効性を実証する実験を行い,広範囲にわたるアブレーション研究を行った。
• 参考スコア（独自算出の注目度）: 26.542718087103665
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: We present a novel semi-supervised learning framework that intelligently leverages the consistency regularization between the model's predictions from two strongly-augmented views of an image, weighted by a confidence of pseudo-label, dubbed ConMatch. While the latest semi-supervised learning methods use weakly- and strongly-augmented views of an image to define a directional consistency loss, how to define such direction for the consistency regularization between two strongly-augmented views remains unexplored. To account for this, we present novel confidence measures for pseudo-labels from strongly-augmented views by means of weakly-augmented view as an anchor in non-parametric and parametric approaches. Especially, in parametric approach, we present, for the first time, to learn the confidence of pseudo-label within the networks, which is learned with backbone model in an end-to-end manner. In addition, we also present a stage-wise training to boost the convergence of training. When incorporated in existing semi-supervised learners, ConMatch consistently boosts the performance. We conduct experiments to demonstrate the effectiveness of our ConMatch over the latest methods and provide extensive ablation studies. Code has been made publicly available at https://github.com/JiwonCocoder/ConMatch.
• Abstract（参考訳）: 本稿では,画像の2つの強明な視点からモデル予測間の一貫性の規則化をインテリジェントに活用する,擬似ラベルの信頼度に重みづけられた半教師付き学習フレームワークconmatchを提案する。 最新の半教師付き学習法は、方向整合性損失を定義するために画像の弱く強い教師付きビューを用いるが、2つの強教師付きビュー間の一貫性の規則化の方向性をどのように定義するかは未定である。 そこで本研究では,非パラメトリックおよびパラメトリックなアプローチにおけるアンカーとしての弱明な視点を用いて,強明な視点からの擬似ラベルに対する新たな信頼度尺度を提案する。 特にパラメトリックなアプローチでは、ネットワーク内の擬似ラベルの信頼性を初めて学習し、エンドツーエンドでバックボーンモデルで学習する。 また,トレーニングの収束性を高めるための段階的トレーニングも提示する。 既存の半教師付き学習者に組み込まれると、ConMatchは継続的にパフォーマンスを向上する。 提案手法に対するConMatchの有効性を示す実験を行い,広範囲にわたるアブレーション研究を行った。 コードはhttps://github.com/JiwonCocoder/ConMatch.comで公開されている。

関連論文リスト

• AstMatch: Adversarial Self-training Consistency Framework for Semi-Supervised Medical Image Segmentation [19.80612796391153]
  半教師付き学習(SSL)は,医用画像のセグメンテーションにおいて有意な可能性を示唆している。 本研究では,対戦型自己学習一貫性フレームワーク(AstMatch)を提案する。 提案されたAstMatchは、3つの公開データセット上の最先端SSLメソッドで広く評価されている。
  論文  参考訳（メタデータ） (2024-06-28T04:38:12Z)
• Deep Boosting Learning: A Brand-new Cooperative Approach for Image-Text Matching [53.05954114863596]
  画像テキストマッチングのための新しいDeep Boosting Learning (DBL)アルゴリズムを提案する。 アンカーブランチは、まずデータプロパティに関する洞察を提供するために訓練される。 ターゲットブランチは、一致したサンプルと未一致のサンプルとの相対距離をさらに拡大するために、より適応的なマージン制約を同時に課される。
  論文  参考訳（メタデータ） (2024-04-28T08:44:28Z)
• Synergistic Anchored Contrastive Pre-training for Few-Shot Relation Extraction [4.7220779071424985]
  Few-shot Relation extract (FSRE) は、ラベル付きコーパスのスパースセットから事実を抽出することを目的としている。 近年の研究では、事前学習言語モデルを用いたFSREの有望な結果が示されている。 本稿では,新しい相乗的アンカー付きコントラスト事前学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-19T10:16:24Z)
• Towards Distribution-Agnostic Generalized Category Discovery [51.52673017664908]
  データ不均衡とオープンエンドの分布は、現実の視覚世界の本質的な特性である。 我々は,BaCon(Self-Balanced Co-Advice contrastive framework)を提案する。 BaConは、対照的な学習ブランチと擬似ラベルブランチで構成され、DA-GCDタスクを解決するためのインタラクティブな監視を提供するために協力して動作する。
  論文  参考訳（メタデータ） (2023-10-02T17:39:58Z)
• Learning Transferable Adversarial Robust Representations via Multi-view Consistency [57.73073964318167]
  デュアルエンコーダを用いたメタ逆多視点表現学習フレームワークを提案する。 未確認領域からの少数ショット学習タスクにおけるフレームワークの有効性を実証する。
  論文  参考訳（メタデータ） (2022-10-19T11:48:01Z)
• Semi-Supervised Learning of Semantic Correspondence with Pseudo-Labels [26.542718087103665]
  SemiMatchは意味論的に類似した画像間の密接な対応を確立するための半教師付きソリューションである。 筆者らのフレームワークは,ソースと弱増強ターゲット間のモデル予測自体を用いて擬似ラベルを生成し,擬似ラベルを用いてソースと強増強ターゲット間のモデルの再学習を行う。 実験では、SemiMatchは様々なベンチマーク、特にPF-Willowにおける最先端のパフォーマンスを大きなマージンで達成している。
  論文  参考訳（メタデータ） (2022-03-30T03:52:50Z)
• Revisiting Contrastive Learning through the Lens of Neighborhood Component Analysis: an Integrated Framework [70.84906094606072]
  下流タスクにおいて高い精度とロバスト性を同時に達成できるような、統合されたコントラスト損失を設計するための新しい手法を示す。 統合フレームワークでは,標準精度が最大6%向上し,対角精度が17%向上した。
  論文  参考訳（メタデータ） (2021-12-08T18:54:11Z)
• Co$^2$L: Contrastive Continual Learning [69.46643497220586]
  近年の自己教師型学習のブレークスルーは、このようなアルゴリズムが視覚的な表現を学習し、見えないタスクにもっとうまく移行できることを示している。 本稿では、連続的な学習と伝達可能な表現の維持に焦点を当てたリハーサルに基づく連続学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-06-28T06:14:38Z)
• Robust Pre-Training by Adversarial Contrastive Learning [120.33706897927391]
  近年の研究では、敵の訓練と統合されると、自己監督型事前訓練が最先端の堅牢性につながることが示されている。 我々は,データ強化と対向的摂動の両面に整合した学習表現により,ロバストネスを意識した自己指導型事前学習を改善する。
  論文  参考訳（メタデータ） (2020-10-26T04:44:43Z)
• A Simple Framework for Uncertainty in Contrastive Learning [11.64841553345271]
  我々は、事前訓練されたコントラッシブ表現に対して不確実性を割り当てることを学ぶための単純なアプローチを導入する。 我々は、表現から表現空間の分布への深いネットワークを訓練し、その分散を信頼度尺度として用いることができる。 本実験では,(1) モデル動作の視覚的解釈,(2) 展開モデルへの入力における新しいノイズの検出,(3) 異常検出,そして,11タスクで10のベースライン手法を上回り,最大14%の絶対性向上を実現していることを示す。
  論文  参考訳（メタデータ） (2020-10-05T14:17:42Z)
• Confidence-aware Adversarial Learning for Self-supervised Semantic Matching [29.132600499226406]
  我々はCAMNet(Confidence-Aware Semantic Matching Network)を紹介する。 まず、自己教師付き学習を通して、一致予測のための高密度信頼マップを推定する。 第2に、推定された信頼度に基づいて、画像平面上の他の位置との信頼性の高いマッチングを伝播することにより、初期予測を洗練する。 我々は,改良中の信頼を利用してセマンティックマッチングの精度を向上し,マッチングネットワーク全体を対象としたエンドツーエンドの自己教師付き対人学習手法を開発した最初の人物である。
  論文  参考訳（メタデータ） (2020-08-25T09:15:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。