論文の概要: Image-Feature Weak-to-Strong Consistency: An Enhanced Paradigm for Semi-Supervised Learning

• arxiv url: http://arxiv.org/abs/2408.12614v1
• Date: Thu, 8 Aug 2024 13:19:25 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-01 17:12:14.443126
• Title: Image-Feature Weak-to-Strong Consistency: An Enhanced Paradigm for Semi-Supervised Learning
• Title（参考訳）: Image-Feature Weak-to-Strong Consistency:半教師付き学習のための拡張パラダイム
• Authors: Zhiyu Wu, Jinshi Cui,
• Abstract要約: 画像レベルの弱強一貫性は半教師あり学習(SSL)の主要なパラダイムである 拡張空間を拡大するために,様々な強度と形状を持つ特徴レベルの摂動を導入する。 本報告では, 素質と課題を識別するための信頼度に基づく識別戦略を提案する。
• 参考スコア（独自算出の注目度）: 5.0823084858349485
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Image-level weak-to-strong consistency serves as the predominant paradigm in semi-supervised learning~(SSL) due to its simplicity and impressive performance. Nonetheless, this approach confines all perturbations to the image level and suffers from the excessive presence of naive samples, thus necessitating further improvement. In this paper, we introduce feature-level perturbation with varying intensities and forms to expand the augmentation space, establishing the image-feature weak-to-strong consistency paradigm. Furthermore, our paradigm develops a triple-branch structure, which facilitates interactions between both types of perturbations within one branch to boost their synergy. Additionally, we present a confidence-based identification strategy to distinguish between naive and challenging samples, thus introducing additional challenges exclusively for naive samples. Notably, our paradigm can seamlessly integrate with existing SSL methods. We apply the proposed paradigm to several representative algorithms and conduct experiments on multiple benchmarks, including both balanced and imbalanced distributions for labeled samples. The results demonstrate a significant enhancement in the performance of existing SSL algorithms.
• Abstract（参考訳）: Image-level weak-to-strong consistencyは、半教師付き学習(SSL)において、その単純さと印象的なパフォーマンスのために、主要なパラダイムである。 それにもかかわらず、このアプローチはすべての摂動をイメージレベルに制限し、ナイーブサンプルの過剰な存在に苦しむため、さらなる改善が必要である。 本稿では,多彩な強度と形状を持つ特徴レベルの摂動を導入し,拡張空間を拡大し,画像特徴の弱いストロング整合性パラダイムを確立する。 さらに,本パラダイムでは,2種類の摂動間の相互作用を促進する3重分岐構造を構築し,そのシナジーを高める。 さらに,本研究では, ナイーブサンプルと課題サンプルを区別する信頼性に基づく識別戦略を提案し, ナイーブサンプルのみに新たな課題を提起する。 特に、我々のパラダイムは既存のSSLメソッドとシームレスに統合できます。 提案手法をいくつかの代表的なアルゴリズムに適用し、ラベル付きサンプルに対するバランスの取れた分布と不均衡な分布を含む複数のベンチマークで実験を行う。 その結果,既存のSSLアルゴリズムの性能が大幅に向上した。

関連論文リスト

• Boosting Imperceptibility of Stable Diffusion-based Adversarial Examples Generation with Momentum [13.305800254250789]
  我々は,SD-MIAE(SD-MIAE)という新しいフレームワークを提案する。 視覚的不受容性を保ち、元のクラスラベルとのセマンティックな類似性を保ちながら、ニューラルネットワーク分類器を効果的に誤解させることができる敵の例を生成する。 実験の結果,SD-MIAEは79%の誤分類率を示し,最先端法よりも35%向上した。
  論文  参考訳（メタデータ） (2024-10-17T01:22:11Z)
• The Common Stability Mechanism behind most Self-Supervised Learning Approaches [64.40701218561921]
  自己指導型学習手法の安定性のメカニズムを説明するための枠組みを提供する。 我々は,BYOL,SWAV,SimSiam,Barlow Twins,DINOなどの非コントラスト技術であるSimCLRの動作メカニズムについて議論する。 私たちは異なる仮説を定式化し、Imagenet100データセットを使ってそれらをテストします。
  論文  参考訳（メタデータ） (2024-02-22T20:36:24Z)
• The Risk of Federated Learning to Skew Fine-Tuning Features and Underperform Out-of-Distribution Robustness [50.52507648690234]
  フェデレートされた学習は、微調整された特徴をスキイングし、モデルの堅牢性を損なうリスクがある。 3つのロバスト性指標を導入し、多様なロバストデータセットで実験を行う。 提案手法は,パラメータ効率のよい微調整手法を含む多種多様なシナリオにまたがるロバスト性を著しく向上させる。
  論文  参考訳（メタデータ） (2024-01-25T09:18:51Z)
• Deep Boosting Multi-Modal Ensemble Face Recognition with Sample-Level Weighting [11.39204323420108]
  深層畳み込みニューラルネットワークは顔認識において顕著な成功を収めた。 現在のトレーニングベンチマークは、不均衡な品質分布を示している。 これは、訓練中に不足しているため、ハードサンプルの一般化に問題を引き起こす。 有名なAdaBoostにインスパイアされた本研究では、FR損失に異なるサンプルの重要性を組み込むためのサンプルレベルの重み付け手法を提案する。
  論文  参考訳（メタデータ） (2023-08-18T01:44:54Z)
• Rethinking Clustering-Based Pseudo-Labeling for Unsupervised Meta-Learning [146.11600461034746]
  教師なしメタラーニングのメソッドであるCACTUsは、擬似ラベル付きクラスタリングベースのアプローチである。 このアプローチはモデルに依存しないため、教師付きアルゴリズムと組み合わせてラベルのないデータから学習することができる。 このことの核となる理由は、埋め込み空間においてクラスタリングに優しい性質が欠如していることである。
  論文  参考訳（メタデータ） (2022-09-27T19:04:36Z)
• Auto-regressive Image Synthesis with Integrated Quantization [55.51231796778219]
  本稿では,条件付き画像生成のための多目的フレームワークを提案する。 CNNの帰納バイアスと自己回帰の強力なシーケンスモデリングが組み込まれている。 提案手法は,最先端技術と比較して,優れた多彩な画像生成性能を実現する。
  論文  参考訳（メタデータ） (2022-07-21T22:19:17Z)
• Entropy-based Active Learning for Object Detection with Progressive Diversity Constraint [31.094612936162754]
  アクティブラーニングは、コンピュータビジョンタスクにおける高アノテーションコストの問題を軽減するための有望な代替手段である。 本稿では,この問題に対処する新たなハイブリッドアプローチを提案し,ボトムアップ方式でインスタンスレベルの不確実性と多様性を共同で検討する。
  論文  参考訳（メタデータ） (2022-04-17T09:51:12Z)
• Dynamic Dual-Attentive Aggregation Learning for Visible-Infrared Person Re-Identification [208.1227090864602]
  Visible-infrared person re-identification (VI-ReID) は、歩行者検索の課題である。 既存のVI-ReID法は、識別可能性に制限があり、ノイズの多い画像に対して弱いロバスト性を持つグローバル表現を学習する傾向にある。 そこで我々は,VI-ReIDのための動的二段階集合(DDAG)学習法を提案する。
  論文  参考訳（メタデータ） (2020-07-18T03:08:13Z)
• Consistency Regularization with Generative Adversarial Networks for Semi-Supervised Learning [2.9707483702447783]
  GAN(Adversarial Adversarial Networks)に基づく半教師付き学習(SSL)アプローチは,多数の未ラベルサンプルを利用して分類性能を向上させる。 しかし、彼らのパフォーマンスは、最先端の非GANベースのSSLアプローチよりも遅れている。 この主な理由は、局所摂動下で同じ画像上でのクラス確率予測の整合性の欠如である。
  論文  参考訳（メタデータ） (2020-07-08T01:47:10Z)
• When Relation Networks meet GANs: Relation GANs with Triplet Loss [110.7572918636599]
  GAN(Generative Adversarial Network)の学習安定性はいまだに悩みの種である 本稿では,判別器のための関係ネットワークアーキテクチャについて検討し,より優れた一般化と安定性を実現する三重項損失を設計する。 ベンチマークデータセットの実験により、提案された関係判別器と新たな損失は、可変視覚タスクに大幅な改善をもたらすことが示された。
  論文  参考訳（メタデータ） (2020-02-24T11:35:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。