論文の概要: Semi-supervised Learning with Deterministic Labeling and Large Margin
Projection
- arxiv url: http://arxiv.org/abs/2208.08058v1
- Date: Wed, 17 Aug 2022 04:09:35 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-18 12:45:24.315979
- Title: Semi-supervised Learning with Deterministic Labeling and Large Margin
Projection
- Title(参考訳): 決定論的ラベリングと大マージン投影を用いた半教師付き学習
- Authors: Ji Xu, Gang Ren, Yao Xiao, Shaobo Li, Guoyin Wang
- Abstract要約: ラベル付きデータの集中度と多様性は、半教師付き学習(SSL)の性能に非常に影響を与える
本研究は,OCF構造に基づいて認識される最小の安定かつ最も分散したデータに対して,カーネル化された大規模マージン計量を学習することを目的とする。
OLFに基づくSSLモデルの精度と性能の安定性は, ベースライン法に比べて大幅に向上した。
- 参考スコア(独自算出の注目度): 25.398314796157933
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The centrality and diversity of the labeled data are very influential to the
performance of semi-supervised learning (SSL), but most SSL models select the
labeled data randomly. How to guarantee the centrality and diversity of the
labeled data has so far received little research attention. Optimal leading
forest (OLF) has been observed to have the advantage of revealing the
difference evolution within a class when it was utilized to develop an SSL
model. Our key intuition of this study is to learn a kernelized large margin
metric for a small amount of most stable and most divergent data that are
recognized based on the OLF structure. An optimization problem is formulated to
achieve this goal. Also with OLF the multiple local metrics learning is
facilitated to address multi-modal and mix-modal problem in SSL. Attribute to
this novel design, the accuracy and performance stableness of the SSL model
based on OLF is significantly improved compared with its baseline methods
without sacrificing much efficiency. The experimental studies have shown that
the proposed method achieved encouraging accuracy and running time when
compared to the state-of-the-art graph SSL methods. Code has been made
available at https://github.com/alanxuji/DeLaLA.
- Abstract(参考訳): ラベル付きデータの集中度と多様性は半教師付き学習(SSL)の性能に非常に影響を与えるが、ほとんどのSSLモデルはラベル付きデータをランダムに選択する。
ラベル付きデータの集中性と多様性を保証する方法は、これまでのところほとんど研究されていない。
最適誘導林 (OLF) は, SSLモデルの開発に利用した際, クラス内での差分進化を明らかにする利点があると考えられる。
この研究の重要な直感は、OLF構造に基づいて認識される少数の安定かつ最も分散したデータに対して、カーネル化された大きなマージンメトリックを学習することである。
この目的を達成するために最適化問題を定式化する。
OLFでは、複数のローカルメトリクスの学習も簡単で、SSLのマルチモーダルとミックスモーダルの問題に対処できる。
OLFに基づくSSLモデルの精度と性能の安定性は, 高い効率を犠牲にすることなく, ベースライン法に比べて大幅に向上した。
実験により,提案手法は最先端のグラフSSL法と比較して精度と実行時間を向上することを示した。
コードはhttps://github.com/alanxuji/DeLaLAで公開されている。
関連論文リスト
- Continuous Contrastive Learning for Long-Tailed Semi-Supervised Recognition [50.61991746981703]
現在の最先端のLTSSLアプローチは、大規模な未ラベルデータに対して高品質な擬似ラベルに依存している。
本稿では,長期学習における様々な提案を統一する新しい確率的枠組みを提案する。
我々は、信頼度とスムーズな擬似ラベルを用いて、我々のフレームワークをラベルなしデータに拡張する、連続的コントラスト学習手法であるCCLを導入する。
論文 参考訳(メタデータ) (2024-10-08T15:06:10Z) - A Closer Look at Benchmarking Self-Supervised Pre-training with Image Classification [51.35500308126506]
自己教師付き学習(SSL)は、データ自体が監視を提供する機械学習アプローチであり、外部ラベルの必要性を排除している。
SSLの分類に基づく評価プロトコルがどのように相関し、異なるデータセットのダウンストリーム性能を予測するかを検討する。
論文 参考訳(メタデータ) (2024-07-16T23:17:36Z) - Erasing the Bias: Fine-Tuning Foundation Models for Semi-Supervised Learning [4.137391543972184]
半教師付き学習(SSL)は目覚ましい進歩をみせており、多くの方法のバリエーションをもたらしている。
本稿では,FinSSLという新しいSSLアプローチを提案する。
我々は、FineSSLが複数のベンチマークデータセットにSSLの新たな状態を設定し、トレーニングコストを6倍以上削減し、さまざまな微調整と現代的なSSLアルゴリズムをシームレスに統合できることを実証した。
論文 参考訳(メタデータ) (2024-05-20T03:33:12Z) - Reinforcement Learning-Guided Semi-Supervised Learning [20.599506122857328]
本稿では,SSLを片腕バンディット問題として定式化する新しい強化学習ガイド型SSL手法 RLGSSL を提案する。
RLGSSLは、ラベル付きデータとラベルなしデータのバランスを保ち、一般化性能を向上させるために、慎重に設計された報酬関数を組み込んでいる。
我々は,複数のベンチマークデータセットに対する広範な実験を通じてRCGSSLの有効性を実証し,我々の手法が最先端のSSL手法と比較して一貫した優れた性能を実現することを示す。
論文 参考訳(メタデータ) (2024-05-02T21:52:24Z) - On Pretraining Data Diversity for Self-Supervised Learning [57.91495006862553]
我々は、より多様なデータセットを用いたトレーニングが、固定された計算予算の下での自己教師付き学習(SSL)のパフォーマンスに与える影響について検討する。
以上の結果から,事前学習データの多様性の増大はSSL性能を向上させるが,下流データへの分布距離が最小である場合に限る。
論文 参考訳(メタデータ) (2024-03-20T17:59:58Z) - On the Effectiveness of Out-of-Distribution Data in Self-Supervised
Long-Tail Learning [15.276356824489431]
我々は、長期学習(COLT)のためのOODデータを用いたコントラストを提案する。
我々はSSL長期学習におけるOODサンプルの対直感的有用性を実証的に同定した。
提案手法は,長い尾のデータセット上でのSSLの性能を大きなマージンで大幅に向上させる。
論文 参考訳(メタデータ) (2023-06-08T04:32:10Z) - Benchmark for Uncertainty & Robustness in Self-Supervised Learning [0.0]
セルフ・スーパーバイザード・ラーニングは現実世界のアプリケーション、特に医療や自動運転車のようなデータ・ハングリーな分野に不可欠である。
本稿では Jigsaw Puzzles, Context, Rotation, Geometric Transformations Prediction for vision や BERT や GPT for Language Task など,SSL メソッドの変種について検討する。
我々のゴールは、実験から出力されたベンチマークを作成し、信頼性のある機械学習で新しいSSLメソッドの出発点を提供することです。
論文 参考訳(メタデータ) (2022-12-23T15:46:23Z) - OpenLDN: Learning to Discover Novel Classes for Open-World
Semi-Supervised Learning [110.40285771431687]
半教師付き学習(SSL)は、教師付き学習のアノテーションボトルネックに対処する主要なアプローチの1つである。
最近のSSLメソッドは、ラベルなしデータの大規模なリポジトリを有効活用して、ラベル付きデータの小さなセットに依存しながら、パフォーマンスを向上させることができる。
この研究は、ペアワイズ類似度損失を利用して新しいクラスを発見するOpenLDNを導入している。
論文 参考訳(メタデータ) (2022-07-05T18:51:05Z) - Self-supervised Learning is More Robust to Dataset Imbalance [65.84339596595383]
データセット不均衡下での自己教師型学習について検討する。
既製の自己教師型表現は、教師型表現よりもクラス不均衡に対してすでに堅牢である。
我々は、不均衡なデータセット上でSSL表現品質を一貫して改善する、再重み付け正規化手法を考案した。
論文 参考訳(メタデータ) (2021-10-11T06:29:56Z) - Self-Supervised Learning of Graph Neural Networks: A Unified Review [50.71341657322391]
ラベルなしサンプルを多用する新たなパラダイムとして,自己教師型学習が登場している。
SSLを用いたグラフニューラルネットワーク(GNNs)のトレーニング方法の統一レビューを提供します。
gnnに対するssl手法の処理は,様々な手法の類似性と相違に光を当て,新しい手法やアルゴリズムの開発段階を定めている。
論文 参考訳(メタデータ) (2021-02-22T03:43:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。