論文の概要: SleepPriorCL: Contrastive Representation Learning with Prior
Knowledge-based Positive Mining and Adaptive Temperature for Sleep Staging
- arxiv url: http://arxiv.org/abs/2110.09966v1
- Date: Fri, 15 Oct 2021 06:54:29 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-22 04:39:21.791337
- Title: SleepPriorCL: Contrastive Representation Learning with Prior
Knowledge-based Positive Mining and Adaptive Temperature for Sleep Staging
- Title(参考訳): sleeppriorcl: 事前知識に基づく正のマイニングと適応温度による睡眠ステージのコントラスト表現学習
- Authors: Hongjun Zhang, Jing Wang, Qinfeng Xiao, Jiaoxue Deng, Youfang Lin
- Abstract要約: 意味論的に類似した(肯定的)と異種(否定的)のサンプルの対比に基づく自己教師付き学習(SSL)は、有望な成功を収めた。
既存のSSLメソッドは、多くの意味論的に類似した正がまだ発見されておらず、ネガティブとして扱われる問題に悩まされている。
本稿では,SleepPriorCLという新しいSSLアプローチを提案する。
- 参考スコア(独自算出の注目度): 9.102084407643199
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The objective of this paper is to learn semantic representations for sleep
stage classification from raw physiological time series. Although supervised
methods have gained remarkable performance, they are limited in clinical
situations due to the requirement of fully labeled data. Self-supervised
learning (SSL) based on contrasting semantically similar (positive) and
dissimilar (negative) pairs of samples have achieved promising success.
However, existing SSL methods suffer the problem that many semantically similar
positives are still uncovered and even treated as negatives. In this paper, we
propose a novel SSL approach named SleepPriorCL to alleviate the above problem.
Advances of our approach over existing SSL methods are two-fold: 1) by
incorporating prior domain knowledge into the training regime of SSL, more
semantically similar positives are discovered without accessing ground-truth
labels; 2) via investigating the influence of the temperature in contrastive
loss, an adaptive temperature mechanism for each sample according to prior
domain knowledge is further proposed, leading to better performance. Extensive
experiments demonstrate that our method achieves state-of-the-art performance
and consistently outperforms baselines.
- Abstract(参考訳): 本研究の目的は,生の生理的時系列から睡眠ステージ分類の意味表現を学ぶことである。
教師付き手法は目覚ましい性能を示したが,完全ラベル付きデータの要求により臨床状況は制限されている。
意味論的に類似した(正)と異種(負)のサンプルの対比に基づく自己教師学習(SSL)は、有望な成功を収めた。
しかし、既存のSSLメソッドは、多くの意味論的に類似した正がまだ発見され、陰性として扱われる問題に悩まされている。
本稿では,SleepPriorCLという新しいSSLアプローチを提案する。
既存のsslメソッドに対するアプローチの進歩は2つあります。
1) SSLのトレーニング体制に事前のドメイン知識を組み込むことにより、より意味的に類似した陽性が、基幹のラベルにアクセスせずに発見される。
2) コントラスト損失における温度の影響を調べることにより, 先行ドメイン知識に基づく各試料の適応温度機構がさらに提案され, 性能が向上した。
大規模な実験により,本手法が最先端性能を実現し,ベースラインを一貫して上回ることを示す。
関連論文リスト
- ItTakesTwo: Leveraging Peer Representations for Semi-supervised LiDAR Semantic Segmentation [24.743048965822297]
本稿では,ItTakesTwo (IT2) と呼ばれる半教師付きLiDARセマンティックセマンティックセマンティクスフレームワークを提案する。
IT2は、ピアLiDAR表現からの一貫性のある予測を保証するために設計されており、一貫性学習における摂動効率を改善する。
その結果,本手法は従来のSOTA法よりも顕著に改善されていることがわかった。
論文 参考訳(メタデータ) (2024-07-09T18:26:53Z) - A Channel-ensemble Approach: Unbiased and Low-variance Pseudo-labels is Critical for Semi-supervised Classification [61.473485511491795]
半教師付き学習(SSL)はコンピュータビジョンにおける実践的な課題である。
Pseudo-label (PL) メソッド、例えば FixMatch や FreeMatch は SSL で State of The Art (SOTA) のパフォーマンスを取得する。
本稿では,複数の下位PLを理論的に保証された非偏りと低分散のPLに集約する,軽量なチャネルベースアンサンブル法を提案する。
論文 参考訳(メタデータ) (2024-03-27T09:49:37Z) - SPLAL: Similarity-based pseudo-labeling with alignment loss for
semi-supervised medical image classification [11.435826510575879]
半教師付き学習(SSL)メソッドはラベル付きデータとラベルなしデータの両方を活用することで課題を軽減することができる。
医用画像分類のためのSSL法では,(1)ラベルなしデータセットの画像に対する信頼性の高い擬似ラベルの推定,(2)クラス不均衡によるバイアスの低減という2つの課題に対処する必要がある。
本稿では,これらの課題を効果的に解決する新しいSSLアプローチであるSPLALを提案する。
論文 参考訳(メタデータ) (2023-07-10T14:53:24Z) - Benchmarking Self-Supervised Learning on Diverse Pathology Datasets [10.868779327544688]
自己教師付き学習は、ラベルのないデータを活用する効果的な方法であることが示されている。
我々は、病理画像データに基づいてSSL事前トレーニングを行う最大規模の研究を行う。
核インスタンスセグメンテーションの課題に対してSSLを初めて適用する。
論文 参考訳(メタデータ) (2022-12-09T06:38:34Z) - MaxMatch: Semi-Supervised Learning with Worst-Case Consistency [149.03760479533855]
半教師付き学習(SSL)のための最悪ケース整合正則化手法を提案する。
本稿では,ラベル付きトレーニングデータとラベル付きトレーニングデータとを別々に比較した経験的損失項からなるSSLの一般化について述べる。
この境界によって動機づけられたSSLの目的は、元のラベルのないサンプルと、その複数の拡張版との最大の矛盾を最小限に抑えるものである。
論文 参考訳(メタデータ) (2022-09-26T12:04:49Z) - Hierarchical Semi-Supervised Contrastive Learning for
Contamination-Resistant Anomaly Detection [81.07346419422605]
異常検出は、通常のデータ分布から逸脱したサンプルを特定することを目的としている。
コントラスト学習は、異常の効果的な識別を可能にする表現のサンプル化に成功している。
汚染耐性異常検出のための新しい階層型半教師付きコントラスト学習フレームワークを提案する。
論文 参考訳(メタデータ) (2022-07-24T18:49:26Z) - Collaborative Intelligence Orchestration: Inconsistency-Based Fusion of
Semi-Supervised Learning and Active Learning [60.26659373318915]
アクティブラーニング(AL)と半教師付きラーニング(SSL)は2つの効果があるが、しばしば孤立している。
本稿では、SSL-ALの潜在的な優位性をさらに調査するために、革新的な一貫性に基づく仮想aDvErialアルゴリズムを提案する。
2つの実世界のケーススタディは、提案したデータサンプリングアルゴリズムの適用と展開の実践的な産業価値を可視化する。
論文 参考訳(メタデータ) (2022-06-07T13:28:43Z) - Trash to Treasure: Harvesting OOD Data with Cross-Modal Matching for
Open-Set Semi-Supervised Learning [101.28281124670647]
オープンセット半教師付き学習(Open-set SSL)では、ラベルなしデータにOOD(Out-of-distribution)サンプルを含む、難しいが実用的なシナリオを調査する。
我々は、OODデータの存在を効果的に活用し、特徴学習を増強する新しいトレーニングメカニズムを提案する。
我々のアプローチは、オープンセットSSLのパフォーマンスを大幅に向上させ、最先端技術よりも大きなマージンで性能を向上します。
論文 参考訳(メタデータ) (2021-08-12T09:14:44Z) - A Realistic Evaluation of Semi-Supervised Learning for Fine-Grained
Classification [38.68079253627819]
本ベンチマークは, avesおよびfungi分類のクラスをサンプリングして得られた2つの細粒度分類データセットからなる。
最近提案されたSSLメソッドは大きなメリットをもたらし、深いネットワークがゼロから訓練されたときにクラス外のデータを効果的にパフォーマンスを向上させることができます。
我々の研究は、現実的データセットの専門家による半教師付き学習は、現在文学で普及しているものとは異なる戦略を必要とする可能性があることを示唆している。
論文 参考訳(メタデータ) (2021-04-01T17:59:41Z) - On Data-Augmentation and Consistency-Based Semi-Supervised Learning [77.57285768500225]
最近提案された整合性に基づく半教師付き学習(SSL)手法は,複数のSSLタスクにおいて最先端技術である。
これらの進歩にもかかわらず、これらの手法の理解はまだ比較的限られている。
論文 参考訳(メタデータ) (2021-01-18T10:12:31Z) - Semi-supervised learning objectives as log-likelihoods in a generative
model of data curation [32.45282187405337]
データキュレーションの生成モデルにおいて、SSLの目的をログライクな形式として定式化する。
おもちゃのデータにベイジアンSSLの証明を与える。
論文 参考訳(メタデータ) (2020-08-13T13:50:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。