論文の概要: Siamese Sleep Transformer For Robust Sleep Stage Scoring With
Self-knowledge Distillation and Selective Batch Sampling
- arxiv url: http://arxiv.org/abs/2212.13919v1
- Date: Mon, 12 Dec 2022 02:54:14 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-01 14:26:11.896442
- Title: Siamese Sleep Transformer For Robust Sleep Stage Scoring With
Self-knowledge Distillation and Selective Batch Sampling
- Title（参考訳）: 自己覚醒と選択的バッチサンプリングを併用したロバスト睡眠ステージ用シームス睡眠トランスフォーマー
- Authors: Heon-Gyu Kwak, Young-Seok Kweon, Gi-Hwan Shin
- Abstract要約: 本研究では、単一チャネルの生脳波信号から特徴を効果的に抽出し、ロバストな睡眠ステージスコアリングを行うシームズ睡眠変換器を提案する。
これらの問題を緩和するために、選択的バッチサンプリング戦略と自己知識蒸留を用いた新しい睡眠ステージスコアリングモデルであるSSTを提案する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, we propose a Siamese sleep transformer (SST) that effectively
extracts features from single-channel raw electroencephalogram signals for
robust sleep stage scoring. Despite the significant advances in sleep stage
scoring in the last few years, most of them mainly focused on the increment of
model performance. However, other problems still exist: the bias of labels in
datasets and the instability of model performance by repetitive training. To
alleviate these problems, we propose the SST, a novel sleep stage scoring model
with a selective batch sampling strategy and self-knowledge distillation. To
evaluate how robust the model was to the bias of labels, we used different
datasets for training and testing: the sleep heart health study and the
Sleep-EDF datasets. In this condition, the SST showed competitive performance
in sleep stage scoring. In addition, we demonstrated the effectiveness of the
selective batch sampling strategy with a reduction of the standard deviation of
performance by repetitive training. These results could show that SST extracted
effective learning features against the bias of labels in datasets, and the
selective batch sampling strategy worked for the model robustness in training.
- Abstract（参考訳）: 本稿では,単一チャネルの生脳波信号から特徴を効果的に抽出し,ロバストな睡眠ステージスコアリングを行うシアム睡眠トランスフォーマ(sst)を提案する。
過去数年間の睡眠ステージスコアの大幅な進歩にもかかわらず、そのほとんどはモデルパフォーマンスの増大に重点を置いていた。
しかしながら、データセット内のラベルのバイアスや、繰り返しトレーニングによるモデルパフォーマンスの不安定さなど、他の問題も存在する。
そこで本研究では,選択的なバッチサンプリング戦略と自己認識蒸留による新しい睡眠ステージスコアリングモデルであるsstを提案する。
このモデルがラベルのバイアスに対してどれほど堅牢かを評価するために、私たちは、トレーニングとテストのために異なるデータセット、すなわち睡眠心健康調査と睡眠-EDFデータセットを使用しました。
この条件下では、SSTは睡眠ステージスコアにおいて競争性能を示した。
また, 繰り返し訓練による性能の標準偏差を低減し, 選択的バッチサンプリング戦略の有効性を実証した。
これらの結果から,sstはデータセット内のラベルのバイアスに対して効果的な学習特徴を抽出でき,選択的なバッチサンプリング戦略はモデルのロバスト性に有効であった。
関連論文リスト
- Foster Adaptivity and Balance in Learning with Noisy Labels [26.309508654960354]
我々はtextbfSelf-adaptivtextbfE とクラスバランスtextbfD 方式でラベルノイズに対処するための textbfSED という新しい手法を提案する。
平均教師モデルは、ノイズの多いサンプルのラベルを修正するために使用される。
また,検出した雑音に異なる重みを割り当てる自己適応型およびクラスバランスのサンプル再重み付け機構を提案する。
論文 参考訳（メタデータ） (2024-07-03T03:10:24Z) - Learning with Imbalanced Noisy Data by Preventing Bias in Sample
Selection [82.43311784594384]
実世界のデータセットには、ノイズの多いラベルだけでなく、クラス不均衡も含まれている。
不均衡なデータセットにおけるノイズラベルに対処する,単純かつ効果的な手法を提案する。
論文 参考訳（メタデータ） (2024-02-17T10:34:53Z) - Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。
我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
論文 参考訳（メタデータ） (2023-12-27T09:03:43Z) - Transparency in Sleep Staging: Deep Learning Method for EEG Sleep Stage
Classification with Model Interpretability [5.747465732334616]
本研究では,残差ネットワーク内に圧縮ブロックと励起ブロックを統合し,複雑な時間的依存関係を理解するために,特徴抽出と積み重ねBi-LSTMを組み込んだエンド・ツー・エンドディープラーニング(DL)モデルを提案する。
本研究の特筆すべき側面は、睡眠ステージングのためのGradCamの適応であり、この領域における説明可能なDLモデルの最初の事例であり、その決定と睡眠専門家の洞察の一致である。
論文 参考訳（メタデータ） (2023-09-10T17:56:03Z) - SleepEGAN: A GAN-enhanced Ensemble Deep Learning Model for Imbalanced
Classification of Sleep Stages [4.649202082648198]
本研究では,睡眠段階の非バランスな分類のために,GAN(Generative Adversarial Network)を用いたアンサンブル深層学習モデルであるSleepEGANを開発した。
提案手法は,3つの睡眠データセットを用いた既存手法と比較して,分類精度を向上できることを示す。
論文 参考訳（メタデータ） (2023-07-04T01:56:00Z) - Selecting Learnable Training Samples is All DETRs Need in Crowded
Pedestrian Detection [72.97320260601347]
混雑した歩行者検出では, サンプル選択法が不適切であるため, DETRの性能は相変わらず不満足である。
制約誘導ラベル割り当てスキーム(CGLA)からなる群集歩行者のサンプル選択を提案する。
実験の結果,提案したSSCPは推論のオーバーヘッドを発生させることなく,ベースラインを効果的に改善することがわかった。
論文 参考訳（メタデータ） (2023-05-18T08:28:01Z) - Temporal Output Discrepancy for Loss Estimation-based Active Learning [65.93767110342502]
ラベルのないサンプルが高損失を伴っていると信じられている場合に,データアノテーションのオラクルに問い合わせる,新しいディープラーニングアプローチを提案する。
本手法は,画像分類やセマンティックセグメンテーションタスクにおける最先端の能動学習手法よりも優れた性能を実現する。
論文 参考訳（メタデータ） (2022-12-20T19:29:37Z) - TTAPS: Test-Time Adaption by Aligning Prototypes using Self-Supervision [70.05605071885914]
本研究では,単体テストサンプルに適用可能な自己教師付きトレーニングアルゴリズムSwaVの新たな改良を提案する。
ベンチマークデータセットCIFAR10-Cにおいて,本手法の有効性を示す。
論文 参考訳（メタデータ） (2022-05-18T05:43:06Z) - Efficient Test-Time Model Adaptation without Forgetting [60.36499845014649]
テストタイム適応は、トレーニングとテストデータの間の潜在的な分散シフトに取り組むことを目指している。
信頼性および非冗長なサンプルを同定するためのアクティブなサンプル選択基準を提案する。
また、重要なモデルパラメータを劇的な変化から制約するFisher regularizerを導入します。
論文 参考訳（メタデータ） (2022-04-06T06:39:40Z) - SleepTransformer: Automatic Sleep Staging with Interpretability and
Uncertainty Quantification [19.51641720686276]
ブラックボックス懐疑論は、深層学習に基づく自動睡眠スコアが臨床環境で使用されることを妨げる主要な障害の1つである。
本研究は、シーケンシャル・ツー・シークエンス・スリープ・ステーティング・モデル、すなわちSleepTransformerを提案する。
これは、自己アテンションスコアが、エポックとシークエンスの両方のレベルでモデルの決定の解釈可能性を提供するトランスフォーマーバックボーンに基づいている。
論文 参考訳（メタデータ） (2021-05-23T23:30:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。