論文の概要: SleepTransformer: Automatic Sleep Staging with Interpretability and
Uncertainty Quantification
- arxiv url: http://arxiv.org/abs/2105.11043v1
- Date: Sun, 23 May 2021 23:30:58 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-25 14:54:29.093304
- Title: SleepTransformer: Automatic Sleep Staging with Interpretability and
Uncertainty Quantification
- Title(参考訳): sleeptransformer: 解釈性と不確実性定量化による自動睡眠ステージング
- Authors: Huy Phan, Kaare Mikkelsen, Oliver Y. Ch\'en, Philipp Koch, Alfred
Mertins, Maarten De Vos
- Abstract要約: ブラックボックス懐疑論は、深層学習に基づく自動睡眠スコアが臨床環境で使用されることを妨げる主要な障害の1つである。
本研究は、シーケンシャル・ツー・シークエンス・スリープ・ステーティング・モデル、すなわちSleepTransformerを提案する。
これは、自己アテンションスコアが、エポックとシークエンスの両方のレベルでモデルの決定の解釈可能性を提供するトランスフォーマーバックボーンに基づいている。
- 参考スコア(独自算出の注目度): 19.51641720686276
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Black-box skepticism is one of the main hindrances impeding
deep-learning-based automatic sleep scoring from being used in clinical
environments. Towards interpretability, this work proposes a
sequence-to-sequence sleep-staging model, namely SleepTransformer. It is based
on the transformer backbone whose self-attention scores offer interpretability
of the model's decisions at both the epoch and sequence level. At the epoch
level, the attention scores can be encoded as a heat map to highlight
sleep-relevant features captured from the input EEG signal. At the sequence
level, the attention scores are visualized as the influence of different
neighboring epochs in an input sequence (i.e. the context) to recognition of a
target epoch, mimicking the way manual scoring is done by human experts. We
further propose a simple yet efficient method to quantify uncertainty in the
model's decisions. The method, which is based on entropy, can serve as a metric
for deferring low-confidence epochs to a human expert for further inspection.
Additionally, we demonstrate that the proposed SleepTransformer outperforms
existing methods at a lower computational cost and achieves state-of-the-art
performance on two experimental databases of different sizes.
- Abstract(参考訳): ブラックボックス懐疑論は、深層学習に基づく自動睡眠スコアが臨床環境で使用されることを妨げる主要な障害の1つである。
解釈可能性に向けて、この研究はシーケンシャル・ツー・シークエンス・スリープ・ステーティングモデル、すなわちSleepTransformerを提案する。
これは、自己アテンションスコアがエポックとシーケンスレベルでのモデルの決定の解釈可能性を提供するトランスフォーマーバックボーンに基づいている。
エポックレベルでは、注目スコアをヒートマップとしてエンコードして、入力された脳波信号から取得した睡眠関連特徴をハイライトすることができる。
シーケンスレベルでは、アテンションスコアを入力シーケンス内の異なる隣接エポックの影響として可視化する(すなわち、アテンションスコア)。
対象のエポックを認識するための文脈) 人間の専門家による手動スコアの方法の模倣。
さらに,モデル決定の不確かさを定量化する簡易かつ効率的な手法を提案する。
エントロピーに基づくこの方法は、人間の専門家に低信頼のエポックを延期する指標として機能し、さらなる検査を行うことができる。
さらに,提案したSleepTransformerは計算コストの低い既存手法よりも優れており,異なるサイズの2つの実験データベース上での最先端性能を実現していることを示す。
関連論文リスト
- Automatic Classification of Sleep Stages from EEG Signals Using Riemannian Metrics and Transformer Networks [6.404789669795639]
睡眠医学において、被験者の睡眠の進化を評価するには、脳波(EEG)信号の高価な手作業によるスコアが伴うことが多い。
本研究では,Symmetric Definite Positive (SPD) の性質を犠牲にすることなく,学習した信号的特徴をそれらの行列に組み込む新しい方法を提案する。
論文 参考訳(メタデータ) (2024-10-18T06:49:52Z) - DAPE V2: Process Attention Score as Feature Map for Length Extrapolation [63.87956583202729]
我々は特徴写像としての注意を概念化し、コンピュータビジョンにおける処理方法を模倣するために畳み込み演算子を適用した。
様々な注意関係のモデルに適応できる新しい洞察は、現在のTransformerアーキテクチャがさらなる進化の可能性があることを示している。
論文 参考訳(メタデータ) (2024-10-07T07:21:49Z) - PseudoNeg-MAE: Self-Supervised Point Cloud Learning using Conditional Pseudo-Negative Embeddings [55.55445978692678]
PseudoNeg-MAEは,ポイントマスク自動エンコーダのグローバルな特徴表現を強化する,自己教師型学習フレームワークである。
PseudoNeg-MAE は ModelNet40 と ScanObjectNN のデータセット上で最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2024-09-24T07:57:21Z) - Time-series Generation by Contrastive Imitation [87.51882102248395]
モーメントマッチングの目的によってモチベーションされ、複合的エラーを軽減し、局所的(しかし前方的な)遷移ポリシーを最適化する。
推論において、学習されたポリシーは反復的なサンプリングのジェネレータとして機能し、学習されたエネルギーはサンプルの品質を評価するための軌道レベル尺度として機能する。
論文 参考訳(メタデータ) (2023-11-02T16:45:25Z) - Sleep Activity Recognition and Characterization from Multi-Source
Passively Sensed Data [67.60224656603823]
睡眠活動認識法は、被験者の睡眠覚醒サイクルを評価し、監視し、特徴づけ、行動の変化を検出する指標を提供することができる。
本稿では,スマートフォンから受動的に知覚されたデータを連続的に操作して,睡眠の特徴を識別し,重要な睡眠エピソードを識別する一般的な方法を提案する。
これらの装置は、その用途により、連続的で客観的で非侵襲的な方法で被験者の生体リズムをプロファイルするための優れた代替データ源となっている。
論文 参考訳(メタデータ) (2023-01-17T15:18:45Z) - Siamese Sleep Transformer For Robust Sleep Stage Scoring With
Self-knowledge Distillation and Selective Batch Sampling [0.0]
本研究では、単一チャネルの生脳波信号から特徴を効果的に抽出し、ロバストな睡眠ステージスコアリングを行うシームズ睡眠変換器を提案する。
これらの問題を緩和するために、選択的バッチサンプリング戦略と自己知識蒸留を用いた新しい睡眠ステージスコアリングモデルであるSSTを提案する。
論文 参考訳(メタデータ) (2022-12-12T02:54:14Z) - SleePyCo: Automatic Sleep Scoring with Feature Pyramid and Contrastive
Learning [0.0]
本研究では,1)特徴ピラミッドを組み込んだ深層学習フレームワークSleePyCoと,2)自動睡眠スコアリングのための教師付きコントラスト学習を提案する。
特徴ピラミッドでは,異なる時間・周波数スケールで複数の特徴系列を検討するために,SleePyCo-backboneと呼ばれるバックボーンネットワークを提案する。
教師付きコントラスト学習により、クラス内特徴間の距離を最小化し、クラス間特徴間の距離を最大化することにより、クラス識別特徴を抽出することができる。
論文 参考訳(メタデータ) (2022-09-20T04:10:49Z) - Adaptive Spike-Like Representation of EEG Signals for Sleep Stages
Scoring [6.644008481573341]
信号強度の半ガウス的確率によって入力信号と重み特徴を符号化し,フィルタリングし,蓄積する適応的手法を提案する。
提案手法の有効性を検証し,将来有望な方向性を明らかにするため,最先端手法に対する最大の公開データセットの実験を行った。
論文 参考訳(メタデータ) (2022-04-02T11:21:49Z) - TransSleep: Transitioning-aware Attention-based Deep Neural Network for
Sleep Staging [2.105172041656126]
本稿では,局所的な時間的特徴を捉えた新しいディープニューラルネットワーク構造であるTransSleepを提案する。
その結果,TransSleepは自動睡眠ステージングにおいて有望な性能を発揮することがわかった。
論文 参考訳(メタデータ) (2022-03-22T08:55:32Z) - Transformers Can Do Bayesian Inference [56.99390658880008]
我々はPFN(Presideed Data Fitted Networks)を提案する。
PFNは、大規模機械学習技術におけるインコンテキスト学習を活用して、大規模な後部集合を近似する。
我々は、PFNがガウス過程をほぼ完璧に模倣し、難解問題に対する効率的なベイズ推定を可能にすることを示した。
論文 参考訳(メタデータ) (2021-12-20T13:07:39Z) - Autoencoding Variational Autoencoder [56.05008520271406]
我々は,この行動が学習表現に与える影響と,自己整合性の概念を導入することでそれを修正する結果について検討する。
自己整合性アプローチで訓練されたエンコーダは、敵攻撃による入力の摂動に対して頑健な(無神経な)表現につながることを示す。
論文 参考訳(メタデータ) (2020-12-07T14:16:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。