論文の概要: EnK: Encoding time-information in convolution
- arxiv url: http://arxiv.org/abs/2006.04198v1
- Date: Sun, 7 Jun 2020 16:43:07 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-24 08:21:03.192873
- Title: EnK: Encoding time-information in convolution
- Title(参考訳): EnK: 畳み込みにおける時間情報のエンコード
- Authors: Avinash Kumar Singh and Chin-Teng Lin
- Abstract要約: 本稿では,CNNにおける畳み込み操作における時間情報の増加を考慮した,新しい時間符号化カーネル(EnK)手法を提案する。
EnKによるエンコードされた情報により、CNNはローカルおよびグローバル機能への付加的な時間依存機能を学ぶことができる。
認知コンフリクト(CC)、物理的人間ロボット協調(pHRC)、P300視覚誘発電位、運動関連大脳皮質電位(MRCP)といった脳波データを用いて実験を行った。
- 参考スコア(独自算出の注目度): 38.83895705668831
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Recent development in deep learning techniques has attracted attention in
decoding and classification in EEG signals. Despite several efforts utilizing
different features of EEG signals, a significant research challenge is to use
time-dependent features in combination with local and global features. There
have been several efforts to remodel the deep learning convolution neural
networks (CNNs) to capture time-dependency information by incorporating
hand-crafted features, slicing the input data in a smaller time-windows, and
recurrent convolution. However, these approaches partially solve the problem,
but simultaneously hinder the CNN's capability to learn from unknown
information that might be present in the data. To solve this, we have proposed
a novel time encoding kernel (EnK) approach, which introduces the increasing
time information during convolution operation in CNN. The encoded information
by EnK lets CNN learn time-dependent features in-addition to local and global
features. We performed extensive experiments on several EEG datasets: cognitive
conflict (CC), physical-human robot collaboration (pHRC), P300 visual-evoked
potentials, movement-related cortical potentials (MRCP). EnK outperforms the
state-of-art by 12\% (F1 score). Moreover, the EnK approach required only one
additional parameter to learn and can be applied to a virtually any CNN
architectures with minimal efforts. These results support our methodology and
show high potential to improve CNN performance in the context of time-series
data in general.
- Abstract(参考訳): 近年の深層学習技術の発展は脳波信号の復号化や分類に注目されている。
脳波信号の異なる特徴を利用するいくつかの取り組みにもかかわらず、重要な研究課題は、局所的およびグローバル的特徴と組み合わせて時間依存的特徴を使用することである。
深層学習畳み込みニューラルネットワーク(CNN)を再構築し、手作りの特徴を取り入れ、入力データをより小さな時間ウィンドウにスライスし、繰り返し畳み込みを繰り返すことで、時間依存情報をキャプチャする試みがあった。
しかし、これらのアプローチは部分的に問題を解決しているが、同時にデータに存在する可能性のある未知の情報から学習するcnnの能力を妨げる。
そこで本研究では,cnnにおける畳み込み動作中に増大する時間情報を導入する新しい時間符号化カーネル(enk)手法を提案する。
EnKによるエンコードされた情報により、CNNはローカルおよびグローバル機能への付加的な時間依存機能を学ぶことができる。
認知コンフリクト(CC)、物理的人間ロボット協調(pHRC)、P300視覚誘発電位、運動関連大脳皮質電位(MRCP)といった脳波データセットについて広範な実験を行った。
EnKは、最先端を12\%(F1スコア)上回る。
さらに、EnKアプローチは学習するパラメータを1つだけ必要としており、最小限の努力で事実上すべてのCNNアーキテクチャに適用できる。
これらの結果は我々の方法論をサポートし、時系列データ全般におけるCNNの性能向上の可能性を示す。
関連論文リスト
- Application of Tensorized Neural Networks for Cloud Classification [0.0]
畳み込みニューラルネットワーク(CNN)は、天気予報、コンピュータビジョン、自律運転、医療画像解析など、さまざまな分野で広く利用されている。
しかし、これらの領域におけるCNNの実装と商業化は、モデルのサイズ、過度な適合、計算時間に関連する課題によって妨げられている。
モデルサイズと計算時間を削減するため,CNN内の高密度層をテンソル化することによる画期的なアプローチを提案する。
論文 参考訳(メタデータ) (2024-03-21T06:28:22Z) - Dynamic Semantic Compression for CNN Inference in Multi-access Edge
Computing: A Graph Reinforcement Learning-based Autoencoder [82.8833476520429]
部分オフロードにおける効果的な意味抽出と圧縮のための新しい意味圧縮手法であるオートエンコーダベースのCNNアーキテクチャ(AECNN)を提案する。
セマンティックエンコーダでは、CNNのチャネルアテンション機構に基づく特徴圧縮モジュールを導入し、最も情報性の高い特徴を選択して中間データを圧縮する。
セマンティックデコーダでは、受信した圧縮データから学習して中間データを再構築し、精度を向上させる軽量デコーダを設計する。
論文 参考訳(メタデータ) (2024-01-19T15:19:47Z) - NAF: Neural Attenuation Fields for Sparse-View CBCT Reconstruction [79.13750275141139]
本稿では,スパースビューCBCT再構成のための新規かつ高速な自己教師型ソリューションを提案する。
所望の減衰係数は、3次元空間座標の連続関数として表現され、完全に接続されたディープニューラルネットワークによってパラメータ化される。
ハッシュ符号化を含む学習ベースのエンコーダが採用され、ネットワークが高周波の詳細をキャプチャするのに役立つ。
論文 参考訳(メタデータ) (2022-09-29T04:06:00Z) - Assessing learned features of Deep Learning applied to EEG [0.0]
生の脳波データに基づいて訓練されたCNNから脳波関連特徴を抽出するために3つの異なる手法を用いる。
我々は,CNNモデルの可視化により,興味深い脳波結果が得られることを示した。
論文 参考訳(メタデータ) (2021-11-08T07:43:40Z) - Transformer-based Spatial-Temporal Feature Learning for EEG Decoding [4.8276709243429]
本稿では,主に注意機構に依存する新しい脳波復号法を提案する。
我々はより少ないパラメータで、脳波の多分類化における最先端のレベルに達しました。
脳-コンピュータインタフェース(BCI)の実用性を促進する大きな可能性を秘めている。
論文 参考訳(メタデータ) (2021-06-11T00:48:18Z) - Adaptive Latent Space Tuning for Non-Stationary Distributions [62.997667081978825]
本稿では,ディープエンコーダ・デコーダ方式cnnの低次元潜在空間の適応チューニング法を提案する。
粒子加速器における時間変動荷電粒子ビームの特性を予測するためのアプローチを実証する。
論文 参考訳(メタデータ) (2021-05-08T03:50:45Z) - Spatio-Temporal Inception Graph Convolutional Networks for
Skeleton-Based Action Recognition [126.51241919472356]
我々はスケルトンに基づく行動認識のためのシンプルで高度にモジュール化されたグラフ畳み込みネットワークアーキテクチャを設計する。
ネットワークは,空間的および時間的経路から多粒度情報を集約するビルディングブロックを繰り返すことで構築される。
論文 参考訳(メタデータ) (2020-11-26T14:43:04Z) - Incorporating Learnable Membrane Time Constant to Enhance Learning of
Spiking Neural Networks [36.16846259899793]
スパイキングニューラルネットワーク(SNN)は、時間的情報処理能力、消費電力の低さ、高い生物学的信頼性により、膨大な研究関心を集めている。
既存の学習方法はウェイトのみを学習し、単一のスパイキングニューロンのダイナミクスを決定する膜関連パラメータを手動でチューニングする必要がある。
本稿では,脳の領域で膜関連パラメータが異なることの観察から着想を得て,シナプス重みだけでなく,SNNの膜時間定数も学習可能なトレーニングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-07-11T14:35:42Z) - Curriculum By Smoothing [52.08553521577014]
畳み込みニューラルネットワーク(CNN)は、画像分類、検出、セグメンテーションなどのコンピュータビジョンタスクにおいて顕著な性能を示している。
アンチエイリアスフィルタやローパスフィルタを用いてCNNの機能埋め込みを円滑化するエレガントなカリキュラムベースのスキームを提案する。
トレーニング中に特徴マップ内の情報量が増加するにつれて、ネットワークはデータのより優れた表現を徐々に学習することができる。
論文 参考訳(メタデータ) (2020-03-03T07:27:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。