論文の概要: A Novel Sleep Stage Classification Using CNN Generated by an Efficient
Neural Architecture Search with a New Data Processing Trick
- arxiv url: http://arxiv.org/abs/2110.15277v1
- Date: Wed, 27 Oct 2021 10:36:52 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-31 08:27:55.774298
- Title: A Novel Sleep Stage Classification Using CNN Generated by an Efficient
Neural Architecture Search with a New Data Processing Trick
- Title（参考訳）: 新しいデータ処理トリックを用いた効率的なニューラルネットワーク探索によるcnnによる新しい睡眠ステージ分類
- Authors: Yu Xue, Ziming Yuan and Adam Slowik
- Abstract要約: 本稿では,畳み込みニューラルネットワーク(CNN)を用いた新しいデータ処理手法を用いて,効率的な5ステップの分類手法を提案する。
我々は、遺伝的アルゴリズム(GA)NASGを最大限に活用して、最高のCNNアーキテクチャを探索する。
我々は,データ処理トリックの収束性を検証するとともに,従来のCNNの性能をそのトリックの前後で比較する。
- 参考スコア（独自算出の注目度）: 4.365107026636095
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: With the development of automatic sleep stage classification (ASSC)
techniques, many classical methods such as k-means, decision tree, and SVM have
been used in automatic sleep stage classification. However, few methods explore
deep learning on ASSC. Meanwhile, most deep learning methods require extensive
expertise and suffer from a mass of handcrafted steps which are time-consuming
especially when dealing with multi-classification tasks. In this paper, we
propose an efficient five-sleep-stage classification method using convolutional
neural networks (CNNs) with a novel data processing trick and we design neural
architecture search (NAS) technique based on genetic algorithm (GA), NAS-G, to
search for the best CNN architecture. Firstly, we attach each kernel with an
adaptive coefficient to enhance the signal processing of the inputs. This can
enhance the propagation of informative features and suppress the propagation of
useless features in the early stage of the network. Then, we make full use of
GA's heuristic search and the advantage of no need for the gradient to search
for the best architecture of CNN. This can achieve a CNN with better
performance than a handcrafted one in a large search space at the minimum cost.
We verify the convergence of our data processing trick and compare the
performance of traditional CNNs before and after using our trick. Meanwhile, we
compare the performance between the CNN generated through NAS-G and the
traditional CNNs with our trick. The experiments demonstrate that the
convergence of CNNs with data processing trick is faster than without data
processing trick and the CNN with data processing trick generated by NAS-G
outperforms the handcrafted counterparts that use the data processing trick
too.
- Abstract（参考訳）: 自動睡眠ステージ分類(ASSC)技術の発展に伴い、k-means、決定木、SVMなどの古典的手法が自動睡眠ステージ分類に用いられている。
しかし、ASSCの深層学習を探求する手法はほとんどない。
一方,多くの深層学習手法では高度な専門知識が必要であり,特にマルチクラス化タスクの処理に時間を要する手作り作業の多さに悩まされている。
本稿では,新しいデータ処理手法を用いた畳み込みニューラルネットワーク(CNN)を用いた効率的な5段階分類手法を提案し,遺伝的アルゴリズム(GA)に基づくニューラルネットワーク探索(NAS)手法を設計し,最適なCNNアーキテクチャを探索する。
まず、各カーネルに適応係数を付加することで、入力の信号処理を向上させる。
これにより、情報的特徴の伝播を高め、ネットワークの初期段階における無駄な特徴の伝播を抑制することができる。
そこで我々は,GAのヒューリスティック検索をフル活用し,CNNの最高のアーキテクチャを探すための勾配を不要にする利点を生かした。
これにより、少ないコストで、大きな検索空間で手作りのものよりも優れたパフォーマンスでcnnを実現することができる。
我々は,データ処理トリックの収束性を検証するとともに,従来のCNNの性能をそのトリックの前後で比較する。
一方,NAS-Gにより生成されたCNNと従来のCNNのパフォーマンスを,我々のトリックと比較した。
実験により,データ処理トリックによるCNNの収束は,データ処理トリックを伴わないよりも高速であることが示され,NAS-Gが生成したデータ処理トリックによるCNNは,データ処理トリックを用いた手作りの手法よりも優れていた。
関連論文リスト
- Dynamic Semantic Compression for CNN Inference in Multi-access Edge
Computing: A Graph Reinforcement Learning-based Autoencoder [82.8833476520429]
部分オフロードにおける効果的な意味抽出と圧縮のための新しい意味圧縮手法であるオートエンコーダベースのCNNアーキテクチャ(AECNN)を提案する。
セマンティックエンコーダでは、CNNのチャネルアテンション機構に基づく特徴圧縮モジュールを導入し、最も情報性の高い特徴を選択して中間データを圧縮する。
セマンティックデコーダでは、受信した圧縮データから学習して中間データを再構築し、精度を向上させる軽量デコーダを設計する。
論文 参考訳（メタデータ） (2024-01-19T15:19:47Z) - Training Convolutional Neural Networks with the Forward-Forward
algorithm [1.74440662023704]
Forward Forward (FF)アルゴリズムは、現在まで完全に接続されたネットワークでしか使われていない。
FFパラダイムをCNNに拡張する方法を示す。
我々のFF学習したCNNは、空間的に拡張された新しいラベリング手法を特徴とし、MNISTの手書き桁データセットにおいて99.16%の分類精度を実現している。
論文 参考訳（メタデータ） (2023-12-22T18:56:35Z) - An Efficient Evolutionary Deep Learning Framework Based on Multi-source
Transfer Learning to Evolve Deep Convolutional Neural Networks [8.40112153818812]
畳み込みニューラルネットワーク(CNN)は、より複雑なトポロジを導入し、より深くより広いCNNへのキャパシティを拡大することで、長年にわたって、より優れたパフォーマンスを実現してきた。
計算コストは依然としてCNNを自動設計するボトルネックである。
本稿では, CNNを効率的に進化させるために, トランスファーラーニングにヒントを得て, 新たな進化的計算ベースのフレームワークを提案する。
論文 参考訳（メタデータ） (2022-12-07T20:22:58Z) - Attention-based Feature Compression for CNN Inference Offloading in Edge
Computing [93.67044879636093]
本稿では,デバイスエッジ共振器におけるCNN推論の計算負荷について検討する。
エンドデバイスにおける効率的な特徴抽出のための新しいオートエンコーダベースのCNNアーキテクチャ(AECNN)を提案する。
実験の結果、AECNNは中間データを約4%の精度で256倍圧縮できることがわかった。
論文 参考訳（メタデータ） (2022-11-24T18:10:01Z) - Towards a General Purpose CNN for Long Range Dependencies in
$\mathrm{N}$D [49.57261544331683]
構造変化のない任意の解像度,次元,長さのタスクに対して,連続的な畳み込みカーネルを備えた単一CNNアーキテクチャを提案する。
1$mathrmD$)とビジュアルデータ(2$mathrmD$)の幅広いタスクに同じCCNNを適用することで、我々のアプローチの汎用性を示す。
私たちのCCNNは競争力があり、検討されたすべてのタスクで現在の最先端を上回ります。
論文 参考訳（メタデータ） (2022-06-07T15:48:02Z) - An Acceleration Method Based on Deep Learning and Multilinear Feature
Space [0.0]
本稿では,大規模CNNアーキテクチャからの学習を伝達するために,Multilinear Feature Space (MFS)法に基づく代替手法を提案する。
提案手法はCNNを用いて特徴マップを生成するが,複雑性低減手法として機能しない。
AMFCと呼ばれる本手法では,事前学習したCNNからの移動学習を用いて,新しいサンプル画像の分類時間を最小限に抑える。
論文 参考訳（メタデータ） (2021-10-16T23:49:12Z) - CONet: Channel Optimization for Convolutional Neural Networks [33.58529066005248]
畳み込みニューラルネットワーク(CNN)におけるチャネルサイズ最適化の検討
ネットワーク層をまたいだCNNのチャネルサイズを自動的に最適化する,効率的な動的スケーリングアルゴリズムであるConetを導入します。
CIFAR10/100およびImageNetデータセット上で実験を行い、ConetがResNet、DARTS、DARTS+空間で探索された効率的で正確なアーキテクチャを見つけることができることを示す。
論文 参考訳（メタデータ） (2021-08-15T21:48:25Z) - The Mind's Eye: Visualizing Class-Agnostic Features of CNNs [92.39082696657874]
本稿では,特定のレイヤの最も情報性の高い特徴を表現した対応する画像を作成することにより,画像の集合を視覚的に解釈する手法を提案する。
本手法では, 生成ネットワークを必要とせず, 元のモデルに変更を加えることなく, デュアルオブジェクトのアクティベーションと距離損失を利用する。
論文 参考訳（メタデータ） (2021-01-29T07:46:39Z) - Fusion of CNNs and statistical indicators to improve image
classification [65.51757376525798]
畳み込みネットワークは過去10年間、コンピュータビジョンの分野を支配してきた。
この傾向を長引かせる主要な戦略は、ネットワーク規模の拡大によるものだ。
我々は、異種情報ソースを追加することは、より大きなネットワークを構築するよりもCNNにとって費用対効果が高いと仮定している。
論文 参考訳（メタデータ） (2020-12-20T23:24:31Z) - Curriculum By Smoothing [52.08553521577014]
畳み込みニューラルネットワーク(CNN)は、画像分類、検出、セグメンテーションなどのコンピュータビジョンタスクにおいて顕著な性能を示している。
アンチエイリアスフィルタやローパスフィルタを用いてCNNの機能埋め込みを円滑化するエレガントなカリキュラムベースのスキームを提案する。
トレーニング中に特徴マップ内の情報量が増加するにつれて、ネットワークはデータのより優れた表現を徐々に学習することができる。
論文 参考訳（メタデータ） (2020-03-03T07:27:44Z) - Human Activity Recognition using Multi-Head CNN followed by LSTM [1.8830374973687412]
本研究では,CNNとLSTMを用いた新しい身体活動認識法を提案する。
提案手法を用いて,従来の機械学習アルゴリズムや他のディープニューラルネットワークアルゴリズムに匹敵する最先端の精度を実現する。
論文 参考訳（メタデータ） (2020-02-21T14:29:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。