論文の概要: Temporal Convolutional Explorer Helps Understand 1D-CNN's Learning
Behavior in Time Series Classification from Frequency Domain
- arxiv url: http://arxiv.org/abs/2310.05467v1
- Date: Mon, 9 Oct 2023 07:22:22 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-12 07:08:02.022056
- Title: Temporal Convolutional Explorer Helps Understand 1D-CNN's Learning
Behavior in Time Series Classification from Frequency Domain
- Title（参考訳）: 周波数領域からの時系列分類における1D-CNNの学習行動の理解を支援する時間畳み込みエクスプローラー
- Authors: Junru Zhang, Lang Feng, Yang He, Yuhan Wu, Yabo Dong
- Abstract要約: 本稿では,1D-CNNの学習動作を実証的に探索する時間的畳み込みエクスプローラー(TCE)を提案する。
TCE分析は、より深い1D-CNNは、精度劣化現象につながる低周波成分から焦点を逸らす傾向があることを強調した。
次に,既存の1D-CNNに容易に統合可能な規制フレームワークを提案する。
- 参考スコア（独自算出の注目度）: 7.784692102912901
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: While one-dimensional convolutional neural networks (1D-CNNs) have been
empirically proven effective in time series classification tasks, we find that
there remain undesirable outcomes that could arise in their application,
motivating us to further investigate and understand their underlying
mechanisms. In this work, we propose a Temporal Convolutional Explorer (TCE) to
empirically explore the learning behavior of 1D-CNNs from the perspective of
the frequency domain. Our TCE analysis highlights that deeper 1D-CNNs tend to
distract the focus from the low-frequency components leading to the accuracy
degradation phenomenon, and the disturbing convolution is the driving factor.
Then, we leverage our findings to the practical application and propose a
regulatory framework, which can easily be integrated into existing 1D-CNNs. It
aims to rectify the suboptimal learning behavior by enabling the network to
selectively bypass the specified disturbing convolutions. Finally, through
comprehensive experiments on widely-used UCR, UEA, and UCI benchmarks, we
demonstrate that 1) TCE's insight into 1D-CNN's learning behavior; 2) our
regulatory framework enables state-of-the-art 1D-CNNs to get improved
performances with less consumption of memory and computational overhead.
- Abstract（参考訳）: 1次元畳み込みニューラルネットワーク (1d-cnns) は, 時系列分類タスクにおいて実験的に有効であることが証明されているが, その応用において起こりうる望ましくない結果が残っており, その基礎となるメカニズムをさらに調査し, 理解する動機となっている。
本研究では、周波数領域の観点から1D-CNNの学習挙動を実証的に探索するTCE(Temporal Convolutional Explorer)を提案する。
TCE分析は、より深い1D-CNNは、精度劣化現象につながる低周波成分から焦点を逸らしがちであり、乱れた畳み込みが駆動要因であることを示している。
そこで本研究では,既存の1D-CNNに容易に統合可能な規制フレームワークを提案する。
ネットワークが特定の乱れた畳み込みを選択的に回避できるようにすることで、最適学習行動の修正を目指す。
最後に、広く使われているUCR、UEA、UCIベンチマークに関する総合的な実験を通じて、我々はそれを実証した。
1)1D-CNNの学習行動に関するTCEの知見
2)最先端の1d-cnnsによるメモリ消費と計算オーバーヘッドの低減による性能向上を実現する。
関連論文リスト
- DCNN: Dual Cross-current Neural Networks Realized Using An Interactive Deep Learning Discriminator for Fine-grained Objects [48.65846477275723]
本研究では、微細な画像分類の精度を向上させるために、新しい二重電流ニューラルネットワーク(DCNN)を提案する。
弱い教師付き学習バックボーンモデルを構築するための新しい特徴として、(a)異種データの抽出、(b)特徴マップの解像度の維持、(c)受容領域の拡大、(d)グローバル表現と局所特徴の融合などがある。
論文 参考訳（メタデータ） (2024-05-07T07:51:28Z) - Temporal Contrastive Learning for Spiking Neural Networks [23.963069990569714]
生物学的にインスパイアされたニューラルネットワーク(SNN)は、低エネルギー消費と時間的情報処理能力のためにかなりの注目を集めている。
本稿では、時間領域情報にコントラスト的監督を組み込むことにより、低レイテンシで高性能なSNNを得る新しい手法を提案する。
論文 参考訳（メタデータ） (2023-05-23T10:31:46Z) - Bridging the Gap between ANNs and SNNs by Calibrating Offset Spikes [19.85338979292052]
スパイキングニューラルネットワーク(SNN)は低消費電力と時間情報処理の特徴的な特徴から注目されている。
ANN-SNN変換は、SNNに適用するための最も一般的な訓練方法であり、変換されたSNNが大規模データセット上でANNに匹敵するパフォーマンスを達成することを確実にする。
本稿では、異なる変換誤差を評価してこれらの誤りを除去する代わりに、実際のSNN発射速度と所望のSNN発射速度のずれ度を測定するためにオフセットスパイクを定義する。
論文 参考訳（メタデータ） (2023-02-21T14:10:56Z) - Training Spiking Neural Networks with Local Tandem Learning [96.32026780517097]
スパイキングニューラルネットワーク(SNN)は、前者よりも生物学的に可塑性でエネルギー効率が高いことが示されている。
本稿では,局所タンデム学習(Local Tandem Learning, LTL)と呼ばれる一般化学習規則を提案する。
CIFAR-10データセット上の5つのトレーニングエポック内に高速なネットワーク収束を示すとともに,計算複雑性が低い。
論文 参考訳（メタデータ） (2022-10-10T10:05:00Z) - TCJA-SNN: Temporal-Channel Joint Attention for Spiking Neural Networks [22.965024490694525]
スパイキングニューラルネットワーク(SNN)は、生物学的妥当性、エネルギー効率、強力な時間情報表現能力によって、広く関心を集めている。
本稿では,TJA-SNNと呼ばれるSNNの時間・チャネル共同注意機構について述べる。
提案するTJA-SNNフレームワークは,空間次元と時間次元の両方からスパイクシーケンスの意義を効果的に評価することができる。
論文 参考訳（メタデータ） (2022-06-21T08:16:08Z) - Rethinking Nearest Neighbors for Visual Classification [56.00783095670361]
k-NNは、トレーニングセット内のテストイメージとトップk隣人間の距離を集約する遅延学習手法である。
我々は,教師付き手法と自己監督型手法のいずれでも,事前学習した視覚表現を持つk-NNを2つのステップで採用する。
本研究は,幅広い分類タスクに関する広範な実験により,k-NN統合の汎用性と柔軟性を明らかにした。
論文 参考訳（メタデータ） (2021-12-15T20:15:01Z) - Continuity-Discrimination Convolutional Neural Network for Visual Object
Tracking [150.51667609413312]
本稿では,視覚オブジェクト追跡のためのContinuity-Discrimination Convolutional Neural Network (CD-CNN) という新しいモデルを提案する。
この問題に対処するため、cd-cnnは時間的遅れの概念に基づいた時間的外観連続性をモデル化する。
不正確なターゲットの定位とドリフトを緩和するために,新しい概念 object-centroid を提案する。
論文 参考訳（メタデータ） (2021-04-18T06:35:03Z) - S2-BNN: Bridging the Gap Between Self-Supervised Real and 1-bit Neural
Networks via Guided Distribution Calibration [74.5509794733707]
本研究では, 実数値から, 最終予測分布上のバイナリネットワークへの誘導型学習パラダイムを提案する。
提案手法は,bnn上で5.515%の絶対利得で,単純なコントラスト学習ベースラインを向上できる。
提案手法は、単純なコントラスト学習ベースラインよりも大幅に改善され、多くの主流教師付きBNN手法に匹敵する。
論文 参考訳（メタデータ） (2021-02-17T18:59:28Z) - Progressive Tandem Learning for Pattern Recognition with Deep Spiking
Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。
高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文 参考訳（メタデータ） (2020-07-02T15:38:44Z) - T2FSNN: Deep Spiking Neural Networks with Time-to-first-spike Coding [26.654533157221973]
本稿では,カーネルベースの動的しきい値とデンドライトを用いて,深層SNNにタイム・ツー・ファースト・スパイク・コーディングを組み込むことによって,その欠点を克服する手法を提案する。
提案手法は,バースト符号化法と比較して,推定遅延とスパイク回数を22%,1%以下に削減できる。
論文 参考訳（メタデータ） (2020-03-26T04:39:12Z) - 1D CNN Based Network Intrusion Detection with Normalization on
Imbalanced Data [0.19336815376402716]
侵入検知システム(IDS)は、コンピュータネットワークにおいて、コンピュータ資源とデータを外部攻撃から保護する重要な役割を担っている。
最近のIDSは、予期せぬ、予測不能な攻撃に対するIDSの柔軟性と効率性を向上する課題に直面している。
1次元畳み込みニューラルネットワーク(1D-CNN)を用いた効率的かつ柔軟なIDS構築のための深層学習手法を提案する。
論文 参考訳（メタデータ） (2020-03-01T12:23:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。