論文の概要: Spectrum Attention Mechanism for Time Series Classification
- arxiv url: http://arxiv.org/abs/2101.10420v1
- Date: Mon, 25 Jan 2021 21:14:05 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-14 21:37:40.970023
- Title: Spectrum Attention Mechanism for Time Series Classification
- Title(参考訳): 時系列分類のためのスペクトル注意機構
- Authors: Shibo Zhou, Yu Pan
- Abstract要約: スペクトラム(SAM)に作用する注意メカニズムを提案する。
また,時間領域情報の欠落を回避するためのセグメント化SAM(SSAM)を提案する。
実験の結果,SSAMはより優れた特徴表現を生成でき,ネットワークの収束を高速化し,ロバスト性や分類精度を向上できることがわかった。
- 参考スコア(独自算出の注目度): 1.1037585450795357
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Time series classification(TSC) has always been an important and challenging
research task. With the wide application of deep learning, more and more
researchers use deep learning models to solve TSC problems. Since time series
always contains a lot of noise, which has a negative impact on network
training, people usually filter the original data before training the network.
The existing schemes are to treat the filtering and training as two stages, and
the design of the filter requires expert experience, which increases the design
difficulty of the algorithm and is not universal. We note that the essence of
filtering is to filter out the insignificant frequency components and highlight
the important ones, which is similar to the attention mechanism. In this paper,
we propose an attention mechanism that acts on spectrum (SAM). The network can
assign appropriate weights to each frequency component to achieve adaptive
filtering. We use L1 regularization to further enhance the frequency screening
capability of SAM. We also propose a segmented-SAM (SSAM) to avoid the loss of
time domain information caused by using the spectrum of the whole sequence. In
which, a tumbling window is introduced to segment the original data. Then SAM
is applied to each segment to generate new features. We propose a heuristic
strategy to search for the appropriate number of segments. Experimental results
show that SSAM can produce better feature representations, make the network
converge faster, and improve the robustness and classification accuracy.
- Abstract(参考訳): 時系列分類(TSC)は、常に重要かつ困難な研究課題である。
深層学習の幅広い応用により、ますます多くの研究者が深層学習モデルを使用してTSCの問題を解決する。
時系列は常に多くのノイズを含み、ネットワークトレーニングに悪影響を及ぼすため、通常、ネットワークを訓練する前に元のデータをフィルタリングします。
既存の手法は、フィルタリングとトレーニングを2つの段階として扱うことであり、フィルタの設計にはエキスパートエクスペリエンスが必要であり、アルゴリズムの設計の難しさを増大させ、普遍的ではない。
フィルタの本質は,重要でない周波数成分をフィルタリングし,注意機構に類似した重要な成分を強調することにある。
本稿では,スペクトル(SAM)に作用する注意メカニズムを提案する。
ネットワークは、適応フィルタリングを実現するために各周波数成分に適切な重みを割り当てることができる。
我々は、SAMの周波数スクリーニング機能を強化するためにL1正規化を用いる。
また、シーケンス全体のスペクトルを用いて時間領域情報の損失を回避するためのセグメント化SAM(SSAM)を提案する。
元のデータをセグメント化するために、タンブリングウィンドウが導入されます。
そして、各セグメントにSAMを適用して新機能を生成します。
適切なセグメント数を探索するためのヒューリスティック戦略を提案する。
実験の結果,SSAMはより優れた特徴表現を生成でき,ネットワークの収束を高速化し,ロバスト性や分類精度を向上できることがわかった。
関連論文リスト
- FilterNet: Harnessing Frequency Filters for Time Series Forecasting [34.83702192033196]
FilterNetは、時系列信号の特定の成分を選択的に通過または減衰させることにより、重要な情報的時間パターンを抽出するために、我々の提案した学習可能な周波数フィルタ上に構築されている。
2つのフィルタを備えることで、FilterNetは、時系列文学で広く採用されている線形およびアテンションマッピングを概ねサロゲートすることができる。
論文 参考訳(メタデータ) (2024-11-03T16:20:41Z) - Tuning Frequency Bias of State Space Models [48.60241978021799]
状態空間モデル(SSM)は、線形時間不変(LTI)システムを利用して、長距離依存のシーケンスを学習する。
その結果,SSMは低周波成分を高周波成分よりも効果的に捕捉する傾向を示した。
論文 参考訳(メタデータ) (2024-10-02T21:04:22Z) - Frequency-Aware Deepfake Detection: Improving Generalizability through
Frequency Space Learning [81.98675881423131]
この研究は、目に見えないディープフェイク画像を効果的に識別できるユニバーサルディープフェイク検出器を開発するという課題に対処する。
既存の周波数ベースのパラダイムは、偽造検出のためにGANパイプラインのアップサンプリング中に導入された周波数レベルのアーティファクトに依存している。
本稿では、周波数領域学習を中心にしたFreqNetと呼ばれる新しい周波数認識手法を導入し、ディープフェイク検出器の一般化性を高めることを目的とする。
論文 参考訳(メタデータ) (2024-03-12T01:28:00Z) - Phase Synchrony Component Self-Organization in Brain Computer Interface [3.2116198597240846]
相同期情報は、機能的な脳の接続を分析し、脳の活動を特定する上で重要な役割を担っている。
本稿では、データ依存空間フィルタの適応学習を可能にする位相同期成分自己組織化の概念を提案する。
この概念に基づいて、生の脳波信号から位相同期に基づく特徴を直接抽出する、最初のディープラーニングエンドツーエンドネットワークが開発された。
論文 参考訳(メタデータ) (2023-09-21T09:42:16Z) - Transform Once: Efficient Operator Learning in Frequency Domain [69.74509540521397]
本研究では、周波数領域の構造を利用して、空間や時間における長距離相関を効率的に学習するために設計されたディープニューラルネットワークについて検討する。
この研究は、単一変換による周波数領域学習のための青写真を導入している。
論文 参考訳(メタデータ) (2022-11-26T01:56:05Z) - Multi-Frequency Information Enhanced Channel Attention Module for
Speaker Representation Learning [41.44950556040058]
本稿では,多周波情報を活用し,新しい2つの注目モジュールを設計することを提案する。
提案したアテンションモジュールは、DCTに基づいて、複数の周波数成分からより多くの話者情報を効果的に取得することができる。
実験の結果,提案するSFSCおよびMFSCアテンションモジュールは,より識別性の高い話者表現を効率的に生成できることがわかった。
論文 参考訳(メタデータ) (2022-07-10T21:19:36Z) - Adaptive Frequency Learning in Two-branch Face Forgery Detection [66.91715092251258]
本稿では、AFDと呼ばれる2分岐検出フレームワークにおいて、周波数情報を適応的に学習する手法を提案する。
我々は、固定周波数変換からネットワークを解放し、データおよびタスク依存の変換層でより良いパフォーマンスを達成する。
論文 参考訳(メタデータ) (2022-03-27T14:25:52Z) - Deep Frequency Filtering for Domain Generalization [55.66498461438285]
Deep Neural Networks(DNN)は、学習プロセスにおいて、いくつかの周波数成分を優先する。
本稿では、ドメイン一般化可能な特徴を学習するためのDeep Frequency Filtering (DFF)を提案する。
提案したDFFをベースラインに適用すると,ドメインの一般化タスクにおける最先端の手法よりも優れることを示す。
論文 参考訳(メタデータ) (2022-03-23T05:19:06Z) - Deep Autoregressive Models with Spectral Attention [74.08846528440024]
本稿では,深部自己回帰モデルとスペクトル注意(SA)モジュールを組み合わせた予測アーキテクチャを提案する。
時系列の埋め込みをランダムなプロセスの発生としてスペクトル領域に特徴付けることにより,グローバルな傾向と季節パターンを同定することができる。
時系列に対するグローバルとローカルの2つのスペクトルアテンションモデルは、この情報を予測の中に統合し、スペクトルフィルタリングを行い、時系列のノイズを除去する。
論文 参考訳(メタデータ) (2021-07-13T11:08:47Z) - Instance Explainable Temporal Network For Multivariate Timeseries [0.0]
本稿では,推論のインスタンスごとの分類決定において重要なチャネルを識別する新しいネットワーク(IETNet)を提案する。
IETNetは、時間的特徴抽出、変数選択、共同変数の相互作用を単一の学習フレームワークに組み合わせたエンドツーエンドネットワークである。
論文 参考訳(メタデータ) (2020-05-26T20:55:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。