論文の概要: Look Into the LITE in Deep Learning for Time Series Classification

• arxiv url: http://arxiv.org/abs/2409.02869v1
• Date: Wed, 4 Sep 2024 16:53:46 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-05 16:52:09.840163
• Title: Look Into the LITE in Deep Learning for Time Series Classification
• Title（参考訳）: 時系列分類のための深層学習におけるLITE
• Authors: Ali Ismail-Fawaz, Maxime Devanne, Stefano Berretti, Jonathan Weber, Germain Forestier,
• Abstract要約: ディープラーニングモデルは時系列分類の強力なソリューションであることが示されている。 我々は,最新のインセプションタイムモデルのパラメータの2.34%しか持たない,boosTing tEchnique (LITE) を用いた TSC の新しいアーキテクチャである Light Inception を提案する。 UCRでトレーニングされたLITEアーキテクチャは、InceptionTimeの2.78倍高速で、CO2と電力の2.79倍消費する。
• 参考スコア（独自算出の注目度）: 6.708543240320757
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep learning models have been shown to be a powerful solution for Time Series Classification (TSC). State-of-the-art architectures, while producing promising results on the UCR and the UEA archives , present a high number of trainable parameters. This can lead to long training with high CO2 emission, power consumption and possible increase in the number of FLoating-point Operation Per Second (FLOPS). In this paper, we present a new architecture for TSC, the Light Inception with boosTing tEchnique (LITE) with only 2.34% of the number of parameters of the state-of-the-art InceptionTime model, while preserving performance. This architecture, with only 9, 814 trainable parameters due to the usage of DepthWise Separable Convolutions (DWSC), is boosted by three techniques: multiplexing, custom filters, and dilated convolution. The LITE architecture, trained on the UCR, is 2.78 times faster than InceptionTime and consumes 2.79 times less CO2 and power. To evaluate the performance of the proposed architecture on multivariate time series data, we adapt LITE to handle multivariate time series, we call this version LITEMV. To bring theory into application, we also conducted experiments using LITEMV on multivariate time series representing human rehabilitation movements, showing that LITEMV not only is the most efficient model but also the best performing for this application on the Kimore dataset, a skeleton based human rehabilitation exercises dataset. Moreover, to address the interpretability of LITEMV, we present a study using Class Activation Maps to understand the classification decision taken by the model during evaluation.
• Abstract（参考訳）: ディープラーニングモデルは、時系列分類(TSC)の強力なソリューションであることが示されている。 最先端アーキテクチャは、UCRとUEAアーカイブで有望な結果をもたらす一方で、多くのトレーニング可能なパラメータを提示する。 これはCO2排出量の増大、消費電力の増加、FLOPS(Floating-point Operation Per Second)の増大につながる可能性がある。 本稿では,最新のインセプションタイムモデルのパラメータの2.34%しか持たず,性能を保ちながら,TECの新しいアーキテクチャ,boosTing tEchnique (LITE) を提案する。 このアーキテクチャは、DWSC(DepthWise Separable Convolutions)の使用により、わずか9,814のトレーニング可能なパラメータを持つだけで、多重化、カスタムフィルタ、拡張畳み込みという3つのテクニックによって強化されている。 UCRでトレーニングされたLITEアーキテクチャは、InceptionTimeの2.78倍高速で、CO2と電力の2.79倍消費する。 多変量時系列データに対して提案したアーキテクチャの性能を評価するため,多変量時系列処理にLITEを適用し,このバージョンをLITEMVと呼ぶ。 また,人間のリハビリテーション運動を表す多変量時系列のLITEMVを用いた実験を行った結果,LITEMVは最も効率的なモデルであるだけでなく,骨格に基づくリハビリテーション訓練データセットであるKimoreデータセット上でも最も効果的であることがわかった。 さらに, LITEMVの解釈可能性に対処するため, 評価中のモデルによる分類決定を理解するために, Class Activation Mapsを用いた検討を行った。

関連論文リスト

• The Languini Kitchen: Enabling Language Modelling Research at Different Scales of Compute [66.84421705029624]
  本稿では,アクセル時間で測定された等価計算に基づくモデル比較を可能にする実験的プロトコルを提案する。 私たちは、既存の学術的ベンチマークを上回り、品質、多様性、文書の長さで上回る、大規模で多様で高品質な書籍データセットを前処理します。 この研究は、GPT-2アーキテクチャから派生したフィードフォワードモデルと、10倍のスループットを持つ新しいLSTMの形式でのリカレントモデルという2つのベースラインモデルも提供する。
  論文  参考訳（メタデータ） (2023-09-20T10:31:17Z)
• FormerTime: Hierarchical Multi-Scale Representations for Multivariate Time Series Classification [53.55504611255664]
  formerTimeは、多変量時系列分類タスクの分類能力を改善する階層的表現モデルである。 1)時系列データから階層的なマルチスケール表現を学習し、(2)トランスフォーマーと畳み込みネットワークの強さを継承し、(3)自己維持メカニズムによって引き起こされる効率の課題に取り組む。
  論文  参考訳（メタデータ） (2023-02-20T07:46:14Z)
• Learning from Temporal Spatial Cubism for Cross-Dataset Skeleton-based Action Recognition [88.34182299496074]
  アクションラベルはソースデータセットでのみ利用可能だが、トレーニング段階のターゲットデータセットでは利用できない。 我々は,2つの骨格に基づく行動データセット間の領域シフトを低減するために,自己スーパービジョン方式を利用する。 時間的セグメントや人体部分のセグメンテーションとパーフォーミングにより、我々は2つの自己教師あり学習分類タスクを設計する。
  論文  参考訳（メタデータ） (2022-07-17T07:05:39Z)
• An Experimental Review on Deep Learning Architectures for Time Series Forecasting [0.0]
  時系列予測のための最も広範な深層学習研究を提供する。 すべての研究モデルの中で、結果は、長期短期記憶(LSTM)と畳み込みネットワーク(CNN)が最良の代替手段であることを示しています。 CNNは、異なるパラメータ設定の下で結果の変動が少なく、比較性能を達成し、効率も向上します。
  論文  参考訳（メタデータ） (2021-03-22T17:58:36Z)
• Sequential Place Learning: Heuristic-Free High-Performance Long-Term Place Recognition [24.70946979449572]
  学習ベースのCNN+LSTMアーキテクチャを開発し、バックプロパゲーションを通じてトレーニングし、視点および外観不変の場所認識を実現します。 我々のモデルは、新しい最先端パフォーマンス標準を設定しながら、15の古典的手法より優れています。 さらに, SPL は 729 km の経路において, 従来の方法よりも 70 倍高速に展開可能であることを示す。
  論文  参考訳（メタデータ） (2021-03-02T22:57:43Z)
• Deep Cellular Recurrent Network for Efficient Analysis of Time-Series Data with Spatial Information [52.635997570873194]
  本研究では,空間情報を用いた複雑な多次元時系列データを処理するための新しいディープセルリカレントニューラルネットワーク(DCRNN)アーキテクチャを提案する。 提案するアーキテクチャは,文献に比較して,学習可能なパラメータをかなり少なくしつつ,最先端の性能を実現している。
  論文  参考訳（メタデータ） (2021-01-12T20:08:18Z)
• On the performance of deep learning models for time series classification in streaming [0.0]
  この研究は、データストリーミング分類のための様々なタイプのディープアーキテクチャのパフォーマンスを評価することである。 複数の時系列データセット上で,多層パーセプトロン,リカレント,畳み込み,時間的畳み込みニューラルネットワークなどのモデルを評価する。
  論文  参考訳（メタデータ） (2020-03-05T11:41:29Z)
• Convolutional Tensor-Train LSTM for Spatio-temporal Learning [116.24172387469994]
  本稿では,ビデオシーケンスの長期相関を効率的に学習できる高次LSTMモデルを提案する。 これは、時間をかけて畳み込み特徴を組み合わせることによって予測を行う、新しいテンソルトレインモジュールによって達成される。 この結果は,幅広いアプリケーションやデータセットにおいて,最先端のパフォーマンス向上を実現している。
  論文  参考訳（メタデータ） (2020-02-21T05:00:01Z)
• Lipreading using Temporal Convolutional Networks [57.41253104365274]
  現在の単語認識モデルは,残差ネットワークと双方向Gated Recurrent Unit層で構成されている。 このモデルの限界に対処し、その性能をさらに向上させる変更を提案する。 提案モデルでは,これらのデータセットにおいてそれぞれ1.2%と3.2%の絶対的な改善が得られた。
  論文  参考訳（メタデータ） (2020-01-23T17:49:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。