論文の概要: Time Series Compression using Quaternion Valued Neural Networks and Quaternion Backpropagation
- arxiv url: http://arxiv.org/abs/2403.11722v2
- Date: Mon, 25 Mar 2024 13:34:40 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-27 10:04:45.359613
- Title: Time Series Compression using Quaternion Valued Neural Networks and Quaternion Backpropagation
- Title(参考訳): 第四次価値ニューラルネットワークと第四次バックプロパゲーションを用いた時系列圧縮
- Authors: Johannes Pöppelbaum, Andreas Schwung,
- Abstract要約: 本稿では,長い時系列をデータセグメントに分割する4元時間時系列圧縮手法を提案する。
我々は,これらのチャンクのミン,マックス,平均,標準偏差を代表的特徴として抽出し,四元数でカプセル化する。
この時系列は、四重項値ニューラルネットワーク層を用いて処理される。
- 参考スコア(独自算出の注目度): 3.8750364147156247
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: We propose a novel quaternionic time-series compression methodology where we divide a long time-series into segments of data, extract the min, max, mean and standard deviation of these chunks as representative features and encapsulate them in a quaternion, yielding a quaternion valued time-series. This time-series is processed using quaternion valued neural network layers, where we aim to preserve the relation between these features through the usage of the Hamilton product. To train this quaternion neural network, we derive quaternion backpropagation employing the GHR calculus, which is required for a valid product and chain rule in quaternion space. Furthermore, we investigate the connection between the derived update rules and automatic differentiation. We apply our proposed compression method on the Tennessee Eastman Dataset, where we perform fault classification using the compressed data in two settings: a fully supervised one and in a semi supervised, contrastive learning setting. Both times, we were able to outperform real valued counterparts as well as two baseline models: one with the uncompressed time-series as the input and the other with a regular downsampling using the mean. Further, we could improve the classification benchmark set by SimCLR-TS from 81.43% to 83.90%.
- Abstract(参考訳): 本稿では,長い時系列をデータセグメントに分割し,各チャンクの最小値,最大値,平均値,標準偏差を代表的特徴として抽出し,それを四元数にカプセル化し,四元数価値の時系列を生成する,新しい四元数時系列圧縮手法を提案する。
この時系列は、四元数重畳されたニューラルネットワーク層を用いて処理され、ハミルトン製品を用いてこれらの特徴間の関係を保存することを目的としている。
この四元数ニューラルネットワークをトレーニングするためには、四元数空間における有効積と連鎖規則に必要となるGHR法を用いて四元数バックプロパゲーションを導出する。
さらに,得られた更新規則と自動微分との関係について検討した。
提案手法をテネシー・イーストマン・データセットに適用し、圧縮されたデータを用いて断層分類を行う。
いずれの場合も、実際の値付きモデルと2つのベースラインモデルを上回るパフォーマンスを実現しました。
さらに,SimCLR-TSが設定した分類基準を81.43%から83.90%に改善することができた。
関連論文リスト
- Thresholds for the distributed surface code in the presence of memory decoherence [0.0]
本稿では,分散トーリック曲面符号を用いたメモリチャネルの数値シミュレーションのためのフレームワークを提案する。
メモリデコヒーレンスの影響を定量的に検討し、デコヒーレンスレベルに合わせたGHZ生成プロトコルの利点を評価する。
論文 参考訳(メタデータ) (2024-01-19T15:41:00Z) - Spatio-temporal DeepKriging for Interpolation and Probabilistic
Forecasting [2.494500339152185]
本稿では、時間・時間・予測のためのディープニューラルネットワーク(DNN)に基づく2段階モデルを提案する。
我々は、確率予測を提供するために、量子ベースの損失関数をプロセスに導入する。
複雑な時間過程の大規模予測に適している。
論文 参考訳(メタデータ) (2023-06-20T11:51:44Z) - Robust Detection of Lead-Lag Relationships in Lagged Multi-Factor Models [61.10851158749843]
データ固有のリード-ラグ関係を発見することで、重要な洞察を得ることができる。
階層化多要素モデルにおけるリードラグ関係のロバスト検出のためのクラスタリング駆動手法を開発した。
論文 参考訳(メタデータ) (2023-05-11T10:30:35Z) - Irregularly-Sampled Time Series Modeling with Spline Networks [0.0]
本稿では,スプラインをニューラルネットワークへの入力として,特に補間関数に直接変換を適用することを提案する。
これにより、不規則なシーケンスをコンパクトに表現し、分類や予測といった下流タスクでこの表現を使用することができる。
論文 参考訳(メタデータ) (2022-10-19T15:05:41Z) - HyperTime: Implicit Neural Representation for Time Series [131.57172578210256]
暗黙の神経表現(INR)は、データの正確で解像度に依存しないエンコーディングを提供する強力なツールとして最近登場した。
本稿では、INRを用いて時系列の表現を分析し、再構成精度とトレーニング収束速度の点で異なるアクティベーション関数を比較した。
本稿では,INRを利用して時系列データセット全体の圧縮潜在表現を学習するハイパーネットワークアーキテクチャを提案する。
論文 参考訳(メタデータ) (2022-08-11T14:05:51Z) - EXIT: Extrapolation and Interpolation-based Neural Controlled
Differential Equations for Time-series Classification and Forecasting [19.37382379378985]
神経制御微分方程式(NCDE)は深層学習におけるブレークスルーと見なされている。
本研究では、NCDEのコア部分、すなわち離散的な時系列入力から連続的なパスを生成することで、NCDEを強化する。
我々のNCDE設計では、下流の機械学習タスクに外挿情報と外挿情報の両方を使うことができる。
論文 参考訳(メタデータ) (2022-04-19T09:37:36Z) - Imputing Missing Observations with Time Sliced Synthetic Minority
Oversampling Technique [0.3973560285628012]
本稿では,データセット内の各サンプルに対して均一な不規則な時系列を構成することを目的とした,単純かつ斬新な時系列計算手法を提案する。
我々は、観測時間の重複しないビン(「スライス」と呼ばれる)の中間点で定義される格子を固定し、各サンプルが所定の時間にすべての特徴に対して値を持つことを保証する。
これにより、完全に欠落した観察をインプットし、データ全体の時系列の均一な分類を可能にし、特別な場合には個々の欠落した特徴をインプットすることができる。
論文 参考訳(メタデータ) (2022-01-14T19:23:24Z) - Cluster-and-Conquer: A Framework For Time-Series Forecasting [94.63501563413725]
本稿では,高次元時系列データを予測するための3段階フレームワークを提案する。
当社のフレームワークは非常に汎用的で,各ステップで時系列予測やクラスタリングが利用可能です。
単純な線形自己回帰モデルでインスタンス化されると、いくつかのベンチマークデータセットで最先端の結果が得られる。
論文 参考訳(メタデータ) (2021-10-26T20:41:19Z) - Compact representations of convolutional neural networks via weight
pruning and quantization [63.417651529192014]
本稿では、音源符号化に基づく畳み込みニューラルネットワーク(CNN)の新しいストレージフォーマットを提案し、重み付けと量子化の両方を活用する。
我々は、全接続層で0.6%、ネットワーク全体で5.44%のスペース占有率を削減し、最低でもベースラインと同じくらいの競争力を発揮する。
論文 参考訳(メタデータ) (2021-08-28T20:39:54Z) - Deep Cellular Recurrent Network for Efficient Analysis of Time-Series
Data with Spatial Information [52.635997570873194]
本研究では,空間情報を用いた複雑な多次元時系列データを処理するための新しいディープセルリカレントニューラルネットワーク(DCRNN)アーキテクチャを提案する。
提案するアーキテクチャは,文献に比較して,学習可能なパラメータをかなり少なくしつつ,最先端の性能を実現している。
論文 参考訳(メタデータ) (2021-01-12T20:08:18Z) - Convolutional Tensor-Train LSTM for Spatio-temporal Learning [116.24172387469994]
本稿では,ビデオシーケンスの長期相関を効率的に学習できる高次LSTMモデルを提案する。
これは、時間をかけて畳み込み特徴を組み合わせることによって予測を行う、新しいテンソルトレインモジュールによって達成される。
この結果は,幅広いアプリケーションやデータセットにおいて,最先端のパフォーマンス向上を実現している。
論文 参考訳(メタデータ) (2020-02-21T05:00:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。