論文の概要: Training Robust Deep Models for Time-Series Domain: Novel Algorithms and Theoretical Analysis

• arxiv url: http://arxiv.org/abs/2207.04305v2
• Date: Wed, 13 Jul 2022 03:14:10 GMT
• ステータス: 処理完了
• システム内更新日: 2022-07-15 08:31:06.185125
• Title: Training Robust Deep Models for Time-Series Domain: Novel Algorithms and Theoretical Analysis
• Title（参考訳）: 時系列領域におけるロバスト深部モデルの訓練:新しいアルゴリズムと理論的解析
• Authors: Taha Belkhouja, Yan Yan, Janardhan Rao Doppa
• Abstract要約: 時系列分類タスクのための堅牢なDNNを作成するために,RObust Training for Time-Series (RO-TS) と呼ばれる新しいフレームワークを提案する。 時系列アライメントによる和構造を用いた定式化の一般化と利点を示す。 実世界のベンチマーク実験により, RO-TSは, 対戦型トレーニングと比較して, より堅牢なDNNを生成することが示された。
• 参考スコア（独自算出の注目度）: 32.45387153404849
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Despite the success of deep neural networks (DNNs) for real-world applications over time-series data such as mobile health, little is known about how to train robust DNNs for time-series domain due to its unique characteristics compared to images and text data. In this paper, we propose a novel algorithmic framework referred as RObust Training for Time-Series (RO-TS) to create robust DNNs for time-series classification tasks. Specifically, we formulate a min-max optimization problem over the model parameters by explicitly reasoning about the robustness criteria in terms of additive perturbations to time-series inputs measured by the global alignment kernel (GAK) based distance. We also show the generality and advantages of our formulation using the summation structure over time-series alignments by relating both GAK and dynamic time warping (DTW). This problem is an instance of a family of compositional min-max optimization problems, which are challenging and open with unclear theoretical guarantee. We propose a principled stochastic compositional alternating gradient descent ascent (SCAGDA) algorithm for this family of optimization problems. Unlike traditional methods for time-series that require approximate computation of distance measures, SCAGDA approximates the GAK based distance on-the-fly using a moving average approach. We theoretically analyze the convergence rate of SCAGDA and provide strong theoretical support for the estimation of GAK based distance. Our experiments on real-world benchmarks demonstrate that RO-TS creates more robust DNNs when compared to adversarial training using prior methods that rely on data augmentation or new definitions of loss functions. We also demonstrate the importance of GAK for time-series data over the Euclidean distance. The source code of RO-TS algorithms is available at https://github.com/tahabelkhouja/Robust-Training-for-Time-Series
• Abstract（参考訳）: モバイル健康のような時系列データよりも現実世界のアプリケーションにディープニューラルネットワーク(DNN)が成功したにもかかわらず、画像やテキストデータに特有の特徴があるため、時系列ドメインのために堅牢なDNNをトレーニングする方法については、ほとんど分かっていない。 本稿では,時系列分類タスクのためのロバストdnnを作成するためのロバストトレーニング(ro-ts)と呼ばれる新しいアルゴリズムフレームワークを提案する。 具体的には、大域的アライメントカーネル(GAK)ベース距離で測定された時系列入力に対する加法摂動の観点から、ロバスト性基準を明示的に推論することにより、モデルパラメータに対するmin-max最適化問題を定式化する。 また,GAKと動的時間ワープ(DTW)を関連づけることで,時系列アライメントの総和構造を用いた定式化の一般化と利点を示す。 この問題は、構成的min-max最適化問題の例であり、理論的な保証が不明な、挑戦的でオープンである。 本稿では,この最適化問題のファミリに対する確率的交互勾配勾配勾配勾配法(SCAGDA)アルゴリズムを提案する。 距離測度の近似計算を必要とする従来の時系列法とは異なり、SCAGDAは移動平均アプローチを用いてGAKに基づく飛行距離を近似する。 我々は,SCAGDAの収束速度を理論的に解析し,GAKに基づく距離推定のための強力な理論的支援を提供する。 実世界のベンチマーク実験により,ro-tsはデータ拡張や損失関数の新しい定義に依存する先行手法を用いた敵訓練と比較して,より頑健なdnnを生成することが示された。 また, ユークリッド距離における時系列データに対するgakの重要性を示す。 RO-TSアルゴリズムのソースコードはhttps://github.com/tahabelkhouja/Robust-Training-for-Time-Seriesで公開されている。

関連論文リスト

• SONNET: Enhancing Time Delay Estimation by Leveraging Simulated Audio [17.811771707446926]
  学習に基づく手法は、合成データにもとづいても、新しい実世界のデータに基づいてGCC-PHATを著しく上回り得ることを示す。 トレーニングされたモデルであるSONNETは、リアルタイムに実行可能で、多くの実データアプリケーションのために、最初から新しいデータに取り組んでいます。
  論文  参考訳（メタデータ） (2024-11-20T10:23:21Z)
• Long Range Propagation on Continuous-Time Dynamic Graphs [18.5534584418248]
  Continuous-Time Graph Anti-Symmetric Network (CTAN) は情報伝達の効率化を目的としている。 合成長範囲ベンチマークと実世界のベンチマークにおけるCTANの実証的性能は他の方法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-06-04T19:42:19Z)
• Concrete Dense Network for Long-Sequence Time Series Clustering [4.307648859471193]
  時系列クラスタリングは、時間的パターンを発見するためのデータ分析において基本である。 深部時間クラスタリング手法は、ニューラルネットワークのエンドツーエンドトレーニングに標準k平均を組み込もうとしている。 LoSTerは、時系列クラスタリング問題に対する新しい密集型オートエンコーダアーキテクチャである。
  論文  参考訳（メタデータ） (2024-05-08T12:31:35Z)
• Generative Modeling of Regular and Irregular Time Series Data via Koopman VAEs [50.25683648762602]
  モデルの新しい設計に基づく新しい生成フレームワークであるKoopman VAEを紹介する。 クープマン理論に触発され、線形写像を用いて潜在条件事前力学を表現する。 KoVAEは、いくつかの挑戦的な合成および実世界の時系列生成ベンチマークにおいて、最先端のGANおよびVAEメソッドより優れている。
  論文  参考訳（メタデータ） (2023-10-04T07:14:43Z)
• cs-net: structural approach to time-series forecasting for high-dimensional feature space data with limited observations [1.5533753199073637]
  本研究では,高次元多変量予測タスクに優れたフレキシブルなデータ特徴抽出手法を提案する。 我々のアプローチは、もともとNational Science Foundation (NSF) Algorithms for Threat Detection (ATD) 2022 Challengeのために開発された。 我々のモデルは、GDELTデータセットでトレーニングされ、ATDスプリントシリーズの第1位と第2位に終わり、時系列予測のための他のデータセットを約束します。
  論文  参考訳（メタデータ） (2022-12-05T19:46:47Z)
• Dynamic Time Warping based Adversarial Framework for Time-Series Domain [32.45387153404849]
  適応ロバストネスのための動的時間ウォーピング(DTW-AR)と呼ばれる時系列領域のための新しいフレームワークを提案する。 理論解析によって正当化された原理的アルゴリズムを開発し、ランダムなアライメントパスを用いて、多様な逆例を効率的に生成する。 多様な実世界のベンチマーク実験では、DTW-ARが時系列データに対してDNNを騙し、敵の訓練によってその堅牢性を向上させることが示されている。
  論文  参考訳（メタデータ） (2022-07-09T17:23:00Z)
• Towards Similarity-Aware Time-Series Classification [51.2400839966489]
  時系列データマイニングの基本課題である時系列分類(TSC)について検討する。 グラフニューラルネットワーク(GNN)を用いて類似情報をモデル化するフレームワークであるSimTSCを提案する。
  論文  参考訳（メタデータ） (2022-01-05T02:14:57Z)
• Adaptive Anomaly Detection for Internet of Things in Hierarchical Edge Computing: A Contextual-Bandit Approach [81.5261621619557]
  階層エッジコンピューティング(HEC)を用いた適応型異常検出手法を提案する。 まず,複雑性を増した複数のDNNモデルを構築し,それぞれを対応するHEC層に関連付ける。 そこで我々は、文脈帯域問題として定式化され、強化学習ポリシーネットワークを用いて解決される適応モデル選択スキームを設計する。
  論文  参考訳（メタデータ） (2021-08-09T08:45:47Z)
• Deep Cellular Recurrent Network for Efficient Analysis of Time-Series Data with Spatial Information [52.635997570873194]
  本研究では,空間情報を用いた複雑な多次元時系列データを処理するための新しいディープセルリカレントニューラルネットワーク(DCRNN)アーキテクチャを提案する。 提案するアーキテクチャは,文献に比較して,学習可能なパラメータをかなり少なくしつつ,最先端の性能を実現している。
  論文  参考訳（メタデータ） (2021-01-12T20:08:18Z)
• Bayesian Optimization with Machine Learning Algorithms Towards Anomaly Detection [66.05992706105224]
  本稿では,ベイズ最適化手法を用いた効果的な異常検出フレームワークを提案する。 ISCX 2012データセットを用いて検討したアルゴリズムの性能を評価する。 実験結果から, 精度, 精度, 低コストアラームレート, リコールの観点から, 提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2020-08-05T19:29:35Z)
• Communication-Efficient Distributed Stochastic AUC Maximization with Deep Neural Networks [50.42141893913188]
  本稿では,ニューラルネットワークを用いた大規模AUCのための分散変数について検討する。 我々のモデルは通信ラウンドをはるかに少なくし、理論上はまだ多くの通信ラウンドを必要としています。 いくつかのデータセットに対する実験は、我々の理論の有効性を示し、我々の理論を裏付けるものである。
  論文  参考訳（メタデータ） (2020-05-05T18:08:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。