論文の概要: Path Imputation Strategies for Signature Models of Irregular Time Series
- arxiv url: http://arxiv.org/abs/2005.12359v2
- Date: Sat, 6 Jun 2020 13:05:35 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-29 05:30:42.024202
- Title: Path Imputation Strategies for Signature Models of Irregular Time Series
- Title(参考訳): 不規則時系列のシグネチャモデルに対するパスインプテーション戦略
- Authors: Michael Moor, Max Horn, Christian Bock, Karsten Borgwardt, Bastian
Rieck
- Abstract要約: 不規則時系列データにシグネチャベースのニューラルネットを適用する際の様々な計算方法の影響について検討する。
命令の選択が浅いシグネチャモデルに大きく影響を与えるのに対して、より深いアーキテクチャはより堅牢である。
従来のGPアダプタを用いた不確実性認識訓練と比較しても,不確実性認識予測は予測性能に有益である。
- 参考スコア(独自算出の注目度): 15.529424917192559
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The signature transform is a 'universal nonlinearity' on the space of
continuous vector-valued paths, and has received attention for use in machine
learning on time series. However, real-world temporal data is typically
observed at discrete points in time, and must first be transformed into a
continuous path before signature techniques can be applied. We make this step
explicit by characterising it as an imputation problem, and empirically assess
the impact of various imputation strategies when applying signature-based
neural nets to irregular time series data. For one of these strategies,
Gaussian process (GP) adapters, we propose an extension~(GP-PoM) that makes
uncertainty information directly available to the subsequent classifier while
at the same time preventing costly Monte-Carlo (MC) sampling. In our
experiments, we find that the choice of imputation drastically affects shallow
signature models, whereas deeper architectures are more robust. Next, we
observe that uncertainty-aware predictions (based on GP-PoM or indicator
imputations) are beneficial for predictive performance, even compared to the
uncertainty-aware training of conventional GP adapters. In conclusion, we have
demonstrated that the path construction is indeed crucial for signature models
and that our proposed strategy leads to competitive performance in general,
while improving robustness of signature models in particular.
- Abstract(参考訳): シグネチャ変換は連続ベクトル値経路の空間上の「普遍非線形性」であり、時系列の機械学習での使用に注目されている。
しかし、現実の時間データは一般に離散的に観測され、まず署名技術を適用する前に連続的な経路に変換する必要がある。
このステップをインプテーション問題として明示し、不規則時系列データにシグネチャベースのニューラルネットを適用する際の様々なインプテーション戦略の影響を実証的に評価する。
これらの戦略の一つ,ガウス過程 (GP) アダプタに対して,モンテカルロ (MC) サンプリングのコストを抑えながら,後続の分類器に直接不確実性情報を提供する拡張~ (GP-PoM) を提案する。
実験では,命令の選択が浅いシグネチャモデルに大きく影響を与えるのに対して,より深いアーキテクチャはより堅牢であることがわかった。
次に,GP-PoMやインジケータ計算に基づく不確実性認識予測は,従来のGPアダプタの不確実性認識訓練と比較しても,予測性能に有益であることを示す。
結論として,シグネチャモデルにおいて経路構成が本当に重要であること,提案手法がシグネチャモデルのロバスト性を改善しつつ,一般に競争性能の向上につながることを実証した。
関連論文リスト
- Pattern-Based Time-Series Risk Scoring for Anomaly Detection and Alert Filtering -- A Predictive Maintenance Case Study [3.508168174653255]
本稿では,逐次パターンの類似性に基づいて,異常検出と警告フィルタリングを高速かつ効率的に行う手法を提案する。
本稿では, 大規模産業システムにおける異常検出を含む様々な目的で, このアプローチをどのように活用するかを示す。
論文 参考訳(メタデータ) (2024-05-24T20:27:45Z) - A Poisson-Gamma Dynamic Factor Model with Time-Varying Transition Dynamics [51.147876395589925]
非定常PGDSは、基礎となる遷移行列が時間とともに進化できるように提案されている。
後続シミュレーションを行うために, 完全共役かつ効率的なギブスサンプリング装置を開発した。
実験により,提案した非定常PGDSは,関連するモデルと比較して予測性能が向上することを示した。
論文 参考訳(メタデータ) (2024-02-26T04:39:01Z) - Attention as Robust Representation for Time Series Forecasting [23.292260325891032]
多くの実用化には時系列予測が不可欠である。
トランスフォーマーの重要な特徴、注意機構、データ表現を強化するために動的に埋め込みを融合させ、しばしば注意重みを副産物の役割に還元する。
提案手法は,時系列の主表現として注目重みを高くし,データポイント間の時間的関係を利用して予測精度を向上させる。
論文 参考訳(メタデータ) (2024-02-08T03:00:50Z) - Efficient Exploration in Continuous-time Model-based Reinforcement
Learning [37.14026153342745]
強化学習アルゴリズムは典型的には離散時間力学を考察するが、基礎となるシステムは時間的に連続していることが多い。
連続時間力学を表すモデルに基づく強化学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-10-30T15:04:40Z) - SigFormer: Signature Transformers for Deep Hedging [33.08100709308656]
我々は、経路シグネチャとトランスフォーマーのパワーを組み合わせてシーケンシャルデータを処理する、新しいディープラーニングモデルであるSigFormerを紹介する。
提案手法は,既存の合成データと比較し,より高速な学習と強靭性を示す。
実世界のバックテストを通じて,SP500指数の重み付けによるモデル性能の検証を行い,肯定的な結果を示した。
論文 参考訳(メタデータ) (2023-10-20T09:25:35Z) - Debiased Fine-Tuning for Vision-language Models by Prompt Regularization [50.41984119504716]
本稿では,Prompt Regularization(ProReg)と呼ばれる下流タスクにおける大規模視覚事前訓練モデルの微調整のための新しいパラダイムを提案する。
ProRegは、事前訓練されたモデルに微調整を正規化するよう促すことで予測を使用する。
本稿では,従来の微調整,ゼロショットプロンプト,プロンプトチューニング,その他の最先端手法と比較して,ProRegの性能が一貫して高いことを示す。
論文 参考訳(メタデータ) (2023-01-29T11:53:55Z) - Toward Learning Robust and Invariant Representations with Alignment
Regularization and Data Augmentation [76.85274970052762]
本論文はアライメント正則化の選択肢の増大を動機としている。
我々は、ロバスト性および不変性の次元に沿って、いくつかの人気のある設計選択のパフォーマンスを評価する。
我々はまた、現実的と考える仮定の下で経験的な研究を補完するために、アライメント正則化の挙動を正式に分析する。
論文 参考訳(メタデータ) (2022-06-04T04:29:19Z) - Incremental Ensemble Gaussian Processes [53.3291389385672]
本稿では,EGPメタラーナーがGP学習者のインクリメンタルアンサンブル(IE-) GPフレームワークを提案し,それぞれが所定のカーネル辞書に属するユニークなカーネルを持つ。
各GP専門家は、ランダムな特徴ベースの近似を利用してオンライン予測とモデル更新を行い、そのスケーラビリティを生かし、EGPメタラーナーはデータ適応重みを生かし、熟練者ごとの予測を合成する。
新たなIE-GPは、EGPメタラーナーおよび各GP学習者内における構造化力学をモデル化することにより、時間変化関数に対応するように一般化される。
論文 参考訳(メタデータ) (2021-10-13T15:11:25Z) - Causally-motivated Shortcut Removal Using Auxiliary Labels [63.686580185674195]
このようなリスク不変予測器の学習に重要な課題はショートカット学習である。
この課題に対処するために、フレキシブルで因果的なアプローチを提案する。
この因果的動機付けされた正規化スキームが堅牢な予測子を生み出すことを理論的および実証的に示す。
論文 参考訳(メタデータ) (2021-05-13T16:58:45Z) - Evaluating Prediction-Time Batch Normalization for Robustness under
Covariate Shift [81.74795324629712]
我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。
予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。
この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
論文 参考訳(メタデータ) (2020-06-19T05:08:43Z) - Conditional Sig-Wasserstein GANs for Time Series Generation [8.593063679921109]
GAN(Generative Adversarial Network)は、高次元の確率測度からサンプルを生成するのに非常に成功した。
これらの手法は時系列データによって誘導される関節確率分布の時間的依存を捉えるのに苦労する。
時系列データストリームはターゲット空間の次元を大幅に増加させ、生成的モデリングが不可能になる可能性がある。
本稿では,Wasserstein-GANを数学的原理と効率的な経路特徴抽出と統合した汎用条件付きSig-WGANフレームワークを提案する。
論文 参考訳(メタデータ) (2020-06-09T17:38:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。