論文の概要: On the effectiveness of Randomized Signatures as Reservoir for Learning
Rough Dynamics
- arxiv url: http://arxiv.org/abs/2201.00384v3
- Date: Wed, 26 Apr 2023 09:06:44 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-27 18:56:52.186931
- Title: On the effectiveness of Randomized Signatures as Reservoir for Learning
Rough Dynamics
- Title(参考訳): ラフダイナミクス学習のための貯水池としてのランダム化信号の有効性について
- Authors: Enea Monzio Compagnoni, Anna Scampicchio, Luca Biggio, Antonio
Orvieto, Thomas Hofmann, Josef Teichmann
- Abstract要約: 時系列解析を行う強力なツールは、粗い経路理論に根ざし、いわゆるSignature Transformを活用する。
このアルゴリズムは理論的な保証が強いが、高次元のデータにスケールすることは困難である。
我々は、Johnson-Lindenstrauss Lemmaを用いて得られたランダム化符号と呼ばれる最近導出されたランダムプロジェクション変種について研究する。
- 参考スコア(独自算出の注目度): 22.08436589595832
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Many finance, physics, and engineering phenomena are modeled by
continuous-time dynamical systems driven by highly irregular (stochastic)
inputs. A powerful tool to perform time series analysis in this context is
rooted in rough path theory and leverages the so-called Signature Transform.
This algorithm enjoys strong theoretical guarantees but is hard to scale to
high-dimensional data. In this paper, we study a recently derived random
projection variant called Randomized Signature, obtained using the
Johnson-Lindenstrauss Lemma. We provide an in-depth experimental evaluation of
the effectiveness of the Randomized Signature approach, in an attempt to
showcase the advantages of this reservoir to the community. Specifically, we
find that this method is preferable to the truncated Signature approach and
alternative deep learning techniques in terms of model complexity, training
time, accuracy, robustness, and data hungriness.
- Abstract(参考訳): 多くの金融、物理学、工学現象は、非常に不規則な(確率的な)入力によって駆動される連続時間力学系によってモデル化される。
この文脈で時系列解析を行う強力なツールは、粗い経路理論に根ざし、いわゆるSignature Transformを活用する。
このアルゴリズムは強い理論的保証を享受しているが、高次元データにはスケールしにくい。
そこで本研究では,Johnson-Lindenstrauss Lemmaを用いたランダム化符号法(ランダム化符号法)を提案する。
我々は,この貯水池の利点をコミュニティに示すために,ランダム化署名手法の有効性の詳細な実験的評価を行った。
具体的には,モデルの複雑さ,トレーニング時間,正確性,ロバスト性,データの空腹性といった点から,この手法が廃止シグネチャアプローチや代替深層学習手法に好適であることが判明した。
関連論文リスト
- Safe Active Learning for Time-Series Modeling with Gaussian Processes [7.505622158856545]
時系列モデルの学習はシミュレーションや予測といった多くのアプリケーションに有用である。
本研究では,安全制約を考慮した時系列モデルを積極的に学習する問題について考察する。
提案手法は,入力空間を動的に探索することにより,時系列モデル学習に適したデータ,すなわち入力と出力の軌跡を生成する。
論文 参考訳(メタデータ) (2024-02-09T09:40:33Z) - Stochastic Amortization: A Unified Approach to Accelerate Feature and Data Attribution [62.71425232332837]
雑音ラベル付きモデルを用いたトレーニングは安価で驚くほど効果的であることを示す。
このアプローチは、いくつかの特徴属性とデータ評価手法を著しく加速し、しばしば既存のアプローチよりも桁違いにスピードアップする。
論文 参考訳(メタデータ) (2024-01-29T03:42:37Z) - Distributionally Robust Model-based Reinforcement Learning with Large
State Spaces [55.14361269378122]
強化学習における3つの大きな課題は、大きな状態空間を持つ複雑な力学系、コストのかかるデータ取得プロセス、トレーニング環境の展開から現実の力学を逸脱させることである。
広範に用いられているKullback-Leibler, chi-square, および全変分不確実性集合の下で, 連続状態空間を持つ分布ロバストなマルコフ決定過程について検討した。
本稿では,ガウス過程と最大分散削減アルゴリズムを用いて,多出力名目遷移力学を効率的に学習するモデルベースアプローチを提案する。
論文 参考訳(メタデータ) (2023-09-05T13:42:11Z) - Bayesian Spline Learning for Equation Discovery of Nonlinear Dynamics
with Quantified Uncertainty [8.815974147041048]
本研究では,非線形(時空間)力学の擬似的支配方程式を,定量化された不確実性を伴うスパースノイズデータから同定する枠組みを開発した。
提案アルゴリズムは、正準常微分方程式と偏微分方程式によって制御される複数の非線形力学系に対して評価される。
論文 参考訳(メタデータ) (2022-10-14T20:37:36Z) - Toward Learning Robust and Invariant Representations with Alignment
Regularization and Data Augmentation [76.85274970052762]
本論文はアライメント正則化の選択肢の増大を動機としている。
我々は、ロバスト性および不変性の次元に沿って、いくつかの人気のある設計選択のパフォーマンスを評価する。
我々はまた、現実的と考える仮定の下で経験的な研究を補完するために、アライメント正則化の挙動を正式に分析する。
論文 参考訳(メタデータ) (2022-06-04T04:29:19Z) - Deep Active Learning with Noise Stability [24.54974925491753]
ラベルのないデータの不確実性推定は、アクティブな学習に不可欠である。
本稿では,雑音の安定性を利用して不確実性を推定する新しいアルゴリズムを提案する。
本手法はコンピュータビジョン,自然言語処理,構造データ解析など,様々なタスクに適用可能である。
論文 参考訳(メタデータ) (2022-05-26T13:21:01Z) - Distributed Dynamic Safe Screening Algorithms for Sparse Regularization [73.85961005970222]
本稿では,分散動的安全スクリーニング(DDSS)手法を提案し,共有メモリアーキテクチャと分散メモリアーキテクチャにそれぞれ適用する。
提案手法は, 線形収束率を低次複雑度で達成し, 有限個の繰り返しにおいてほとんどすべての不活性な特徴をほぼ確実に除去できることを示す。
論文 参考訳(メタデータ) (2022-04-23T02:45:55Z) - Time Series Forecasting with Ensembled Stochastic Differential Equations
Driven by L\'evy Noise [2.3076895420652965]
我々は、ニューラルネットワークを備えたSDEの集合を用いて、ノイズのある時系列の長期的な傾向を予測する。
まず、位相空間再構成法を用いて時系列データの固有次元を抽出する。
次に、$alpha$-stable L'evyの動作によって駆動されるSDEを探索し、時系列データをモデル化し、ニューラルネットワーク近似を用いて問題を解く。
論文 参考訳(メタデータ) (2021-11-25T16:49:01Z) - Extracting stochastic dynamical systems with $\alpha$-stable L\'evy
noise from data [14.230182518492311]
本稿では,短時間のバーストデータから$$alpha$-stable L'evyノイズを持つシステムを抽出するデータ駆動方式を提案する。
より具体的には、最初にL'evyジャンプ測度と雑音強度を推定する。
次に,非局所クラマース・モヤル式と正規化流を組み合わせることでドリフト係数を近似する。
論文 参考訳(メタデータ) (2021-09-30T06:57:42Z) - Probabilistic robust linear quadratic regulators with Gaussian processes [73.0364959221845]
ガウス過程(GP)のような確率モデルは、制御設計に続く使用のためのデータから未知の動的システムを学ぶための強力なツールです。
本稿では、確率的安定性マージンに関して堅牢なコントローラを生成する線形化GPダイナミクスのための新しいコントローラ合成について述べる。
論文 参考訳(メタデータ) (2021-05-17T08:36:18Z) - AdaS: Adaptive Scheduling of Stochastic Gradients [50.80697760166045]
我々は、textit "knowledge gain" と textit "mapping condition" の概念を導入し、Adaptive Scheduling (AdaS) と呼ばれる新しいアルゴリズムを提案する。
実験によると、AdaSは派生した指標を用いて、既存の適応学習手法よりも高速な収束と優れた一般化、そして(b)いつトレーニングを中止するかを決定するための検証セットへの依存の欠如を示す。
論文 参考訳(メタデータ) (2020-06-11T16:36:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。