論文の概要: The Signature Kernel is the solution of a Goursat PDE
- arxiv url: http://arxiv.org/abs/2006.14794v9
- Date: Sat, 20 Mar 2021 19:58:36 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-16 22:05:38.612226
- Title: The Signature Kernel is the solution of a Goursat PDE
- Title(参考訳): 署名カーネルはGoursat PDEの解である
- Authors: Cristopher Salvi, Thomas Cass, James Foster, Terry Lyons, Weixin Yang
- Abstract要約: 連続的な微分可能パスに対して、シグネチャカーネルは双曲型PDEを解き、文献でよく知られる微分方程式のクラスとの接続をグールサット問題として認識する。
このGoursat PDEは入力シーケンスの増分にのみ依存し、シグネチャの明示的な計算を必要としない。
我々は、シーケンシャルデータを扱う機械学習アプリケーションにおいて、機械学習ツールとしてのPDEカーネルの有効性を実証的に実証した。
- 参考スコア(独自算出の注目度): 11.107838656561766
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recently, there has been an increased interest in the development of kernel
methods for learning with sequential data. The signature kernel is a learning
tool with potential to handle irregularly sampled, multivariate time series. In
"Kernels for sequentially ordered data" the authors introduced a kernel trick
for the truncated version of this kernel avoiding the exponential complexity
that would have been involved in a direct computation. Here we show that for
continuously differentiable paths, the signature kernel solves a hyperbolic PDE
and recognize the connection with a well known class of differential equations
known in the literature as Goursat problems. This Goursat PDE only depends on
the increments of the input sequences, does not require the explicit
computation of signatures and can be solved efficiently using
state-of-the-arthyperbolic PDE numerical solvers, giving a kernel trick for the
untruncated signature kernel, with the same raw complexity as the method from
"Kernels for sequentially ordered data", but with the advantage that the PDE
numerical scheme is well suited for GPU parallelization, which effectively
reduces the complexity by a full order of magnitude in the length of the input
sequences. In addition, we extend the previous analysis to the space of
geometric rough paths and establish, using classical results from rough path
theory, that the rough version of the signature kernel solves a rough integral
equation analogous to the aforementioned Goursat PDE. Finally, we empirically
demonstrate the effectiveness of our PDE kernel as a machine learning tool in
various machine learning applications dealing with sequential data. We release
the library sigkernel publicly available at
https://github.com/crispitagorico/sigkernel.
- Abstract(参考訳): 近年,逐次データを用いた学習のためのカーネル手法の開発への関心が高まっている。
シグネチャカーネルは、不規則にサンプリングされた多変量時系列を扱う可能性のある学習ツールである。
逐次順序データのためのカーネル"の中で、著者らは、直接計算にかかわる指数的複雑性を避けるために、このカーネルの縮小バージョンのためのカーネルトリックを導入した。
ここでは、連続的な微分可能パスに対して、シグネチャカーネルは双曲型PDEを解き、文献でよく知られた微分方程式のクラスとの接続をグールサット問題として認識する。
This Goursat PDE only depends on the increments of the input sequences, does not require the explicit computation of signatures and can be solved efficiently using state-of-the-arthyperbolic PDE numerical solvers, giving a kernel trick for the untruncated signature kernel, with the same raw complexity as the method from "Kernels for sequentially ordered data", but with the advantage that the PDE numerical scheme is well suited for GPU parallelization, which effectively reduces the complexity by a full order of magnitude in the length of the input sequences.
さらに、従来の解析を幾何学的粗路空間に拡張し、粗路理論の古典的な結果を用いて、シグネチャカーネルの粗版が上記のグールサットPDEに類似した粗積分方程式を解くことを確立する。
最後に、シーケンシャルデータを扱う機械学習アプリケーションにおいて、機械学習ツールとしてのPDEカーネルの有効性を実証的に示す。
sigkernelライブラリをhttps://github.com/crispitagorico/sigkernelで公開しています。
関連論文リスト
- A High Order Solver for Signature Kernels [5.899263357689845]
署名カーネルは、時系列を分析するための機械学習アルゴリズムの中核にある。
本稿では,シグネチャカーネルの数値近似のための新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-04-01T23:09:52Z) - Sparse Cholesky Factorization for Solving Nonlinear PDEs via Gaussian
Processes [3.750429354590631]
本稿では、高密度カーネル行列に対するスパースColesky分解アルゴリズムを提案する。
我々は, 幅広い非線形PDEのクラスに対して, アルゴリズムのニア線形空間/時間複雑性を数値的に説明する。
論文 参考訳(メタデータ) (2023-04-03T18:35:28Z) - Structural Kernel Search via Bayesian Optimization and Symbolical
Optimal Transport [5.1672267755831705]
ガウスのプロセスでは、カーネルの選択は重要なタスクであり、しばしば専門家が手動で行う。
本稿では,カーネル空間を包含する新しい効率的な探索法を提案する。
論文 参考訳(メタデータ) (2022-10-21T09:30:21Z) - FaDIn: Fast Discretized Inference for Hawkes Processes with General
Parametric Kernels [82.53569355337586]
この研究は、有限なサポートを持つ一般パラメトリックカーネルを用いた時間点プロセス推論の効率的な解を提供する。
脳磁図(MEG)により記録された脳信号からの刺激誘発パターンの発生をモデル化し,その有効性を評価する。
その結果,提案手法により,最先端技術よりもパターン遅延の推定精度が向上することが示唆された。
論文 参考訳(メタデータ) (2022-10-10T12:35:02Z) - Fast Sketching of Polynomial Kernels of Polynomial Degree [61.83993156683605]
他のカーネルはしばしばテイラー級数展開を通じてカーネルによって近似されるので、カーネルは特に重要である。
スケッチの最近の技術は、カーネルの$q$という難解な程度に実行時間に依存することを減らしている。
我々は、この実行時間を大幅に改善する新しいスケッチを、先頭の注文項で$q$への依存を取り除くことで提供します。
論文 参考訳(メタデータ) (2021-08-21T02:14:55Z) - Kernel Selection for Stein Variational Gradient Descent [19.16800190883095]
一つのカーネルではなく、最適なカーネルを近似するために、複数のカーネルの組み合わせを提案する。
提案手法は最適なカーネル依存を除去するだけでなく,計算効率も維持する。
論文 参考訳(メタデータ) (2021-07-20T08:48:42Z) - Distributed stochastic optimization with large delays [59.95552973784946]
大規模最適化問題を解決する最も広く使われている手法の1つは、分散非同期勾配勾配(DASGD)である。
DASGDは同じ遅延仮定の下で大域的最適実装モデルに収束することを示す。
論文 参考訳(メタデータ) (2021-07-06T21:59:49Z) - Kernel Identification Through Transformers [54.3795894579111]
カーネル選択はガウス過程(GP)モデルの性能決定において中心的な役割を果たす。
この研究は、高次元GP回帰モデルのためのカスタムカーネル関数を構築するという課題に対処する。
KITT: Kernel Identification through Transformersを提案する。
論文 参考訳(メタデータ) (2021-06-15T14:32:38Z) - SigGPDE: Scaling Sparse Gaussian Processes on Sequential Data [16.463077353773603]
SigGPDEは,ガウス過程(GP)を逐次データに基づいて拡張可能な分散変動推論フレームワークである。
GPシグネチャカーネルの勾配は双曲偏微分方程式(PDE)の解であることを示す。
この理論的な洞察により、ELBOを最適化する効率的なバックプロパゲーションアルゴリズムを構築することができる。
論文 参考訳(メタデータ) (2021-05-10T09:10:17Z) - Kernel-Based Reinforcement Learning: A Finite-Time Analysis [53.47210316424326]
モデルに基づく楽観的アルゴリズムであるKernel-UCBVIを導入する。
スパース報酬を伴う連続MDPにおける我々のアプローチを実証的に検証する。
論文 参考訳(メタデータ) (2020-04-12T12:23:46Z) - PolyScientist: Automatic Loop Transformations Combined with Microkernels
for Optimization of Deep Learning Primitives [55.79741270235602]
深層学習カーネル開発のためのハイブリッドソリューションを開発する。
我々は、高度な多面体技術を用いて、パフォーマンスのために外部ループを自動的に調整する。
論文 参考訳(メタデータ) (2020-02-06T08:02:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。