論文の概要: Signature Reconstruction from Randomized Signatures
- arxiv url: http://arxiv.org/abs/2502.03163v1
- Date: Wed, 05 Feb 2025 13:35:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-06 14:28:15.757075
- Title: Signature Reconstruction from Randomized Signatures
- Title(参考訳): ランダム化信号からの信号再構成
- Authors: Mie Glückstad, Nicola Muca Cirone, Josef Teichmann,
- Abstract要約: ランダムベクトル場を持つ制御された常微分方程式から、曲線のよく知られたシグネチャ特徴がどの程度再構成できるかを問う。
答えは代数的に関係していることがわかったが、本質的には、制御された常微分方程式の非線形フローから再構成できる符号特徴の数は、その隠れ次元において指数的である。
- 参考スコア(独自算出の注目度): 2.6490401904186758
- License:
- Abstract: Controlled ordinary differential equations driven by continuous bounded variation curves can be considered a continuous time analogue of recurrent neural networks for the construction of expressive features of the input curves. We ask up to which extent well known signature features of such curves can be reconstructed from controlled ordinary differential equations with (untrained) random vector fields. The answer turns out to be algebraically involved, but essentially the number of signature features, which can be reconstructed from the non-linear flow of the controlled ordinary differential equation, is exponential in its hidden dimension, when the vector fields are chosen to be neural with depth two. Moreover, we characterize a general linear independence condition on arbitrary vector fields, under which the signature features up to some fixed order can always be reconstructed. Algebraically speaking this complements in a quantitative manner several well known results from the theory of Lie algebras of vector fields and puts them in a context of machine learning.
- Abstract(参考訳): 連続有界変動曲線によって駆動される制御された常微分方程式は、入力曲線の表現的特徴を構築するために、繰り返しニューラルネットワークの連続時間類似と見なすことができる。
このような曲線のよく知られたシグネチャ特徴が、(訓練されていない)ランダムベクトル場を持つ制御された常微分方程式からどの程度再構成できるかを問う。
答えは代数的に関係していることがわかったが、本質的には、制御された常微分方程式の非線形フローから再構成できる符号特徴の数は、ベクトル場が深さ2で神経となるように選択されたとき、その隠れ次元において指数的である。
さらに、任意のベクトル場上の一般線型独立条件を特徴付ける。
代数的に言えば、これはベクトル場のリー代数の理論からよく知られたいくつかの結果を定量的に補完し、それらを機械学習の文脈に配置する。
関連論文リスト
- Refined Risk Bounds for Unbounded Losses via Transductive Priors [58.967816314671296]
線形回帰の逐次変分を2乗損失、ヒンジ損失の分類問題、ロジスティック回帰で再検討する。
我々の鍵となるツールは、慎重に選択された導出先を持つ指数重み付けアルゴリズムに基づいている。
論文 参考訳(メタデータ) (2024-10-29T00:01:04Z) - Learning Linear Attention in Polynomial Time [115.68795790532289]
線形注意を持つ単層変圧器の学習性に関する最初の結果を提供する。
線形アテンションは RKHS で適切に定義された線形予測器とみなすことができる。
我々は,すべての経験的リスクが線形変換器と同等のトレーニングデータセットを効率的に識別する方法を示す。
論文 参考訳(メタデータ) (2024-10-14T02:41:01Z) - Unsupervised Representation Learning from Sparse Transformation Analysis [79.94858534887801]
本稿では,潜在変数のスパース成分への変換を分解し,シーケンスデータから表現を学習することを提案する。
入力データは、まず潜伏活性化の分布として符号化され、その後確率フローモデルを用いて変換される。
論文 参考訳(メタデータ) (2024-10-07T23:53:25Z) - Tangent Bundle Convolutional Learning: from Manifolds to Cellular Sheaves and Back [84.61160272624262]
この畳み込み操作に基づいて,タンジェントバンドルフィルタとタンジェントバンドルニューラルネットワーク(TNN)を定義する。
タンジェントバンドルフィルタは、スカラー多様体フィルタ、グラフフィルタ、標準畳み込みフィルタを連続的に一般化するスペクトル表現を許容する。
提案したアーキテクチャが様々な学習課題に与える影響を数値的に評価する。
論文 参考訳(メタデータ) (2023-03-20T17:57:15Z) - A New Approach to Multilinear Dynamical Systems and Control [0.0]
本稿では,多線形力学系の解析と制御に対する新しいアプローチを提案する。
このアプローチは、テンソル分解の最近の発展と、新しく定義された循環体の代数に基づいている。
論文 参考訳(メタデータ) (2021-08-31T02:08:28Z) - Convolutional Filtering and Neural Networks with Non Commutative
Algebras [153.20329791008095]
本研究では,非可換畳み込みニューラルネットワークの一般化について検討する。
非可換畳み込み構造は作用素空間上の変形に対して安定であることを示す。
論文 参考訳(メタデータ) (2021-08-23T04:22:58Z) - Feature Engineering with Regularity Structures [4.082216579462797]
機械学習タスクの特徴として,正則構造理論からのモデルの利用について検討する。
本研究では、時空信号に付随するモデル特徴ベクトルの柔軟な定義と、これらの特徴を線形回帰と組み合わせる方法を示す2つのアルゴリズムを提供する。
我々はこれらのアルゴリズムを、与えられた強制と境界データを用いてPDEの解を学ぶために設計されたいくつかの数値実験に適用する。
論文 参考訳(メタデータ) (2021-08-12T17:53:47Z) - A Differential Geometry Perspective on Orthogonal Recurrent Models [56.09491978954866]
我々は微分幾何学からのツールと洞察を用いて、直交rnnの新しい視点を提供する。
直交RNNは、発散自由ベクトル場の空間における最適化と見なすことができる。
この観測に動機づけられて、ベクトル場全体の空間にまたがる新しいリカレントモデルの研究を行う。
論文 参考訳(メタデータ) (2021-02-18T19:39:22Z) - Risk bounds when learning infinitely many response functions by ordinary
linear regression [1.6114012813668934]
トレーニングデータは、共通の分布から引き出された入力変数の1つの独立したランダムサンプルと、関連する応答から構成される。
応答関数における過剰リスクの収束率を均一に制御することにより、最悪の場合の過剰予測リスクに対する収束保証を提供する。
応答関数の集まりは、潜在的に無限であるが、有限のヴァプニク・チェルヴォネンキス次元を持つ。
論文 参考訳(メタデータ) (2020-06-16T14:54:21Z) - Neural Ordinary Differential Equations on Manifolds [0.342658286826597]
近年、ニューラルODEに基づくユークリッド空間の正規化フローは大きな可能性を秘めているが、同じ制限を被っている。
ベクトル場がこれらの空間上の可逆写像の柔軟なクラスをパラメータ化するための一般的なフレームワークを提供する方法を示す。
論文 参考訳(メタデータ) (2020-06-11T17:56:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。