論文の概要: LogSig-SSM: Time-Series Modelling with Multi-Scale Log-Signature Compression for State-Space Models
- arxiv url: http://arxiv.org/abs/2610.05051v1
- Date: Sun, 04 Oct 2026 08:41:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-11 06:41:43.420339
- Title: LogSig-SSM: Time-Series Modelling with Multi-Scale Log-Signature Compression for State-Space Models
- Title(参考訳): LogSig-SSM:状態空間モデルのためのマルチスケールログ署名圧縮を用いた時系列モデリング
- Abstract要約: 時系列データは、しばしば高周波数で不規則にサンプリングされ、長距離依存を示す。
長い多変量時系列を短いトークン列に圧縮するLogSig-SSMを提案する。
LogSig-SSMはスケーラブルで、不規則なサンプリングに対して堅牢であり、高次のクロスチャネル相互作用をキャプチャするログ署名トークンを組み合わせる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Time-series data are often sampled irregularly at high frequencies and exhibit long-range dependencies, which makes long-horizon modelling difficult. Continuous-time models such as neural controlled differential equations (NCDEs) and neural rough differential equations (NRDEs) can handle irregular sampling, but they scale poorly to long sequences. Selective state-space models (SSMs) such as Mamba scale linearly with sequence length, but they provide limited recurrent mixing across hidden dimensions within a single block. We propose LogSig-SSM (Log-Signature Compression for State-Space Models), which first compresses long multivariate time series into a shorter sequence of tokens using multi-scale windowed log-signatures, and then processes these tokens with a selective SSM backbone. LogSig-SSM is scalable and robust to irregular sampling, combining log-signature tokens that capture higher-order cross-channel interactions with a selective SSM that models long-range dependencies. The model also admits a continuous-time interpretation as an NCDE/NRDE-style system driven by a log-signature-based input, in which selectivity induces an input-dependent rescaling of the latent dynamics. Across four benchmarks, namely long-sequence classification on UEA, high-frequency physiological regression on PPG-DaLiA, multivariate weather forecasting, and irregularly sampled clinical prediction on PhysioNet Sepsis, LogSig-SSM outperforms or matches strong SSM and continuous-time baselines while training up to $30\times$ faster and using up to $37\times$ less GPU memory than Mamba on the longest sequences.
- Abstract(参考訳): 時系列データは、しばしば高頻度で不規則にサンプリングされ、長距離依存を示すため、長距離モデリングは困難である。
ニューラル制御微分方程式 (NCDE) やニューラル粗微分方程式 (NRDE) のような連続時間モデルは不規則なサンプリングを処理できるが、長いシーケンスにはあまりスケールしない。
Mambaのような選択的状態空間モデル(SSM)はシーケンス長と線形にスケールするが、単一のブロック内で隠れた次元をまたいだリカレントな混合が制限される。
まず,複数変数の長い時系列を複数スケールのウィンドウ付きログ署名を用いて短いトークン列に圧縮し,そのトークンを選択的SSMバックボーンで処理するLogSig-SSM(Log-Signature Compression for State-Space Models)を提案する。
LogSig-SSMはスケーラブルで、不規則なサンプリングに対して堅牢であり、長距離依存関係をモデル化した選択的なSSMと高次のクロスチャネルインタラクションをキャプチャするログ署名トークンを組み合わせる。
このモデルはまた、ログ署名ベースの入力によって駆動されるNCDE/NRDEスタイルのシステムとして、連続時間解釈を認めており、選択性は潜時力学の入力依存再スケーリングを誘導する。
UEAの長いシーケンス分類、PSG-DaLiAの高周波生理学的回帰、多変量予測、不規則にサンプリングされたPhysioNet Sepsis、LogSig-SSMの予測は、強いSSMと継続的なベースラインを上回り、30ドルまでのトレーニングと、最も長いシーケンスでMambaよりも高速で37ドル以下のGPUメモリを使用する。
関連論文リスト
- Inferring Multi-Timescale Neural Dynamics with Switching Linear Dynamical Systems [4.679060679983501]
我々は、連続的またはスパイク的な神経観測から、状態特異的潜時スケールを識別するためのフレームワークを導入する。
MTS-SLDSは、複数の観測ラグにまたがる時間構造を、テクスitregime-conditioned Laplace-EM推論で捉えている。
タイムスケールを正確に回復し、複数のデータセット上で構造を切り替える。
論文 参考訳(メタデータ) (2026-10-01T14:33:13Z) - LongSpike: Fractional Order Spiking State Space Models for Efficient Long Sequence Learning [53.855185131868446]
スパイキングニューラルネットワーク(SNN)は、シーケンシャルデータを処理する際の生物学的な妥当性とエネルギー効率を十分に考慮している。
本研究では,数次状態空間モデリングを統合した新しいSNNフレームワークであるLongSpikeを提案する。
従来の整数階数 SSM を分数計算系に拡張することにより、LongSpike は長いメモリカーネルとニューロンダイナミクスの階層的な統合を可能にする。
論文 参考訳(メタデータ) (2026-06-11T04:54:07Z) - MS-SSM: A Multi-Scale State Space Model for Efficient Sequence Modeling [60.648359990090846]
状態空間モデル(SSM)は、最近、計算コストのかかるシーケンスモデルに対する効率的な代替手段として注目されている。
本稿では,複数の解像度にまたがるシーケンスダイナミクスを表現するマルチスケールSSMフレームワークを提案し,各解像度を特殊な状態空間ダイナミクスで処理する。
論文 参考訳(メタデータ) (2025-12-29T19:36:28Z) - UmambaTSF: A U-shaped Multi-Scale Long-Term Time Series Forecasting Method Using Mamba [7.594115034632109]
本稿では,新しい時系列予測フレームワークであるUmambaTSFを提案する。
U字型エンコーダ・デコーダ多層パーセプトロン(MLP)のマルチスケール特徴抽出機能とMambaのロングシーケンス表現を統合する。
UmambaTSFは、広く使用されているベンチマークデータセットで最先端のパフォーマンスと優れた汎用性を達成する。
論文 参考訳(メタデータ) (2024-10-15T04:56:43Z) - Oscillatory State-Space Models [61.923849241099184]
長いシーケンスを効率的に学習するための線形状態空間モデル(LinOSS)を提案する。
高速な連想並列スキャンを用いて時間とともに統合された安定な離散化により、提案した状態空間モデルが得られる。
我々はLinOSSが普遍であること、すなわち時間変化関数間の連続および因果作用素写像を近似できることを示す。
論文 参考訳(メタデータ) (2024-10-04T22:00:13Z) - DyG-Mamba: Continuous State Space Modeling on Dynamic Graphs [59.434893231950205]
動的グラフ学習は、現実世界のシステムにおける進化の法則を明らかにすることを目的としている。
動的グラフ学習のための新しい連続状態空間モデルDyG-Mambaを提案する。
我々はDyG-Mambaがほとんどのデータセットで最先端のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2024-08-13T15:21:46Z) - P-SpikeSSM: Harnessing Probabilistic Spiking State Space Models for Long-Range Dependency Tasks [1.9775291915550175]
スパイキングニューラルネットワーク(SNN)は、従来のニューラルネットワークに代わる計算効率が高く生物学的に妥当な代替品として提案されている。
長距離依存タスクのためのスケーラブルな確率的スパイク学習フレームワークを開発した。
我々のモデルは、様々な長距離依存タスクにまたがるSNNモデル間の最先端性能を実現する。
論文 参考訳(メタデータ) (2024-06-05T04:23:11Z) - Convolutional State Space Models for Long-Range Spatiotemporal Modeling [65.0993000439043]
ConvS5は、長距離時間モデリングのための効率的な変種である。
トランスフォーマーとConvNISTTMは、長い水平移動実験において、ConvLSTMより3倍速く、トランスフォーマーより400倍速くサンプルを生成する一方で、大幅に性能が向上した。
論文 参考訳(メタデータ) (2023-10-30T16:11:06Z) - Bayesian Inference in High-Dimensional Time-Serieswith the Orthogonal
Stochastic Linear Mixing Model [2.7909426811685893]
現代の時系列データセットの多くは、長期間にわたってサンプリングされた大量の出力応答変数を含んでいる。
本稿では,多種多様な大規模時系列データセット解析のための新しいマルコフ連鎖モンテカルロフレームワークを提案する。
論文 参考訳(メタデータ) (2021-06-25T01:12:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。