論文の概要: WaveSSM: Multiscale State-Space Models for Non-stationary Signal Attention
- arxiv url: http://arxiv.org/abs/2602.22266v1
- Date: Wed, 25 Feb 2026 06:27:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-27 18:41:22.336666
- Title: WaveSSM: Multiscale State-Space Models for Non-stationary Signal Attention
- Title(参考訳): WaveSSM:非定常信号注意のためのマルチスケール状態空間モデル
- Authors: Ruben Solozabal, Velibor Bojkovic, Hilal Alquabeh, Klea Ziu, Kentaro Inui, Martin Takac,
- Abstract要約: 状態空間モデル(SSM)は、長距離シーケンスモデリングの強力な基盤として登場した。
本稿では,ウェーブレットフレーム上に構築されたSSMの集合であるemphWaveSSMを紹介する。
我々のキーとなる観察は、ウェーブレットフレームが時間次元の局所的な支持を与え、正確な局所化を必要とするタスクに役立ちます。
- 参考スコア(独自算出の注目度): 22.983737182781244
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: State-space models (SSMs) have emerged as a powerful foundation for long-range sequence modeling, with the HiPPO framework showing that continuous-time projection operators can be used to derive stable, memory-efficient dynamical systems that encode the past history of the input signal. However, existing projection-based SSMs often rely on polynomial bases with global temporal support, whose inductive biases are poorly matched to signals exhibiting localized or transient structure. In this work, we introduce \emph{WaveSSM}, a collection of SSMs constructed over wavelet frames. Our key observation is that wavelet frames yield a localized support on the temporal dimension, useful for tasks requiring precise localization. Empirically, we show that on equal conditions, \textit{WaveSSM} outperforms orthogonal counterparts as S4 on real-world datasets with transient dynamics, including physiological signals on the PTB-XL dataset and raw audio on Speech Commands.
- Abstract(参考訳): 状態空間モデル(SSM)は、入力信号の過去の履歴を符号化する安定的でメモリ効率のよい力学系を導出するために連続時間プロジェクション演算子を使用できることを示すHiPPOフレームワークによって、長距離シーケンスモデリングの強力な基盤として登場した。
しかし、既存のプロジェクションベースのSSMは、大域的時間的支持を持つ多項式ベースに依存しており、帰納的バイアスは局所的または過渡的構造を示す信号と不一致である。
本稿では,ウェーブレットフレーム上に構築されたSSMの集合である \emph{WaveSSM} を紹介する。
我々のキーとなる観察は、ウェーブレットフレームが時間次元の局所的な支持を与え、正確な局所化を必要とするタスクに役立ちます。
実験により,PTB-XLデータセットの生理的信号や音声コマンドの生音声など,過渡的ダイナミクスを持つ実世界のデータセットでは,textit{WaveSSM} が直交の S4 よりも優れていることを示す。
関連論文リスト
- StretchTime: Adaptive Time Series Forecasting via Symplectic Attention [5.339037322817684]
回転位置埋め込みは,非アフィン時間ワープを数学的に表現できないことを示す。
ハミルトン力学から派生した学習可能な符号化フレームワークであるSymphlectic Positional Embeddings (SyPE)を提案する。
SyPE は回転群 $mathrmSO(2)$ をシンプレクティック群 $mathrmSp(2,mathbbR)$ に拡張することで、RoPE を厳密に一般化する。
論文 参考訳(メタデータ) (2026-02-09T18:29:25Z) - MS-SSM: A Multi-Scale State Space Model for Efficient Sequence Modeling [60.648359990090846]
状態空間モデル(SSM)は、最近、計算コストのかかるシーケンスモデルに対する効率的な代替手段として注目されている。
本稿では,複数の解像度にまたがるシーケンスダイナミクスを表現するマルチスケールSSMフレームワークを提案し,各解像度を特殊な状態空間ダイナミクスで処理する。
論文 参考訳(メタデータ) (2025-12-29T19:36:28Z) - Echo State Networks as State-Space Models: A Systems Perspective [10.710447183485284]
本研究では, エコー状態特性が非線形SSMの入力状態安定性の例であることを示す。
また、解釈可能な極とメモリ水平線を持つ局所有効なLTI SSMを生成する2つの相補写像も開発する。
この観点は、メモリスペクトルの周波数領域の特徴を与え、ESNが構造化SSMカーネルをエミュレートするときに明確にする。
論文 参考訳(メタデータ) (2025-09-04T17:42:03Z) - Reprogramming Vision Foundation Models for Spatio-Temporal Forecasting [12.591771385493509]
汎用ロバストネス・時間予測のためのビジョン・ファンデーション・モデル(VFM)を体系的に再プログラミングするフレームワークであるtextST-VFMを提案する。
このフレームワークは、生の入力と補助的なSTフローを統合し、フローは動的キューとして解釈可能な軽量の時間差信号を符号化する。
Emphpre-VFMリプログラミングでは、Temporal-Aware Tokenを使用して、両方のブランチをVFM互換の機能空間に整列させる。
emphpost-VFMリプログラミングでは、分岐間の動的相互作用を可能にするバイラテラルクロスプロンプトコーディネートモジュールが導入されている。
論文 参考訳(メタデータ) (2025-07-14T08:33:34Z) - Multivariate Long-term Time Series Forecasting with Fourier Neural Filter [42.60778405812048]
我々はFNFをバックボーンとして、DBDをアーキテクチャとして導入し、空間時間モデルのための優れた学習能力と最適な学習経路を提供する。
FNFは、局所時間領域とグローバル周波数領域の情報処理を単一のバックボーン内で統合し、空間的モデリングに自然に拡張することを示す。
論文 参考訳(メタデータ) (2025-06-10T18:40:20Z) - Learning to Dissipate Energy in Oscillatory State-Space Models [51.98491034847041]
状態空間モデル (SSM) はシーケンス学習のためのネットワークのクラスである。
我々は,D-LinOSSがLinOSSの手法を長距離学習タスクで一貫して上回っていることを示す。
論文 参考訳(メタデータ) (2025-05-17T23:15:17Z) - Time-SSM: Simplifying and Unifying State Space Models for Time Series Forecasting [22.84798547604491]
状態空間モデル(SSM)は、基底関数の集合を用いて連続系を近似し、それらを離散化して入力データを処理する。
本稿では,SSMを時系列データに適用するためのより直感的で汎用的なガイダンスを提供する,動的スペクトル演算子(Dynamic Spectral Operator)と呼ばれる新しい理論フレームワークを提案する。
パラメータの7分の1しか持たない新しいSSM基盤モデルであるTime-SSMを紹介する。
論文 参考訳(メタデータ) (2024-05-25T17:42:40Z) - Generative Modeling with Phase Stochastic Bridges [49.4474628881673]
拡散モデル(DM)は、連続入力のための最先端の生成モデルを表す。
我々はtextbfphase space dynamics に基づく新しい生成モデリングフレームワークを提案する。
我々のフレームワークは、動的伝播の初期段階において、現実的なデータポイントを生成する能力を示す。
論文 参考訳(メタデータ) (2023-10-11T18:38:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。