論文の概要: Looped SSMs: Depth-Recurrence and Input Reshaping for Time Series Classification

• arxiv url: http://arxiv.org/abs/2605.16048v1
• Date: Fri, 15 May 2026 15:18:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-18 21:22:26.333777
• Title: Looped SSMs: Depth-Recurrence and Input Reshaping for Time Series Classification
• Title（参考訳）: ループ型SSM:時系列分類のための深さ再帰と入力再形
• Authors: Mónika Farsang, Ramin Hasani, Daniela Rus, Radu Grosu,
• Abstract要約: パラメータが$k$のループSSMが$L$倍に反復され、標準SSMと一貫して一致し、性能が良くなることを示す。 また、入力再フォーマットは等しく無視された設計軸であることを示す。
• 参考スコア（独自算出の注目度）: 50.994194925685434
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: State Space Models (SSMs) are inherently recurrent along the sequence dimension, yet depth-recurrence - reusing the same block repeatedly across layers, as recently applied in looped transformers - has not been explored in this model family. We show that a looped SSM with $k$ parameters iterated $L$ times consistently closely matches or outperforms a standard SSM with $k \cdot L$ independent parameters across four architectures (LRU, S5, LinOSS, LrcSSM) and six time series classification benchmarks, despite operating within a strictly smaller hypothesis space, as we formally establish. Since the larger model contains the looped model as a special case, this dominance cannot be explained by expressivity and instead points to parameter sharing across depth as a beneficial inductive bias that simplifies optimization. These results demonstrate that depth-recurrence is orthogonal to sequence-recurrence and independently beneficial. We further show that input reshaping is an equally neglected design axis: concatenating timesteps for low-dimensional inputs, or flattening and rechunking the joint feature-time dimension for high-dimensional ones, yields accuracy gains of 1-6% across all models, confirmed over 5 random seeds. Both techniques provide standalone improvements that compound when combined, suggesting that depth and input reshaping are two independent and underexplored design axes for SSMs on time series.
• Abstract（参考訳）: 状態空間モデル(SSM)は、本質的にはシーケンス次元に沿ってリカレントであるが、奥行き再帰(deep-recurrence) - 最近ループ変換器で適用されたように、同じブロックを複数の層に繰り返し再利用する - このモデルファミリでは検討されていない。 我々は,4つのアーキテクチャ (LRU, S5, LinOSS, LrcSSM) と6つの時系列分類ベンチマークを対象とし,厳密な仮説空間内で動作しているにもかかわらず,$L$倍のループ付きSSMと$k \cdot L$の標準SSMとの整合性や性能に優れることを示す。 大きなモデルはループモデルを特別な場合として含んでいるため、この優位性は表現性によって説明できず、代わりに、最適化を単純化する有益な帰納的バイアスとして、深さを越えてパラメータを共有することを指している。 これらの結果は、深度再帰は、シーケンス再帰と直交し、独立に有益であることを示す。 さらに,入力再形成は,低次元入力の時間ステップの連結化や,高次元入力の結合特徴時間次元のフラット化,および全モデルで1～6%の精度向上を達成し,ランダムな種子を5つ以上確認する,等しく無視された設計軸であることを示す。 どちらの手法も、組み合わせた場合の独立的な改善を提供しており、深度と入力の整形は、時系列上でのSSMの独立設計軸と未探索設計軸の2つであることが示唆されている。

関連論文リスト

• Forecasting as Rendering: A 2D Gaussian Splatting Framework for Time Series Forecasting [79.37674445572462]
  時系列予測(TSF)は、周期内変動と周期間トレンドの複雑な絡み合いのため、依然として困難な問題である。 形状変化テンソルを静止画像として扱うと、トポロジカルミスマッチが発生する。 均一な固定サイズの表現に依存することは、モデリング能力を非効率に割り当てる。 TimeGSは、予測パラダイムをレグレッションから2D生成レンダリングに根本的にシフトする、新しいフレームワークである。
  論文  参考訳（メタデータ） (2026-02-10T14:13:36Z)
• W4S4: WaLRUS Meets S4 for Long-Range Sequence Modeling [23.453158933852357]
  状態空間モデル(SSM)は、シーケンスモデリングの強力なコンポーネントとして登場した。 冗長ウェーブレットフレームから構築された新しいSSMであるW4S4(WaLRUS for S4)を導入する。 我々は,HipPOをベースとしたSSMよりも長い地平線上での情報保持が極めて優れていることを示す。
  論文  参考訳（メタデータ） (2025-06-09T16:33:29Z)
• Scaling Up Liquid-Resistance Liquid-Capacitance Networks for Efficient Sequence Modeling [50.994194925685434]
  LrcSSMは$textitnon-linear$リカレントモデルで、現在の線形状態空間層と同じくらい高速に長いシーケンスを処理する。 ヤコビ行列を対角線に強制することにより、全列を並列に解くことができる。 LrcSSMは、Liquid-S4のような他の入力変化系が提供しないことを保証する形式的な勾配安定性を提供する。
  論文  参考訳（メタデータ） (2025-05-27T20:02:59Z)
• SIGMA: Selective Gated Mamba for Sequential Recommendation [56.85338055215429]
  最近の進歩であるMambaは、時系列予測において例外的なパフォーマンスを示した。 SIGMA(Selective Gated Mamba)と呼ばれる,シークエンシャルレコメンデーションのための新しいフレームワークを紹介する。 以上の結果から,SIGMAは5つの実世界のデータセットにおいて,現在のモデルよりも優れていたことが示唆された。
  論文  参考訳（メタデータ） (2024-08-21T09:12:59Z)
• Chimera: Effectively Modeling Multivariate Time Series with 2-Dimensional State Space Models [5.37935922811333]
  State Space Models (SSM) は、一変量時系列モデリングのための古典的なアプローチである。 本稿では、2つの入力依存型2次元SSMヘッドと異なる離散化プロセスを用いて長期進行と季節パターンを学習するチメラについて述べる。 実験により,広範囲で多様なベンチマークにおいて,Chimeraの優れた性能を示す。
  論文  参考訳（メタデータ） (2024-06-06T17:58:09Z)
• Convolutional State Space Models for Long-Range Spatiotemporal Modeling [65.0993000439043]
  ConvS5は、長距離時間モデリングのための効率的な変種である。 トランスフォーマーとConvNISTTMは、長い水平移動実験において、ConvLSTMより3倍速く、トランスフォーマーより400倍速くサンプルを生成する一方で、大幅に性能が向上した。
  論文  参考訳（メタデータ） (2023-10-30T16:11:06Z)
• Deep Switching State Space Model (DS$^3$M) for Nonlinear Time Series Forecasting with Regime Switching [2.8579459256051316]
  我々はDeep Switching State Space Model(DS$3$M)として知られる新しいモデリングフレームワークを紹介する。 このフレームワークは、動的に隠された不規則な状態を特定しながら、そのような時系列の正確な予測を行うように設計されている。 本研究は,DS$3$Mの短期および長期の予測テストを通じて,シミュレーションおよび実世界の幅広いデータセット上でのDS$3$Mの有効性とレギュラー識別能力を検証する。
  論文  参考訳（メタデータ） (2021-06-04T08:25:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。