論文の概要: TIDES: Implicit Time-Awareness in Selective State Space Models

• arxiv url: http://arxiv.org/abs/2605.09742v1
• Date: Sun, 10 May 2026 20:34:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:50.399618
• Title: TIDES: Implicit Time-Awareness in Selective State Space Models
• Title（参考訳）: TIDES:選択状態空間モデルにおける暗黙の時間認識
• Authors: Taylan Soydan, Miguel A. Bessa, Dirk Mohr, Rui Barreira,
• Abstract要約: 連続時間SSMは不規則なタイムスタンプを扱うが、その力学は線形時間不変(LTI)のままである。 選択型および連続型アーキテクチャを再構成する選択型SSMである textbfTIDES を提案する。 TIDESは、UEA時系列分類とPhysome-ODEレグレッションベンチマークに基づいて、最先端の平均ランクを新たに設定する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Selective state space models (SSMs), such as Mamba, achieve strong per-token expressivity by making the time discretization step $\TildeΔ$ a learned function of the input. However, in doing so, $\TildeΔ$ ceases to represent a physical sampling interval, limiting its irregular time series modeling capability. Continuous-time SSMs, such as S5, preserve the physical meaning of $\TildeΔ$ and handle irregular timestamps natively ($\TildeΔ\equivΔ)$, but their dynamics remain linear time-invariant (LTI), limiting per-token expressivity. We propose \textbf{TIDES}, a selective SSM variant that reconciles selective and continuous architectures by moving input-dependence off the step size and onto the diagonal state matrix. As a result, $\TildeΔ$ retains its physical meaning, tied to the state discretization, allowing the model to handle irregular timestamps natively without sacrificing the per-token expressivity that makes selective SSMs effective. We show this on a novel \emph{Fading Flash} experimental benchmark, a compact controlled diagnostic for sequence models that jointly tests input-dependence and extrapolation to out-of-distribution $Δ$ values, and isolates the distinct failure modes of current state-of-the-art architectures that TIDES avoids by construction. On large-scale benchmarks, TIDES sets the new state-of-the-art average rank on UEA time-series classification and the Physiome-ODE regression benchmark. Code available at: https://github.com/TaylanSoydan/TIDES.
• Abstract（参考訳）: Mamba のような選択状態空間モデル (SSM) は、時間離散化ステップ $\TildeΔ$ を入力の学習関数にすることで、強いトーケン毎の表現性を達成する。 しかし、そのような場合、$\TildeΔ$は物理的なサンプリング間隔を表すのをやめ、不規則な時系列モデリング能力を制限する。 S5 のような連続時間 SSM は$\TildeΔ$ の物理的意味を保ち、不規則なタイムスタンプをネイティブに$\TildeΔ\equivΔ)$ を扱うが、それらの力学は線形時間不変(LTI)のままであり、トーケン表現率に制限がある。 本稿では、ステップサイズから対角状態行列へ入力依存性を移動させることにより、選択的かつ連続的なアーキテクチャを分解する選択的なSSM変種である「textbf{TIDES}」を提案する。 結果として、$\TildeΔ$はその物理的意味を保ち、状態の離散化と結びついているので、選択的なSSMを効果的にするためのトーケン表現性を犠牲にすることなく、モデルが不規則なタイムスタンプをネイティブに扱うことができる。 これは、入出力依存性と外挿を共同でテストし、TIDESが建設によって回避する現在の最先端アーキテクチャの異なる障害モードを分離する、シーケンスモデルのコンパクトな制御診断である。 大規模なベンチマークでは、TIDESは新しい最先端の平均ランクをUEA時系列分類とPhysome-ODE回帰ベンチマークに設定する。 コードは、https://github.com/TaylanSoydan/TIDES.comで入手できる。

関連論文リスト

• Sessa: Selective State Space Attention [0.0]
  本稿では、繰り返しフィードバックパス内に注意を向けるデコーダであるSessaを提案する。 Sessaはパワーローメモリのテールを$O(ell-)$$01$で認めており、TransformerやMambaスタイルのベースラインよりも劣化が遅い。
  論文  参考訳（メタデータ） (2026-04-20T17:59:08Z)
• CAWN: Continuous Acoustic Wave Networks for Autoregressive Language Modeling [46.16066322190728]
  完全連続配列混合アーキテクチャであるCAWN(Continuous Acoustic Wave Network)を導入する。 CAWNは離散行列ベースの注意を代わりに、多面体複素ドメインファサーに隠された状態を計画している。 超長コンテキスト上での信号劣化を防止するため,デュアルゲート選択位相共振機構を導入する。
  論文  参考訳（メタデータ） (2026-04-05T20:13:22Z)
• Catch Your Breath: Adaptive Computation for Self-Paced Sequence Production [55.76222360698305]
  我々は,言語モデルが入力トークン毎に使用する計算ステップの数を動的かつ自律的に拡張できるような,教師付きトレーニング目標のクラスを探索する。 任意のトークンに対して、モデルは don't know> 出力を出力することで、追加の計算ステップを要求できる。 CYBモデルでは精度が向上し,トークンレベルの複雑性とコンテキストに処理時間を適用することができる。
  論文  参考訳（メタデータ） (2025-10-13T21:07:05Z)
• Structured Sparse Transition Matrices to Enable State Tracking in State-Space Models [68.31088463716269]
  状態空間モデル(SSM)における遷移行列の構造的スパースパラメトリゼーションを提案する。 我々の方法PD-SSMは、遷移行列をカラム1ホット行列(P$)と複素数値対角行列(D$)の積としてパラメータ化する。 このモデルは、様々なFSA状態追跡タスクにおいて、現代のSSMの多種多様なバリエーションを著しく上回っている。
  論文  参考訳（メタデータ） (2025-09-26T12:46:30Z)
• Scaling Up Liquid-Resistance Liquid-Capacitance Networks for Efficient Sequence Modeling [50.994194925685434]
  LrcSSMは$textitnon-linear$リカレントモデルで、現在の線形状態空間層と同じくらい高速に長いシーケンスを処理する。 ヤコビ行列を対角線に強制することにより、全列を並列に解くことができる。 LrcSSMは、Liquid-S4のような他の入力変化系が提供しないことを保証する形式的な勾配安定性を提供する。
  論文  参考訳（メタデータ） (2025-05-27T20:02:59Z)
• TFMQ-DM: Temporal Feature Maintenance Quantization for Diffusion Models [52.454274602380124]
  拡散モデルは非常に時間ステップ$t$に大きく依存し、良好なマルチラウンドデノジングを実現している。 本稿では,時間情報ブロック上に構築した時間的特徴保守量子化(TFMQ)フレームワークを提案する。 先駆的なブロック設計により、時間情報認識再構成(TIAR)と有限集合キャリブレーション(FSC)を考案し、完全な時間的特徴を整列させる。
  論文  参考訳（メタデータ） (2023-11-27T12:59:52Z)
• TILDE-Q: A Transformation Invariant Loss Function for Time-Series Forecasting [8.086595073181604]
  時系列予測は、エネルギー、天気、交通、経済など、さまざまな領域における現実世界の問題に対処することができる。 時系列予測はよく研究されている分野であり、シーケンシャルデータの急激な変化などの複雑な時間的パターンを予測することは、現在のモデルでは依然として課題となっている。 本稿では, 振幅および位相歪みだけでなく, 時系列列の形状をモデルで捉えることができる, TILDEQ と呼ばれる新しいコンパクトな損失関数を提案する。
  論文  参考訳（メタデータ） (2022-10-26T21:32:20Z)
• Acting in Delayed Environments with Non-Stationary Markov Policies [57.52103323209643]
  本稿では,MDPにおける学習と計画のためのフレームワークについて紹介する。 実行が遅れると、元の状態空間における決定論的マルコフポリシーは最大報酬を得るのに十分であるが、非定常である必要があることを証明します。 我々は、状態拡張に頼らずに遅延実行タスクを解く非定常Q学習スタイルのモデルベースアルゴリズムを考案した。
  論文  参考訳（メタデータ） (2021-01-28T13:35:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。