論文の概要: Continuity Laws for Sequential Models

• arxiv url: http://arxiv.org/abs/2605.08539v1
• Date: Fri, 08 May 2026 22:55:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:49.719005
• Title: Continuity Laws for Sequential Models
• Title（参考訳）: 逐次モデルにおける連続法則
• Authors: Annan Yu, Dongwei Lyu, N. Benjamin Erichson,
• Abstract要約: 連続モデリングにおける過度に探索された帰納バイアス:時間の連続性について検討する。 S4 は安定な連続挙動を示すが,S6 は入力振幅や選択力学に敏感であることを示す。 ベンチマークを通じて、タスク継続性、モデル継続性、モデルパフォーマンスの間に明らかな実験的な整合性を見出した。
• 参考スコア（独自算出の注目度）: 11.48281545083889
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Inductive biases influence the behavior and performance of sequential models. In this work, we study an underexplored inductive bias in sequential modeling: continuity in time. We ask a simple question: do models motivated by continuous-time formulations, such as state-space models, actually behave continuously in time, and does this translate into better performance on tasks with continuous temporal structure? To answer this, we formalize model continuity as convergence under temporal refinement, where a model is continuous if its predictions approach an underlying continuous trajectory as the temporal discretization is refined. We show that S4 exhibits stable continuous behavior, whereas S6 (the core of Mamba) can be more sensitive to input amplitude and selective dynamics, despite being derived from a continuous dynamical system. To study whether this distinction matters for learning, we also need a corresponding notion of task continuity. We therefore introduce a metric to quantify the continuity of datasets directly from their temporal structure. Across benchmarks, we find a clear empirical alignment between task continuity, model continuity, and model performance. Beyond an inductive bias, continuity also has practical consequences: we show that it enables a simple temporal subsampling strategy that improves both efficiency and performance.
• Abstract（参考訳）: 帰納バイアスはシーケンシャルモデルの挙動と性能に影響を与える。 本研究では、連続モデリングにおける過度に探索された帰納的バイアス、すなわち時間の連続性について研究する。 状態空間モデルのような連続的な時間的定式化によって動機付けられたモデルは、実際に時間内で継続的に振る舞うのか? これに対応するために,モデル継続性を時間的離散化の下で収束として定式化し,その予測が時間的離散化によって基礎となる連続軌道に近づくとモデルが連続となる。 S4 は安定な連続挙動を示すが,S6 (Mamba のコア) は連続力学系から導出されるにもかかわらず入力振幅や選択力学に敏感であることを示す。 この区別が学習にとって重要であるかどうかを調べるためには、タスク連続性の概念も必要である。 そこで本研究では,データセットの時間的構造から直接連続性を定量化する指標を提案する。 ベンチマークを通じて、タスク継続性、モデル継続性、モデルパフォーマンスの間に明らかな実験的な整合性を見出した。 インダクティブバイアスの他に、継続性は実践的な結果ももたらします。我々は、効率と性能の両方を改善するための、シンプルな時間的サブサンプリング戦略を可能にすることを示しています。

関連論文リスト

• Dynamical Diffusion: Learning Temporal Dynamics with Diffusion Models [71.63194926457119]
  動的拡散(DyDiff, Dynamical Diffusion)は, 時間的に意識された前と逆のプロセスを含む理論的に健全なフレームワークである。 科学的時間的予測、ビデオ予測、時系列予測に関する実験は、動的拡散が時間的予測タスクのパフォーマンスを一貫して改善することを示した。
  論文  参考訳（メタデータ） (2025-03-02T16:10:32Z)
• Amortized Control of Continuous State Space Feynman-Kac Model for Irregular Time Series [14.400596021890863]
  医療、気候、経済などの現実世界のデータセットは、しばしば不規則な時系列として収集される。 本稿では,連続状態空間モデル (ACSSM) を時系列の連続的動的モデリングに用いるためのアモータイズ制御を提案する。
  論文  参考訳（メタデータ） (2024-10-08T01:27:46Z)
• Sequential Representation Learning via Static-Dynamic Conditional Disentanglement [58.19137637859017]
  本稿では,ビデオ中の時間非依存要因と時間変化要因を分離することに着目し,逐次的データ内での自己教師付き不整合表現学習について検討する。 本稿では,静的/動的変数間の因果関係を明示的に考慮し,それらの因子間の通常の独立性仮定を破る新しいモデルを提案する。 実験により、提案手法は、シーンのダイナミックスが内容に影響されるシナリオにおいて、従来の複雑な最先端技術よりも優れていることが示された。
  論文  参考訳（メタデータ） (2024-08-10T17:04:39Z)
• A Poisson-Gamma Dynamic Factor Model with Time-Varying Transition Dynamics [51.147876395589925]
  非定常PGDSは、基礎となる遷移行列が時間とともに進化できるように提案されている。 後続シミュレーションを行うために, 完全共役かつ効率的なギブスサンプリング装置を開発した。 実験により,提案した非定常PGDSは,関連するモデルと比較して予測性能が向上することを示した。
  論文  参考訳（メタデータ） (2024-02-26T04:39:01Z)
• On the Consistency and Robustness of Saliency Explanations for Time Series Classification [4.062872727927056]
  時系列ウィンドウを画像として解釈するために、サリエンシマップが適用されている。 本稿では,時系列の特徴と時間的属性に対するサリエンシマップの一貫性とロバスト性について広く分析する。
  論文  参考訳（メタデータ） (2023-09-04T09:08:22Z)
• Instructed Diffuser with Temporal Condition Guidance for Offline Reinforcement Learning [71.24316734338501]
  テンポラリ・コンポラブル・ディフューザ(TCD)を用いた実効時間条件拡散モデルを提案する。 TCDは、相互作用シーケンスから時間情報を抽出し、時間条件で生成を明示的にガイドする。 提案手法は,従来のSOTAベースラインと比較して最高の性能を達成または一致させる。
  論文  参考訳（メタデータ） (2023-06-08T02:12:26Z)
• Neural Continuous-Discrete State Space Models for Irregularly-Sampled Time Series [18.885471782270375]
  NCDSSMは補助変数を用いて力学からの認識をアンタングルし、補助変数のみに償却推論を必要とする。 本稿では、潜在力学の3つのフレキシブルパラメータ化と、推論中の動的状態の辺りを生かした効率的な学習目標を提案する。 複数のベンチマークデータセットの実証結果は、既存のモデルよりもNCDSSMの計算性能と予測性能が改善されたことを示している。
  論文  参考訳（メタデータ） (2023-01-26T18:45:04Z)
• Continuous Latent Process Flows [47.267251969492484]
  任意の時間スタンプにおける連続時系列ダイナミクスの部分的な観察は多くの分野に存在する。このタイプのデータに連続力学を用いた統計モデルを適用することは、直感的なレベルで有望であるだけでなく、実用的な利点もある。 微分方程式によって駆動される時間依存正規化フローを用いて、連続潜時プロセスを連続可観測プロセスに復号する原則的アーキテクチャである連続潜時プロセスフロー(CLPF)を用いて、これらの課題に取り組む。 我々のアブレーション研究は、不規則な時間グリッド上での様々な推論タスクへの貢献の有効性を実証している。
  論文  参考訳（メタデータ） (2021-06-29T17:16:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。