論文の概要: DeNOTS: Stable Deep Neural ODEs for Time Series

• arxiv url: http://arxiv.org/abs/2408.08055v2
• Date: Tue, 15 Apr 2025 09:49:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-16 22:08:35.655796
• Title: DeNOTS: Stable Deep Neural ODEs for Time Series
• Title（参考訳）: DeNOTS: 時系列のための安定したディープニューラルネットワーク
• Authors: Ilya Kuleshov, Evgenia Romanenkova, Galina Boeva, Vladislav Zhuzhel, Evgeni Vorsin, Alexey Zaytsev,
• Abstract要約: ニューラルODEは、複雑な時間スタンプデータの時間的進化を捉えるために設計されたメソッドの顕著な分岐である。 適応的な負のフィードバック機構を導入することで、これらのモデルを確実に安定化する。 3つのオープンデータセットに対して,提案手法は下流品質を最大20%改善する。
• 参考スコア（独自算出の注目度）: 2.2544703147182172
• License:
• Abstract: Neural ODEs are a prominent branch of methods designed to capture the temporal evolution of complex time-stamped data. Their idea is to solve an ODE with Neural Network-defined dynamics, which take the immediate parameters of the observed system into account. However, larger integration intervals cause instability, which forces most modern methods to normalize time to $[0, 1]$. We provably stabilize these models by introducing an adaptive negative feedback mechanism. This modification allows for longer integration, which in turn implies higher expressiveness, mirroring the behaviour of increasing depth in conventional Neural Networks.Additionally, it provides intriguing theoretical properties: forgetfulness and missing-value robustness. For three open datasets, our method obtains up to 20\% improvements in downstream quality if compared to existing baselines, including State Space Models and Neural~CDEs.
• Abstract（参考訳）: ニューラルODEは、複雑な時間スタンプデータの時間的進化を捉えるために設計されたメソッドの顕著な分岐である。 彼らの考えは、観測されたシステムの即時パラメータを考慮に入れたニューラルネットワーク定義のダイナミックスでODEを解くことである。 しかし、より大きな積分間隔は不安定を引き起こすため、現代のほとんどのメソッドは時間正規化を$[0, 1]$に強制する。 適応的な負のフィードバック機構を導入することで、これらのモデルを確実に安定化する。 この修正により、より長い統合が可能となり、結果として表現性が向上し、従来のニューラルネットワークにおける深度増加の挙動を反映する。 3つのオープンデータセットに対して、ステートスペースモデルやニューラル〜CDEを含む既存のベースラインと比較して、ダウンストリーム品質を最大20倍改善する。

関連論文リスト

• von Mises Quasi-Processes for Bayesian Circular Regression [57.88921637944379]
  円値ランダム関数上の表現的および解釈可能な分布の族を探索する。 結果の確率モデルは、統計物理学における連続スピンモデルと関係を持つ。 後続推論のために、高速マルコフ連鎖モンテカルロサンプリングに寄与するストラトノビッチのような拡張を導入する。
  論文  参考訳（メタデータ） (2024-06-19T01:57:21Z)
• Data-Driven Model Selections of Second-Order Particle Dynamics via Integrating Gaussian Processes with Low-Dimensional Interacting Structures [0.9821874476902972]
  我々は、一般の2階粒子モデルにおけるデータ駆動的な発見に焦点を当てる。 本稿では、2つの実世界の魚の動きデータセットのモデリングへの応用について述べる。
  論文  参考訳（メタデータ） (2023-11-01T23:45:15Z)
• Multi-Response Heteroscedastic Gaussian Process Models and Their Inference [1.52292571922932]
  本稿ではヘテロセダスティック共分散関数のモデリングのための新しいフレームワークを提案する。 後部モデルに近似し, 後部予測モデルを容易にするために, 変分推論を用いる。 提案するフレームワークは,幅広いアプリケーションに対して,堅牢で汎用的なツールを提供する。
  論文  参考訳（メタデータ） (2023-08-29T15:06:47Z)
• Learning minimal representations of stochastic processes with variational autoencoders [52.99137594502433]
  プロセスを記述するのに必要なパラメータの最小セットを決定するために、教師なしの機械学習アプローチを導入する。 我々の手法はプロセスを記述する未知のパラメータの自律的な発見を可能にする。
  論文  参考訳（メタデータ） (2023-07-21T14:25:06Z)
• Score-based Data Assimilation [7.215767098253208]
  軌道推定のためのスコアベースのデータ同化を導入する。 我々は、任意の長さの軌道のスコアを、短いセグメントにまたがって一連のスコアに分解できるというキーインサイトに基づいて、状態軌道のスコアに基づく生成モデルを学ぶ。
  論文  参考訳（メタデータ） (2023-06-18T14:22:03Z)
• The Past Does Matter: Correlation of Subsequent States in Trajectory Predictions of Gaussian Process Models [0.7734726150561089]
  モデルの出力と軌道分布の近似を考察する。 本研究では,不確実性伝播に関するこれまでの研究は,予測された軌道のその後の状態の間に独立性の仮定を誤って含んでいたことを示す。
  論文  参考訳（メタデータ） (2022-11-20T22:19:39Z)
• Likelihood-Free Inference in State-Space Models with Unknown Dynamics [71.94716503075645]
  本研究では、状態空間モデルにおいて、観測をシミュレートすることしかできず、遷移ダイナミクスが不明な潜在状態の推測と予測を行う手法を提案する。 本研究では,限られた数のシミュレーションで状態予測と状態予測を行う手法を提案する。
  論文  参考訳（メタデータ） (2021-11-02T12:33:42Z)
• Variational Inference for Continuous-Time Switching Dynamical Systems [29.984955043675157]
  従属拡散過程を変調したマルコフジャンプ過程に基づくモデルを提案する。 我々は,新しい連続時間変動推定アルゴリズムを開発した。 モデル仮定と実世界の実例に基づいて,我々のアルゴリズムを広範囲に評価する。
  論文  参考訳（メタデータ） (2021-09-29T15:19:51Z)
• On Contrastive Representations of Stochastic Processes [53.21653429290478]
  プロセスの表現を学習することは、機械学習の新たな問題である。 本手法は,周期関数,3次元オブジェクト,動的プロセスの表現の学習に有効であることを示す。
  論文  参考訳（メタデータ） (2021-06-18T11:00:24Z)
• Social NCE: Contrastive Learning of Socially-aware Motion Representations [87.82126838588279]
  実験結果から, 提案手法は最近の軌道予測, 行動クローニング, 強化学習アルゴリズムの衝突速度を劇的に低減することがわかった。 本手法は,ニューラルネットワークの設計に関する仮定をほとんど示さないため,神経運動モデルのロバスト性を促進する汎用的手法として使用できる。
  論文  参考訳（メタデータ） (2020-12-21T22:25:06Z)
• Multiplicative noise and heavy tails in stochastic optimization [62.993432503309485]
  経験的最適化は現代の機械学習の中心であるが、その成功における役割はまだ不明である。 分散による離散乗法雑音のパラメータによく現れることを示す。 最新のステップサイズやデータを含む重要な要素について、詳細な分析を行い、いずれも最先端のニューラルネットワークモデルで同様の結果を示す。
  論文  参考訳（メタデータ） (2020-06-11T09:58:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。