論文の概要: Advances in Neural Controlled Differential Equations

• arxiv url: http://arxiv.org/abs/2607.05280v1
• Date: Mon, 06 Jul 2026 16:25:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:30.239648
• Title: Advances in Neural Controlled Differential Equations
• Title（参考訳）: ニューラル制御による微分方程式の進歩
• Authors: Benjamin Walker,
• Abstract要約: この論文は3つの補完的な貢献を通じてNCDEのトレーニングとスケーラビリティを向上させる。 第一に、ニューラルネットワークの粗微分方程式に基づいて、Log-NCDEはトレーニング中にNCDEの解を効率的に近似するためにLog-ODE法を適用する。 第二に、線形NCDEは非線型ベクトル場を線形に置き換え、閉形式解と並列時間計算を可能にする。
• 参考スコア（独自算出の注目度）: 1.8613536568358358
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Many real-world systems evolve continuously, yet most machine learning models interpret time series as discrete sequences. Continuous-time approaches instead treat time series as samples from an underlying input path, a formulation that naturally accommodates irregularly sampled or oversampled data. Among these, Neural Controlled Differential Equations (NCDEs) are a maximally expressive class of models that parametrise a vector field using a neural network and evolve their hidden state by solving a dynamical system driven by the input path. NCDEs typically use a non-linear vector field, so their expressive power and continuous-time flexibility come at the cost of a forward pass that is both computationally expensive and inherently sequential, limiting their scalability and practical applicability. This thesis advances the training and scalability of NCDEs through three complementary contributions. First, building on neural rough differential equations, Log-NCDEs apply the Log-ODE method to efficiently approximate an NCDE's solution during training, improving both computational speed and empirical performance. Second, Linear NCDEs replace the non-linear vector field with a linear one, enabling closed-form solutions and parallel-in-time computation without sacrificing theoretical expressivity. Third, Structured Linear NCDEs use structured linear vector fields to further enhance efficiency while maintaining theoretical expressiveness and empirical performance. Collectively, these methods reduce the time per training step for an NCDE by up to three orders of magnitude while achieving state-of-the-art performance across diverse time series benchmarks.
• Abstract（参考訳）: 多くの実世界のシステムは連続的に進化するが、ほとんどの機械学習モデルは時系列を離散シーケンスとして解釈する。 連続的なアプローチでは、時系列を基礎となる入力パスからのサンプルとして扱い、不規則にサンプリングされたデータやオーバーサンプリングされたデータに自然に適合する定式化を行う。 これらのうち、NCDE(Neural Controlled Differential Equations)は、ニューラルネットワークを用いてベクトル場をパラメータ化し、入力経路によって駆動される力学系を解くことで隠れた状態を進化させる、最大表現型モデルのクラスである。 NCDEは典型的には非線形ベクトル場を使用するため、その表現力と連続時間の柔軟性は計算コストが高く、本質的にシーケンシャルであり、スケーラビリティと実用性を制限する。 この論文は3つの補完的な貢献を通じてNCDEのトレーニングとスケーラビリティを向上させる。 第一に、ニューラルネットワークの粗微分方程式に基づくLog-NCDEは、トレーニング中にNCDEの解を効率的に近似するためにLog-ODE法を適用し、計算速度と経験的性能の両方を改善する。 第二に、線形NCDEは非線型ベクトル場を線形に置き換え、理論表現性を犠牲にすることなく閉形式解と並列時間計算を可能にする。 第3に、構造線形NCDEは、理論的表現性と経験的性能を維持しながら、より効率を高めるために構造化線形ベクトル場を使用する。 これらの手法により、NCDEのトレーニング1ステップあたりの時間を最大3桁まで短縮し、様々な時系列ベンチマークで最先端のパフォーマンスを達成することができる。

関連論文リスト

• DInf-Grid: A Neural Differential Equation Solver with Differentiable Feature Grids [73.28614344779076]
  我々は、微分方程式(DE)を効率的に解くための微分可能グリッドベース表現を提案する。 その結果,座標法よりも5～20倍の高速化を実現し,差分方程式を数秒または数分で解き,精度とコンパクト性を維持した。
  論文  参考訳（メタデータ） (2026-01-15T18:59:57Z)
• Training Neural ODEs Using Fully Discretized Simultaneous Optimization [2.290491821371513]
  ニューラルネットワークの正規微分方程式(Neural ODEs)の学習には、各エポックにおける微分方程式の解法が必要であるため、計算コストが高い。 特に、コロケーションに基づく完全に離散化された定式化を採用し、大規模な非線形最適化にIPOPT-aソルバを用いる。 この結果から,(コロケーションをベースとした)同時ニューラルODE訓練パイプラインの可能性が示唆された。
  論文  参考訳（メタデータ） (2025-02-21T18:10:26Z)
• Trajectory Flow Matching with Applications to Clinical Time Series Modeling [77.58277281319253]
  Trajectory Flow Matching (TFM) は、シミュレーションのない方法でニューラルSDEを訓練し、ダイナミックスを通してバックプロパゲーションをバイパスする。 絶対的性能と不確実性予測の観点から,3つの臨床時系列データセットの性能向上を実証した。
  論文  参考訳（メタデータ） (2024-10-28T15:54:50Z)
• Efficient Interpretable Nonlinear Modeling for Multiple Time Series [5.448070998907116]
  本稿では,複数時系列に対する効率的な非線形モデリング手法を提案する。 異なる時系列変数間の非線形相互作用を含む。 実験結果から,提案アルゴリズムは相似的にVAR係数の支持値の同定を改善することが示された。
  論文  参考訳（メタデータ） (2023-09-29T11:42:59Z)
• Learnable Path in Neural Controlled Differential Equations [11.38331901271794]
  ニューラルネットワーク制御微分方程式(NCDEs)は、(不規則な)時系列処理における特別なモデルである。 本稿では,適切な方法を学ぶのと同一の潜在経路を生成する方法を提案する。 我々はNCDEとNODEをベースとしたエンコーダデコーダモジュールを設計し,その特別な訓練方法を提案する。
  論文  参考訳（メタデータ） (2023-01-11T07:05:27Z)
• Semi-supervised Learning of Partial Differential Operators and Dynamical Flows [68.77595310155365]
  本稿では,超ネットワーク解法とフーリエニューラル演算子アーキテクチャを組み合わせた新しい手法を提案する。 本手法は, 1次元, 2次元, 3次元の非線形流体を含む様々な時間発展PDEを用いて実験を行った。 その結果、新しい手法は、監督点の時点における学習精度を向上し、任意の中間時間にその解を補間できることを示した。
  論文  参考訳（メタデータ） (2022-07-28T19:59:14Z)
• EXIT: Extrapolation and Interpolation-based Neural Controlled Differential Equations for Time-series Classification and Forecasting [19.37382379378985]
  神経制御微分方程式(NCDE)は深層学習におけるブレークスルーと見なされている。 本研究では、NCDEのコア部分、すなわち離散的な時系列入力から連続的なパスを生成することで、NCDEを強化する。 我々のNCDE設計では、下流の機械学習タスクに外挿情報と外挿情報の両方を使うことができる。
  論文  参考訳（メタデータ） (2022-04-19T09:37:36Z)
• Multipole Graph Neural Operator for Parametric Partial Differential Equations [57.90284928158383]
  物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。 線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。 実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
  論文  参考訳（メタデータ） (2020-06-16T21:56:22Z)
• Liquid Time-constant Networks [117.57116214802504]
  本稿では,時間連続リカレントニューラルネットワークモデルについて紹介する。 暗黙の非線形性によって学習システムの力学を宣言する代わりに、線形一階力学系のネットワークを構築する。 これらのニューラルネットワークは安定かつ有界な振る舞いを示し、ニューラル常微分方程式の族の中で優れた表現性をもたらす。
  論文  参考訳（メタデータ） (2020-06-08T09:53:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。