論文の概要: Efficient Neural Controlled Differential Equations via Attentive Kernel Smoothing
- arxiv url: http://arxiv.org/abs/2602.02157v1
- Date: Mon, 02 Feb 2026 14:35:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-03 19:28:34.210633
- Title: Efficient Neural Controlled Differential Equations via Attentive Kernel Smoothing
- Title(参考訳): アテンテーティブカーネル平滑化による高能率ニューラル制御微分方程式
- Authors: Egor Serov, Ilya Kuleshov, Alexey Zaytsev,
- Abstract要約: 本稿では,Kernel と Gaussian Process (GP) をスムースに置き換えたニューラル CDE パス構築手法を提案する。
GPを用いたMVC-CDEは,NFEと総推定時間を大幅に削減しつつ,最先端の精度を実現する。
- 参考スコア(独自算出の注目度): 0.8782033967242784
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural Controlled Differential Equations (Neural CDEs) provide a powerful continuous-time framework for sequence modeling, yet the roughness of the driving control path often restricts their efficiency. Standard splines introduce high-frequency variations that force adaptive solvers to take excessively small steps, driving up the Number of Function Evaluations (NFE). We propose a novel approach to Neural CDE path construction that replaces exact interpolation with Kernel and Gaussian Process (GP) smoothing, enabling explicit control over trajectory regularity. To recover details lost during smoothing, we propose an attention-based Multi-View CDE (MV-CDE) and its convolutional extension (MVC-CDE), which employ learnable queries to inform path reconstruction. This framework allows the model to distribute representational capacity across multiple trajectories, each capturing distinct temporal patterns. Empirical results demonstrate that our method, MVC-CDE with GP, achieves state-of-the-art accuracy while significantly reducing NFEs and total inference time compared to spline-based baselines.
- Abstract(参考訳): ニューラル制御微分方程式(Neural Controlled Differential Equations, ニューラルCDE)は、シーケンスモデリングのための強力な連続時間フレームワークを提供するが、駆動制御経路の粗さは効率を制限することが多い。
標準スプラインは、適応的解法が過度に小さなステップを踏むように強制する高周波変動を導入し、機能評価数(NFE)を上昇させる。
本稿では,Kernel and Gaussian Process (GP)スムース化による正確な補間を置き換えるニューラルCDEパス構築法を提案する。
平滑化時に失われる詳細を回復するために,学習可能なクエリを用いて経路再構成を通知する,注意型マルチビューCDE(MV-CDE)とその畳み込み拡張(MVC-CDE)を提案する。
このフレームワークにより、モデルは複数の軌跡にまたがって表現容量を分散することができ、それぞれが異なる時間パターンをキャプチャすることができる。
実験により, GPを用いたMVC-CDEは, NFEと推定時間をスプラインベースラインと比較して有意に低減し, 最先端の精度を実現していることがわかった。
関連論文リスト
- Trajectory Flow Matching with Applications to Clinical Time Series Modeling [77.58277281319253]
Trajectory Flow Matching (TFM) は、シミュレーションのない方法でニューラルSDEを訓練し、ダイナミックスを通してバックプロパゲーションをバイパスする。
絶対的性能と不確実性予測の観点から,3つの臨床時系列データセットの性能向上を実証した。
論文 参考訳(メタデータ) (2024-10-28T15:54:50Z) - Ensemble Kalman Filtering Meets Gaussian Process SSM for Non-Mean-Field and Online Inference [47.460898983429374]
我々は,非平均場(NMF)変動推定フレームワークにアンサンブルカルマンフィルタ(EnKF)を導入し,潜在状態の後方分布を近似する。
EnKFとGPSSMのこの新しい結婚は、変分分布の学習における広範なパラメータ化の必要性をなくすだけでなく、エビデンスの下限(ELBO)の解釈可能でクローズドな近似を可能にする。
得られたEnKF支援オンラインアルゴリズムは、データ適合精度を確保しつつ、モデル正規化を組み込んで過度適合を緩和し、目的関数を具現化する。
論文 参考訳(メタデータ) (2023-12-10T15:22:30Z) - Learning Space-Time Continuous Neural PDEs from Partially Observed
States [13.01244901400942]
格子独立モデル学習偏微分方程式(PDE)を雑音および不規則格子上の部分的な観測から導入する。
本稿では、効率的な確率的フレームワークとデータ効率とグリッド独立性を改善するための新しい設計エンコーダを備えた時空間連続型ニューラルネットワークPDEモデルを提案する。
論文 参考訳(メタデータ) (2023-07-09T06:53:59Z) - A Neural RDE approach for continuous-time non-Markovian stochastic
control problems [4.155942878350882]
ニューラル粗微分方程式(ニューラルRDE)を用いた連続時間非マルコフ制御問題のための新しい枠組みを提案する。
非マルコビアン性は、システム係数の時間遅延効果や駆動ノイズによる制御問題に自然に現れる。
制御過程を状態過程によって駆動されるニューラルRDEの解としてモデル化することにより,制御状態のジョイントダイナミクスが制御不能で拡張されたニューラルRDEによって制御されていることを示す。
論文 参考訳(メタデータ) (2023-06-25T14:30:33Z) - Non-adversarial training of Neural SDEs with signature kernel scores [4.721845865189578]
不規則な時系列生成のための最先端性能は、これらのモデルをGANとして逆向きに訓練することで既に得られている。
本稿では,シグネチャカーネルに基づくパス空間のスコアリングルールを新たに導入する。
論文 参考訳(メタデータ) (2023-05-25T17:31:18Z) - DiffPD: Differentiable Projective Dynamics with Contact [65.88720481593118]
DiffPDは、暗黙の時間積分を持つ効率的な微分可能なソフトボディシミュレータである。
我々はDiffPDの性能を評価し,様々な応用における標準ニュートン法と比較して4~19倍のスピードアップを観測した。
論文 参考訳(メタデータ) (2021-01-15T00:13:33Z) - Gaussian Process-based Min-norm Stabilizing Controller for
Control-Affine Systems with Uncertain Input Effects and Dynamics [90.81186513537777]
本稿では,この問題の制御・アフィン特性を捉えた新しい化合物カーネルを提案する。
この結果の最適化問題は凸であることを示し、ガウス過程に基づく制御リャプノフ関数第二次コーンプログラム(GP-CLF-SOCP)と呼ぶ。
論文 参考訳(メタデータ) (2020-11-14T01:27:32Z) - Neural Rough Differential Equations for Long Time Series [19.004296236396947]
我々は粗い経路理論を用いてニューラルCDEの定式化を拡張する。
経路空間に直接埋め込む代わりに、テキスト-署名を通して小さな時間間隔で入力信号を表現します。
これは、テキストトロフ微分方程式(RDE)の解法である。
論文 参考訳(メタデータ) (2020-09-17T13:43:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。