論文の概要: Learnable Path in Neural Controlled Differential Equations

• arxiv url: http://arxiv.org/abs/2301.04333v1
• Date: Wed, 11 Jan 2023 07:05:27 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-12 14:09:52.487953
• Title: Learnable Path in Neural Controlled Differential Equations
• Title（参考訳）: 神経制御微分方程式における学習可能な経路
• Authors: Sheo Yon Jhin, Minju Jo, Seungji Kook, Noseong Park, Sungpil Woo, Sunhwan Lim
• Abstract要約: ニューラルネットワーク制御微分方程式(NCDEs)は、(不規則な)時系列処理における特別なモデルである。 本稿では,適切な方法を学ぶのと同一の潜在経路を生成する方法を提案する。 我々はNCDEとNODEをベースとしたエンコーダデコーダモジュールを設計し,その特別な訓練方法を提案する。
• 参考スコア（独自算出の注目度）: 11.38331901271794
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural controlled differential equations (NCDEs), which are continuous analogues to recurrent neural networks (RNNs), are a specialized model in (irregular) time-series processing. In comparison with similar models, e.g., neural ordinary differential equations (NODEs), the key distinctive characteristics of NCDEs are i) the adoption of the continuous path created by an interpolation algorithm from each raw discrete time-series sample and ii) the adoption of the Riemann--Stieltjes integral. It is the continuous path which makes NCDEs be analogues to continuous RNNs. However, NCDEs use existing interpolation algorithms to create the path, which is unclear whether they can create an optimal path. To this end, we present a method to generate another latent path (rather than relying on existing interpolation algorithms), which is identical to learning an appropriate interpolation method. We design an encoder-decoder module based on NCDEs and NODEs, and a special training method for it. Our method shows the best performance in both time-series classification and forecasting.
• Abstract（参考訳）: 神経制御微分方程式(neural controlled differential equation, ncdes)は、リカレントニューラルネットワーク(recurrent neural networks, rnns)の連続的な類似である。 類似したモデル、例えば神経常微分方程式(ノード)と比較すると、ncdesの重要な特徴は 一 各離散時系列サンプルから補間アルゴリズムにより作成された連続経路の採用と適用 二 リーマン-スティルチェス積分の採用 NCDE を連続 RNN に類似させる連続経路である。 しかし、ncdesは経路を生成するのに既存の補間アルゴリズムを使っているため、最適経路を作成できるかどうかは不明である。 そこで本研究では,適切な補間法を学習するのと同一の(既存の補間アルゴリズムに依存するのではなく)別の潜在経路を生成する手法を提案する。 我々はNCDEとNODEをベースとしたエンコーダデコーダモジュールを設計し,その特別な訓練方法を提案する。 本手法は時系列分類と予測の両方において最高の性能を示す。

関連論文リスト

• Efficient Training of Neural Stochastic Differential Equations by Matching Finite Dimensional Distributions [3.889230974713832]
  連続マルコフ過程を比較するための新しいスコアリングルールを開発する。 このスコアリングルールにより、シグネチャカーネルに関連する計算オーバーヘッドを回避できます。 計算効率と生成品質の両面において,FDMが既存の手法よりも優れた性能を発揮することを示す。
  論文  参考訳（メタデータ） (2024-10-04T23:26:38Z)
• Log Neural Controlled Differential Equations: The Lie Brackets Make a Difference [22.224853384201595]
  ニューラルCDE(英語版)(NCDE)は、時系列データを制御経路からの観測として扱う。 NCDEを学習するための新しい,効果的かつ効率的な手法であるLog-NCDEを紹介する。
  論文  参考訳（メタデータ） (2024-02-28T17:40:05Z)
• Discrete Neural Algorithmic Reasoning [18.497863598167257]
  本稿では,有限状態の組合せとして,ニューラル推論器に実行軌跡の維持を強制することを提案する。 アルゴリズムの状態遷移の監督で訓練されたモデルでは、元のアルゴリズムと完全に整合することができる。
  論文  参考訳（メタデータ） (2024-02-18T16:03:04Z)
• PMNN:Physical Model-driven Neural Network for solving time-fractional differential equations [17.66402435033991]
  時間差分方程式を解くために, 革新的物理モデル駆動ニューラルネットワーク (PMNN) 法を提案する。 ディープニューラルネットワーク(DNN)と分数微分の近似を効果的に組み合わせる。
  論文  参考訳（メタデータ） (2023-10-07T12:43:32Z)
• Neural Basis Functions for Accelerating Solutions to High Mach Euler Equations [63.8376359764052]
  ニューラルネットワークを用いた偏微分方程式(PDE)の解法を提案する。 ニューラルネットワークの集合を縮小順序 Proper Orthogonal Decomposition (POD) に回帰する。 これらのネットワークは、所定のPDEのパラメータを取り込み、PDEに還元順序近似を計算する分岐ネットワークと組み合わせて使用される。
  論文  参考訳（メタデータ） (2022-08-02T18:27:13Z)
• Semi-supervised Learning of Partial Differential Operators and Dynamical Flows [68.77595310155365]
  本稿では,超ネットワーク解法とフーリエニューラル演算子アーキテクチャを組み合わせた新しい手法を提案する。 本手法は, 1次元, 2次元, 3次元の非線形流体を含む様々な時間発展PDEを用いて実験を行った。 その結果、新しい手法は、監督点の時点における学習精度を向上し、任意の中間時間にその解を補間できることを示した。
  論文  参考訳（メタデータ） (2022-07-28T19:59:14Z)
• EXIT: Extrapolation and Interpolation-based Neural Controlled Differential Equations for Time-series Classification and Forecasting [19.37382379378985]
  神経制御微分方程式(NCDE)は深層学習におけるブレークスルーと見なされている。 本研究では、NCDEのコア部分、すなわち離散的な時系列入力から連続的なパスを生成することで、NCDEを強化する。 我々のNCDE設計では、下流の機械学習タスクに外挿情報と外挿情報の両方を使うことができる。
  論文  参考訳（メタデータ） (2022-04-19T09:37:36Z)
• Incorporating NODE with Pre-trained Neural Differential Operator for Learning Dynamics [73.77459272878025]
  ニューラル微分演算子(NDO)の事前学習による動的学習における教師付き信号の強化を提案する。 NDOは記号関数のクラスで事前訓練され、これらの関数の軌跡サンプルとそれらの導関数とのマッピングを学習する。 我々は,NDOの出力が,ライブラリの複雑さを適切に調整することで,基礎となる真理微分を適切に近似できることを理論的に保証する。
  論文  参考訳（メタデータ） (2021-06-08T08:04:47Z)
• Provably Efficient Neural Estimation of Structural Equation Model: An Adversarial Approach [144.21892195917758]
  一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。 線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。 提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
  論文  参考訳（メタデータ） (2020-07-02T17:55:47Z)
• Multipole Graph Neural Operator for Parametric Partial Differential Equations [57.90284928158383]
  物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。 線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。 実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
  論文  参考訳（メタデータ） (2020-06-16T21:56:22Z)
• Interpolation Technique to Speed Up Gradients Propagation in Neural ODEs [71.26657499537366]
  本稿では,ニューラルネットワークモデルにおける勾配の効率的な近似法を提案する。 我々は、分類、密度推定、推論近似タスクにおいて、ニューラルODEをトレーニングするリバースダイナミック手法と比較する。
  論文  参考訳（メタデータ） (2020-03-11T13:15:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。