論文の概要: Differentiable Multiple Shooting Layers

• arxiv url: http://arxiv.org/abs/2106.03885v1
• Date: Mon, 7 Jun 2021 18:05:44 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-09 16:07:44.577473
• Title: Differentiable Multiple Shooting Layers
• Title（参考訳）: 微分可能な多重発射層
• Authors: Stefano Massaroli, Michael Poli, Sho Sonoda, Taji Suzuki, Jinkyoo Park, Atsushi Yamashita and Hajime Asama
• Abstract要約: 多重ショット層 (MSL) は並列化可能なルートフィンディングアルゴリズムを用いて初期値問題の解を求める。 我々は,MSLのアルゴリズム的枠組みを開発し,理論的および計算的観点から解法の選択の相違を解析する。 医療データの時系列分類のためのニューラル制御微分方程式(ニューラルCDE)におけるMSL推論の適用による高速化について検討した。
• 参考スコア（独自算出の注目度）: 18.37758865401204
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We detail a novel class of implicit neural models. Leveraging time-parallel methods for differential equations, Multiple Shooting Layers (MSLs) seek solutions of initial value problems via parallelizable root-finding algorithms. MSLs broadly serve as drop-in replacements for neural ordinary differential equations (Neural ODEs) with improved efficiency in number of function evaluations (NFEs) and wall-clock inference time. We develop the algorithmic framework of MSLs, analyzing the different choices of solution methods from a theoretical and computational perspective. MSLs are showcased in long horizon optimal control of ODEs and PDEs and as latent models for sequence generation. Finally, we investigate the speedups obtained through application of MSL inference in neural controlled differential equations (Neural CDEs) for time series classification of medical data.
• Abstract（参考訳）: 暗黙的ニューラルモデルの新しいクラスについて詳述する。 微分方程式に対する時間並列法を利用して、多重射撃層(msls)は、並列化可能なルート探索アルゴリズムを通じて初期値問題の解を求める。 MSLは神経常微分方程式 (Neural ODEs) のドロップイン置換として機能し, 関数評価 (NFEs) の効率とウォールクロック推定時間を改善する。 我々は,MSLのアルゴリズム的枠組みを開発し,理論的および計算的観点から解法の選択の相違を解析する。 MSLは、ODEとPDEの長い水平方向最適制御と、シーケンス生成のための潜在モデルとして展示される。 最後に、医療データの時系列分類のためのニューラル制御微分方程式(ニューラルCDE)におけるMSL推論の適用により得られたスピードアップについて検討する。

関連論文リスト

• Score-based Neural Ordinary Differential Equations for Computing Mean Field Control Problems [13.285775352653546]
  本稿では,ディープニューラルネットワークに基づく一階および二階のスコア関数を表すニューラルディファレンシャル方程式のシステムを提案する。 本研究では,個々の雑音に対する平均粘性場制御(MFC)問題を,提案したニューラルODEシステムによって構成された制約のない最適化問題に再構成する。
  論文  参考訳（メタデータ） (2024-09-24T21:45:55Z)
• A Deep Neural Network Framework for Solving Forward and Inverse Problems in Delay Differential Equations [12.888147363070749]
  ディープニューラルネットワーク(DNN)に基づく遅延微分方程式(DDE)の統合フレームワークを提案する。 このフレームワークは、DDEの多様な要件を満たすために遅延微分方程式をニューラルネットワークに埋め込むことができる。 逆問題に対処する際、NDDEフレームワークは観測データを利用して単一の遅延パラメータや複数の遅延パラメータを正確に推定することができる。
  論文  参考訳（メタデータ） (2024-08-17T13:41:34Z)
• Solving partial differential equations with sampled neural networks [1.8590821261905535]
  偏微分方程式(PDE)に対する解の近似は計算科学や工学において重要な問題である。 データに依存しない確率分布から、アンザッツネットワークの隠れた重みとバイアスをサンプリングすることで、両課題を進展させる方法について論じる。
  論文  参考訳（メタデータ） (2024-05-31T14:24:39Z)
• Neural Spectral Methods: Self-supervised learning in the spectral domain [0.0]
  パラメトリック部分方程式(PDE)の解法であるニューラルスペクトル法を提案する。 提案手法は,スペクトル係数間のマッピングとしてPDE解の学習に基底を用いる。 実験の結果,提案手法は,従来の機械学習手法よりも高速化と精度に優れていたことがわかった。
  論文  参考訳（メタデータ） (2023-12-08T18:20:43Z)
• Gaussian Mixture Solvers for Diffusion Models [84.83349474361204]
  本稿では,拡散モデルのためのGMSと呼ばれる,SDEに基づく新しい解法について紹介する。 画像生成およびストロークベース合成におけるサンプル品質の観点から,SDEに基づく多くの解法よりも優れる。
  論文  参考訳（メタデータ） (2023-11-02T02:05:38Z)
• Locally Regularized Neural Differential Equations: Some Black Boxes Were Meant to Remain Closed! [3.222802562733787]
  ニューラル微分方程式のような暗黙の層深層学習技術は重要なモデリングフレームワークとなっている。 パフォーマンスとトレーニング時間をトレードオフする2つのサンプリング戦略を開発します。 本手法は,関数評価を0.556-0.733xに削減し,予測を1.3-2xに高速化する。
  論文  参考訳（メタデータ） (2023-03-03T23:31:15Z)
• Semi-supervised Learning of Partial Differential Operators and Dynamical Flows [68.77595310155365]
  本稿では,超ネットワーク解法とフーリエニューラル演算子アーキテクチャを組み合わせた新しい手法を提案する。 本手法は, 1次元, 2次元, 3次元の非線形流体を含む様々な時間発展PDEを用いて実験を行った。 その結果、新しい手法は、監督点の時点における学習精度を向上し、任意の中間時間にその解を補間できることを示した。
  論文  参考訳（メタデータ） (2022-07-28T19:59:14Z)
• Neural Laplace: Learning diverse classes of differential equations in the Laplace domain [86.52703093858631]
  本稿では,これらすべてを含む多種多様な微分方程式(DE)を学習するための統一的な枠組みを提案する。 時間領域の力学をモデル化する代わりに、ラプラス領域でモデル化する。 The experiment, Neural Laplace shows excellent performance in modelling and extrapolating the trajectories of various class of DEs。
  論文  参考訳（メタデータ） (2022-06-10T02:14:59Z)
• Meta-Solver for Neural Ordinary Differential Equations [77.8918415523446]
  本研究では,ソルバ空間の変動がニューラルODEの性能を向上する方法について検討する。 解法パラメータ化の正しい選択は, 敵の攻撃に対するロバスト性の観点から, 神経odesモデルに大きな影響を与える可能性がある。
  論文  参考訳（メタデータ） (2021-03-15T17:26:34Z)
• Large-scale Neural Solvers for Partial Differential Equations [48.7576911714538]
  偏微分方程式 (PDE) を解くことは、多くのプロセスがPDEの観点でモデル化できるため、科学の多くの分野において不可欠である。 最近の数値解法では、基礎となる方程式を手動で離散化するだけでなく、分散コンピューティングのための高度で調整されたコードも必要である。 偏微分方程式, 物理インフォームドニューラルネットワーク(PINN)に対する連続メッシュフリーニューラルネットワークの適用性について検討する。 本稿では,解析解に関するGatedPINNの精度と,スペクトル解法などの最先端数値解法について論じる。
  論文  参考訳（メタデータ） (2020-09-08T13:26:51Z)
• Multipole Graph Neural Operator for Parametric Partial Differential Equations [57.90284928158383]
  物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。 線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。 実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
  論文  参考訳（メタデータ） (2020-06-16T21:56:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。