論文の概要: Vectorized Adjoint Sensitivity Method for Graph Convolutional Neural Ordinary Differential Equations

• arxiv url: http://arxiv.org/abs/2209.06886v1
• Date: Wed, 14 Sep 2022 19:16:37 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-16 13:38:27.094648
• Title: Vectorized Adjoint Sensitivity Method for Graph Convolutional Neural Ordinary Differential Equations
• Title（参考訳）: グラフ畳み込み型神経常微分方程式に対するベクトル化随伴感度法
• Authors: Jack Cai
• Abstract要約: この文書は、GCDEの随伴ダイナミクス計算のベクトル化実装を提供する。 エッジコンピューティングやmemristor Crossbarsのような応用では、オートグラデーションは利用できないため、随伴ダイナミクスのベクトル化による導出が必要である。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This document, as the title stated, is meant to provide a vectorized implementation of adjoint dynamics calculation for Graph Convolutional Neural Ordinary Differential Equations (GCDE). The adjoint sensitivity method is the gradient approximation method for neural ODEs that replaces the back propagation. When implemented on libraries such as PyTorch or Tensorflow, the adjoint can be calculated by autograd functions without the need for a hand-derived formula. In applications such as edge computing and in memristor crossbars, however, autograds are not available, and therefore we need a vectorized derivation of adjoint dynamics to efficiently map the system on hardware. This document will go over the basics, then move on to derive the vectorized adjoint dynamics for GCDE.
• Abstract（参考訳）: この文書は、題名のとおり、グラフ畳み込み型神経常微分方程式(gcde)に対する随伴力学計算のベクトル化実装を提供することを目的としている。 副次感度法は、後部伝播を置き換えるニューラルODEの勾配近似法である。 PyTorchやTensorflowのようなライブラリに実装されると、手元の式を必要とせずに、アジョイントはオートグレード関数によって計算できる。 しかし、エッジコンピューティングやmemristor Crossbarsのようなアプリケーションではオートグレードは利用できないため、ハードウェア上でシステムを効率的にマッピングするには、随伴ダイナミクスのベクトル化による導出が必要である。 この文書は基本を乗り越え、次にGCDEのベクトル化された随伴ダイナミクスを導出します。

関連論文リスト

• Dynamic Gaussian Graph Operator: Learning parametric partial differential equations in arbitrary discrete mechanics problems [33.32926047057572]
  本稿では、任意の離散力学問題において、ニューラル演算子をパラメトリックPDEに拡張する演算子学習アルゴリズムを提案する。 DGGOの効率性とロバスト性は、数値的な任意の離散力学問題を解くために適用することで検証される。 工学的応用として, 幾何学的自由度を持つ超弾性材料の応力場を予測するために, 提案手法を用いた。
  論文  参考訳（メタデータ） (2024-03-05T09:25:31Z)
• Neural incomplete factorization: learning preconditioners for the conjugate gradient method [2.899792823251184]
  我々は、効率的なプレコンディショナーの生成を加速するためのデータ駆動型アプローチを開発する。 一般的に手動のプリコンディショナーをグラフニューラルネットワークの出力に置き換える。 本手法は, 行列の不完全分解を発生させ, 神経不完全分解(NeuralIF)と呼ばれる。
  論文  参考訳（メタデータ） (2023-05-25T11:45:46Z)
• Learning Subgrid-scale Models with Neural Ordinary Differential Equations [0.39160947065896795]
  偏微分方程式(PDE)をシミュレートする際のサブグリッドスケールモデル学習のための新しい手法を提案する。 このアプローチでは、ニューラルネットワークは粗大から細小のグリッドマップを学習するために使用され、これはサブグリッドスケールのパラメータ化と見なすことができる。 提案手法はNODEの利点を継承し,サブグリッドスケールのパラメータ化,近似結合演算子,低次解法の効率向上に利用することができる。
  論文  参考訳（メタデータ） (2022-12-20T02:45:09Z)
• Rigorous dynamical mean field theory for stochastic gradient descent methods [17.90683687731009]
  一階勾配法の一家系の正確な高次元に対する閉形式方程式を証明した。 これには勾配降下(SGD)やネステロフ加速度などの広く使われているアルゴリズムが含まれる。
  論文  参考訳（メタデータ） (2022-10-12T21:10:55Z)
• Improved Convergence Rate of Stochastic Gradient Langevin Dynamics with Variance Reduction and its Application to Optimization [50.83356836818667]
  勾配ランゲヴィン・ダイナミクスは非エプス最適化問題を解くための最も基本的なアルゴリズムの1つである。 本稿では、このタイプの2つの変種、すなわち、分散還元ランジュバンダイナミクスと再帰勾配ランジュバンダイナミクスを示す。
  論文  参考訳（メタデータ） (2022-03-30T11:39:00Z)
• Learning Linearized Assignment Flows for Image Labeling [70.540936204654]
  画像ラベリングのための線形化代入フローの最適パラメータを推定するための新しいアルゴリズムを提案する。 この式をKrylov部分空間と低ランク近似を用いて効率的に評価する方法を示す。
  論文  参考訳（メタデータ） (2021-08-02T13:38:09Z)
• Learning stochastic dynamical systems with neural networks mimicking the Euler-Maruyama scheme [14.436723124352817]
  本稿では,SDEのパラメータを組み込みのSDE統合方式でニューラルネットワークで表現するデータ駆動手法を提案する。 このアルゴリズムは、幾何学的ブラウン運動とロレンツ-63モデルのバージョンに適用される。
  論文  参考訳（メタデータ） (2021-05-18T11:41:34Z)
• Robust Differentiable SVD [117.35644933471401]
  対称行列の固有分解は多くのコンピュータビジョンアルゴリズムの中心にある。 不安定性は互いに近い固有値の存在によって生じる。 SVD勾配のテイラー展開は、反復過程に依存することなくPIを用いて得られる勾配と理論的に等価であることを示す。
  論文  参考訳（メタデータ） (2021-04-08T15:04:15Z)
• Automatic differentiation for Riemannian optimization on low-rank matrix and tensor-train manifolds [71.94111815357064]
  科学計算および機械学習アプリケーションでは、行列およびより一般的な多次元配列(テンソル)は、しばしば低ランク分解の助けを借りて近似することができる。 低ランク近似を見つけるための一般的なツールの1つはリーマン最適化を使うことである。
  論文  参考訳（メタデータ） (2021-03-27T19:56:00Z)
• DiffPD: Differentiable Projective Dynamics with Contact [65.88720481593118]
  DiffPDは、暗黙の時間積分を持つ効率的な微分可能なソフトボディシミュレータである。 我々はDiffPDの性能を評価し,様々な応用における標準ニュートン法と比較して4～19倍のスピードアップを観測した。
  論文  参考訳（メタデータ） (2021-01-15T00:13:33Z)
• Multipole Graph Neural Operator for Parametric Partial Differential Equations [57.90284928158383]
  物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。 線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。 実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
  論文  参考訳（メタデータ） (2020-06-16T21:56:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。