論文の概要: GRADSOLVE: fast exact gradients for ODE ensembles on GPUs
- arxiv url: http://arxiv.org/abs/2609.02876v1
- Date: Wed, 02 Sep 2026 17:56:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-03 17:53:18.486063
- Title: GRADSOLVE: fast exact gradients for ODE ensembles on GPUs
- Title（参考訳）: GRADSOLVE:GPU上のODEアンサンブルの高速正確な勾配
- Abstract要約: GRADSOLVEはNVIDIA GPU上で低次元ODEアンサンブルを分解し、逆モードで識別するオープンソースのライブラリである。
帰還勾配はこれらのステップの正確な離散随伴であり、同じ微分 Diffrax はデフォルトでは戻り、適応ループよりも固定長鎖からより安価に得られる。
Diffraxをフォールバックとして保持し、明示的でRosenbrockをサポートする。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Ordinary differential equations (ODEs) underlie models in science and engineering, and many applications need derivatives of their solutions with respect to parameters. Ensembles of independent trajectories suit graphics processing units (GPUs), but current GPU software forces a trade-off: the fastest ensemble solvers cannot be differentiated in reverse mode at the speed they solve, and the solvers built for differentiation solve more slowly. No single tool has yet offered a reverse-mode gradient at the speed of a fused-kernel solve. We present GRADSOLVE, an open-source JAX library for solving and reverse-mode differentiating low-dimensional ODE ensembles on NVIDIA GPUs. It records the steps an adaptive solver accepts and differentiates a fixed-step replay of them; the returned gradient is the exact discrete adjoint of those steps, the same derivative Diffrax returns by default, obtained more cheaply from a fixed-length chain than from an adaptive loop. It targets ensembles differentiated many times against one recorded mesh, keeps Diffrax as a fallback, and supports explicit and Rosenbrock integrators. Used as a solver, GRADSOLVE's forward-only kernel ran 2.8x faster than DiffEqGPU.jl; used for gradients, once a record exists, it computed them 5.6-14.1x faster than Diffrax's checkpointed adjoint at matched forward-state accuracy across three GPU generations, the advantage narrowing on large ensembles and, on stiff systems, down to parity at tight accuracy. GRADSOLVE is released at https://github.com/ECLIPSE-AI4Science/gradsolve.
- Abstract（参考訳）: 通常の微分方程式(ODE)は科学や工学のモデルに根ざし、多くの応用ではパラメータに関してそれらの解の微分を必要とする。
独立したトラジェクトリのアンサンブルはグラフィックス処理ユニット(GPU)に適合するが、現在のGPUソフトウェアはトレードオフを強いる。
融合カーネル解の速度で逆モード勾配を提供するツールはまだ1つもない。
GRADSOLVEは、NVIDIA GPU上の低次元ODEアンサンブルを分解し、逆モードで識別するオープンソースのJAXライブラリである。
帰還勾配はこれらのステップの正確な離散随伴であり、同じ微分 Diffrax はデフォルトでは戻り、適応ループよりも固定長鎖からより安価に得られる。
Diffraxをフォールバックとして保持し、明示的およびRosenbrockインテグレータをサポートする。
GRADSOLVEのフォワードオンリーのカーネルはDiffEqGPU.jlより2.8倍高速で、グラデーションに使われたとき、Diffraxのチェックポイント付アジョイントよりも5.6-14.1倍高速で計算し、3世代にわたるフォワードステートの精度が一致した。
GRADSOLVEはhttps://github.com/ECLIPSE-AI4Science/gradsolveでリリースされた。
関連論文リスト
- GPU-Enabled Large-Scale Optimization Using Randomized Linear Algebra [13.9407640377773]
本稿では、RandNLA(RandNLA)を用いた大規模最適化と科学計算のためのPyTorchベースのパッケージであるrlaoptを紹介する。
Rlaoptはこのギャップに対処するため、正定値線形システムに対するGPU対応の解法と、制約と正規化子による凸型経験的リスク最小化を提供する。
Rlaoptは、選択したソルバとの互換性を自動的にチェックし、必要な問題を分解する。
論文 参考訳（メタデータ） (2026-09-08T02:14:05Z) - Differentiate the Solver, Not the Equation: Reverse-Sweep Adjoints for Block Implicit Simulation [28.75201832533547]
微分可能シミュレーションは学習、制御、逆問題において重要な要素である。
本稿では,実行されたソルバ自体を識別するソルバレベルの微分法を提案する。
この研究は、効率的な微分可能シミュレーションのための実践的な組織原理として、ソルバ構造を強調している。
論文 参考訳（メタデータ） (2026-08-09T08:03:02Z) - torch-sla: Differentiable Sparse Linear Algebra with Adjoint Solvers and Sparse Tensor Parallelism for PyTorch [0.2960141730774496]
オープンソースのPyTorchライブラリであるTorchslaは、GPUを加速し、スケーラブルで、微分可能なスパース線形代数を可能にする。
torchslaは複数のバックエンド(SciPy、cuDSS、PyTorch-native)をサポートし、エンドツーエンドの微分可能なシミュレーションのためにPyTorch Autogradとシームレスに統合される。
論文 参考訳（メタデータ） (2026-01-20T14:06:01Z) - DInf-Grid: A Neural Differential Equation Solver with Differentiable Feature Grids [73.28614344779076]
我々は、微分方程式(DE)を効率的に解くための微分可能グリッドベース表現を提案する。
その結果,座標法よりも5～20倍の高速化を実現し,差分方程式を数秒または数分で解き,精度とコンパクト性を維持した。
論文 参考訳（メタデータ） (2026-01-15T18:59:57Z) - INC: An Indirect Neural Corrector for Auto-Regressive Hybrid PDE Solvers [61.84396402100827]
本稿では,学習した補正を支配方程式に統合する間接ニューラルコレクタ(mathrmINC$)を提案する。
$mathrmINC$は、$t-1 + L$の順番でエラー増幅を減らし、$t$はタイムステップ、$L$はリプシッツ定数である。
大規模なベンチマークで$mathrmINC$をテストし、1Dカオスシステムから3D乱流まで、多くの異なる解法、神経バックボーン、テストケースをカバーした。
論文 参考訳（メタデータ） (2025-11-16T20:14:28Z) - Enabling Automatic Differentiation with Mollified Graph Neural Operators [73.52999622724101]
本稿では,自動微分と任意のジオメトリの正確な勾配を求める最初の手法であるモリファイドグラフニューラル演算子(m$GNO)を提案する。
正規格子上のPDEの例では、$m$GNOとオートグレードの組み合わせにより、L2相対データの誤差は有限差に比べて20倍減少した。
また、物理損失のみを使用し、有限差分に必要な分解能よりもはるかに低い精度で、非構造化点雲上のPDEをシームレスに解くことができる。
論文 参考訳（メタデータ） (2025-04-11T06:16:30Z) - 3DGS$^2$: Near Second-order Converging 3D Gaussian Splatting [26.94968605302451]
3D Gaussian Splatting (3DGS)は、新しいビュー合成と3D再構成の主流のソリューションとして登場した。
本稿では,3DGSの2次収束学習アルゴリズムについて述べる。
論文 参考訳（メタデータ） (2025-01-22T22:28:11Z) - 3DGS-LM: Faster Gaussian-Splatting Optimization with Levenberg-Marquardt [65.25603275491544]
3DGS-LM, 3D Gaussian Splatting(3DGS)の再構築を高速化する新しい手法を提案する。
提案手法は, 元の3DGSよりも20%高速であり, 再構成品質の最適化が可能である。
論文 参考訳（メタデータ） (2024-09-19T16:31:44Z) - Adaptive Elastic Training for Sparse Deep Learning on Heterogeneous
Multi-GPU Servers [65.60007071024629]
本稿では,Adaptive SGDが4つの最先端ソリューションよりも精度が高いことを示す。
本稿では,Adaptive SGDが時間と精度で4つの最先端ソリューションより優れていることを示す。
論文 参考訳（メタデータ） (2021-10-13T20:58:15Z) - Nesterov Accelerated ADMM for Fast Diffeomorphic Image Registration [63.15453821022452]
ディープラーニングに基づくアプローチの最近の発展は、DiffIRのサブ秒間実行を実現している。
本稿では,中間定常速度場を機能的に構成する簡易な反復スキームを提案する。
次に、任意の順序の正規化項を用いて、これらの速度場に滑らかさを課す凸最適化モデルを提案する。
論文 参考訳（メタデータ） (2021-09-26T19:56:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。