論文の概要: Differentiate the Solver, Not the Equation: Reverse-Sweep Adjoints for Block Implicit Simulation
- arxiv url: http://arxiv.org/abs/2608.08559v1
- Date: Sun, 09 Aug 2026 08:03:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:36.868911
- Title: Differentiate the Solver, Not the Equation: Reverse-Sweep Adjoints for Block Implicit Simulation
- Title(参考訳): 方程式ではなく解を微分する:ブロック・インプリシット・シミュレーションのためのリバース・スウィープ・アジョイント
- Abstract要約: 微分可能シミュレーションは学習、制御、逆問題において重要な要素である。
本稿では,実行されたソルバ自体を識別するソルバレベルの微分法を提案する。
この研究は、効率的な微分可能シミュレーションのための実践的な組織原理として、ソルバ構造を強調している。
- 参考スコア(独自算出の注目度): 28.75201832533547
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Differentiable simulation is a key component in learning, control, and inverse problems, where gradients through nonlinear implicit solvers are required. Existing approaches either rely on unrolled automatic differentiation, whose memory grows with solver depth, or on equation-level implicit differentiation, which assembles global Jacobians and solves large sparse adjoint systems, discarding the locality of the forward solver -- and differentiating the converged equation rather than the finite computation that actually ran. We propose solver-level differentiation, which differentiates the executed solver itself. When a solver is composed of block implicit updates, its discrete adjoint is obtained by applying the corresponding adjoint updates in reverse order, yielding a reverse-sweep formulation whose backward pass mirrors the forward solver. From an operator perspective, the forward pass realizes an approximate inverse through ordered local solves, and the backward applies its transpose through reverse local adjoint solves, constructing no global system. We instantiate this idea on Vertex Block Descent, yielding a differentiable solver whose reverse colored Gauss-Seidel sweeps are composed entirely of local $3\times 3$ adjoint solves. The backward matches automatic differentiation through the identical executed forward to machine precision at every solver depth, where the equation-level adjoint is off by 37% after one sweep; in a controlled same-codebase, same-GPU comparison it is 33x faster and uses 71x less memory than unrolled automatic differentiation; and the same construction is exact on projective dynamics and extended position-based dynamics. We scale differentiable elastodynamics to $10^6$ contact-coupled soft bodies (8M vertices) on one GPU. Overall, this work highlights solver structure as a practical organizing principle for efficient differentiable simulation.
- Abstract(参考訳): 微分可能シミュレーションは学習、制御、逆問題において重要な要素であり、非線形暗黙的解法による勾配を必要とする。
既存のアプローチでは、ソルバの深さとともにメモリが成長するアンロールの自動微分や、大域的ヤコビアンを組み立てて大きなスパースな随伴系を解き、前方ソルバの局所性を捨て、実際に実行された有限計算ではなく収束方程式を微分する方程式レベルの暗黙的微分に頼っている。
本稿では,実行されたソルバ自体を識別するソルバレベルの微分法を提案する。
除算器がブロック暗黙更新で構成されている場合、その離散随伴は、対応する随伴更新を逆順に適用し、後方通過が前方解法を反映する逆すべりの定式化を与える。
作用素の観点からは、フォワードパスは順序付けられた局所解を通して近似的な逆数を実現し、後方への変換はその逆局所随伴解を通じて適用し、大域的なシステムを構築しない。
私たちはこのアイデアをVertex Block Descent上でインスタンス化し、逆色のガウス・シーデルスイープが局所的な3-times 3$ adjointの解からなる微分可能解法を生成する。
逆方向は、同じ実行された前方から機械の精度に一致し、1回のスイープの後に方程式レベルの随伴が37%オフになる。制御された同符号ベースでは、同じGPU比較は33倍速く、アンロールされた自動微分よりも71倍少ないメモリを使用し、同じ構成は射影力学と拡張位置ベース力学に基づいている。
1つのGPU上で10^6$の接触結合型ソフトボディ(8M頂点)に微分可能なエラストダイナミックスをスケールする。
全体として、この研究は、効率的な微分可能シミュレーションのための実践的な組織原理として、ソルバ構造を強調している。
関連論文リスト
- Time Without Timesteps: Simulating Coupled Dynamical Systems via Self-Consistency [0.0]
結合システムの異なる定式化について検討する。
各サブシステムタイプに対して、完全な駆動軌跡と初期条件を直接完全な出力軌跡にマッピングするニューラルネットワークサロゲートを訓練する。
古典的な波形緩和に続いて、結合系はこれらの軌道間の自己整合を強制することによって組み立てられる。
論文 参考訳(メタデータ) (2026-09-03T04:32:23Z) - GRADSOLVE: fast exact gradients for ODE ensembles on GPUs [0.0]
GRADSOLVEはNVIDIA GPU上で低次元ODEアンサンブルを分解し、逆モードで識別するオープンソースのライブラリである。
帰還勾配はこれらのステップの正確な離散随伴であり、同じ微分 Diffrax はデフォルトでは戻り、適応ループよりも固定長鎖からより安価に得られる。
Diffraxをフォールバックとして保持し、明示的でRosenbrockをサポートする。
論文 参考訳(メタデータ) (2026-09-02T17:56:10Z) - Mosaic: A Benchmark Suite for Differentiable Physics Solvers [2.574393697080417]
微分可能偏微分方程式(PDE)は、解法をループMLトレーニング、勾配に基づく最適制御、逆問題に導く。
我々は、微分可能PDEソルバのためのベンチマークフレームワークであるMosaicを紹介し、ソルバ勾配へのアクセスを標準化する。
論文 参考訳(メタデータ) (2026-06-26T09:38:33Z) - Closed-Form Spectral Regularization for Multi-Task Model Merging [96.82449201305234]
モデルマージは、個別に調整された複数の専門家をトレーニングデータなしで単一のマルチタスクモデルに結合する。
State-of-the-art merging method formulate merging as a layer-wise interference problem。
本稿では,逐次降下の勾配-流路に一致するソフト指数フィルタを組み合わせた閉形式手法SWUDIを提案する。
論文 参考訳(メタデータ) (2026-06-05T14:00:47Z) - DInf-Grid: A Neural Differential Equation Solver with Differentiable Feature Grids [73.28614344779076]
我々は、微分方程式(DE)を効率的に解くための微分可能グリッドベース表現を提案する。
その結果,座標法よりも5~20倍の高速化を実現し,差分方程式を数秒または数分で解き,精度とコンパクト性を維持した。
論文 参考訳(メタデータ) (2026-01-15T18:59:57Z) - A backward differential deep learning-based algorithm for solving high-dimensional nonlinear backward stochastic differential equations [0.6040014326756179]
本稿では,高次元非線形逆微分方程式を解くための新しい逆微分深層学習アルゴリズムを提案する。
ディープニューラルネットワーク(DNN)モデルは、入力やラベルだけでなく、対応するラベルの差分に基づいて訓練される。
論文 参考訳(メタデータ) (2024-04-12T13:05:35Z) - Blending Neural Operators and Relaxation Methods in PDE Numerical Solvers [3.2712166248850685]
HINTSは偏微分方程式のハイブリッド、反復、数値、移乗可能な解法である。
DeepONetのスペクトルバイアスを利用して固有モードのスペクトル間の収束挙動のバランスをとる。
離散化、計算領域、境界条件に関して柔軟である。
論文 参考訳(メタデータ) (2022-08-28T19:07:54Z) - A Unified Framework for Implicit Sinkhorn Differentiation [58.56866763433335]
暗黙の微分によってシンクホーン層の解析勾配を求めるアルゴリズムを提案する。
特にGPUメモリなどのリソースが不足している場合には,計算効率が向上する。
論文 参考訳(メタデータ) (2022-05-13T14:45:31Z) - Efficient and Modular Implicit Differentiation [68.74748174316989]
最適化問題の暗黙的な微分のための統一的で効率的かつモジュール化されたアプローチを提案する。
一見単純な原理は、最近提案された多くの暗黙の微分法を復元し、新しいものを簡単に作成できることを示している。
論文 参考訳(メタデータ) (2021-05-31T17:45:58Z) - DiffPD: Differentiable Projective Dynamics with Contact [65.88720481593118]
DiffPDは、暗黙の時間積分を持つ効率的な微分可能なソフトボディシミュレータである。
我々はDiffPDの性能を評価し,様々な応用における標準ニュートン法と比較して4~19倍のスピードアップを観測した。
論文 参考訳(メタデータ) (2021-01-15T00:13:33Z) - Competitive Mirror Descent [67.31015611281225]
制約のある競合最適化には、制約の対象となる競合する目的を最小化しようとする複数のエージェントが含まれる。
本稿では, 競合ミラー降下法(CMD)を提案する。
特別の場合として、正の円錐上の問題に対する新しい競合乗法重みアルゴリズムを得る。
論文 参考訳(メタデータ) (2020-06-17T22:11:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。