論文の概要: GradRepair-ODE: Certified Gradient Repair for Neural ODE Training

• arxiv url: http://arxiv.org/abs/2609.13204v1
• Date: Fri, 14 Aug 2026 22:21:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-21 16:32:15.656683
• Title: GradRepair-ODE: Certified Gradient Repair for Neural ODE Training
• Title（参考訳）: GradRepair-ODE:Certified Gradient repair for Neural ODE Training
• Abstract要約: ニューラル常微分方程式は、訓練ループ内の数値を使用する。 解法は前方軌道を決定するとともに、解法に渡される勾配に影響を与える。 この結合は、科学的機械学習と連続時間生成モデリングの信頼性の問題を引き起こす。 GradRepair-ODEは、診断ステップでODEの勾配をチェックし、修復し、拒否するための信頼性フレームワークです。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural ordinary differential equations use numerical solvers inside the training loop. The solver determines the forward trajectory and also affects the gradient passed to the optimizer. That coupling creates a reliability problem for scientific machine learning and continuous-time generative modeling, including diffusion probability-flow ordinary differential equations and flow-matching models. Under loose step sizes, stiff dynamics, chaotic sensitivity, or event discontinuities, a differentiable ODE pipeline can return a finite gradient whose direction is numerically suspect. We introduce GradRepair-ODE, a reliability framework for checking, repairing, and rejecting ODE gradients at the optimizer step. The method computes several gradient candidates, compares them with directional finite-difference checks and solver diagnostics, diagnoses likely numerical failure modes, repairs selected gradients through path switching or stricter recomputation, and rejects steps whose descent direction cannot be certified. In six synthetic ODE systems, GradRepair-ODE leaves low-risk systems unchanged, repairs Robertson and Lorenz gradients to cosine similarity 1.000 against a strict reference, reduces unsafe accepted steps from 37 to 0, and rejects an event-discontinuous case instead of applying an uncertified update. The paper argues for a simple change in the training contract: an ODE gradient should reach the optimizer with numerical evidence attached.
• Abstract（参考訳）: ニューラル常微分方程式は、トレーニングループ内の数値解法を用いる。 ソルバは前方軌道を決定するとともに、オプティマイザに渡される勾配に影響を与える。 この結合は、拡散確率フロー常微分方程式やフローマッチングモデルを含む、科学的機械学習と連続時間生成モデリングの信頼性問題を生み出す。 ゆるやかなステップサイズ、硬度力学、カオス感度、事象の不連続性の下では、微分可能なODEパイプラインは数値的に疑わしい方向の有限勾配を返すことができる。 GradRepair-ODEは、オプティマイザのステップでODEの勾配をチェックし、修復し、拒否するための信頼性フレームワークです。 この方法は、いくつかの勾配候補を計算し、方向の有限差検定とソルバ診断を比較し、数値的な故障モードを診断し、経路切換やより厳密な再計算を通じて選択された勾配を修復し、降下方向が証明できないステップを拒否する。 6つの合成ODEシステムでは、GradRepair-ODEはリスクの低いシステムをそのまま残し、RobertsonとLorenzの勾配を厳密な参照に対して1.000の類似性を補う。 ODE勾配は、数値的な証拠を付加したオプティマイザに到達すべきである。

関連論文リスト

• LC-GRPO: Bridging Train-Inference Gap for Flow-Based GRPO with Langevin Correction [59.32834240526981]
  フローベース生成モデルは典型的には、決定論的常微分方程式(ODE)を解くことによってサンプリングされる 既存の流れモデルのためのGRPO法は、訓練中にオイラー時間ODEを非等方微分方程式(SDE)に置き換える。 本稿では,フローベースGRPOフレームワークであるLC-GRPOを紹介する。
  論文  参考訳（メタデータ） (2026-08-06T04:47:57Z)
• INC: An Indirect Neural Corrector for Auto-Regressive Hybrid PDE Solvers [61.84396402100827]
  本稿では,学習した補正を支配方程式に統合する間接ニューラルコレクタ(mathrmINC$)を提案する。 $mathrmINC$は、$t-1 + L$の順番でエラー増幅を減らし、$t$はタイムステップ、$L$はリプシッツ定数である。 大規模なベンチマークで$mathrmINC$をテストし、1Dカオスシステムから3D乱流まで、多くの異なる解法、神経バックボーン、テストケースをカバーした。
  論文  参考訳（メタデータ） (2025-11-16T20:14:28Z)
• Distilling Parallel Gradients for Fast ODE Solvers of Diffusion Models [53.087070073434845]
  拡散モデル(DM)は、最先端の生成性能を達成したが、シーケンシャルなデノナイジング特性のため、高いサンプリング遅延に悩まされている。 既存のソルバベースの加速度法では、低レイテンシの予算で画像品質が劣化することが多い。 本稿では、各ODEステップに複数の並列勾配評価を組み込むことで、トランケーションエラーを軽減する新しいODEソルバであるEnsemble Parallel Direction Solutionrを提案する。
  論文  参考訳（メタデータ） (2025-07-20T03:08:06Z)
• Efficient, Accurate and Stable Gradients for Neural ODEs [3.79830302036482]
  本稿では,ニューラルなODEを学習するための可逆的ODEソルバのクラスを紹介する。 可逆解器は正確な勾配を計算し、高次で数値的に安定である。
  論文  参考訳（メタデータ） (2024-10-15T14:36:05Z)
• Partial-differential-algebraic equations of nonlinear dynamics by Physics-Informed Neural-Network: (I) Operator splitting and framework assessment [51.3422222472898]
  偏微分代数方程式の解法として, 新規な物理情報ネットワーク(PINN)の構築法が提案されている。 これらの新しい手法には PDE 形式があり、これは未知の従属変数が少ない低レベル形式からより従属変数を持つ高レベル形式へと進化している。
  論文  参考訳（メタデータ） (2024-07-13T22:48:17Z)
• Correcting Auto-Differentiation in Neural-ODE Training [3.679296863967586]
  ニューラルネットワークが高次法を用いる場合、ブルート力の自己微分は、収束を防ぐための勾配に人工的な振動をもたらすことがよく示される。 本稿では、これらの振動を効果的に排除し、勾配を補正し、正確な更新を返すための単純な後処理手法を提案する。
  論文  参考訳（メタデータ） (2023-06-03T20:34:14Z)
• Bridging Discrete and Backpropagation: Straight-Through and Beyond [62.46558842476455]
  本稿では,離散潜在変数の生成に関わるパラメータの勾配を近似する新しい手法を提案する。 本稿では,Hunの手法とODEを解くための2次数値法を統合することで,2次精度を実現するReinMaxを提案する。
  論文  参考訳（メタデータ） (2023-04-17T20:59:49Z)
• Implementation and (Inverse Modified) Error Analysis for implicitly-templated ODE-nets [0.0]
  我々は,暗黙的な数値初期値問題解法に基づいてテンプレート化されたODE-netを用いてデータから未知のダイナミクスを学習することに焦点を当てた。 我々は,非ロール型暗黙的スキームを用いて,ODE-netの逆修正誤り解析を行い,解釈を容易にする。 我々は,誤差のレベルを監視し,暗黙的な解反復数に適応する適応アルゴリズムを定式化する。
  論文  参考訳（メタデータ） (2023-03-31T06:47:02Z)
• ResNet After All? Neural ODEs and Their Numerical Solution [28.954378025052925]
  訓練されたニューラル正規微分方程式モデルは、実際にトレーニング中に使用される特定の数値法に依存していることを示す。 本稿では,ODEソルバの動作を学習中に監視し,ステップサイズを適応させる手法を提案する。
  論文  参考訳（メタデータ） (2020-07-30T11:24:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。