論文の概要: From Euler to Dormand-Prince: ODE Solvers for Flow Matching Generative Models

• arxiv url: http://arxiv.org/abs/2605.00836v1
• Date: Sat, 04 Apr 2026 15:59:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-11 06:56:26.440189
• Title: From Euler to Dormand-Prince: ODE Solvers for Flow Matching Generative Models
• Title（参考訳）: Euler から Dormand-Prince へ: 生成モデルのフローマッチングのためのODE ソルバー
• Authors: Hao Xiao,
• Abstract要約: フローマッチング生成モデルは、計算コストがニューラルネットワークの前方通過に支配される通常の微分方程式(ODE)を解く必要がある。 PyTorchのスクラッチから実装し、条件付きフローマッチングタスクでそれらの効率を体系的にベンチマークする。
• 参考スコア（独自算出の注目度）: 1.6679662639178268
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Sampling from Flow Matching generative models requires solving an ordinary differential equation (ODE) whose computational cost is dominated by neural network forward passes. We derive four classical ODE solvers -- Euler, Explicit Midpoint, Classical Runge-Kutta (RK4), and Dormand-Prince 5(4) -- from first principles via Taylor expansion, implement them from scratch in PyTorch, and systematically benchmark their efficiency on Conditional Flow Matching tasks ranging from 2D toy distributions to MNIST digits. On the quantitative side, we use sliced Wasserstein distance to construct NFE-quality Pareto frontiers,finding that RK4 at 80 function evaluations achieves sample quality comparable to Euler at 200. Beyond reproducing known convergence rates, we report two empirical observations: (1) the Jacobian eigenvalue spectrum of the learned velocity field stiffens sharply near t=1, explaining why the adaptive Dormand-Prince solver automatically concentrates its step budget at the end of the trajectory; (2) the quality gap between low-order and high-order solvers widens for undertrained and smaller models, indicating that solver choice matters most when the model is imperfect. Code and all experiment scripts are publicly available.
• Abstract（参考訳）: フローマッチング生成モデルからのサンプリングでは、計算コストがニューラルネットワークの前方通過に支配される通常の微分方程式(ODE)を解く必要がある。 古典的ODEソルバ(Euler, Explicit Midpoint, Classical Runge-Kutta (RK4), Dormand-Prince 5(4))をTaylor拡張による第一原理から導き、PyTorchでスクラッチから実装し、2D玩具分布からMNIST桁までの条件付きフローマッチングタスクの効率を体系的にベンチマークする。 定量的には, NFE品質のパレートフロンティアを構築するためにスライスしたワッサースタイン距離を用いて, RK4が80の関数評価で200のEulerに匹敵するサンプル品質が得られることを証明した。 1)学習速度場のヤコビ固有値スペクトルは, t=1付近で急激に硬化し, 適応的ドルマンド・プリンス解法が軌道の終端で自動的にステップ予算を集中する理由, 2)低次解法と高次解法の間の品質差は, 未訓練モデルと小型モデルで大きくなり, 解法選択が不完全である場合に最も重要であることを示す。 コードとすべての実験スクリプトが公開されている。

関連論文リスト

• On the Wasserstein Convergence and Straightness of Rectified Flow [54.580605276017096]
  Rectified Flow (RF) は、ノイズからデータへの直流軌跡の学習を目的とした生成モデルである。 RFのサンプリング分布とターゲット分布とのワッサーシュタイン距離に関する理論的解析を行った。 本稿では,従来の経験的知見と一致した1-RFの特異性と直線性を保証する一般的な条件について述べる。
  論文  参考訳（メタデータ） (2024-10-19T02:36:11Z)
• A Model-Constrained Discontinuous Galerkin Network (DGNet) for Compressible Euler Equations with Out-of-Distribution Generalization [0.0]
  本稿では,モデル制約付き不連続なGalerkin Network (DGNet) アプローチを提案する。 DGNetの中核は、いくつかの重要な戦略のシナジーである。 1次元および2次元圧縮可能なオイラー方程式問題に対する包括的数値計算結果を提案する。
  論文  参考訳（メタデータ） (2024-09-27T01:13:38Z)
• Characteristic Learning for Provable One Step Generation [12.620728925515012]
  本稿では,GAN(Generative Adversarial Networks)におけるサンプリング効率とフローベースモデルの安定した性能を組み合わせた一段階生成モデルを提案する。 我々のモデルは、確率密度輸送を通常の微分方程式(ODE)で記述できる特性によって駆動される。 深層ニューラルネットワークはこれらの特徴に適合するように訓練され、単純なガウス分布を目標分布にプッシュするワンステップマップを生成する。
  論文  参考訳（メタデータ） (2024-05-09T02:41:42Z)
• Differentiable DG with Neural Operator Source Term Correction [0.0]
  圧縮可能なNavier-Stokes方程式を解くためのエンドツーエンドの微分可能なフレームワークを提案する。 この統合アプローチは、微分可能不連続なガレルキン解法とニューラルネットワークのソース項を組み合わせる。 提案するフレームワークの性能を2つの例で示す。
  論文  参考訳（メタデータ） (2023-10-29T04:26:23Z)
• Neural Basis Functions for Accelerating Solutions to High Mach Euler Equations [63.8376359764052]
  ニューラルネットワークを用いた偏微分方程式(PDE)の解法を提案する。 ニューラルネットワークの集合を縮小順序 Proper Orthogonal Decomposition (POD) に回帰する。 これらのネットワークは、所定のPDEのパラメータを取り込み、PDEに還元順序近似を計算する分岐ネットワークと組み合わせて使用される。
  論文  参考訳（メタデータ） (2022-08-02T18:27:13Z)
• Numerical Solution of Stiff Ordinary Differential Equations with Random Projection Neural Networks [0.0]
  正規微分方程式(ODE)の解に対する乱射影ニューラルネットワーク(RPNN)に基づく数値スキームを提案する。 提案手法は剛性の影響を受けずに高い数値近似精度を示し,textttode45 と textttode15s の関数よりも優れていた。
  論文  参考訳（メタデータ） (2021-08-03T15:49:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。