論文の概要: Lipschitz-Guided Design of Interpolation Schedules in Generative Models

• arxiv url: http://arxiv.org/abs/2509.01629v1
• Date: Mon, 01 Sep 2025 17:16:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-04 15:17:03.794543
• Title: Lipschitz-Guided Design of Interpolation Schedules in Generative Models
• Title（参考訳）: リプシッツ誘導による生成モデルにおける補間スケジューリングの設計
• Authors: Yifan Chen, Eric Vanden-Eijnden, Jiawei Xu,
• Abstract要約: 本研究では,フローおよび拡散に基づく生成モデルのための補間フレームワークにおけるスケジュール設計について検討する。 本研究では,全てのスカラースケジュールが同一の統計効率を達成する一方で,その数値効率が著しく異なることを示す。 この観測は、スケジュール設計の統計的基準よりも、結果として生じるドリフト場の数値的性質に焦点をあてる。
• 参考スコア（独自算出の注目度）: 21.63464119819874
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study the design of interpolation schedules in the stochastic interpolants framework for flow and diffusion-based generative models. We show that while all scalar interpolation schedules achieve identical statistical efficiency under Kullback-Leibler divergence in path space after optimal diffusion coefficient tuning, their numerical efficiency can differ substantially. This observation motivates focusing on numerical properties of the resulting drift fields rather than statistical criteria for schedule design. We propose averaged squared Lipschitzness minimization as a principled criterion for numerical optimization, providing an alternative to kinetic energy minimization used in optimal transport approaches. A transfer formula is derived that enables conversion between different schedules at inference time without retraining neural networks. For Gaussian distributions, our optimized schedules achieve exponential improvements in Lipschitz constants over standard linear schedules, while for Gaussian mixtures, they reduce mode collapse in few-step sampling. We also validate our approach on high-dimensional invariant distributions from stochastic Allen-Cahn equations and Navier-Stokes equations, demonstrating robust performance improvements across resolutions.
• Abstract（参考訳）: 本研究では,フローおよび拡散に基づく生成モデルのための確率補間フレームワークにおける補間スケジュールの設計について検討する。 その結果,全てのスカラー補間スケジュールは最適拡散係数チューニング後の経路空間におけるKulback-Leibler分散の下で同一の統計効率を達成するが,その数値効率は著しく異なることがわかった。 この観測は、スケジュール設計の統計的基準よりも、結果として生じるドリフト場の数値的性質に焦点をあてる。 本稿では, 最適輸送手法における運動エネルギー最小化の代替として, 数値最適化の原理的基準として, 平均2乗リプシッツ度最小化を提案する。 ニューラルネットワークを再トレーニングすることなく、推論時に異なるスケジュール間の変換を可能にする転送公式を導出する。 ガウス分布の場合、最適化されたスケジュールは標準線形スケジュールよりもリプシッツ定数を指数関数的に改善するが、ガウス混合の場合、数ステップのサンプリングでモード崩壊を減少させる。 また,確率的アレン・カーン方程式とナヴィエ・ストークス方程式の高次元不変分布に対するアプローチを検証する。

関連論文リスト

• Self-Supervised Coarsening of Unstructured Grid with Automatic Differentiation [55.88862563823878]
  本研究では,微分可能物理の概念に基づいて,非構造格子を階層化するアルゴリズムを提案する。 多孔質媒質中のわずかに圧縮可能な流体流を制御した線形方程式と波動方程式の2つのPDE上でのアルゴリズムの性能を示す。 その結果,検討したシナリオでは,関心点におけるモデル変数のダイナミクスを保ちながら,格子点数を最大10倍に削減した。
  論文  参考訳（メタデータ） (2025-07-24T11:02:13Z)
• Efficient Diffusion Models for Symmetric Manifolds [25.99200001269046]
  本稿では,$d$次元対称空間に対する効率的な拡散モデル設計のためのフレームワークを提案する。 マンデラ対称性は拡散が「平均ケース」リプシッツ条件を満たすことを保証する。 本モデルは,学習速度において先行手法より優れ,合成データセットのサンプル品質が向上する。
  論文  参考訳（メタデータ） (2025-05-27T18:12:29Z)
• On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
  拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。 本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
  論文  参考訳（メタデータ） (2024-05-18T15:59:41Z)
• Momentum Particle Maximum Likelihood [2.4561590439700076]
  自由エネルギー関数を最小化するための類似の力学系に基づくアプローチを提案する。 システムを離散化することにより、潜在変数モデルにおける最大推定のための実用的なアルゴリズムを得る。 このアルゴリズムは既存の粒子法を数値実験で上回り、他のMLEアルゴリズムと比較する。
  論文  参考訳（メタデータ） (2023-12-12T14:53:18Z)
• Distributed Sketching for Randomized Optimization: Exact Characterization, Concentration and Lower Bounds [54.51566432934556]
  我々はヘシアンの形成が困難である問題に対する分散最適化法を検討する。 ランダム化されたスケッチを利用して、問題の次元を減らし、プライバシを保ち、非同期分散システムにおけるストラグラーレジリエンスを改善します。
  論文  参考訳（メタデータ） (2022-03-18T05:49:13Z)
• Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
  正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。 一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
  論文  参考訳（メタデータ） (2022-02-23T06:11:49Z)
• A Stochastic Newton Algorithm for Distributed Convex Optimization [62.20732134991661]
  均質な分散凸最適化のためのNewtonアルゴリズムを解析し、各マシンが同じ人口目標の勾配を計算する。 提案手法は,既存の手法と比較して,性能を損なうことなく,必要な通信ラウンドの数,頻度を低減できることを示す。
  論文  参考訳（メタデータ） (2021-10-07T17:51:10Z)
• Sinkhorn Distributionally Robust Optimization [18.46110328123008]
  シンクホーン距離はエントロピー正則化に基づくワッサーシュタイン距離の変種である。 一般名詞分布,輸送コスト,損失関数に対する凸プログラミング二重再構成を導出する。
  論文  参考訳（メタデータ） (2021-09-24T12:40:48Z)
• Adaptive Sampling Distributed Stochastic Variance Reduced Gradient for Heterogeneous Distributed Datasets [14.945821529085896]
  本稿では,コミュニケーション効率に着目した固有関数の平均最小化のための分散最適化アルゴリズムについて検討する。 本稿では,これらの設定に特化して機能するマシンの,新しい強調型サンプリングを提案する。 この手法により, 最大リプシッツ定数から機械間におけるリプシッツ定数の強調への収束率の依存性が向上することを示す。
  論文  参考訳（メタデータ） (2020-02-20T01:55:52Z)
• Distributed Averaging Methods for Randomized Second Order Optimization [54.51566432934556]
  我々はヘッセン語の形成が計算的に困難であり、通信がボトルネックとなる分散最適化問題を考察する。 我々は、ヘッセンのサンプリングとスケッチを用いたランダム化二階最適化のための非バイアスパラメータ平均化手法を開発した。 また、不均一なコンピューティングシステムのための非バイアス分散最適化フレームワークを導入するために、二階平均化手法のフレームワークを拡張した。
  論文  参考訳（メタデータ） (2020-02-16T09:01:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。