論文の概要: Variational Schrödinger Momentum Diffusion

• arxiv url: http://arxiv.org/abs/2501.16675v1
• Date: Tue, 28 Jan 2025 03:19:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-29 16:42:48.869471
• Title: Variational Schrödinger Momentum Diffusion
• Title（参考訳）: 変分シュレーディンガー運動量拡散
• Authors: Kevin Rojas, Yixin Tan, Molei Tao, Yuriy Nevmyvaka, Wei Deng,
• Abstract要約: 我々は、シミュレーションされた前方軌道への依存を排除するために、変分Schr"odinger運動量拡散(VSMD)を導入する。 提案手法は実世界のデータに対して効果的にスケールし,時系列および画像生成における競合的な結果を達成する。
• 参考スコア（独自算出の注目度）: 15.074672636555755
• License:
• Abstract: The momentum Schr\"odinger Bridge (mSB) has emerged as a leading method for accelerating generative diffusion processes and reducing transport costs. However, the lack of simulation-free properties inevitably results in high training costs and affects scalability. To obtain a trade-off between transport properties and scalability, we introduce variational Schr\"odinger momentum diffusion (VSMD), which employs linearized forward score functions (variational scores) to eliminate the dependence on simulated forward trajectories. Our approach leverages a multivariate diffusion process with adaptively transport-optimized variational scores. Additionally, we apply a critical-damping transform to stabilize training by removing the need for score estimations for both velocity and samples. Theoretically, we prove the convergence of samples generated with optimal variational scores and momentum diffusion. Empirical results demonstrate that VSMD efficiently generates anisotropic shapes while maintaining transport efficacy, outperforming overdamped alternatives, and avoiding complex denoising processes. Our approach also scales effectively to real-world data, achieving competitive results in time series and image generation.
• Abstract（参考訳）: Schr\"odinger Bridge (mSB) は、生成拡散過程を加速し、輸送コストを低減させる主要な方法として登場した。 しかし、必然的にシミュレーションのない性質の欠如は、高いトレーニングコストをもたらし、スケーラビリティに影響を及ぼす。 輸送特性とスケーラビリティのトレードオフを得るために, 線形化フォワードスコア関数(変分スコア)を用いた変分Schr\"odinger運動量拡散(VSMD)を導入し, 擬似フォワード軌道への依存を解消する。 本手法は,適応的に輸送最適化された変分スコアを持つ多変量拡散過程を利用する。 さらに,速度とサンプルの両方のスコア推定の必要性を排除し,トレーニングの安定化を図るために臨界減衰変換を適用した。 理論的には、最適な変動スコアと運動量拡散で生成されたサンプルの収束性を証明する。 実験の結果,VSMDは輸送効率を保ちながら異方性形状を効率よく生成し,過度に損傷した代替品に勝り,複雑なデノナイジングプロセスを避けた。 また,本手法は実世界のデータに対して効果的にスケールし,時系列および画像生成における競合的な結果を達成する。

関連論文リスト

• Provable Statistical Rates for Consistency Diffusion Models [87.28777947976573]
  最先端の性能にもかかわらず、拡散モデルは、多くのステップが伴うため、遅いサンプル生成で知られている。 本稿では, 整合性モデルに関する最初の統計理論に寄与し, 分散不整合最小化問題としてトレーニングを定式化している。
  論文  参考訳（メタデータ） (2024-06-23T20:34:18Z)
• Improving Consistency Models with Generator-Induced Flows [16.049476783301724]
  一貫性モデルは、ニューラルネットワークの単一前方通過におけるスコアベース拡散の多段階サンプリングを模倣する。 それらは、一貫性の蒸留と一貫性のトレーニングの2つの方法を学ぶことができる。 本稿では,現在訓練されているモデルから得られた雑音データを対応する出力へ転送する新しい流れを提案する。
  論文  参考訳（メタデータ） (2024-06-13T20:22:38Z)
• Variational Schrödinger Diffusion Models [14.480273869571468]
  Schr"odinger Bridge (SB) は拡散モデルにおける輸送計画の最適化手法として登場した。 我々は変分推論を利用してSBの前方スコア関数(変分スコア)を線形化する。 本稿では,多変量拡散過程と変分スコアを適応的に最適化して効率的な輸送を行う,変分Schr"odinger拡散モデル(VSDM)を提案する。
  論文  参考訳（メタデータ） (2024-05-08T04:01:40Z)
• Fast Sampling via Discrete Non-Markov Diffusion Models with Predetermined Transition Time [49.598085130313514]
  離散非マルコフ拡散モデル(DNDM)を提案する。 これにより、トレーニング不要なサンプリングアルゴリズムにより、関数評価の数を大幅に削減できる。 有限ステップサンプリングから無限ステップサンプリングへの移行について検討し、離散プロセスと連続プロセスのギャップを埋めるための新たな洞察を提供する。
  論文  参考訳（メタデータ） (2023-12-14T18:14:11Z)
• Stochastic Latent Transformer: Efficient Modelling of Stochastically Forced Zonal Jets [0.0]
  本稿では,SLT(Stochastic Latent Transformer)という新しい確率論的学習手法を提案する。 SLTは、様々な統合期間にわたってシステムダイナミクスを正確に再現し、定量的診断を通じて検証する。 水平平均流をエミュレートする際の5次のマグニチュードスピードアップを実現する。
  論文  参考訳（メタデータ） (2023-10-25T16:17:00Z)
• Fast Diffusion Model [122.36693015093041]
  拡散モデル(DM)は、複雑なデータ分布を捉える能力を持つ様々な分野に採用されている。 本稿では,DM最適化の観点から,高速拡散モデル (FDM) を提案する。
  論文  参考訳（メタデータ） (2023-06-12T09:38:04Z)
• Diffusion Bridge Mixture Transports, Schr\"odinger Bridge Problems and Generative Modeling [4.831663144935879]
  本稿では, 動的シュリンガー橋問題の解法を目的とした, サンプリング型反復型拡散橋混合法 (IDBM) を提案する。 IDBM手順は、各イテレーションにおける目標確率測度間の有効な輸送を実現するという魅力的な性質を示す。
  論文  参考訳（メタデータ） (2023-04-03T12:13:42Z)
• ShiftDDPMs: Exploring Conditional Diffusion Models by Shifting Diffusion Trajectories [144.03939123870416]
  本稿では,前処理に条件を導入することで,新しい条件拡散モデルを提案する。 いくつかのシフト規則に基づいて各条件に対して排他的拡散軌跡を割り当てるために、余剰潜在空間を用いる。 我々は textbfShiftDDPMs と呼ぶメソッドを定式化し、既存のメソッドの統一的な視点を提供する。
  論文  参考訳（メタデータ） (2023-02-05T12:48:21Z)
• How Much is Enough? A Study on Diffusion Times in Score-based Generative Models [76.76860707897413]
  現在のベストプラクティスは、フォワードダイナミクスが既知の単純なノイズ分布に十分に近づくことを確実にするために大きなTを提唱している。 本稿では, 理想とシミュレーションされたフォワードダイナミクスのギャップを埋めるために補助モデルを用いて, 標準的な逆拡散過程を導出する方法について述べる。
  論文  参考訳（メタデータ） (2022-06-10T15:09:46Z)
• Comparing Probability Distributions with Conditional Transport [63.11403041984197]
  新しい発散として条件輸送(CT)を提案し、償却されたCT(ACT)コストと近似します。 ACTは条件付き輸送計画の計算を補正し、計算が容易な非バイアスのサンプル勾配を持つ。 さまざまなベンチマークデータセットのジェネレーティブモデリングでは、既存のジェネレーティブ敵対ネットワークのデフォルトの統計距離をACTに置き換えることで、一貫してパフォーマンスを向上させることが示されています。
  論文  参考訳（メタデータ） (2020-12-28T05:14:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。