論文の概要: Diffusion Bridge Mixture Transports, Schr\"odinger Bridge Problems and Generative Modeling

• arxiv url: http://arxiv.org/abs/2304.00917v2
• Date: Fri, 22 Dec 2023 10:25:03 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-25 18:56:36.725351
• Title: Diffusion Bridge Mixture Transports, Schr\"odinger Bridge Problems and Generative Modeling
• Title（参考訳）: 拡散橋の混合輸送, schr\"odinger bridge問題と生成モデル
• Authors: Stefano Peluchetti
• Abstract要約: 本稿では, 動的シュリンガー橋問題の解法を目的とした, サンプリング型反復型拡散橋混合法 (IDBM) を提案する。 IDBM手順は、各イテレーションにおける目標確率測度間の有効な輸送を実現するという魅力的な性質を示す。
• 参考スコア（独自算出の注目度）: 4.831663144935879
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The dynamic Schr\"odinger bridge problem seeks a stochastic process that defines a transport between two target probability measures, while optimally satisfying the criteria of being closest, in terms of Kullback-Leibler divergence, to a reference process. We propose a novel sampling-based iterative algorithm, the iterated diffusion bridge mixture (IDBM) procedure, aimed at solving the dynamic Schr\"odinger bridge problem. The IDBM procedure exhibits the attractive property of realizing a valid transport between the target probability measures at each iteration. We perform an initial theoretical investigation of the IDBM procedure, establishing its convergence properties. The theoretical findings are complemented by numerical experiments illustrating the competitive performance of the IDBM procedure. Recent advancements in generative modeling employ the time-reversal of a diffusion process to define a generative process that approximately transports a simple distribution to the data distribution. As an alternative, we propose utilizing the first iteration of the IDBM procedure as an approximation-free method for realizing this transport. This approach offers greater flexibility in selecting the generative process dynamics and exhibits accelerated training and superior sample quality over larger discretization intervals. In terms of implementation, the necessary modifications are minimally intrusive, being limited to the training loss definition.
• Abstract（参考訳）: 動的schr\"odinger bridge問題(英語版)は、2つの目標確率測度間の移動を定義する確率過程を求め、クルバック・リーバーの発散の観点から最接近の基準を最適に満たしている。 本稿では,動的schr\"odinger bridge問題を解くために,新しいサンプリングベース反復アルゴリズムである反復拡散橋混合法(idbm)を提案する。 IDBM手順は、各イテレーションにおける目標確率測度間の有効な輸送を実現するという魅力的な性質を示す。 我々はIDBM手順に関する最初の理論的研究を行い、その収束特性を確立した。 理論的結果は,IDBM法の競争性能を示す数値実験によって補完される。 生成モデリングの最近の進歩は、拡散過程の時間反転を用いて、単純な分布をデータ分布に大まかに輸送する生成過程を定義する。 代替案として, idbm 手続きの最初のイテレーションを, このトランスポートを実現する近似フリー手法として利用することを提案する。 このアプローチは、生成過程のダイナミクスを選択する際の柔軟性を向上し、より大きな離散化間隔よりも加速されたトレーニングと優れたサンプル品質を示す。 実装面では、必要な修正は最小限の侵入的であり、トレーニング損失の定義に限定される。

関連論文リスト

• Neural Guided Diffusion Bridges [2.048226951354646]
  ユークリッド空間における条件付き拡散過程(拡散橋)をシミュレーションする新しい手法を提案する。 ニューラルネットワークをトレーニングして橋梁力学を近似することにより,計算集約型マルコフ・チェインモンテカルロ法(MCMC)の必要性を解消する。
  論文  参考訳（メタデータ） (2025-02-17T15:28:19Z)
• Information-Theoretic Proofs for Diffusion Sampling [13.095978794717007]
  本稿では, 拡散法に基づくジェネレーティブ・モデリング手法の基本的, 自己完結型分析法を提案する。 拡散ステップサイズが十分に小さい場合、サンプリング分布はターゲット分布に確実に近いことを示す。 また,各ステップに追加のランダム性を導入して,比較過程における高次モーメントに一致させることにより,収束を促進させる方法についての透過的なビューを提供する。
  論文  参考訳（メタデータ） (2025-02-04T13:19:21Z)
• Variational Schrödinger Momentum Diffusion [15.074672636555755]
  我々は、シミュレーションされた前方軌道への依存を排除するために、変分Schr"odinger運動量拡散(VSMD)を導入する。 提案手法は実世界のデータに対して効果的にスケールし,時系列および画像生成における競合的な結果を達成する。
  論文  参考訳（メタデータ） (2025-01-28T03:19:58Z)
• Self-Refining Diffusion Samplers: Enabling Parallelization via Parareal Iterations [53.180374639531145]
  自己精製拡散サンプリング(SRDS)は、サンプル品質を維持し、追加の並列計算コストでレイテンシを向上させることができる。 微分方程式の並列時間積分法であるPararealアルゴリズムから着想を得た。
  論文  参考訳（メタデータ） (2024-12-11T11:08:09Z)
• Solving Prior Distribution Mismatch in Diffusion Models via Optimal Transport [24.90486913773359]
  近年,拡散モデル(DM)に関する知識は著しく増大しているが,いくつかの理論的なギャップが残っている。 本稿では、最適輸送(OT)理論と離散初期分布を持つDMとの深い関係について検討する。 拡散終了時間が増加するにつれて、確率フローは古典モンジュ・アンペア方程式の解の勾配に指数関数的に収束する。
  論文  参考訳（メタデータ） (2024-10-17T10:54:55Z)
• Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
  本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。 物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。 PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
  論文  参考訳（メタデータ） (2024-07-10T17:39:50Z)
• SinSR: Diffusion-Based Image Super-Resolution in a Single Step [119.18813219518042]
  拡散モデルに基づく超解像(SR)法は有望な結果を示す。 しかし、それらの実践的応用は、必要な推論ステップのかなりの数によって妨げられている。 本稿では,SinSRという単一ステップのSR生成を実現するための,シンプルで効果的な手法を提案する。
  論文  参考訳（メタデータ） (2023-11-23T16:21:29Z)
• Protein Design with Guided Discrete Diffusion [67.06148688398677]
  タンパク質設計における一般的なアプローチは、生成モデルと条件付きサンプリングのための識別モデルを組み合わせることである。 離散拡散モデルのためのガイダンス手法であるdiffusioN Optimized Smpling (NOS)を提案する。 NOSは、構造に基づく手法の重要な制限を回避し、シーケンス空間で直接設計を行うことができる。
  論文  参考訳（メタデータ） (2023-05-31T16:31:24Z)
• Fast Sampling of Diffusion Models via Operator Learning [74.37531458470086]
  我々は,拡散モデルのサンプリング過程を高速化するために,確率フロー微分方程式の効率的な解法であるニューラル演算子を用いる。 シーケンシャルな性質を持つ他の高速サンプリング手法と比較して、並列復号法を最初に提案する。 本稿では,CIFAR-10では3.78、ImageNet-64では7.83の最先端FIDを1モデル評価環境で達成することを示す。
  論文  参考訳（メタデータ） (2022-11-24T07:30:27Z)
• Entropic Neural Optimal Transport via Diffusion Processes [105.34822201378763]
  本稿では,連続確率分布間のエントロピー最適輸送(EOT)計画を計算するための新しいアルゴリズムを提案する。 提案アルゴリズムは,シュリンガーブリッジ問題(Schr"odinger Bridge problem)として知られるEOTの動的バージョンのサドル点再構成に基づく。 大規模EOTの従来の手法とは対照的に,我々のアルゴリズムはエンドツーエンドであり,単一の学習ステップで構成されている。
  論文  参考訳（メタデータ） (2022-11-02T14:35:13Z)
• Simulating Diffusion Bridges with Score Matching [17.492131261495523]
  まず,無条件拡散過程の時間反転が可能であれば,時間反転拡散ブリッジ法をシミュレートできることを示す。 次に、拡散ブリッジプロセスを定義するDoobの$h$-transformを近似するために、提案手法の別のイテレーションを検討する。
  論文  参考訳（メタデータ） (2021-11-14T05:18:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。