論文の概要: Diffusion Bridge Mixture Transports, Schr\"odinger Bridge Problems and Generative Modeling

• arxiv url: http://arxiv.org/abs/2304.00917v2
• Date: Fri, 22 Dec 2023 10:25:03 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-25 18:56:36.725351
• Title: Diffusion Bridge Mixture Transports, Schr\"odinger Bridge Problems and Generative Modeling
• Title（参考訳）: 拡散橋の混合輸送, schr\"odinger bridge問題と生成モデル
• Authors: Stefano Peluchetti
• Abstract要約: 本稿では, 動的シュリンガー橋問題の解法を目的とした, サンプリング型反復型拡散橋混合法 (IDBM) を提案する。 IDBM手順は、各イテレーションにおける目標確率測度間の有効な輸送を実現するという魅力的な性質を示す。
• 参考スコア（独自算出の注目度）: 4.831663144935879
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The dynamic Schr\"odinger bridge problem seeks a stochastic process that defines a transport between two target probability measures, while optimally satisfying the criteria of being closest, in terms of Kullback-Leibler divergence, to a reference process. We propose a novel sampling-based iterative algorithm, the iterated diffusion bridge mixture (IDBM) procedure, aimed at solving the dynamic Schr\"odinger bridge problem. The IDBM procedure exhibits the attractive property of realizing a valid transport between the target probability measures at each iteration. We perform an initial theoretical investigation of the IDBM procedure, establishing its convergence properties. The theoretical findings are complemented by numerical experiments illustrating the competitive performance of the IDBM procedure. Recent advancements in generative modeling employ the time-reversal of a diffusion process to define a generative process that approximately transports a simple distribution to the data distribution. As an alternative, we propose utilizing the first iteration of the IDBM procedure as an approximation-free method for realizing this transport. This approach offers greater flexibility in selecting the generative process dynamics and exhibits accelerated training and superior sample quality over larger discretization intervals. In terms of implementation, the necessary modifications are minimally intrusive, being limited to the training loss definition.
• Abstract（参考訳）: 動的schr\"odinger bridge問題(英語版)は、2つの目標確率測度間の移動を定義する確率過程を求め、クルバック・リーバーの発散の観点から最接近の基準を最適に満たしている。 本稿では,動的schr\"odinger bridge問題を解くために,新しいサンプリングベース反復アルゴリズムである反復拡散橋混合法(idbm)を提案する。 IDBM手順は、各イテレーションにおける目標確率測度間の有効な輸送を実現するという魅力的な性質を示す。 我々はIDBM手順に関する最初の理論的研究を行い、その収束特性を確立した。 理論的結果は,IDBM法の競争性能を示す数値実験によって補完される。 生成モデリングの最近の進歩は、拡散過程の時間反転を用いて、単純な分布をデータ分布に大まかに輸送する生成過程を定義する。 代替案として, idbm 手続きの最初のイテレーションを, このトランスポートを実現する近似フリー手法として利用することを提案する。 このアプローチは、生成過程のダイナミクスを選択する際の柔軟性を向上し、より大きな離散化間隔よりも加速されたトレーニングと優れたサンプル品質を示す。 実装面では、必要な修正は最小限の侵入的であり、トレーニング損失の定義に限定される。

関連論文リスト

• Latent Schrodinger Bridge: Prompting Latent Diffusion for Fast Unpaired Image-to-Image Translation [58.19676004192321]
  ノイズからの画像生成とデータからの逆変換の両方を可能にする拡散モデル (DM) は、強力な未ペア画像対イメージ(I2I)翻訳アルゴリズムにインスピレーションを与えている。 我々は、最小輸送コストの分布間の微分方程式(SDE)であるSchrodinger Bridges (SBs) を用いてこの問題に取り組む。 この観測に触発されて,SB ODE を予め訓練した安定拡散により近似する潜在シュロディンガー橋 (LSB) を提案する。 提案アルゴリズムは,従来のDMのコストをわずかに抑えながら,教師なし環境での競合的I2I翻訳を実現していることを示す。
  論文  参考訳（メタデータ） (2024-11-22T11:24:14Z)
• Solving Prior Distribution Mismatch in Diffusion Models via Optimal Transport [24.90486913773359]
  近年,拡散モデル(DM)に関する知識は著しく増大しているが,いくつかの理論的なギャップが残っている。 本稿では、最適輸送(OT)理論と離散初期分布を持つDMとの深い関係について検討する。 拡散終了時間が増加するにつれて、確率フローは古典モンジュ・アンペア方程式の解の勾配に指数関数的に収束する。
  論文  参考訳（メタデータ） (2024-10-17T10:54:55Z)
• Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
  本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。 物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。 PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
  論文  参考訳（メタデータ） (2024-07-10T17:39:50Z)
• Variational Schrödinger Diffusion Models [14.480273869571468]
  Schr"odinger Bridge (SB) は拡散モデルにおける輸送計画の最適化手法として登場した。 我々は変分推論を利用してSBの前方スコア関数(変分スコア)を線形化する。 本稿では,多変量拡散過程と変分スコアを適応的に最適化して効率的な輸送を行う,変分Schr"odinger拡散モデル(VSDM)を提案する。
  論文  参考訳（メタデータ） (2024-05-08T04:01:40Z)
• Space-Time Diffusion Bridge [0.4527270266697462]
  実確率分布から独立かつ同一に分布する新しい合成サンプルを生成する方法を提案する。 時空間次元にまたがる時空間混合戦略を用いる。 数値実験による時空拡散法の有効性を検証した。
  論文  参考訳（メタデータ） (2024-02-13T23:26:11Z)
• SinSR: Diffusion-Based Image Super-Resolution in a Single Step [119.18813219518042]
  拡散モデルに基づく超解像(SR)法は有望な結果を示す。 しかし、それらの実践的応用は、必要な推論ステップのかなりの数によって妨げられている。 本稿では,SinSRという単一ステップのSR生成を実現するための,シンプルで効果的な手法を提案する。
  論文  参考訳（メタデータ） (2023-11-23T16:21:29Z)
• Protein Design with Guided Discrete Diffusion [67.06148688398677]
  タンパク質設計における一般的なアプローチは、生成モデルと条件付きサンプリングのための識別モデルを組み合わせることである。 離散拡散モデルのためのガイダンス手法であるdiffusioN Optimized Smpling (NOS)を提案する。 NOSは、構造に基づく手法の重要な制限を回避し、シーケンス空間で直接設計を行うことができる。
  論文  参考訳（メタデータ） (2023-05-31T16:31:24Z)
• Diffusion Schr\"odinger Bridge Matching [36.95088080680221]
  反復マルコフフィッティング(IMF)と拡散シュリンガーブリッジマッチング(DSBM)を紹介する。 IMFはSB問題を解決するための新しい手法であり、DSBMはIMFの反復計算のための新しい数値アルゴリズムである。 様々な問題についてDSBMの性能を実証する。
  論文  参考訳（メタデータ） (2023-03-29T16:59:22Z)
• Fast Sampling of Diffusion Models via Operator Learning [74.37531458470086]
  我々は,拡散モデルのサンプリング過程を高速化するために,確率フロー微分方程式の効率的な解法であるニューラル演算子を用いる。 シーケンシャルな性質を持つ他の高速サンプリング手法と比較して、並列復号法を最初に提案する。 本稿では,CIFAR-10では3.78、ImageNet-64では7.83の最先端FIDを1モデル評価環境で達成することを示す。
  論文  参考訳（メタデータ） (2022-11-24T07:30:27Z)
• Entropic Neural Optimal Transport via Diffusion Processes [105.34822201378763]
  本稿では,連続確率分布間のエントロピー最適輸送(EOT)計画を計算するための新しいアルゴリズムを提案する。 提案アルゴリズムは,シュリンガーブリッジ問題(Schr"odinger Bridge problem)として知られるEOTの動的バージョンのサドル点再構成に基づく。 大規模EOTの従来の手法とは対照的に,我々のアルゴリズムはエンドツーエンドであり,単一の学習ステップで構成されている。
  論文  参考訳（メタデータ） (2022-11-02T14:35:13Z)
• Simulating Diffusion Bridges with Score Matching [17.492131261495523]
  まず,無条件拡散過程の時間反転が可能であれば,時間反転拡散ブリッジ法をシミュレートできることを示す。 次に、拡散ブリッジプロセスを定義するDoobの$h$-transformを近似するために、提案手法の別のイテレーションを検討する。
  論文  参考訳（メタデータ） (2021-11-14T05:18:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。