論文の概要: Diffusion Bridge Mixture Transports, Schr\"odinger Bridge Problems and
Generative Modeling
- arxiv url: http://arxiv.org/abs/2304.00917v1
- Date: Mon, 3 Apr 2023 12:13:42 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-04 15:39:44.385011
- Title: Diffusion Bridge Mixture Transports, Schr\"odinger Bridge Problems and
Generative Modeling
- Title(参考訳): 拡散橋の混合輸送, schr\"odinger bridge問題と生成モデル
- Authors: Stefano Peluchetti
- Abstract要約: 我々は,新しいサンプリングに基づく反復型拡散橋混合輸送(IDBM)を提案する。
IDBM手順は、各ステップにおける目標測度間の有効な結合を実現するという魅力的な性質を示す。
代替として、IDBMプロシージャの最初のイテレーションを、このトランスポートを実現するための近似不要な方法として使用することを提案する。
- 参考スコア(独自算出の注目度): 3.655021726150369
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The dynamic Schr\"odinger bridge problem seeks a stochastic process that
defines a transport between two target probability measures, while optimally
satisfying the criteria of being closest, in terms of Kullback-Leibler
divergence, to a reference process.
We propose a novel sampling-based iterative algorithm, the iterated diffusion
bridge mixture transport (IDBM), aimed at solving the dynamic Schr\"odinger
bridge problem. The IDBM procedure exhibits the attractive property of
realizing a valid coupling between the target measures at each step. We perform
an initial theoretical investigation of the IDBM procedure, establishing its
convergence properties. The theoretical findings are complemented by numerous
numerical experiments illustrating the competitive performance of the IDBM
procedure across various applications.
Recent advancements in generative modeling employ the time-reversal of a
diffusion process to define a generative process that approximately transports
a simple distribution to the data distribution. As an alternative, we propose
using the first iteration of the IDBM procedure as an approximation-free method
for realizing this transport. This approach offers greater flexibility in
selecting the generative process dynamics and exhibits faster training and
superior sample quality over longer discretization intervals. In terms of
implementation, the necessary modifications are minimally intrusive, being
limited to the training loss computation, with no changes necessary for
generative sampling.
- Abstract(参考訳): 動的schr\"odinger bridge問題(英語版)は、2つの目標確率測度間の移動を定義する確率過程を求め、クルバック・リーバーの発散の観点から最接近の基準を最適に満たしている。
本稿では,動的schr\"odinger bridge問題を解くために,新しいサンプリングベース反復アルゴリズムである反復拡散橋混合輸送 (idbm) を提案する。
IDBM手順は、各ステップにおける目標測度間の有効な結合を実現するという魅力的な性質を示す。
我々はIDBM手順に関する最初の理論的研究を行い、その収束特性を確立した。
理論的な結果は、様々な応用におけるIDBM手順の競合性能を実証する多数の数値実験によって補完される。
生成モデリングの最近の進歩は、拡散過程の時間反転を用いて、単純な分布をデータ分布に大まかに輸送する生成過程を定義する。
代替案として, idbm手順の第1イテレーションを, このトランスポートを実現する近似フリー手法として用いることを提案する。
このアプローチは生成過程のダイナミクスを選択する際の柔軟性を高め、より長い離散化間隔でより高速なトレーニングと優れたサンプル品質を示す。
実装面では、必要な修正は最小限の侵入的であり、生成サンプリングに必要な変更はなく、トレーニング損失計算に限定される。
関連論文リスト
- Variational Schrödinger Diffusion Models [14.480273869571468]
Schr"odinger Bridge (SB) は拡散モデルにおける輸送計画の最適化手法として登場した。
我々は変分推論を利用してSBの前方スコア関数(変分スコア)を線形化する。
本稿では,多変量拡散過程と変分スコアを適応的に最適化して効率的な輸送を行う,変分Schr"odinger拡散モデル(VSDM)を提案する。
論文 参考訳(メタデータ) (2024-05-08T04:01:40Z) - Space-Time Bridge-Diffusion [0.5348370085388683]
実数値分布から独立かつ同一分布(d.d.)の新規な合成サンプルを生成する手法を提案する。
我々の手法の中心は時空間次元にまたがる時空間混合戦略の統合である。
我々は,時空拡散法を数値実験で検証し,より広範な将来の理論と実験の基盤を築き,その方法を完全に認証する。
論文 参考訳(メタデータ) (2024-02-13T23:26:11Z) - SinSR: Diffusion-Based Image Super-Resolution in a Single Step [119.18813219518042]
拡散モデルに基づく超解像(SR)法は有望な結果を示す。
しかし、それらの実践的応用は、必要な推論ステップのかなりの数によって妨げられている。
本稿では,SinSRという単一ステップのSR生成を実現するための,シンプルで効果的な手法を提案する。
論文 参考訳(メタデータ) (2023-11-23T16:21:29Z) - Protein Design with Guided Discrete Diffusion [67.06148688398677]
タンパク質設計における一般的なアプローチは、生成モデルと条件付きサンプリングのための識別モデルを組み合わせることである。
離散拡散モデルのためのガイダンス手法であるdiffusioN Optimized Smpling (NOS)を提案する。
NOSは、構造に基づく手法の重要な制限を回避し、シーケンス空間で直接設計を行うことができる。
論文 参考訳(メタデータ) (2023-05-31T16:31:24Z) - CamoDiffusion: Camouflaged Object Detection via Conditional Diffusion
Models [72.93652777646233]
カモフラーゲ型物体検出(COD)は、カモフラーゲ型物体とその周囲の類似性が高いため、コンピュータビジョンにおいて難しい課題である。
本研究では,CODを拡散モデルを利用した条件付きマスク生成タスクとして扱う新しいパラダイムを提案する。
カモ拡散(CamoDiffusion)と呼ばれる本手法では,拡散モデルのデノナイズプロセスを用いてマスクの雑音を反復的に低減する。
論文 参考訳(メタデータ) (2023-05-29T07:49:44Z) - Diffusion Schr\"odinger Bridge Matching [36.95088080680221]
反復マルコフフィッティング(IMF)と拡散シュリンガーブリッジマッチング(DSBM)を紹介する。
IMFはSB問題を解決するための新しい手法であり、DSBMはIMFの反復計算のための新しい数値アルゴリズムである。
様々な問題についてDSBMの性能を実証する。
論文 参考訳(メタデータ) (2023-03-29T16:59:22Z) - Fast Sampling of Diffusion Models via Operator Learning [74.37531458470086]
我々は,拡散モデルのサンプリング過程を高速化するために,確率フロー微分方程式の効率的な解法であるニューラル演算子を用いる。
シーケンシャルな性質を持つ他の高速サンプリング手法と比較して、並列復号法を最初に提案する。
本稿では,CIFAR-10では3.78、ImageNet-64では7.83の最先端FIDを1モデル評価環境で達成することを示す。
論文 参考訳(メタデータ) (2022-11-24T07:30:27Z) - Entropic Neural Optimal Transport via Diffusion Processes [105.34822201378763]
本稿では,連続確率分布間のエントロピー最適輸送(EOT)計画を計算するための新しいアルゴリズムを提案する。
提案アルゴリズムは,シュリンガーブリッジ問題(Schr"odinger Bridge problem)として知られるEOTの動的バージョンのサドル点再構成に基づく。
大規模EOTの従来の手法とは対照的に,我々のアルゴリズムはエンドツーエンドであり,単一の学習ステップで構成されている。
論文 参考訳(メタデータ) (2022-11-02T14:35:13Z) - DensePure: Understanding Diffusion Models towards Adversarial Robustness [110.84015494617528]
拡散モデルの特性を解析し,それらが証明された堅牢性を高める条件を確立する。
事前訓練されたモデル(すなわち分類器)の信頼性向上を目的とした新しいDensePure法を提案する。
このロバストな領域は多重凸集合の和であり、以前の研究で特定されたロバストな領域よりもはるかに大きい可能性が示されている。
論文 参考訳(メタデータ) (2022-11-01T08:18:07Z) - Simulating Diffusion Bridges with Score Matching [17.492131261495523]
まず,無条件拡散過程の時間反転が可能であれば,時間反転拡散ブリッジ法をシミュレートできることを示す。
次に、拡散ブリッジプロセスを定義するDoobの$h$-transformを近似するために、提案手法の別のイテレーションを検討する。
論文 参考訳(メタデータ) (2021-11-14T05:18:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。