論文の概要: Deep Generative Learning via Schr\"{o}dinger Bridge

• arxiv url: http://arxiv.org/abs/2106.10410v1
• Date: Sat, 19 Jun 2021 03:35:42 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-22 15:50:05.281553
• Title: Deep Generative Learning via Schr\"{o}dinger Bridge
• Title（参考訳）: Schr\"{o}dinger BridgeによるDeep Generative Learning
• Authors: Gefei Wang, Yuling Jiao, Qian Xu, Yang Wang, Can Yang
• Abstract要約: エントロピーにより生成モデルをSchr"odinger Bridgeで学習する。 Schr"odinger Bridge による生成モデルは最先端の GAN に匹敵することを示す。
• 参考スコア（独自算出の注目度）: 14.138796631423954
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose to learn a generative model via entropy interpolation with a Schr\"{o}dinger Bridge. The generative learning task can be formulated as interpolating between a reference distribution and a target distribution based on the Kullback-Leibler divergence. At the population level, this entropy interpolation is characterized via an SDE on $[0,1]$ with a time-varying drift term. At the sample level, we derive our Schr\"{o}dinger Bridge algorithm by plugging the drift term estimated by a deep score estimator and a deep density ratio estimator into the Euler-Maruyama method. Under some mild smoothness assumptions of the target distribution, we prove the consistency of both the score estimator and the density ratio estimator, and then establish the consistency of the proposed Schr\"{o}dinger Bridge approach. Our theoretical results guarantee that the distribution learned by our approach converges to the target distribution. Experimental results on multimodal synthetic data and benchmark data support our theoretical findings and indicate that the generative model via Schr\"{o}dinger Bridge is comparable with state-of-the-art GANs, suggesting a new formulation of generative learning. We demonstrate its usefulness in image interpolation and image inpainting.
• Abstract（参考訳）: 本稿では,schr\"{o}dinger bridgeを用いたエントロピー補間による生成モデルを学ぶことを提案する。 生成学習タスクは、Kullback-Leibler分散に基づいて、基準分布と目標分布との補間として定式化することができる。 人口レベルでは、このエントロピー補間は時変ドリフト項を持つ$[0,1]$のSDEによって特徴づけられる。 サンプルレベルでは、深部スコア推定値と深部密度比推定値から推定されるドリフト項をオイラー・マルヤマ法に挿入することで、我々のschr\"{o}dinger bridgeアルゴリズムを導出する。 目標分布の穏やかな平滑性仮定の下では,スコア推定値と密度比推定値の両方の整合性を証明し,提案するschr\"{o}dinger bridge法の整合性を確立する。 我々の理論的結果は,本手法で得られた分布が対象分布に収束することを保証する。 マルチモーダル合成データとベンチマークデータを用いた実験結果から,Schr\"{o}dinger Bridgeを用いた生成モデルは最先端のGANと同等であり,生成学習の新たな定式化が示唆された。 画像補間および画像インパインティングにおける有用性を示す。

関連論文リスト

• Latent Schrodinger Bridge: Prompting Latent Diffusion for Fast Unpaired Image-to-Image Translation [58.19676004192321]
  ノイズからの画像生成とデータからの逆変換の両方を可能にする拡散モデル (DM) は、強力な未ペア画像対イメージ(I2I)翻訳アルゴリズムにインスピレーションを与えている。 我々は、最小輸送コストの分布間の微分方程式(SDE)であるSchrodinger Bridges (SBs) を用いてこの問題に取り組む。 この観測に触発されて,SB ODE を予め訓練した安定拡散により近似する潜在シュロディンガー橋 (LSB) を提案する。 提案アルゴリズムは,従来のDMのコストをわずかに抑えながら,教師なし環境での競合的I2I翻訳を実現していることを示す。
  論文  参考訳（メタデータ） (2024-11-22T11:24:14Z)
• Latent Schr{ö}dinger Bridge Diffusion Model for Generative Learning [7.13080924844185]
  潜在空間におけるシュリンガー橋拡散モデルを用いた新しい生成学習手法を提案する。 我々は、Schr"odingerブリッジフレームワークを用いて、潜伏空間内の拡散モデルを開発する。
  論文  参考訳（メタデータ） (2024-04-20T07:38:48Z)
• Soft-constrained Schrodinger Bridge: a Stochastic Control Approach [4.922305511803267]
  シュル「オーディンガー橋」は、最適に制御された拡散過程を見つけることを目標とする連続時間制御問題と見なすことができる。 本稿では,両分布間のKulback-Leiblerの相違を罰し,端末分布を目標と異なるものにすることで,この問題を一般化することを提案する。 1つの応用は、堅牢な生成拡散モデルの開発である。
  論文  参考訳（メタデータ） (2024-03-04T04:10:24Z)
• Distributed Markov Chain Monte Carlo Sampling based on the Alternating Direction Method of Multipliers [143.6249073384419]
  本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。 我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。 シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
  論文  参考訳（メタデータ） (2024-01-29T02:08:40Z)
• Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
  Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。 本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
  論文  参考訳（メタデータ） (2023-06-27T08:15:28Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• Density Ratio Estimation via Infinitesimal Classification [85.08255198145304]
  そこで我々は, DRE-inftyを提案する。 DRE-inftyは, 密度比推定(DRE)を, より簡単なサブプロブレムに還元する手法である。 モンテカルロ法にインスパイアされ、中間ブリッジ分布の無限連続体を介して2つの分布の間を滑らかに補間する。 提案手法は,複雑な高次元データセット上での相互情報推定やエネルギーベースモデリングなどの下流タスクにおいて良好に動作することを示す。
  論文  参考訳（メタデータ） (2021-11-22T06:26:29Z)
• Generative Learning With Euler Particle Transport [14.557451744544592]
  生成学習のためのユーラー粒子輸送(EPT)手法を提案する。 提案手法は, 基準分布から目標分布への最適輸送マップの探索の問題に動機付けられている。 提案する密度比(差分)推定器は,データが低次元多様体上で支持されている場合,「次元の曲線」に支障を来さないことを示す。
  論文  参考訳（メタデータ） (2020-12-11T03:10:53Z)
• Learning Implicit Generative Models with Theoretical Guarantees [12.761710596142109]
  我々はtextbfimplicit textbfmodeling (UnifiGem) のためのtextbfunified textbfframework を提案する。 UnifiGemは、最適輸送、数値ODE、密度比(密度差)推定、ディープニューラルネットワークのアプローチを統合する。 合成データセットと実ベンチマークデータセットの両方の実験結果は、我々の理論的な結果をサポートし、UnifiGemの有効性を実証する。
  論文  参考訳（メタデータ） (2020-02-07T15:55:48Z)
• Generative Modeling with Denoising Auto-Encoders and Langevin Sampling [88.83704353627554]
  DAEとDSMの両方がスムーズな人口密度のスコアを推定することを示した。 次に、この結果をarXiv:1907.05600のホモトピー法に適用し、その経験的成功を理論的に正当化する。
  論文  参考訳（メタデータ） (2020-01-31T23:50:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。