論文の概要: Understanding DDPM Latent Codes Through Optimal Transport

• arxiv url: http://arxiv.org/abs/2202.07477v1
• Date: Mon, 14 Feb 2022 18:59:47 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-16 13:18:00.558406
• Title: Understanding DDPM Latent Codes Through Optimal Transport
• Title（参考訳）: 最適輸送によるDDPM潜時符号の理解
• Authors: Valentin Khrulkov and Ivan Oseledets
• Abstract要約: 拡散モデルにより確率フローODEによる決定論的サンプリングが可能となり、潜在空間とエンコーダマップが生じる。 可能性の推定のような重要な実用的応用があるが、この写像の理論的性質はまだ完全には理解されていない。 DDPMエンコーダマップは, 共通分布の最適トランスポートマップと一致していると考えられる。
• 参考スコア（独自算出の注目度）: 13.726637149320272
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion models have recently outperformed alternative approaches to model the distribution of natural images, such as GANs. Such diffusion models allow for deterministic sampling via the probability flow ODE, giving rise to a latent space and an encoder map. While having important practical applications, such as estimation of the likelihood, the theoretical properties of this map are not yet fully understood. In the present work, we partially address this question for the popular case of the VP SDE (DDPM) approach. We show that, perhaps surprisingly, the DDPM encoder map coincides with the optimal transport map for common distributions; we support this claim theoretically and by extensive numerical experiments.
• Abstract（参考訳）: 拡散モデルは、GANのような自然画像の分布をモデル化するための代替手法よりも優れている。 このような拡散モデルは確率フローODEによる決定論的サンプリングを可能にし、潜在空間とエンコーダマップを生じる。 可能性の推定のような重要な実用的応用があるが、この写像の理論的性質はまだ完全には理解されていない。 本稿では, DDPM (VP SDE) アプローチの一般的な事例について, この問題に部分的に対処する。 我々は,DDPMエンコーダマップが共通分布の最適輸送マップと一致していることを示し,この主張を理論的および広範な数値実験により支持する。

関連論文リスト

• Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
  本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。 物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。 PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
  論文  参考訳（メタデータ） (2024-07-10T17:39:50Z)
• Theoretical Insights for Diffusion Guidance: A Case Study for Gaussian Mixture Models [59.331993845831946]
  拡散モデルは、所望の特性に向けてサンプル生成を操るために、スコア関数にタスク固有の情報を注入することの恩恵を受ける。 本稿では,ガウス混合モデルの文脈における拡散モデルに対する誘導の影響を理解するための最初の理論的研究を提供する。
  論文  参考訳（メタデータ） (2024-03-03T23:15:48Z)
• DPM-OT: A New Diffusion Probabilistic Model Based on Optimal Transport [26.713392774427653]
  DPM-OTは高速DPMのための統合学習フレームワークであり、直接高速道路はOTマップで表される。 約10の関数評価で高品質なサンプルを生成することができる。 実験は、DPM-OTの有効性と利点を、速度と品質の観点から検証した。
  論文  参考訳（メタデータ） (2023-07-21T02:28:54Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• Diffusion map particle systems for generative modeling [0.0]
  拡散写像とラプラシアン調整ワッサーシュタイン勾配勾配(LAWGD)に基づく新しい拡散写像粒子システム(DMPS)を提案する。 拡散写像は、サンプルから対応するランゲヴィン拡散過程の生成元を近似し、基礎となるデータ生成多様体を学習するために用いられる。LAWGDは、核の適切な選択を条件として、対象分布からの効率的なサンプリングを可能にする。 本手法では、オフライントレーニングや最小限のチューニングは必要とせず、適度な次元のデータセットにおいて、他の手法よりも優れている。
  論文  参考訳（メタデータ） (2023-04-01T02:07:08Z)
• Diffusion Models are Minimax Optimal Distribution Estimators [49.47503258639454]
  拡散モデリングの近似と一般化能力について、初めて厳密な分析を行った。 実密度関数がベソフ空間に属し、経験値整合損失が適切に最小化されている場合、生成したデータ分布は、ほぼ最小の最適推定値が得られることを示す。
  論文  参考訳（メタデータ） (2023-03-03T11:31:55Z)
• An optimal control perspective on diffusion-based generative modeling [9.806130366152194]
  微分方程式(SDE)に基づく最適制御と生成モデルとの接続を確立する。 特にハミルトン・ヤコビ・ベルマン方程式を導出し、基礎となるSDE限界の対数密度の進化を制御している。 非正規化密度から抽出する新しい拡散法を開発した。
  論文  参考訳（メタデータ） (2022-11-02T17:59:09Z)
• Categorical SDEs with Simplex Diffusion [25.488210663637265]
  この理論ノートは、n-次元確率単純点上のデータポイントを直接拡散する手段であるSimplex Diffusionを提案する。 多次元 Cox-Ingersoll-Ross プロセスにより, シンプレックス上のディリクレ分布と類似の SDE がどのように実現されるかを示す。
  論文  参考訳（メタデータ） (2022-10-26T15:27:43Z)
• Flexible Amortized Variational Inference in qBOLD MRI [56.4324135502282]
  データから酸素抽出率(OEF)と脱酸素血液量(DBV)をより明瞭に決定する。 既存の推論手法では、DBVを過大評価しながら非常にノイズの多い、過小評価されたEFマップが得られる傾向にある。 本研究は, OEFとDBVの可算分布を推定できる確率論的機械学習手法について述べる。
  論文  参考訳（メタデータ） (2022-03-11T10:47:16Z)
• Generalization Properties of Optimal Transport GANs with Latent Distribution Learning [52.25145141639159]
  本研究では,潜伏分布とプッシュフォワードマップの複雑さの相互作用が性能に与える影響について検討する。 我々の分析に感銘を受けて、我々はGANパラダイム内での潜伏分布とプッシュフォワードマップの学習を提唱した。
  論文  参考訳（メタデータ） (2020-07-29T07:31:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。