論文の概要: From Denoising Diffusions to Denoising Markov Models

• arxiv url: http://arxiv.org/abs/2211.03595v1
• Date: Mon, 7 Nov 2022 14:34:27 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-08 15:59:40.425635
• Title: From Denoising Diffusions to Denoising Markov Models
• Title（参考訳）: 減数化拡散から減数化マルコフモデルへ
• Authors: Joe Benton, Yuyang Shi, Valentin De Bortoli, George Deligiannidis, Arnaud Doucet
• Abstract要約: デノイング拡散は、顕著な経験的性能を示す最先端の生成モデルである。 拡散をシミュレートすることで,分布がデータ分布に近くなる新しいサンプルを得る。 この偏微分は、スコアマッチングを用いて得られる雑音データ密度の対数微分の近似に依存する。
• 参考スコア（独自算出の注目度）: 26.578515749292954
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Denoising diffusions are state-of-the-art generative models which exhibit remarkable empirical performance and come with theoretical guarantees. The core idea of these models is to progressively transform the empirical data distribution into a simple Gaussian distribution by adding noise using a diffusion. We obtain new samples whose distribution is close to the data distribution by simulating a "denoising" diffusion approximating the time reversal of this "noising" diffusion. This denoising diffusion relies on approximations of the logarithmic derivatives of the noised data densities, known as scores, obtained using score matching. Such models can be easily extended to perform approximate posterior simulation in high-dimensional scenarios where one can only sample from the prior and simulate synthetic observations from the likelihood. These methods have been primarily developed for data on $\mathbb{R}^d$ while extensions to more general spaces have been developed on a case-by-case basis. We propose here a general framework which not only unifies and generalizes this approach to a wide class of spaces but also leads to an original extension of score matching. We illustrate the resulting class of denoising Markov models on various applications.
• Abstract（参考訳）: デノイジング拡散は最先端の生成モデルであり、顕著な経験的性能を示し、理論的保証をもたらす。 これらのモデルの中核となる考え方は、拡散を用いてノイズを加えることにより、経験的データ分布を単純なガウス分布に変換することである。 本研究では,この「ノイズ」拡散の時間反転を近似する「ノイズ拡散」をシミュレーションし,データ分布に近い分布を示す新しいサンプルを得る。 このノイズ拡散は、スコアマッチングによって得られるノイズデータ密度(スコアとして知られる)の対数微分の近似に依存する。 このようなモデルを簡単に拡張して、前者からのみサンプルを採取し、確率から合成観測をシミュレートできる高次元シナリオで近似後続シミュレーションを行うことができる。 これらの手法は主に$\mathbb{r}^d$のデータに対して開発され、より一般的な空間への拡張はケースバイケースで開発されている。 ここでは、この手法を広い種類の空間に統一・一般化するだけでなく、スコアマッチングのオリジナル拡張につながる一般的なフレームワークを提案する。 様々なアプリケーション上でマルコフモデルを記述する結果のクラスについて説明する。

関連論文リスト

• On the Relation Between Linear Diffusion and Power Iteration [42.158089783398616]
  相関機械として生成過程を研究する」 生成過程の早い段階で低周波が出現し, 固有値に依存する速度で, 偏極基底ベクトルが真のデータにより整合していることが示される。 このモデルにより、線形拡散モデルが、一般的な電力反復法と同様に、基礎データの先頭固有ベクトルに平均的に収束することを示すことができる。
  論文  参考訳（メタデータ） (2024-10-16T07:33:12Z)
• Generative Diffusion From An Action Principle [0.0]
  スコアマッチングは、物理でよく用いられるようなアクション原理から導出できることを示す。 この洞察を用いて、異なる拡散モデルのクラス間の関係を実証する。
  論文  参考訳（メタデータ） (2023-10-06T18:00:00Z)
• Soft Mixture Denoising: Beyond the Expressive Bottleneck of Diffusion Models [76.46246743508651]
  我々は,現在の拡散モデルが後方認知において表現力のあるボトルネックを持っていることを示した。 本稿では,後方復調のための表現的かつ効率的なモデルであるソフトミキシング・デノナイジング(SMD)を導入する。
  論文  参考訳（メタデータ） (2023-09-25T12:03:32Z)
• Generating observation guided ensembles for data assimilation with denoising diffusion probabilistic model [0.0]
  本稿では拡散確率モデルから生成した擬似アンサンブルを用いたアンサンブルデータ同化法を提案する。 生成したアンサンブルのばらつきにより,提案手法はシミュレーションモデルが不完全である場合に,確立されたアンサンブルデータ同化法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2023-08-13T07:55:46Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• To smooth a cloud or to pin it down: Guarantees and Insights on Score Matching in Denoising Diffusion Models [20.315727650065007]
  微分拡散モデル(Denoising diffusion model)は、最近多くの領域で最先端の結果を得た生成モデルのクラスである。 我々は、F"ollmer flow"に似た既知の接続を利用して、F"ollmer drift"の確立されたニューラルネットワーク近似結果を拡張し、拡散モデルとサンプリング器をデノナイズする。
  論文  参考訳（メタデータ） (2023-05-16T16:56:19Z)
• Reflected Diffusion Models [93.26107023470979]
  本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。 提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
  論文  参考訳（メタデータ） (2023-04-10T17:54:38Z)
• Denoising Diffusion Samplers [41.796349001299156]
  拡散モデルの認知は、多くの領域で最先端の結果を提供する生成モデルの一般的なクラスである。 我々は、非正規化確率密度関数から大まかにサンプリングし、それらの正規化定数を推定する類似のアイデアを探求する。 この文脈ではスコアマッチングは適用できないが、モンテカルロサンプリングのために生成的モデリングで導入された多くのアイデアを利用することができる。
  論文  参考訳（メタデータ） (2023-02-27T14:37:16Z)
• Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
  連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。 条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。 提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
  論文  参考訳（メタデータ） (2022-11-30T05:33:29Z)
• Estimating High Order Gradients of the Data Distribution by Denoising [81.24581325617552]
  スコアマッチングを復調することにより、データ密度の第1次微分を効率的に推定することができる。 サンプルからデータ密度の高次微分(スコア)を直接推定する手法を提案する。
  論文  参考訳（メタデータ） (2021-11-08T18:59:23Z)
• Generative Modeling with Denoising Auto-Encoders and Langevin Sampling [88.83704353627554]
  DAEとDSMの両方がスムーズな人口密度のスコアを推定することを示した。 次に、この結果をarXiv:1907.05600のホモトピー法に適用し、その経験的成功を理論的に正当化する。
  論文  参考訳（メタデータ） (2020-01-31T23:50:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。