論文の概要: Infinite-Dimensional Diffusion Models
- arxiv url: http://arxiv.org/abs/2302.10130v2
- Date: Tue, 3 Oct 2023 13:22:42 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-05 10:50:14.860494
- Title: Infinite-Dimensional Diffusion Models
- Title(参考訳): 無限次元拡散モデル
- Authors: Jakiw Pidstrigach, Youssef Marzouk, Sebastian Reich, Sven Wang
- Abstract要約: 拡散に基づく生成モデルを無限次元で定式化し、関数の生成モデルに適用する。
我々の定式化は無限次元の設定においてよく成り立っていることを示し、サンプルから目標測度への次元非依存距離境界を提供する。
また,無限次元拡散モデルの設計ガイドラインも作成する。
- 参考スコア(独自算出の注目度): 4.342241136871849
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Diffusion models have had a profound impact on many application areas,
including those where data are intrinsically infinite-dimensional, such as
images or time series. The standard approach is first to discretize and then to
apply diffusion models to the discretized data. While such approaches are
practically appealing, the performance of the resulting algorithms typically
deteriorates as discretization parameters are refined. In this paper, we
instead directly formulate diffusion-based generative models in infinite
dimensions and apply them to the generative modeling of functions. We prove
that our formulations are well posed in the infinite-dimensional setting and
provide dimension-independent distance bounds from the sample to the target
measure. Using our theory, we also develop guidelines for the design of
infinite-dimensional diffusion models. For image distributions, these
guidelines are in line with the canonical choices currently made for diffusion
models. For other distributions, however, we can improve upon these canonical
choices, which we show both theoretically and empirically, by applying the
algorithms to data distributions on manifolds and inspired by Bayesian inverse
problems or simulation-based inference.
- Abstract(参考訳): 拡散モデルは、画像や時系列などの本質的に無限次元のデータを含む多くのアプリケーション領域に大きな影響を与えている。
標準アプローチは、まず離散化し、次に離散化データに拡散モデルを適用することである。
このようなアプローチは事実上魅力的であるが、離散化パラメータが洗練されるにつれて、結果のアルゴリズムの性能は低下する。
本稿では,その代わりに拡散に基づく生成モデルを無限次元で直接定式化し,関数の生成モデルに適用する。
我々は、この定式化が無限次元の設定において十分に成り立つことを証明し、サンプルから目標測度への次元非依存距離境界を与える。
また,この理論を用いて無限次元拡散モデルの設計ガイドラインも作成する。
画像分布の場合、これらのガイドラインは拡散モデルで現在行われている標準選択と一致している。
しかし、他の分布に対しては、このアルゴリズムを多様体上のデータ分布に適用し、ベイズ逆問題やシミュレーションに基づく推論にインスパイアすることで、理論的にも経験的にもこれらの正準選択を改善することができる。
関連論文リスト
- Distillation of Discrete Diffusion through Dimensional Correlations [21.078500510691747]
離散拡散における「ミクチャー」モデルは、拡張性を維持しながら次元相関を扱える。
CIFAR-10データセットで事前学習した連続時間離散拡散モデルを蒸留することにより,提案手法が実際に動作することを実証的に実証した。
論文 参考訳(メタデータ) (2024-10-11T10:53:03Z) - G2D2: Gradient-guided Discrete Diffusion for image inverse problem solving [55.185588994883226]
本稿では,従来の離散拡散に基づく画像生成モデルを活用することによって,線形逆問題に対処する新しい手法を提案する。
我々の知る限りでは、これは画像逆問題を解決するために離散拡散モデルに基づく先行手法を使う最初のアプローチである。
論文 参考訳(メタデータ) (2024-10-09T06:18:25Z) - Constrained Diffusion Models via Dual Training [80.03953599062365]
拡散プロセスは、トレーニングデータセットのバイアスを反映したサンプルを生成する傾向がある。
所望の分布に基づいて拡散制約を付与し,制約付き拡散モデルを構築する。
本稿では,制約付き拡散モデルを用いて,目的と制約の最適なトレードオフを実現する混合データ分布から新しいデータを生成することを示す。
論文 参考訳(メタデータ) (2024-08-27T14:25:42Z) - Convergence Analysis of Discrete Diffusion Model: Exact Implementation
through Uniformization [17.535229185525353]
連続マルコフ連鎖の均一化を利用したアルゴリズムを導入し、ランダムな時間点の遷移を実装した。
我々の結果は、$mathbbRd$における拡散モデルの最先端の成果と一致し、さらに$mathbbRd$設定と比較して離散拡散モデルの利点を浮き彫りにする。
論文 参考訳(メタデータ) (2024-02-12T22:26:52Z) - Renormalizing Diffusion Models [0.7252027234425334]
拡散モデルを用いて、統計および量子場理論の逆再正規化群フローを学習する。
我々の研究は、多スケール拡散モデルの解釈を提供し、新しい性質を持つべき拡散モデルに対する物理的に着想を得た提案を与える。
論文 参考訳(メタデータ) (2023-08-23T18:02:31Z) - Reflected Diffusion Models [93.26107023470979]
本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。
提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
論文 参考訳(メタデータ) (2023-04-10T17:54:38Z) - Diffusion Models are Minimax Optimal Distribution Estimators [49.47503258639454]
拡散モデリングの近似と一般化能力について、初めて厳密な分析を行った。
実密度関数がベソフ空間に属し、経験値整合損失が適切に最小化されている場合、生成したデータ分布は、ほぼ最小の最適推定値が得られることを示す。
論文 参考訳(メタデータ) (2023-03-03T11:31:55Z) - Score Approximation, Estimation and Distribution Recovery of Diffusion
Models on Low-Dimensional Data [68.62134204367668]
本稿では,未知の低次元線形部分空間上でデータをサポートする場合の拡散モデルのスコア近似,推定,分布回復について検討する。
適切に選択されたニューラルネットワークアーキテクチャでは、スコア関数を正確に近似し、効率的に推定することができる。
推定スコア関数に基づいて生成された分布は、データ幾何学構造を捕捉し、データ分布の近傍に収束する。
論文 参考訳(メタデータ) (2023-02-14T17:02:35Z) - Diffusion Generative Models in Infinite Dimensions [10.15736468214228]
拡散生成モデルを一般化して関数空間で直接操作する。
関数空間の観点の大きな利点は、開発中の関数空間を明示的に指定できることです。
提案手法により,関数値データの条件付き生成と条件付き生成を両立させることができる。
論文 参考訳(メタデータ) (2022-12-01T21:54:19Z) - Unifying Diffusion Models' Latent Space, with Applications to
CycleDiffusion and Guidance [95.12230117950232]
関係領域で独立に訓練された2つの拡散モデルから共通潜時空間が現れることを示す。
テキスト・画像拡散モデルにCycleDiffusionを適用することで、大規模なテキスト・画像拡散モデルがゼロショット画像・画像拡散エディタとして使用できることを示す。
論文 参考訳(メタデータ) (2022-10-11T15:53:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。