論文の概要: A Continuous Time Framework for Discrete Denoising Models
- arxiv url: http://arxiv.org/abs/2205.14987v1
- Date: Mon, 30 May 2022 10:37:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-31 14:06:02.874565
- Title: A Continuous Time Framework for Discrete Denoising Models
- Title(参考訳): 離散化モデルのための連続時間フレームワーク
- Authors: Andrew Campbell, Joe Benton, Valentin De Bortoli, Tom Rainforth,
George Deligiannidis, Arnaud Doucet
- Abstract要約: 離散データの拡散モデルを決定するための,最初の完全な連続時間フレームワークを提供する。
これは、連続時間マルコフ連鎖(CTMC)としてフォワードノイズ発生過程と対応する逆時間生成過程を定式化することによって達成される。
- 参考スコア(独自算出の注目度): 43.135447812798155
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We provide the first complete continuous time framework for denoising
diffusion models of discrete data. This is achieved by formulating the forward
noising process and corresponding reverse time generative process as Continuous
Time Markov Chains (CTMCs). The model can be efficiently trained using a
continuous time version of the ELBO. We simulate the high dimensional CTMC
using techniques developed in chemical physics and exploit our continuous time
framework to derive high performance samplers that we show can outperform
discrete time methods for discrete data. The continuous time treatment also
enables us to derive a novel theoretical result bounding the error between the
generated sample distribution and the true data distribution.
- Abstract(参考訳): 離散データの拡散モデルを記述するための最初の完全連続時間フレームワークを提供する。
これは、前方ノイズ発生過程と対応する逆時間生成過程を連続時間マルコフ連鎖(CTMC)として定式化する。
モデルはELBOの連続時間バージョンを用いて効率的に訓練することができる。
我々は化学物理学で開発された手法を用いて高次元CTMCをシミュレートし、我々の連続時間フレームワークを利用して、離散データに対して離散時間法より優れた性能を示すハイパフォーマンスサンプリングを導出する。
また、連続時間処理により、生成したサンプル分布と真のデータ分布との誤差を限定した新しい理論的結果を得ることもできる。
関連論文リスト
- Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。
本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。
我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
論文 参考訳(メタデータ) (2024-10-03T09:07:13Z) - Convergence Analysis of Discrete Diffusion Model: Exact Implementation
through Uniformization [17.535229185525353]
連続マルコフ連鎖の均一化を利用したアルゴリズムを導入し、ランダムな時間点の遷移を実装した。
我々の結果は、$mathbbRd$における拡散モデルの最先端の成果と一致し、さらに$mathbbRd$設定と比較して離散拡散モデルの利点を浮き彫りにする。
論文 参考訳(メタデータ) (2024-02-12T22:26:52Z) - Fast Sampling via Discrete Non-Markov Diffusion Models [49.598085130313514]
離散データ生成のための高速化された逆サンプリングを許容する離散非マルコフ拡散モデルを提案する。
提案手法は, ニューラルネットワークに対する関数評価の回数を大幅に削減し, サンプリング処理を高速化する。
論文 参考訳(メタデータ) (2023-12-14T18:14:11Z) - ChiroDiff: Modelling chirographic data with Diffusion Models [132.5223191478268]
チャーログラフィーデータのための強力なモデルクラスである「拡散確率モデル(Denoising Diffusion Probabilistic Models)」やDDPMを導入している。
我々のモデルは「ChiroDiff」と呼ばれ、非自己回帰的であり、全体論的概念を捉えることを学び、したがって高い時間的サンプリングレートに回復する。
論文 参考訳(メタデータ) (2023-04-07T15:17:48Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳(メタデータ) (2022-11-30T05:33:29Z) - Modeling Temporal Data as Continuous Functions with Stochastic Process
Diffusion [2.2849153854336763]
時間データは、基礎となる関数の離散化測定と見なすことができる。
このようなデータの生成モデルを構築するには、そのデータを管理するプロセスをモデル化する必要があります。
本稿では,関数空間における微分拡散モデルを定義することで解を提案する。
論文 参考訳(メタデータ) (2022-11-04T17:02:01Z) - Online Time Series Anomaly Detection with State Space Gaussian Processes [12.483273106706623]
R-ssGPFAは、一様および多変量時系列の教師なしオンライン異常検出モデルである。
高次元時系列に対して、時系列の一般的な潜伏過程を特定するためにガウス過程因子解析の拡張を提案する。
異常観測時にカルマン更新をスキップすることで,モデルの堅牢性を向上させる。
論文 参考訳(メタデータ) (2022-01-18T06:43:32Z) - Continuous Latent Process Flows [47.267251969492484]
任意の時間スタンプにおける連続時系列ダイナミクスの部分的な観察は多くの分野に存在する。このタイプのデータに連続力学を用いた統計モデルを適用することは、直感的なレベルで有望であるだけでなく、実用的な利点もある。
微分方程式によって駆動される時間依存正規化フローを用いて、連続潜時プロセスを連続可観測プロセスに復号する原則的アーキテクチャである連続潜時プロセスフロー(CLPF)を用いて、これらの課題に取り組む。
我々のアブレーション研究は、不規則な時間グリッド上での様々な推論タスクへの貢献の有効性を実証している。
論文 参考訳(メタデータ) (2021-06-29T17:16:04Z) - Symbolic Music Generation with Diffusion Models [4.817429789586127]
本論文では,前訓練された可変オートエンコーダの連続潜空間における離散領域をパラメータ化することにより,連続データに対する拡散モデルを訓練する手法を提案する。
同じ連続埋め込み上で動作する自己回帰型言語モデルと比較して,強い無条件生成とポストホック条件付インフィル結果を示す。
論文 参考訳(メタデータ) (2021-03-30T05:48:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。