論文の概要: Bridging discrete and continuous state spaces: Exploring the Ehrenfest process in time-continuous diffusion models
- arxiv url: http://arxiv.org/abs/2405.03549v1
- Date: Mon, 6 May 2024 15:12:51 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-07 13:17:09.996883
- Title: Bridging discrete and continuous state spaces: Exploring the Ehrenfest process in time-continuous diffusion models
- Title（参考訳）: 離散的かつ連続的な状態空間をブリッジする:時間連続拡散モデルにおけるエレンフェスト過程の探索
- Authors: Ludwig Winkler, Lorenz Richter, Manfred Opper,
- Abstract要約: 離散状態空間上での時間連続マルコフジャンプ過程について検討する。
エレンフェスト過程の時間反転は、時間反転するオルンシュタイン-ウレンベック過程に収束することを示す。
- 参考スコア（独自算出の注目度）: 4.186575888568896
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Generative modeling via stochastic processes has led to remarkable empirical results as well as to recent advances in their theoretical understanding. In principle, both space and time of the processes can be discrete or continuous. In this work, we study time-continuous Markov jump processes on discrete state spaces and investigate their correspondence to state-continuous diffusion processes given by SDEs. In particular, we revisit the $\textit{Ehrenfest process}$, which converges to an Ornstein-Uhlenbeck process in the infinite state space limit. Likewise, we can show that the time-reversal of the Ehrenfest process converges to the time-reversed Ornstein-Uhlenbeck process. This observation bridges discrete and continuous state spaces and allows to carry over methods from one to the respective other setting. Additionally, we suggest an algorithm for training the time-reversal of Markov jump processes which relies on conditional expectations and can thus be directly related to denoising score matching. We demonstrate our methods in multiple convincing numerical experiments.
- Abstract（参考訳）: 確率過程による生成的モデリングは、その理論的理解の最近の進歩と同様に、顕著な経験的な結果をもたらした。
原則として、プロセスの空間と時間の両方が離散的あるいは連続的である。
本研究では、離散状態空間上での時間連続的なマルコフジャンプ過程について検討し、SDEが与える状態連続拡散過程との対応について検討する。
特に、無限状態空間極限におけるオルンシュタイン・ウレンベック過程に収束する$\textit{Ehrenfest process}$を再考する。
同様に、エレンフェスト過程の時間反転が、時間反転するオルンシュタイン-ウレンベック過程に収束することを示すことができる。
この観測は離散的かつ連続的な状態空間を橋渡しし、各状態空間から各状態空間へのメソッドの受け渡しを可能にする。
さらに,条件付き期待値に依存するマルコフジャンププロセスの時間反転を学習するアルゴリズムを提案する。
提案手法を複数の数値実験で実証する。
関連論文リスト
- Adversarial Schrödinger Bridge Matching [66.39774923893103]
反復マルコフフィッティング(IMF)手順は、マルコフ過程の相互射影と相互射影を交互に交互に行う。
本稿では、プロセスの学習を離散時間でほんの少しの遷移確率の学習に置き換える新しい離散時間IMF(D-IMF)手順を提案する。
D-IMFの手続きは、数百ではなく数世代のステップで、IMFと同じ品質の未完成のドメイン翻訳を提供できることを示す。
論文 参考訳（メタデータ） (2024-05-23T11:29:33Z) - Using Ornstein-Uhlenbeck Process to understand Denoising Diffusion
Probabilistic Model and its Noise Schedules [3.4235611902516263]
拡散確率モデルDDPMを時相連続マルコフ過程で表現できることを示す。
驚いたことに、この連続時間マルコフ過程はよく知られ、よく研究されているオルンシュタイン・オレンベック過程である。
論文 参考訳（メタデータ） (2023-11-29T14:36:33Z) - DiffuSeq-v2: Bridging Discrete and Continuous Text Spaces for
Accelerated Seq2Seq Diffusion Models [58.450152413700586]
ガウス空間に基づく離散突然変異を再構成する学習において拡散モデルを容易にする軟吸収状態を導入する。
我々は、サンプリングプロセスの高速化のために、連続空間内で最先端のODEソルバを用いている。
提案手法は, トレーニング収束率を4倍に向上させ, 類似品質のサンプルを800倍高速に生成する。
論文 参考訳（メタデータ） (2023-10-09T15:29:10Z) - On the path integral simulation of space-time fractional Schroedinger
equation with time independent potentials [0.0]
時空分数Schroedinger方程式に関連するコーシー問題の解法として、ファインマン・カック経路積分法が提案されている。
我々は,空間時間分数拡散過程を,標準拡散の場合と同等の単純さと収束率でシミュレートすることができた。
論文 参考訳（メタデータ） (2023-06-25T20:14:40Z) - Inference and Sampling of Point Processes from Diffusion Excursions [26.111388335046197]
本稿では,潜伏拡散過程の状態の観点から,到着時刻の観測を記述した点過程構築を提案する。
伊藤の探索理論の発展に基づき,潜伏拡散過程から導かれる点過程を推定・サンプリングする手法を提案する。
論文 参考訳（メタデータ） (2023-06-01T14:56:23Z) - Blackout Diffusion: Generative Diffusion Models in Discrete-State Spaces [0.0]
前方拡散過程における任意の離散状態マルコフ過程の理論的定式化を開発する。
例えばBlackout Diffusion'は、ノイズからではなく、空のイメージからサンプルを生成することを学習する。
論文 参考訳（メタデータ） (2023-05-18T16:24:12Z) - ShiftDDPMs: Exploring Conditional Diffusion Models by Shifting Diffusion
Trajectories [144.03939123870416]
本稿では,前処理に条件を導入することで,新しい条件拡散モデルを提案する。
いくつかのシフト規則に基づいて各条件に対して排他的拡散軌跡を割り当てるために、余剰潜在空間を用いる。
我々は textbfShiftDDPMs と呼ぶメソッドを定式化し、既存のメソッドの統一的な視点を提供する。
論文 参考訳（メタデータ） (2023-02-05T12:48:21Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳（メタデータ） (2022-11-30T05:33:29Z) - Contrastive learning of strong-mixing continuous-time stochastic
processes [53.82893653745542]
コントラスト学習(Contrastive Learning)は、ラベルのないデータから構築された分類タスクを解決するためにモデルを訓練する自己指導型の手法のファミリーである。
拡散の場合,小～中距離間隔の遷移カーネルを適切に構築したコントラスト学習タスクを用いて推定できることが示される。
論文 参考訳（メタデータ） (2021-03-03T23:06:47Z) - The Connection between Discrete- and Continuous-Time Descriptions of
Gaussian Continuous Processes [60.35125735474386]
我々は、一貫した推定子をもたらす離散化が粗粒化下での不変性を持つことを示す。
この結果は、導関数再構成のための微分スキームと局所時間推論アプローチの組み合わせが、2次または高次微分方程式の時系列解析に役立たない理由を説明する。
論文 参考訳（メタデータ） (2021-01-16T17:11:02Z) - Discovering Causal Structure with Reproducing-Kernel Hilbert Space
$\epsilon$-Machines [0.0]
本稿では,システム動作の観察から因果構造を直接推定する手法を提案する。
外部および測定ノイズレベルが異なる場合の因果構造を頑健に推定する。
論文 参考訳（メタデータ） (2020-11-23T23:41:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。