論文の概要: A Unified Approach to Analysis and Design of Denoising Markov Models
- arxiv url: http://arxiv.org/abs/2504.01938v1
- Date: Wed, 02 Apr 2025 17:46:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-03 13:23:37.447491
- Title: A Unified Approach to Analysis and Design of Denoising Markov Models
- Title（参考訳）: マルコフモデルの解析と設計への統一的アプローチ
- Authors: Yinuo Ren, Grant M. Rotskoff, Lexing Ying,
- Abstract要約: 我々はマルコフモデルを決定するための厳密な数学的基盤を確立することを目指している。
本稿では,後方ジェネレータの明示的な構築を確実にするための仮定の最小セットを提案する。
我々のフレームワークは、連続および離散拡散モデルの既存の定式化を統一する。
- 参考スコア（独自算出の注目度）: 11.975300242253496
- License:
- Abstract: Probabilistic generative models based on measure transport, such as diffusion and flow-based models, are often formulated in the language of Markovian stochastic dynamics, where the choice of the underlying process impacts both algorithmic design choices and theoretical analysis. In this paper, we aim to establish a rigorous mathematical foundation for denoising Markov models, a broad class of generative models that postulate a forward process transitioning from the target distribution to a simple, easy-to-sample distribution, alongside a backward process particularly constructed to enable efficient sampling in the reverse direction. Leveraging deep connections with nonequilibrium statistical mechanics and generalized Doob's $h$-transform, we propose a minimal set of assumptions that ensure: (1) explicit construction of the backward generator, (2) a unified variational objective directly minimizing the measure transport discrepancy, and (3) adaptations of the classical score-matching approach across diverse dynamics. Our framework unifies existing formulations of continuous and discrete diffusion models, identifies the most general form of denoising Markov models under certain regularity assumptions on forward generators, and provides a systematic recipe for designing denoising Markov models driven by arbitrary L\'evy-type processes. We illustrate the versatility and practical effectiveness of our approach through novel denoising Markov models employing geometric Brownian motion and jump processes as forward dynamics, highlighting the framework's potential flexibility and capability in modeling complex distributions.
- Abstract（参考訳）: 拡散やフローベースモデルのような測度輸送に基づく確率的生成モデルはマルコフ確率力学の言語でしばしば定式化され、基礎となるプロセスの選択はアルゴリズム設計の選択と理論解析の両方に影響を与える。
本稿では,マルコフモデルに対する厳密な数学的基礎を確立することを目的としており,特に逆方向の効率的なサンプリングを可能にするために構築された逆方向のプロセスと並行して,対象分布から簡単なサンプル分布へ遷移する前進過程を仮定する広範囲な生成モデルである。
非平衡統計力学との深い接続を活用してDoobの$h$-transformを一般化し、(1)後方ジェネレータの明示的な構築、(2)測度輸送の相違を直接最小化する統一的変分目的、(3)古典的なスコアマッチングアプローチの様々な力学への適応を保証する仮定の最小セットを提案する。
我々のフレームワークは、連続および離散拡散モデルの既存の定式化を統一し、フォワードジェネレータ上の一定の規則性仮定の下でマルコフモデルを記述する最も一般的な形式を特定し、任意のL'evy型プロセスによって駆動されるマルコフモデルを設計するための体系的なレシピを提供する。
我々は、幾何学的ブラウン運動とジャンプ過程をフォワードダイナミクスとして用いたマルコフモデルを新規に記述し、複雑な分布をモデル化する際のフレームワークの柔軟性と能力を強調した。
関連論文リスト
- Accelerated Diffusion Models via Speculative Sampling [89.43940130493233]
投機的サンプリングは、大規模言語モデルにおける推論を加速する一般的な手法である。
我々は投機的サンプリングを拡散モデルに拡張し、連続したベクトル値のマルコフ連鎖を介してサンプルを生成する。
本稿では,ドラフトモデルをトレーニングする必要のない,シンプルで効果的なアプローチを含む,さまざまなドラフト戦略を提案する。
論文 参考訳（メタデータ） (2025-01-09T16:50:16Z) - Low-Rank Tensors for Multi-Dimensional Markov Models [33.35376484951434]
多次元状態空間上の遷移確率を表す低ランクテンソルを提案する。
提案したモデルでは,行列ベースのアプローチよりも少ないパラメータで類似表現が得られる。
論文 参考訳（メタデータ） (2024-11-04T14:06:49Z) - Latent Space Energy-based Neural ODEs [73.01344439786524]
本稿では,連続時間列を表現するために設計された新しい深部力学モデルを提案する。
マルコフ連鎖モンテカルロの最大推定値を用いてモデルを訓練する。
振動系, ビデオ, 実世界の状態系列(MuJoCo)の実験結果から, 学習可能なエネルギーベース先行モデルの方が既存のモデルより優れていることが示された。
論文 参考訳（メタデータ） (2024-09-05T18:14:22Z) - Linear Noise Approximation Assisted Bayesian Inference on Mechanistic Model of Partially Observed Stochastic Reaction Network [2.325005809983534]
本稿では、部分的に観察された酵素反応ネットワーク(SRN)に対する効率的なベイズ推論手法を開発する。
線形雑音近似(LNA)メタモデルを提案する。
マルコフ・チェイン・モンテカルロの収束を高速化するために、導出確率の勾配を利用して効率的な後方サンプリング手法を開発した。
論文 参考訳（メタデータ） (2024-05-05T01:54:21Z) - Differentiating Metropolis-Hastings to Optimize Intractable Densities [51.16801956665228]
我々はメトロポリス・ハスティングス検層の自動識別アルゴリズムを開発した。
難解な対象密度に対する期待値として表現された目的に対して勾配に基づく最適化を適用する。
論文 参考訳（メタデータ） (2023-06-13T17:56:02Z) - Diffusion Probabilistic Model Based Accurate and High-Degree-of-Freedom
Metasurface Inverse Design [14.18549701990854]
メタマテリアルの設計に最適化アルゴリズムを用いた逆設計法が導入された。
メタマテリアルの逆設計にGAN(Generative Adversarial Networks)で表されるディープラーニング手法を適用した。
本稿では拡散確率理論に基づく新しいメタマテリアル逆設計法を提案する。
論文 参考訳（メタデータ） (2023-04-25T08:25:23Z) - Modiff: Action-Conditioned 3D Motion Generation with Denoising Diffusion
Probabilistic Models [58.357180353368896]
本稿では,現実的で多様な3D骨格に基づく運動生成問題に対処するために,拡散確率モデル(DDPM)の利点を生かした条件付きパラダイムを提案する。
我々はDDPMを用いてカテゴリ的動作で条件付けられた動作列の可変数を合成する先駆的な試みである。
論文 参考訳（メタデータ） (2023-01-10T13:15:42Z) - Planning with Diffusion for Flexible Behavior Synthesis [125.24438991142573]
我々は、できるだけ多くの軌道最適化パイプラインをモデリング問題に折り畳むことがどう見えるか検討する。
我々の技術的アプローチの核心は、軌道を反復的にデノベーションすることで計画する拡散確率モデルにある。
論文 参考訳（メタデータ） (2022-05-20T07:02:03Z) - Variational Inference for Continuous-Time Switching Dynamical Systems [29.984955043675157]
従属拡散過程を変調したマルコフジャンプ過程に基づくモデルを提案する。
我々は,新しい連続時間変動推定アルゴリズムを開発した。
モデル仮定と実世界の実例に基づいて,我々のアルゴリズムを広範囲に評価する。
論文 参考訳（メタデータ） (2021-09-29T15:19:51Z) - Improving the Reconstruction of Disentangled Representation Learners via Multi-Stage Modeling [54.94763543386523]
現在の自己エンコーダに基づく非絡み合い表現学習法は、(集合体)後部をペナルティ化し、潜伏因子の統計的独立を促進することで、非絡み合いを実現する。
本稿では,不整合因子をペナルティに基づく不整合表現学習法を用いて学習する,新しい多段階モデリング手法を提案する。
次に、低品質な再構成を、欠落した関連潜伏変数をモデル化するために訓練された別の深層生成モデルで改善する。
論文 参考訳（メタデータ） (2020-10-25T18:51:15Z) - Modeling Continuous Stochastic Processes with Dynamic Normalizing Flows [40.9137348900942]
ウィナー過程の微分変形によって駆動される新しいタイプの流れを提案する。
その結果,観測可能なプロセスが基本プロセスの魅力的な特性の多くを継承するリッチ時系列モデルが得られた。
論文 参考訳（メタデータ） (2020-02-24T20:13:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。