論文の概要: Metropolis Sampling for Constrained Diffusion Models
- arxiv url: http://arxiv.org/abs/2307.05439v2
- Date: Thu, 9 Nov 2023 16:58:21 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-10 17:58:10.546237
- Title: Metropolis Sampling for Constrained Diffusion Models
- Title(参考訳): 制限拡散モデルのためのメトロポリスサンプリング
- Authors: Nic Fishman, Leo Klarner, Emile Mathieu, Michael Hutchinson, Valentin
de Bortoli
- Abstract要約: 近年,画像領域における生成モデルの主要なパラダイムとして拡散モデルが出現している。
我々は、ブラウン運動を反映した、別の単純ノルマント化スキームを導入する。
- 参考スコア(独自算出の注目度): 11.488860260925504
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Denoising diffusion models have recently emerged as the predominant paradigm
for generative modelling on image domains. In addition, their extension to
Riemannian manifolds has facilitated a range of applications across the natural
sciences. While many of these problems stand to benefit from the ability to
specify arbitrary, domain-informed constraints, this setting is not covered by
the existing (Riemannian) diffusion model methodology. Recent work has
attempted to address this issue by constructing novel noising processes based
on the reflected Brownian motion and logarithmic barrier methods. However, the
associated samplers are either computationally burdensome or only apply to
convex subsets of Euclidean space. In this paper, we introduce an alternative,
simple noising scheme based on Metropolis sampling that affords substantial
gains in computational efficiency and empirical performance compared to the
earlier samplers. Of independent interest, we prove that this new process
corresponds to a valid discretisation of the reflected Brownian motion. We
demonstrate the scalability and flexibility of our approach on a range of
problem settings with convex and non-convex constraints, including applications
from geospatial modelling, robotics and protein design.
- Abstract(参考訳): 近年,画像領域における生成モデルの主要なパラダイムとして拡散モデルが出現している。
さらに、リーマン多様体へのそれらの拡張は、自然科学の幅広い応用を促進した。
これらの問題の多くは、任意のドメインに依存しない制約を指定する能力の恩恵を受けるが、この設定は既存の(リーマン的)拡散モデル方法論には適用されない。
最近の研究は、反射ブラウン運動と対数障壁法に基づく新しいノーミングプロセスを構築してこの問題に対処しようと試みている。
しかし、関連するサンプルは計算的に重荷となるか、ユークリッド空間の凸部分集合にのみ適用される。
本稿では,メトロポリスのサンプリングをベースとした,従来のサンプルに比べて計算効率と経験的性能を大幅に向上させる,簡易な表記法を提案する。
独立利害関係において、この新しい過程は反射ブラウン運動の正当な離散化に対応することが証明される。
我々は,空間モデリング,ロボット工学,タンパク質設計などの応用を含む,凸制約や非凸制約を伴う様々な問題設定に対するアプローチのスケーラビリティと柔軟性を実証する。
関連論文リスト
- A Diffusion Model Framework for Unsupervised Neural Combinatorial Optimization [7.378582040635655]
現在のディープラーニングアプローチは、正確なサンプル確率を生み出す生成モデルに依存している。
この研究は、この制限を解除し、高度に表現力のある潜在変数モデルを採用する可能性を開放する手法を導入する。
我々は,データフリーなコンビネーション最適化におけるアプローチを実験的に検証し,幅広いベンチマーク問題に対して新しい最先端の手法を実現することを実証した。
論文 参考訳(メタデータ) (2024-06-03T17:55:02Z) - Reflected Schr\"odinger Bridge for Constrained Generative Modeling [16.72888494254555]
反射拡散モデルは、現実の応用における大規模生成モデルのゴートメソッドとなっている。
本稿では,様々な領域内でデータを生成するために最適化されたエントロピー規則化された最適輸送手法であるReflectioned Schrodinger Bridgeアルゴリズムを紹介する。
提案アルゴリズムは,多様な領域におけるロバストな生成モデリングを実現し,そのスケーラビリティは,標準画像ベンチマークによる実世界の制約付き生成モデリングにおいて実証される。
論文 参考訳(メタデータ) (2024-01-06T14:39:58Z) - Multi-Response Heteroscedastic Gaussian Process Models and Their
Inference [1.52292571922932]
本稿ではヘテロセダスティック共分散関数のモデリングのための新しいフレームワークを提案する。
後部モデルに近似し, 後部予測モデルを容易にするために, 変分推論を用いる。
提案するフレームワークは,幅広いアプリケーションに対して,堅牢で汎用的なツールを提供する。
論文 参考訳(メタデータ) (2023-08-29T15:06:47Z) - Geometric Neural Diffusion Processes [55.891428654434634]
拡散モデルの枠組みを拡張して、無限次元モデリングに一連の幾何学的先行を組み込む。
これらの条件で、生成関数モデルが同じ対称性を持つことを示す。
論文 参考訳(メタデータ) (2023-07-11T16:51:38Z) - A Variational Perspective on Solving Inverse Problems with Diffusion
Models [101.831766524264]
逆タスクは、データ上の後続分布を推測するものとして定式化することができる。
しかし、拡散過程の非線形的かつ反復的な性質が後部を引き付けるため、拡散モデルではこれは困難である。
そこで我々は,真の後続分布を近似する設計手法を提案する。
論文 参考訳(メタデータ) (2023-05-07T23:00:47Z) - Diffusion Models for Constrained Domains [11.488860260925504]
我々は, (i) 対数障壁距離と (ii) 制約によって誘導されるブラウン運動に基づく2つの異なる雑音化過程を示す。
次に、ロボット工学やタンパク質設計の応用を含む、多くの合成および実世界のタスクにおいて、我々の手法の実用性を実証する。
論文 参考訳(メタデータ) (2023-04-11T17:19:45Z) - Flow-based sampling in the lattice Schwinger model at criticality [54.48885403692739]
フローベースアルゴリズムは、格子場理論への応用のためのフィールド分布の効率的なサンプリングを提供することができる。
フェルミオン質量の臨界値におけるシュウィンガーモデルにおけるロバストな流れに基づくサンプリングの数値的な実演を行う。
論文 参考訳(メタデータ) (2022-02-23T19:00:00Z) - Riemannian Score-Based Generative Modeling [56.20669989459281]
経験的性能を示すスコアベース生成モデル(SGM)を紹介する。
現在のSGMは、そのデータが平坦な幾何学を持つユークリッド多様体上で支えられているという前提を定めている。
これにより、ロボット工学、地球科学、タンパク質モデリングの応用にこれらのモデルを使用することができない。
論文 参考訳(メタデータ) (2022-02-06T11:57:39Z) - A Twin Neural Model for Uplift [59.38563723706796]
Upliftは条件付き治療効果モデリングの特定のケースです。
相対リスクのベイズ解釈との関連性を利用して定義した新たな損失関数を提案する。
本提案手法は,シミュレーション設定の最先端と大規模ランダム化実験による実データとの競合性を示す。
論文 参考訳(メタデータ) (2021-05-11T16:02:39Z) - Leveraging Global Parameters for Flow-based Neural Posterior Estimation [90.21090932619695]
実験観測に基づくモデルのパラメータを推定することは、科学的方法の中心である。
特に困難な設定は、モデルが強く不確定であるとき、すなわち、パラメータの異なるセットが同一の観測をもたらすときである。
本稿では,グローバルパラメータを共有する観測の補助的セットによって伝達される付加情報を利用して,その不確定性を破る手法を提案する。
論文 参考訳(メタデータ) (2021-02-12T12:23:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。