論文の概要: Practical and Asymptotically Exact Conditional Sampling in Diffusion
Models
- arxiv url: http://arxiv.org/abs/2306.17775v1
- Date: Fri, 30 Jun 2023 16:29:44 GMT
- ステータス: 処理完了
- システム内更新日: 2023-07-03 11:47:08.386703
- Title: Practical and Asymptotically Exact Conditional Sampling in Diffusion
Models
- Title(参考訳): 拡散モデルにおける実測的・漸近的条件サンプリング
- Authors: Luhuan Wu, Brian L. Trippe, Christian A. Naesseth, David M. Blei, John
P. Cunningham
- Abstract要約: 条件生成法では,タスク固有の訓練を必要とせず,幅広い条件分布の正確なサンプルを提供する必要がある。
本稿では,拡散モデルの条件付きねじれをターゲットとしたモンテカルロ逐次アルゴリズムであるTwisted Diffusion Sampler(TDS)を提案する。
ベンチマークテストケースでは、TDSはフレキシブルなコンディショニング基準を可能にし、多くの場合、最先端の技術よりも優れています。
- 参考スコア(独自算出の注目度): 34.9972628113295
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion models have been successful on a range of conditional generation
tasks including molecular design and text-to-image generation. However, these
achievements have primarily depended on task-specific conditional training or
error-prone heuristic approximations. Ideally, a conditional generation method
should provide exact samples for a broad range of conditional distributions
without requiring task-specific training. To this end, we introduce the Twisted
Diffusion Sampler, or TDS. TDS is a sequential Monte Carlo (SMC) algorithm that
targets the conditional distributions of diffusion models. The main idea is to
use twisting, an SMC technique that enjoys good computational efficiency, to
incorporate heuristic approximations without compromising asymptotic exactness.
We first find in simulation and on MNIST image inpainting and class-conditional
generation tasks that TDS provides a computational statistical trade-off,
yielding more accurate approximations with many particles but with empirical
improvements over heuristics with as few as two particles. We then turn to
motif-scaffolding, a core task in protein design, using a TDS extension to
Riemannian diffusion models. On benchmark test cases, TDS allows flexible
conditioning criteria and often outperforms the state of the art.
- Abstract(参考訳): 拡散モデルは、分子設計やテキスト・ツー・イメージ生成を含む条件付きタスクで成功している。
しかし、これらの成果は主にタスク固有の条件付きトレーニングやエラーやすいヒューリスティック近似に依存している。
理想的には、条件生成法はタスク固有の訓練を必要とせず、幅広い条件分布に対して正確なサンプルを提供するべきである。
この目的のために、Twisted Diffusion Sampler(TDS)を紹介する。
TDSは、拡散モデルの条件分布をターゲットとしたシーケンシャルモンテカルロ(SMC)アルゴリズムである。
主なアイデアは、計算効率が良いSMC技法であるツイストを用いて、漸近的正確性を損なうことなくヒューリスティック近似を組み込むことである。
シミュレーションおよびMNIST画像の塗装およびクラス条件生成タスクにおいて、TDSが計算統計トレードオフを提供し、多くの粒子でより正確な近似を与えるが、2つの粒子でヒューリスティックスよりも経験的改善を与える。
次に,タンパク質設計のコアタスクであるモチーフスカフォールディングを,リーマン拡散モデルへのtds拡張を用いて行う。
ベンチマークテストケースでは、tdsは柔軟なコンディショニング基準を許容し、しばしばアートの状態を上回っている。
関連論文リスト
- Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
本報告では,明示的な次元の一般スコアミスマッチ拡散サンプリング器を用いた最初の性能保証について述べる。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Flow Matching with Gaussian Process Priors for Probabilistic Time Series Forecasting [43.951394031702016]
時系列の条件付きフローマッチング(CFM)モデルであるTSFlowを紹介する。
ガウス過程を(条件付き)組み込むことで、TSFlowは以前の分布をデータの時間構造とより密に整合させる。
条件付きモデルと非条件付きモデルの両方が,予測ベンチマークにおいて競合する結果が得られることを示す。
論文 参考訳(メタデータ) (2024-10-03T22:12:50Z) - Schr\"odinger bridge based deep conditional generative learning [0.0]
我々は条件分布を学習するための新しいSchr"odinger Bridgeに基づく深層生成手法を提案する。
本手法を低次元および高次元条件生成問題に適用する。
論文 参考訳(メタデータ) (2024-09-25T19:08:13Z) - Unveil Conditional Diffusion Models with Classifier-free Guidance: A Sharp Statistical Theory [87.00653989457834]
条件付き拡散モデルは現代の画像合成の基礎となり、計算生物学や強化学習などの分野に広く応用されている。
経験的成功にもかかわらず、条件拡散モデルの理論はほとんど欠落している。
本稿では,条件拡散モデルを用いた分布推定の急激な統計的理論を提示することにより,ギャップを埋める。
論文 参考訳(メタデータ) (2024-03-18T17:08:24Z) - Gaussian Mixture Solvers for Diffusion Models [84.83349474361204]
本稿では,拡散モデルのためのGMSと呼ばれる,SDEに基づく新しい解法について紹介する。
画像生成およびストロークベース合成におけるサンプル品質の観点から,SDEに基づく多くの解法よりも優れる。
論文 参考訳(メタデータ) (2023-11-02T02:05:38Z) - Steered Diffusion: A Generalized Framework for Plug-and-Play Conditional
Image Synthesis [62.07413805483241]
Steered Diffusionは、無条件生成のために訓練された拡散モデルを用いたゼロショット条件画像生成のためのフレームワークである。
塗装,着色,テキスト誘導セマンティック編集,画像超解像などのタスクに対して,ステアリング拡散を用いた実験を行った。
論文 参考訳(メタデータ) (2023-09-30T02:03:22Z) - Towards Controllable Diffusion Models via Reward-Guided Exploration [15.857464051475294]
強化学習(RL)による拡散モデルの学習段階を導く新しい枠組みを提案する。
RLは、政策そのものではなく、指数スケールの報酬に比例したペイオフ分布からのサンプルによる政策勾配を計算することができる。
3次元形状と分子生成タスクの実験は、既存の条件拡散モデルよりも大幅に改善されている。
論文 参考訳(メタデータ) (2023-04-14T13:51:26Z) - ShiftDDPMs: Exploring Conditional Diffusion Models by Shifting Diffusion
Trajectories [144.03939123870416]
本稿では,前処理に条件を導入することで,新しい条件拡散モデルを提案する。
いくつかのシフト規則に基づいて各条件に対して排他的拡散軌跡を割り当てるために、余剰潜在空間を用いる。
我々は textbfShiftDDPMs と呼ぶメソッドを定式化し、既存のメソッドの統一的な視点を提供する。
論文 参考訳(メタデータ) (2023-02-05T12:48:21Z) - Bi-Noising Diffusion: Towards Conditional Diffusion Models with
Generative Restoration Priors [64.24948495708337]
本研究では,事前訓練した非条件拡散モデルを用いて,予測サンプルをトレーニングデータ多様体に導入する手法を提案する。
我々は,超解像,着色,乱流除去,画像劣化作業におけるアプローチの有効性を実証するための総合的な実験を行った。
論文 参考訳(メタデータ) (2022-12-14T17:26:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。