論文の概要: Discrete diffusion samplers and bridges: Off-policy algorithms and applications in latent spaces
- arxiv url: http://arxiv.org/abs/2602.05961v1
- Date: Thu, 05 Feb 2026 18:16:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-06 18:49:09.109381
- Title: Discrete diffusion samplers and bridges: Off-policy algorithms and applications in latent spaces
- Title(参考訳): 離散拡散サンプリング器とブリッジ:非政治アルゴリズムと潜在空間への応用
- Authors: Arran Carter, Sanghyeok Choi, Kirill Tamogashev, Víctor Elvira, Nikolay Malkin,
- Abstract要約: 離散拡散サンプリングのためのオフ・ポリシー・トレーニング手法を導入する。
これらの手法により, 確立されたベンチマークと新しいベンチマークの両方において, 離散サンプリング性能が向上することを示す。
最後に,画像生成モデルの離散潜在空間におけるデータフリー後方サンプリングへの拡散サンプリングの適用について述べる。
- 参考スコア(独自算出の注目度): 25.53140530160344
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Sampling from a distribution $p(x) \propto e^{-\mathcal{E}(x)}$ known up to a normalising constant is an important and challenging problem in statistics. Recent years have seen the rise of a new family of amortised sampling algorithms, commonly referred to as diffusion samplers, that enable fast and efficient sampling from an unnormalised density. Such algorithms have been widely studied for continuous-space sampling tasks; however, their application to problems in discrete space remains largely unexplored. Although some progress has been made in this area, discrete diffusion samplers do not take full advantage of ideas commonly used for continuous-space sampling. In this paper, we propose to bridge this gap by introducing off-policy training techniques for discrete diffusion samplers. We show that these techniques improve the performance of discrete samplers on both established and new synthetic benchmarks. Next, we generalise discrete diffusion samplers to the task of bridging between two arbitrary distributions, introducing data-to-energy Schrödinger bridge training for the discrete domain for the first time. Lastly, we showcase the application of the proposed diffusion samplers to data-free posterior sampling in the discrete latent spaces of image generative models.
- Abstract(参考訳): 正規化定数に既知の分布 $p(x) \propto e^{-\mathcal{E}(x)}$ からサンプリングすることは統計学において重要な問題である。
近年では、非正規化密度から高速かつ効率的なサンプリングを可能にする、拡散サンプリングアルゴリズムと呼ばれる新しいファミリーが出現している。
このようなアルゴリズムは、連続空間サンプリングタスクのために広く研究されてきたが、離散空間における問題へのそれらの適用はいまだに未解明である。
この領域ではいくつかの進歩があったが、離散拡散サンプリング器は連続空間サンプリングによく使われるアイデアを十分に活用していない。
本稿では,離散拡散サンプリングのためのオフ政治訓練手法を導入することにより,このギャップを埋めることを提案する。
これらの手法により, 確立されたベンチマークと新しいベンチマークの両方において, 離散サンプリング性能が向上することを示す。
次に、離散拡散サンプリングを2つの任意の分布間のブリッジ作業に一般化し、離散領域に対するデータ-エネルギーシュレーディンガーブリッジトレーニングを初めて導入する。
最後に,画像生成モデルの離散潜在空間におけるデータフリー後方サンプリングへの拡散サンプリングの適用について述べる。
関連論文リスト
- On scalable and efficient training of diffusion samplers [31.34103908109394]
データがない場合、非正規化エネルギー分布からサンプルを採取するために拡散モデルを訓練することの課題に対処する。
そこで我々は,従来の強力なサンプリング手法と拡散サンプリングを適切に調和させる,スケーラブルでサンプル効率のよいフレームワークを提案する。
本手法は,拡散サンプリングの標準ベンチマークにおける試料効率を大幅に向上し,高次元問題や実世界の分子コンホメータ生成に優れる。
論文 参考訳(メタデータ) (2025-05-26T06:16:34Z) - Single-Step Consistent Diffusion Samplers [8.758218443992467]
既存のサンプリングアルゴリズムは通常、高品質なサンプルを作成するために多くの反復的なステップを必要とする。
単一ステップで高忠実度サンプルを生成するために設計された新しいサンプルクラスである,一貫した拡散サンプリングを導入している。
提案手法は,従来の拡散サンプリング装置で要求されるネットワーク評価の1%以下を用いて,高忠実度サンプルが得られることを示す。
論文 参考訳(メタデータ) (2025-02-11T14:25:52Z) - Learned Reference-based Diffusion Sampling for multi-modal distributions [2.1383136715042417]
本稿では,学習参照に基づく拡散サンプリング(LRDS)について紹介する。
LRDSは、高密度空間領域にあるサンプルの参照拡散モデルを学ぶことによって、2段階で進行する。
LRDSは、様々な難解な分布上の競合するアルゴリズムと比較して、目標分布に関する事前知識を最大限に活用することが実験的に実証された。
論文 参考訳(メタデータ) (2024-10-25T10:23:34Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Improved off-policy training of diffusion samplers [93.66433483772055]
本研究では,非正規化密度やエネルギー関数を持つ分布からサンプルを抽出する拡散モデルの訓練問題について検討する。
シミュレーションに基づく変分法や非政治手法など,拡散構造推論手法のベンチマークを行った。
我々の結果は、過去の研究の主張に疑問を投げかけながら、既存のアルゴリズムの相対的な利点を浮き彫りにした。
論文 参考訳(メタデータ) (2024-02-07T18:51:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。