論文の概要: Interleaved Gibbs Diffusion for Constrained Generation

• arxiv url: http://arxiv.org/abs/2502.13450v1
• Date: Wed, 19 Feb 2025 05:51:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-20 14:01:01.662129
• Title: Interleaved Gibbs Diffusion for Constrained Generation
• Title（参考訳）: 制約生成のためのインターリーブギブズ拡散
• Authors: Gautham Govind Anil, Sachin Yadav, Dheeraj Nagaraj, Karthikeyan Shanmugam, Prateek Jain,
• Abstract要約: 混合連続離散データのための新しい生成モデリングフレームワークであるInterleaved Gibbs Diffusion (IGD)を紹介する。 IGDは、離散時間ギブスサンプリング型マルコフ連鎖を介して、連続的および離散的復号化アルゴリズムをインターリーブすることによって、これを克服する。 3つの課題である3-SATの解決、分子構造の生成、レイアウトの実証化に関する実証的評価。
• 参考スコア（独自算出の注目度）: 30.624303845550575
• License:
• Abstract: We introduce Interleaved Gibbs Diffusion (IGD), a novel generative modeling framework for mixed continuous-discrete data, focusing on constrained generation problems. Prior works on discrete and continuous-discrete diffusion models assume factorized denoising distribution for fast generation, which can hinder the modeling of strong dependencies between random variables encountered in constrained generation. IGD moves beyond this by interleaving continuous and discrete denoising algorithms via a discrete time Gibbs sampling type Markov chain. IGD provides flexibility in the choice of denoisers, allows conditional generation via state-space doubling and inference time scaling via the ReDeNoise method. Empirical evaluations on three challenging tasks-solving 3-SAT, generating molecule structures, and generating layouts-demonstrate state-of-the-art performance. Notably, IGD achieves a 7% improvement on 3-SAT out of the box and achieves state-of-the-art results in molecule generation without relying on equivariant diffusion or domain-specific architectures. We explore a wide range of modeling, and interleaving strategies along with hyperparameters in each of these problems.
• Abstract（参考訳）: 混合連続離散データのための新しい生成モデリングフレームワークであるInterleaved Gibbs Diffusion (IGD)を導入し,制約付き生成問題に着目した。 離散および連続離散拡散モデルに関する先行研究は、高速な生成のための分解分解分布を仮定し、制約された生成で遭遇する確率変数間の強い依存関係のモデリングを妨げる。 IGDは、離散時間ギブスサンプリング型マルコフ連鎖を介して、連続的および離散的復号化アルゴリズムをインターリーブすることによって、これを克服する。 IGDはデノイザの選択に柔軟性を提供し、状態空間の倍増とReDeNoiseメソッドによる推論時間のスケーリングによる条件生成を可能にする。 3つの課題である3-SATの解決、分子構造の生成、レイアウトの実証化に関する実証的評価。 特に、IGDは3-SATを最初から7%改善し、同変拡散やドメイン固有のアーキテクチャに頼ることなく、最先端の分子生成を達成している。 これらの問題のそれぞれに、ハイパーパラメータとともに、幅広いモデリングとインターリーブ戦略について検討する。

関連論文リスト

• On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
  拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。 本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
  論文  参考訳（メタデータ） (2024-05-18T15:59:41Z)
• Unified Generative Modeling of 3D Molecules via Bayesian Flow Networks [19.351562908683334]
  GeoBFNは、分布の微分可能なパラメータ空間における様々なモジュラリティをモデル化することによって、分子幾何学に自然に適合する。 我々はGeoBFNが生成品質の観点から,複数の3次元分子生成ベンチマークにおける最先端性能を実現することを実証した。 GeoBFNはまた、効率と品質の最適なトレードオフに到達するために、任意のステップでサンプリングを行うこともできる。
  論文  参考訳（メタデータ） (2024-03-17T08:40:06Z)
• Convergence Analysis of Discrete Diffusion Model: Exact Implementation through Uniformization [17.535229185525353]
  連続マルコフ連鎖の均一化を利用したアルゴリズムを導入し、ランダムな時間点の遷移を実装した。 我々の結果は、$mathbbRd$における拡散モデルの最先端の成果と一致し、さらに$mathbbRd$設定と比較して離散拡散モデルの利点を浮き彫りにする。
  論文  参考訳（メタデータ） (2024-02-12T22:26:52Z)
• Gaussian Mixture Solvers for Diffusion Models [84.83349474361204]
  本稿では,拡散モデルのためのGMSと呼ばれる,SDEに基づく新しい解法について紹介する。 画像生成およびストロークベース合成におけるサンプル品質の観点から,SDEに基づく多くの解法よりも優れる。
  論文  参考訳（メタデータ） (2023-11-02T02:05:38Z)
• Semi-Implicit Denoising Diffusion Models (SIDDMs) [50.30163684539586]
  Denoising Diffusion Probabilistic Models (DDPM)のような既存のモデルは、高品質で多様なサンプルを提供するが、本質的に多くの反復的なステップによって遅くなる。 暗黙的要因と明示的要因を一致させることにより、この問題に対処する新しいアプローチを導入する。 提案手法は拡散モデルに匹敵する生成性能と,少数のサンプリングステップを持つモデルに比較して非常に優れた結果が得られることを示す。
  論文  参考訳（メタデータ） (2023-06-21T18:49:22Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• Conditional Denoising Diffusion for Sequential Recommendation [62.127862728308045]
  GAN(Generative Adversarial Networks)とVAE(VAE)の2つの顕著な生成モデル GANは不安定な最適化に苦しむ一方、VAEは後続の崩壊と過度に平らな世代である。 本稿では,シーケンスエンコーダ,クロスアテンティブデノナイジングデコーダ,ステップワイズディフューザを含む条件付きデノナイジング拡散モデルを提案する。
  論文  参考訳（メタデータ） (2023-04-22T15:32:59Z)
• DINOISER: Diffused Conditional Sequence Learning by Manipulating Noises [38.72460741779243]
  ノイズを操作することでシーケンス生成のための拡散モデルを容易にするためにDINOISERを導入する。 実験により、DINOISERは、従来の拡散に基づくシーケンス生成モデルのベースラインよりも一貫した改善を可能にすることが示された。
  論文  参考訳（メタデータ） (2023-02-20T15:14:46Z)
• Modiff: Action-Conditioned 3D Motion Generation with Denoising Diffusion Probabilistic Models [58.357180353368896]
  本稿では,現実的で多様な3D骨格に基づく運動生成問題に対処するために,拡散確率モデル(DDPM)の利点を生かした条件付きパラダイムを提案する。 我々はDDPMを用いてカテゴリ的動作で条件付けられた動作列の可変数を合成する先駆的な試みである。
  論文  参考訳（メタデータ） (2023-01-10T13:15:42Z)
• Structured Denoising Diffusion Models in Discrete State-Spaces [15.488176444698404]
  本稿では離散化拡散確率モデル(D3PM)を離散データに適用する。 遷移行列の選択は、画像およびテキスト領域における結果の改善につながる重要な設計決定である。 テキストでは、このモデルクラスは、LM1B上の大きな語彙にスケールしながら、文字レベルのテキスト生成に強い結果をもたらす。
  論文  参考訳（メタデータ） (2021-07-07T04:11:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。