論文の概要: Interpolating Discrete Diffusion Models with Controllable Resampling

• arxiv url: http://arxiv.org/abs/2604.17310v1
• Date: Sun, 19 Apr 2026 07:55:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-21 21:52:52.455976
• Title: Interpolating Discrete Diffusion Models with Controllable Resampling
• Title（参考訳）: 制御可能な再サンプリングによる離散拡散モデルの補間
• Authors: Marcel Kollovieh, Sirine Ayadi, Stephan Günnemann,
• Abstract要約: 仮面拡散モデルは初期解凍による不可逆誤差に悩まされる。 自己補正が可能であるにもかかわらず、一様拡散モデルは、しばしば低品質のサンプルを生成する。 本稿では,中間潜伏状態への依存を減らすことで拡散を改善する補間離散拡散モデルを提案する。
• 参考スコア（独自算出の注目度）: 49.771004594828405
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Discrete diffusion models form a powerful class of generative models across diverse domains, including text and graphs. However, existing approaches face fundamental limitations. Masked diffusion models suffer from irreversible errors due to early unmasking, while uniform diffusion models, despite enabling self-correction, often yield low-quality samples due to their strong reliance on intermediate latent states. We introduce IDDM, an Interpolating Discrete Diffusion Model, that improves diffusion by reducing dependence on intermediate latent states. Central to IDDM is a controllable resampling mechanism that partially resets probability mass to the marginal distribution, mitigating error accumulation and enabling more effective token corrections. IDDM specifies a generative process whose transitions interpolate between staying at the current state, resampling from a prior, and flipping toward the target state, while enforcing marginal consistency and fully decoupling training from inference. We benchmark our model against state-of-the-art discrete diffusion models across molecular graph generation as well as text generation tasks, demonstrating competitive performance.
• Abstract（参考訳）: 離散拡散モデルは、テキストやグラフを含む様々な領域にわたる強力な生成モデルのクラスを形成する。 しかし、既存のアプローチは基本的な制限に直面している。 仮面拡散モデルは初期の非マスキークによる不可逆誤差に悩まされる一方、均一拡散モデルは自己補正が可能であるにもかかわらず、中性潜伏状態への強い依存のため、しばしば低品質のサンプルを生成する。 補間離散拡散モデルであるIDDMを導入し、中間潜時状態への依存を減らすことにより拡散を改善する。 中央のIDDMは制御可能な再サンプリング機構であり、確率質量を限界分布に部分的にリセットし、誤りの蓄積を緩和し、より効果的なトークン補正を可能にする。 IDDMは、遷移が現在の状態に留まり、以前の状態から再サンプリングし、ターゲット状態に向かって反転する間に介在する生成過程を規定する。 我々は,分子グラフ生成およびテキスト生成タスクにおける最先端の離散拡散モデルに対してベンチマークを行い,競合性能を実証した。

関連論文リスト

• Simple and Critical Iterative Denoising: A Recasting of Discrete Diffusion in Graph Generation [0.0]
  中間ノイズ状態間の依存関係は、逆ノイズ化プロセス中にエラーの蓄積と伝播を引き起こす。 本稿では, 離散拡散を単純化し, 問題を回避し, 簡易反復分解という新しい枠組みを提案する。 実験により,提案手法はグラフ生成タスクにおいて既存の離散拡散ベースラインを著しく上回ることを示す。
  論文  参考訳（メタデータ） (2025-03-27T15:08:58Z)
• Generalized Interpolating Discrete Diffusion [65.74168524007484]
  仮面拡散はその単純さと有効性のために一般的な選択である。 ノイズ発生過程の設計において、より柔軟性の高い離散拡散(GIDD)を補間する新しいファミリを一般化する。 GIDDの柔軟性をエクスプロイトし、マスクと均一ノイズを組み合わせたハイブリッドアプローチを探索し、サンプル品質を向上する。
  論文  参考訳（メタデータ） (2025-03-06T14:30:55Z)
• Remasking Discrete Diffusion Models with Inference-Time Scaling [21.362017006523086]
  マスク付き拡散モデルに適用可能な手法であるリマスキー拡散モデル(ReMDM)を原則的に導入する。 最も興味深いことに、ReMDMは推論時間計算スケーリングの形で離散拡散を許容する。
  論文  参考訳（メタデータ） (2025-03-01T02:37:51Z)
• Continuous Diffusion Model for Language Modeling [64.7425225935854]
  離散的データに対する既存の連続拡散モデルは離散的手法と比較して性能が劣る。 本稿では,下層の分類分布の幾何学を組み込んだ言語モデリングのための連続拡散モデルを提案する。 本手法は,既存の離散拡散モデルより優れ,自己回帰モデルの性能にアプローチする。
  論文  参考訳（メタデータ） (2025-02-17T08:54:29Z)
• Simple Guidance Mechanisms for Discrete Diffusion Models [44.377206440698586]
  我々は、均一ノイズを利用した新しい拡散モデルを開発し、その出力を連続的に編集できるため、より誘導可能である。 我々はこれらのモデルの品質を、最先端の性能をもたらす新しい連続時間変動下界で改善する。
  論文  参考訳（メタデータ） (2024-12-13T15:08:30Z)
• Neural Diffusion Models [2.1779479916071067]
  本稿では,データの時間依存非線形変換の定義と学習を可能にする,従来の拡散モデルの一般化について述べる。 NDMは、可能性の観点から従来の拡散モデルより優れ、高品質なサンプルを生成する。
  論文  参考訳（メタデータ） (2023-10-12T13:54:55Z)
• On Error Propagation of Diffusion Models [77.91480554418048]
  DMのアーキテクチャにおける誤り伝播を数学的に定式化するための理論的枠組みを開発する。 累積誤差を正規化項として適用して誤差伝搬を低減する。 提案した正規化はエラーの伝播を低減し,バニラDMを大幅に改善し,以前のベースラインよりも優れていた。
  論文  参考訳（メタデータ） (2023-08-09T15:31:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。