論文の概要: A Discrete-Time Variational Objective for Degenerate Diffusion and Equivalence to Flow Matching
- arxiv url: http://arxiv.org/abs/2611.00800v2
- Date: Tue, 03 Nov 2026 11:11:38 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-04 17:55:14.09519
- Title: A Discrete-Time Variational Objective for Degenerate Diffusion and Equivalence to Flow Matching
- Title（参考訳）: 縮退拡散と流れマッチングの等価性のための離散時間変分対象
- Abstract要約: 流れモデルと退化拡散モデルとの形式的等価性を示す。
離散時間変動の目的のために、最適な退化生成器がデータ分布を復元することを示す。
- 参考スコア（独自算出の注目度）: 5.318714370865812
- License:
- Abstract: Diffusion models and more recently Flow models have widespread application. In this work we consider degenerate Diffusion models in which the per-step generator is deterministic. We construct a modified variational framework and show a formal equivalence between Flow models and Degenerate Diffusion models. For our discrete-time variational objective we show that the optimal degenerate generator recovers the data distribution in the limit of an infinite number of generator steps. Our work therefore provides a unified perspective, showing that discrete-time implementations of flow matching and the discrete-time Degenerate Diffusion model can be considered within the same simple variational framework, removing the need for the continuous-time machinery normally used to justify flow matching models.
- Abstract（参考訳）: 拡散モデルや近年のフローモデルは広く応用されている。
本研究では,ステップごとのジェネレータが決定論的である縮退拡散モデルについて考察する。
本研究では,変分フレームワークを構築し,フローモデルと退化拡散モデルとの形式的等価性を示す。
離散時間変動の目的のために、最適退化生成器は、無限個のジェネレータステップの極限でデータ分布を復元することを示す。
そこで本研究は,フローマッチングの離散時間実装と離散時間縮退モデルが同一の単純な変分フレームワーク内で考慮可能であることを示し,フローマッチングモデルを正当化するために通常使用される連続時間機械の必要性を排除した。
関連論文リスト
- An ODE-based Sampler for Discrete Diffusion Models [60.57381388241996]
離散拡散モデルに対する指数的残留流(ERF)を導入する。
ERFは、断片的に定義されたODEに従って決定的に進化する。
我々は,サンプルの実用的な離散化を導き,マスク付き均一拡散に特化する。
論文 参考訳（メタデータ） (2026-10-29T17:55:25Z) - Interpolating Discrete Diffusion Models with Controllable Resampling [49.771004594828405]
仮面拡散モデルは初期解凍による不可逆誤差に悩まされる。
自己補正が可能であるにもかかわらず、一様拡散モデルは、しばしば低品質のサンプルを生成する。
本稿では,中間潜伏状態への依存を減らすことで拡散を改善する補間離散拡散モデルを提案する。
論文 参考訳（メタデータ） (2026-04-19T07:55:57Z) - Continuous Diffusion Model for Language Modeling [64.7425225935854]
離散的データに対する既存の連続拡散モデルは離散的手法と比較して性能が劣る。
本稿では,下層の分類分布の幾何学を組み込んだ言語モデリングのための連続拡散モデルを提案する。
本手法は,既存の離散拡散モデルより優れ,自己回帰モデルの性能にアプローチする。
論文 参考訳（メタデータ） (2025-02-17T08:54:29Z) - Accelerated Diffusion Models via Speculative Sampling [89.43940130493233]
投機的サンプリングは、大規模言語モデルにおける推論を加速する一般的な手法である。
我々は投機的サンプリングを拡散モデルに拡張し、連続したベクトル値のマルコフ連鎖を介してサンプルを生成する。
本稿では,ドラフトモデルをトレーニングする必要のない,シンプルで効果的なアプローチを含む,さまざまなドラフト戦略を提案する。
論文 参考訳（メタデータ） (2025-01-09T16:50:16Z) - Distillation of Discrete Diffusion through Dimensional Correlations [21.078500510691747]
「ミクチャー」モデルは、拡張性を維持しながら次元相関を扱える。
損失関数により、混合モデルは、次元相関を学習することで、そのような多くのステップの従来のモデルをほんの数ステップに蒸留することができる。
その結果、画像領域と言語領域をまたいだ事前学習した離散拡散モデルの蒸留における提案手法の有効性が示された。
論文 参考訳（メタデータ） (2024-10-11T10:53:03Z) - Convergence Analysis of Discrete Diffusion Model: Exact Implementation
through Uniformization [17.535229185525353]
連続マルコフ連鎖の均一化を利用したアルゴリズムを導入し、ランダムな時間点の遷移を実装した。
我々の結果は、$mathbbRd$における拡散モデルの最先端の成果と一致し、さらに$mathbbRd$設定と比較して離散拡散モデルの利点を浮き彫りにする。
論文 参考訳（メタデータ） (2024-02-12T22:26:52Z) - Renormalizing Diffusion Models [0.7252027234425334]
拡散モデルを用いて、統計および量子場理論の逆再正規化群フローを学習する。
我々の研究は、多スケール拡散モデルの解釈を提供し、新しい性質を持つべき拡散モデルに対する物理的に着想を得た提案を与える。
論文 参考訳（メタデータ） (2023-08-23T18:02:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。