論文の概要: Bernoulli Flow Models: Self-Consistent Generative Modeling for Binary Data
- arxiv url: http://arxiv.org/abs/2610.11362v1
- Date: Thu, 08 Oct 2026 06:52:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.847413
- Title: Bernoulli Flow Models: Self-Consistent Generative Modeling for Binary Data
- Title(参考訳): Bernoulli Flow Models: バイナリデータの自己一貫性生成モデル
- Abstract要約: 我々はバイナリ関数評価(NFE)を減らすためにBernoulli Flow Models (BFM)を提案する。
BFMはデータ分布と純雑音の間の連続的大域ベルヌーイ確率流路を定義する。
実験により、BFMは攻撃的なNFE還元に対して非常に堅牢であることが示された。
- 参考スコア(独自算出の注目度): 13.603261559990488
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Binary diffusion models typically require a large number of function evaluations (NFEs) to generate high-quality samples, making practical inference computationally expensive. Reducing NFEs while preserving sample quality without distillation or additional training remains a significant challenge. Existing binary diffusion models define a discrete one-step forward path and then derive the reverse posterior. In low-NFE settings requiring cross-step sampling, they approximate the true multi-step likelihood with a single-step likelihood transition, which severely degrades sample quality. To address this fundamental limitation and decouple the generative dynamics from fixed discrete time steps, we propose Bernoulli Flow Models (BFM). Rather than relying on sequential one-step Markov diffusion chains, BFM defines a unified continuous global Bernoulli probability flow path between data distributions and pure noise, from which we derive analytical closed-form posterior transitions over arbitrary time intervals. Consequently, reducing the inference NFE is no longer an approximation based on skipping discrete steps; it only requires re-evaluating the analytical posterior over a new time grid. This eliminates the structural training-inference mismatch inherent to discrete chains and yields self-consistent low-NFE sampling. Experiments show that BFM is highly robust to aggressive NFE reduction. On LSUN Churches 256x256, a BFM trained with 256 steps achieves an FID of 9.22 using only 16 sampling steps, whereas the state-of-the-art discrete baseline degrades to 204.10. BFM also remains competitive with continuous and discrete generative baselines under standard full-step inference. These results establish BFM as a theoretically rigorous, self-consistent, and practically effective framework for fast binary data generation.
- Abstract(参考訳): バイナリ拡散モデルは通常、高品質なサンプルを生成するために多数の関数評価(NFE)を必要とするため、実用的な推論は計算コストがかかる。
蒸留や追加の訓練なしに試料品質を維持しながらNFEを減少させることは大きな課題である。
既存のバイナリ拡散モデルでは、離散的な1ステップの前方経路を定義し、後続の後方経路を導出する。
クロスステップサンプリングを必要とする低NFE設定では、真のマルチステップの確率を1ステップの確率遷移と近似し、サンプルの品質を著しく低下させる。
この基本的制限に対処し、固定された離散時間ステップから生成力学を分離するために、ベルヌーイフローモデル(Bernoulli Flow Models, BFM)を提案する。
連続的な1ステップのマルコフ拡散連鎖に頼るのではなく、BFMはデータ分布と純雑音の間の連続的大域ベルヌーイ確率流路を定義し、任意の時間間隔で解析的な閉形式後続遷移を導出する。
したがって、推論 NFE の削減は、もはや離散的なステップをスキップした上での近似ではなく、新しい時間グリッドよりも分析後部を再評価するだけである。
これにより、離散鎖固有の構造的トレーニング-推論ミスマッチが排除され、自己一貫性の低い低NFEサンプリングが得られる。
実験により、BFMは攻撃的なNFE還元に対して非常に堅牢であることが示された。
LSUN教会の256x256では、256段の訓練を受けたBFMが16段のサンプリングステップのみを使用して9.22のFIDを達成する一方、最先端の離散ベースラインは204.10に低下する。
BFMはまた、標準的な全ステップ推論の下で連続的で離散的な生成ベースラインと競合し続けている。
これらの結果は、BFMを理論的に厳密で自己整合性があり、実用的なバイナリデータ生成のフレームワークとして確立する。
関連論文リスト
- A Time-Reparameterized Cumulative Intensity Extrapolation Sampler for Discrete Flow Matching [25.54630601391996]
TR-CIEは,機能評価の制限によるサンプリング品質の向上を目的としている。
累積強度の局所近似誤差を限定する理論解析を行う。
合成タスク,テキスト生成,テキスト・ツー・イメージのベンチマーク実験により,本手法は限られたNFE下でのサンプリング品質の向上を実証した。
論文 参考訳(メタデータ) (2026-06-23T04:48:45Z) - CAB: Accelerating Flow and Diffusion Sampling via Rectification and Corrected Adams-Bashforth [4.741100658955037]
フローと拡散モデルは高忠実で高解像度の画像合成を実現するが、サンプリング時に多くの機能評価(NFE)を必要とすることが多い。
CAB(Corrected Adams-Bashforth)は,フローモデルと拡散モデルの両方を高速化するトレーニング不要のサンプルシステムである。
論文 参考訳(メタデータ) (2026-05-16T01:16:18Z) - Scaling Categorical Flow Maps [29.25832277355597]
連続拡散とフローマッチングモデルは、言語モデリングにおける自己回帰的なアプローチの強力な代替となるかもしれない。
ほぼデータレベルのトークンエントロピーを維持しつつ,4ドル程度の推論ステップで多種多様な高品質テキストを生成する方法を示す。
これらのモデルを大規模にトレーニングすることで生じる課題を明らかにし、損失重み付けと時間スケジューリングに関する規範的な洞察を提供する。
論文 参考訳(メタデータ) (2026-05-08T14:50:57Z) - Posterior Augmented Flow Matching [64.1559809786948]
後拡張フローマッチング(PAFM)はフローマッチング(FM)の一般化である
PAFMは、異なるモデルスケールで最大3.4FID50KでFMよりも改善されていることを示す。
論文 参考訳(メタデータ) (2026-05-01T17:59:59Z) - Joint Distillation for Fast Likelihood Evaluation and Sampling in Flow-based Models [100.28111930893188]
今日の最高の生成モデルの中には、単一の可能性を計算するために、数百から数千の神経機能評価を必要とするものもあります。
本研究では, 高速流動継手蒸留法 (F2D2) を提案し, サンプリングに必要なNFEの数を2桁に減らした。
F2D2はモジュール構造であり、既存のフローベースの数ステップサンプリングモデルと互換性がある。
論文 参考訳(メタデータ) (2025-12-02T10:48:20Z) - Distributional Diffusion Models with Scoring Rules [83.38210785728994]
拡散モデルは高品質な合成データを生成する。
高品質な出力を生成するには、多くの離散化ステップが必要です。
クリーンデータサンプルの後部エム分布を学習し,サンプル生成を実現することを提案する。
論文 参考訳(メタデータ) (2025-02-04T16:59:03Z) - Improving and generalizing flow-based generative models with minibatch
optimal transport [90.01613198337833]
連続正規化フロー(CNF)のための一般条件流整合(CFM)技術を導入する。
CFMは、拡散モデルのフローをトレーニングするために使用されるような安定した回帰目標を特徴としているが、決定論的フローモデルの効率的な推論を好んでいる。
我々の目的の変種は最適輸送CFM (OT-CFM) であり、訓練がより安定し、より高速な推論をもたらすより単純なフローを生成する。
論文 参考訳(メタデータ) (2023-02-01T14:47:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。