論文の概要: A Time-Reparameterized Cumulative Intensity Extrapolation Sampler for Discrete Flow Matching
- arxiv url: http://arxiv.org/abs/2606.24140v1
- Date: Tue, 23 Jun 2026 04:48:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-24 22:16:48.7657
- Title: A Time-Reparameterized Cumulative Intensity Extrapolation Sampler for Discrete Flow Matching
- Title(参考訳): 離散フローマッチングのための時間パラメータ化累積インテンシティ外挿サンプリング
- Authors: Feiyang Fu, Hehe Fan,
- Abstract要約: TR-CIEは,機能評価の制限によるサンプリング品質の向上を目的としている。
累積強度の局所近似誤差を限定する理論解析を行う。
合成タスク,テキスト生成,テキスト・ツー・イメージのベンチマーク実験により,本手法は限られたNFE下でのサンプリング品質の向上を実証した。
- 参考スコア(独自算出の注目度): 25.54630601391996
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Discrete flow matching (DFM) provides a principled framework for generative modeling on discrete state spaces via continuous-time Markov chain dynamics. In practice, sampling for DFM commonly employs discretizations such as $τ$-leaping, yet efficient sampling methods under a limited number of function evaluations (NFE) remain less studied. To address this gap, we propose the Time-Reparameterized Cumulative Intensity Extrapolation (TR-CIE) sampler, which aims to improve sampling quality when function evaluations are restricted. TR-CIE consists of two components. First, a schedule-based time reparameterization rescales the time grid according to the noise schedule. Under standard factorized DFM rate parameterizations, this transformation of variables absorbs the schedule-dependent growth term and mitigates stiffness near the terminal sampling stage. Second, we introduce a cumulative-intensity extrapolation updating rule. By reusing cached model outputs from the previous step as a history term, this improves the approximation of stepwise cumulative intensities on the resulting non-uniform time grid. We provide a theoretical analysis that bounds the local approximation error of cumulative intensities and establishes convergence results. The resulting sampler requires one NFE per step and introduces no additional model evaluations compared to the standard $τ$-leaping sampler. Extensive experiments on synthetic tasks, text generation, and text-to-image benchmarks demonstrate that our method improves sampling quality under limited NFE.
- Abstract(参考訳): 離散フローマッチング(DFM)は、連続時間マルコフ連鎖力学を介して離散状態空間を生成モデリングするための原則的なフレームワークを提供する。
実際には、DFMのサンプリングは、一般に$τ$-leapingのような離散化を用いるが、限られた関数評価(NFE)の下での効率的なサンプリング手法は研究が進んでいない。
このギャップに対処するため,関数評価が制限された場合のサンプリング品質の向上を目的とした,TR-CIE(Time-Reparameterized Cumulative Intensity Extrapolation)サンプリング手法を提案する。
TR-CIEは2つのコンポーネントから構成される。
まず、スケジュールベースの時間パラメータ化により、ノイズスケジュールに応じて時間グリッドを再スケールする。
標準因子化DFM速度パラメータ化では、この変数の変換はスケジュール依存的な成長項を吸収し、終端サンプリング段階付近で剛性を緩和する。
第2に,累積強度外挿更新規則を導入する。
キャッシュされたモデル出力を履歴項として再利用することにより、結果として生じる非一様時間グリッドに対する段階的に累積強度の近似を改善する。
累積強度の局所近似誤差を束縛し,収束結果を確立する理論解析を行う。
結果として得られたサンプルは1ステップに1つのNFEを必要とし、標準の$τ$-leapingサンプルよりも追加のモデル評価を導入しない。
合成タスク,テキスト生成,テキスト・ツー・イメージ・ベンチマークの大規模な実験により,本手法は限られたNFE下でのサンプリング品質の向上を実証した。
関連論文リスト
- On the Error-Correcting Effects of Stochasticity in Discrete Diffusion [0.0]
離散拡散モデルは、テキストおよび画像生成において強い性能を達成するが、推論は依然として遅く、サンプリングとサンプル品質のバランスをとる必要がある。
高い決定論的遷移は急速に収束するが、エラーの蓄積に苦しむ一方で、より多くの遷移はよりゆっくりと収束する一方で、より高い最終サンプル品質を達成することができることを示す。
本研究では,前向きと逆方向の拡散過程の交互化により制御性を注入する新しい推論アルゴリズムであるemphDiscrete Churn and Restart Sampling (DCRS)を提案する。
論文 参考訳(メタデータ) (2026-05-26T05:58:46Z) - Precise: SDE-Consistent Stochastic Sampling for RL Post-Training of Flow-Matching Models [56.67321805551389]
Reinforcement Learning (RL) は, 拡散・流れマッチングジェネレータにおいて, 迅速なアライメントと知覚品質の向上に有効な方法となっている。
探索行動の制御と力学のデノベーションを行うサンプルは、この方針の一部である。
有効探査と安定性のバランスをとる新しいサンプリング器を提案する。
論文 参考訳(メタデータ) (2026-05-22T11:37:22Z) - TFTF: Training-Free Targeted Flow for Conditional Sampling [1.4151684142137693]
重要度サンプリングに基づくフローマッチングモデルのための訓練不要条件付きサンプリング手法を提案する。
重要サンプリングのネーブ適用は高次元環境における重み付けに苦しむため, 連続モンテカルロにおける再サンプリング手法を改良し, 取り入れる。
私たちのフレームワークは、理論上の正確性を確保しながら、追加のトレーニングを必要としません。
論文 参考訳(メタデータ) (2026-02-13T13:41:35Z) - Low-Dimensional Adaptation of Rectified Flow: A New Perspective through the Lens of Diffusion and Stochastic Localization [59.04314685837778]
整流流(RF)は、その生成効率と最先端の性能からかなりの人気を得ている。
本稿では,RFがターゲット分布の支持の内在的低次元性に自動的に適応し,サンプリングを高速化する程度について検討する。
時間分割方式を慎重に設計し,十分な正確なドリフト推定を行うことで,RFサンプリング器はオーダーO(k/varepsilon)$の複雑さを享受できることを示す。
論文 参考訳(メタデータ) (2026-01-21T22:09:27Z) - Inference-Time Scaling of Diffusion Language Models with Particle Gibbs Sampling [70.8832906871441]
我々は、モデルを再訓練することなく、所望の報酬に向けて世代を操る方法を研究する。
従来の手法では、通常は1つの認知軌道内でサンプリングやフィルタを行い、軌道レベルの改善なしに報酬をステップバイステップで最適化する。
本稿では,拡散言語モデル(PG-DLM)の粒子ギブスサンプリングについて紹介する。
論文 参考訳(メタデータ) (2025-07-11T08:00:47Z) - Noise Conditional Variational Score Distillation [60.38982038894823]
騒音条件変化スコア蒸留(NCVSD)は, 予混合拡散モデルから生成消音剤を蒸留する新しい方法である。
この知見を変分スコア蒸留フレームワークに組み込むことで、生成的デノイザのスケーラブルな学習を可能にする。
論文 参考訳(メタデータ) (2025-06-11T06:01:39Z) - Neural Flow Samplers with Shortcut Models [19.81513273510523]
連続フローベースのニューラルサンプリングは、非正規化された密度からサンプルを生成するための有望なアプローチを提供する。
速度駆動型Sequential Monte Carlo法を用いて,これらの課題量に対する改良された推定器を提案する。
提案するニューラルフローショートカットサンプリングは,合成データセットと複雑なnボディシステムターゲットの両方において,既存のフローベースニューラルサンプリングよりも経験的に優れている。
論文 参考訳(メタデータ) (2025-02-11T07:55:41Z) - FlowTS: Time Series Generation via Rectified Flow [67.41208519939626]
FlowTSは、確率空間における直線輸送を伴う整流フローを利用するODEベースのモデルである。
非条件設定では、FlowTSは最先端のパフォーマンスを達成し、コンテキストFIDスコアはStockとETThデータセットで0.019と0.011である。
条件設定では、太陽予測において優れた性能を達成している。
論文 参考訳(メタデータ) (2024-11-12T03:03:23Z) - Score-based Generative Models with Adaptive Momentum [40.84399531998246]
変換過程を高速化する適応運動量サンプリング法を提案する。
提案手法は,2倍から5倍の速度で,より忠実な画像/グラフを小さなサンプリングステップで作成できることを示す。
論文 参考訳(メタデータ) (2024-05-22T15:20:27Z) - Fast Sampling via Discrete Non-Markov Diffusion Models with Predetermined Transition Time [49.598085130313514]
離散非マルコフ拡散モデル(DNDM)を提案する。
これにより、トレーニング不要なサンプリングアルゴリズムにより、関数評価の数を大幅に削減できる。
有限ステップサンプリングから無限ステップサンプリングへの移行について検討し、離散プロセスと連続プロセスのギャップを埋めるための新たな洞察を提供する。
論文 参考訳(メタデータ) (2023-12-14T18:14:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。