論文の概要: Normalizing Flow Maps
- arxiv url: http://arxiv.org/abs/2610.22711v1
- Date: Thu, 15 Oct 2026 22:28:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.689578
- Title: Normalizing Flow Maps
- Title(参考訳): フローマップの標準化
- Abstract要約: 我々は,正規化フローとフローマップを一般化する,正確に非可逆なプッシュフォワードマップのクラスである正規化フローマップ(NFM)を紹介する。
NFMは、基礎となる力学系の積分子を学習するが、重要なことは、建設による効率的な正確な精度評価を提供することである。
NFMは、パラメータマッチングされた正規化フロー間の最先端のサンプル品質を実現し、可能性ベースのRLHFをサポートする。
- 参考スコア(独自算出の注目度): 56.49053712783922
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Scalable approaches to learning neural dynamical systems have placed diffusion, flow matching, and few-step generators in flow maps at the forefront of generative modeling. Such state-of-the-art models have limited access to explicit model densities despite evolving from classical generative modeling approaches that leveraged tractable likelihoods, e.g., Normalizing Flows and Autoregressive models. In this paper, we combine these threads of few-step generation and tractable sample likelihoods and introduce Normalizing Flow Maps (NFM), a class of exactly invertible pushforward maps that generalizes normalizing flows and flow maps. More precisely, NFMs learn the integrator of an underlying dynamical system, but crucially, they provide efficient exact likelihood evaluation by construction. To enable scalable training of NFMs, we derive two complementary axes of consistency inherent to NFMs that yield (self) distillation objectives: (1) pointwise matching, which unlocks $\ell_2$-based flow-map style regression losses, and (2) distributional matching, which matches pushforward distributions to the marginals of a prescribed forward process. On conditional image generation on CIFAR-10 and ImageNet-64, NFMs achieve state-of-the-art sample quality among parameter-matched normalizing flows, while supporting likelihood-based RLHF. For equilibrium sampling in Boltzmann Generators, NFMs outperform prior state-of-the-art normalizing flows on both single-system and transferable peptide benchmarks.
- Abstract(参考訳): ニューラルネットワークを学習するためのスケーラブルなアプローチは、ジェネレーティブモデリングの最前線にあるフローマップに拡散、フローマッチング、数ステップのジェネレータを配置している。
このような最先端のモデルは、抽出可能な可能性、例えば正規化フローや自己回帰モデルを活用する古典的な生成モデルアプローチから進化したにもかかわらず、明示的なモデル密度へのアクセスに制限がある。
本稿では、これらの数ステップ生成と抽出可能なサンプル確率のスレッドを組み合わせて、正規化フローとフローマップを一般化する、正確に非可逆なプッシュフォワードマップのクラスである正規化フローマップ(NFM)を導入する。
より正確には、NFMは基礎となる力学系の積分子を学習するが、重要なことに、建設による効率的な正確な精度評価を提供する。
NFMのスケーラブルなトレーニングを実現するために,(1) ポイントワイドマッチング($\ell_2$-based flow-mapスタイルの回帰損失をアンロックする)と(2) 所定の前処理の辺縁分布にプッシュフォワード分布をマッチングする分散マッチング(英語版)という,NFMに固有の2つの相補的整合性軸を導出する。
CIFAR-10 と ImageNet-64 の条件付き画像生成において、NFM はパラメータマッチングされた正規化フローの最先端のサンプル品質を達成し、確率ベース RLHF をサポートした。
ボルツマン・ジェネレータの平衡サンプリングでは、NFMは単一系および転移可能なペプチドのベンチマークにおいて、最先端の正規化フローより優れている。
関連論文リスト
- Flow-Map GRPO: Reinforcement Learning for Few-Step Flow-Map Generators via Anchored Stochastic Composition [13.766141027420879]
一貫性モデルやMeanFlowのような数ステップのフローマップジェネレータは、ノイズとデータの間の長距離トランスポートマップを直接学習することで、サンプリングを高速化する。
これらのモデルは典型的には決定論的であり、ポストトレーニング手法では最適化が困難である。
本稿では,数ステップのフローマップ生成のための決定論的ポストトレーニングフレームワークであるFlow-MapOを提案する。
論文 参考訳(メタデータ) (2026-07-01T07:25:11Z) - One-Step Generative Modeling via Wasserstein Gradient Flows [56.266175641614986]
W-Flowは、単純な参照分布からサンプルをターゲットデータ分布からサンプルに変換するジェネレータを1ステップでトレーニングするフレームワークである。
我々は1ステップのImageNet 256$times$256 生成のための新しい技術状況を設定し、モードカバレッジとドメイン転送を改善した 1.29 FID を達成した。
論文 参考訳(メタデータ) (2026-05-12T08:29:44Z) - Scaling Categorical Flow Maps [29.25832277355597]
連続拡散とフローマッチングモデルは、言語モデリングにおける自己回帰的なアプローチの強力な代替となるかもしれない。
ほぼデータレベルのトークンエントロピーを維持しつつ,4ドル程度の推論ステップで多種多様な高品質テキストを生成する方法を示す。
これらのモデルを大規模にトレーニングすることで生じる課題を明らかにし、損失重み付けと時間スケジューリングに関する規範的な洞察を提供する。
論文 参考訳(メタデータ) (2026-05-08T14:50:57Z) - Joint Distillation for Fast Likelihood Evaluation and Sampling in Flow-based Models [100.28111930893188]
今日の最高の生成モデルの中には、単一の可能性を計算するために、数百から数千の神経機能評価を必要とするものもあります。
本研究では, 高速流動継手蒸留法 (F2D2) を提案し, サンプリングに必要なNFEの数を2桁に減らした。
F2D2はモジュール構造であり、既存のフローベースの数ステップサンプリングモデルと互換性がある。
論文 参考訳(メタデータ) (2025-12-02T10:48:20Z) - Unfolding Generative Flows with Koopman Operators: Fast and Interpretable Sampling [25.420559502119485]
連続正規化フロー (Continuous Normalizing Flows, CNF) はエレガントな生成モデリングを実現する。
Rectified Flow や OT-CFM といった最近の手法は、直線化軌道によるサンプリングを加速するが、学習されたダイナミクスは非線形ブラックボックスのままである。
我々はクープマン理論を通した大域的線形化フローダイナミクスを提案する。
論文 参考訳(メタデータ) (2025-06-27T15:16:16Z) - Guided Flows for Generative Modeling and Decision Making [55.42634941614435]
その結果,ガイドフローは条件付き画像生成やゼロショット音声合成におけるサンプル品質を著しく向上させることがわかった。
特に、我々は、拡散モデルと比較して、オフライン強化学習設定axスピードアップにおいて、まず、計画生成にフローモデルを適用する。
論文 参考訳(メタデータ) (2023-11-22T15:07:59Z) - Discrete Denoising Flows [87.44537620217673]
分類的確率変数に対する離散的フローベースモデル(DDF)を提案する。
他の離散フローベースモデルとは対照的に、我々のモデルは勾配バイアスを導入することなく局所的に訓練することができる。
そこで本研究では, DDFs が離散フローより優れていることを示し, 対数類似度で測定した2値MNIST と Cityscapes のセグメンテーションマップをモデル化した。
論文 参考訳(メタデータ) (2021-07-24T14:47:22Z) - Generative Flows with Invertible Attentions [135.23766216657745]
生成フローモデルに対する2種類の非可逆的注意機構を導入する。
フロー特徴写像の2分割毎に注意重みと入力表現を学習するために,分割に基づく注意機構を利用する。
提案手法は, トラクタブルジャコビアン行列を用いた非可逆アテンションモジュールをフローベースモデルの任意の位置にシームレスに統合する。
論文 参考訳(メタデータ) (2021-06-07T20:43:04Z) - Closing the Dequantization Gap: PixelCNN as a Single-Layer Flow [16.41460104376002]
有限体積を変換し、離散データに対する確率の正確な計算を可能にするサブセットフローを導入する。
我々は、WaveNets、PixelCNNs、Transformersを含む通常の離散自己回帰モデルを単層フローとして識別する。
我々は, CIFAR-10 を用いて, 脱量子化を訓練した流れモデルについて, 実測結果を示す。
論文 参考訳(メタデータ) (2020-02-06T22:58:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。