論文の概要: Flow Straight and Fast: Learning to Generate and Transfer Data with
Rectified Flow
- arxiv url: http://arxiv.org/abs/2209.03003v1
- Date: Wed, 7 Sep 2022 08:59:55 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-08 12:48:53.778698
- Title: Flow Straight and Fast: Learning to Generate and Transfer Data with
Rectified Flow
- Title(参考訳): flow straight and fast: 正規化フローによるデータ生成と転送の学習
- Authors: Xingchao Liu, Chengyue Gong, Qiang Liu
- Abstract要約: 我々は、(神経)常微分方程式(ODE)モデルを学ぶための驚くほど単純なアプローチである整流流を提示する。
補正フローは画像生成,画像から画像への変換,ドメイン適応に優しく作用することを示す。
- 参考スコア(独自算出の注目度): 32.459587479351846
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present rectified flow, a surprisingly simple approach to learning
(neural) ordinary differential equation (ODE) models to transport between two
empirically observed distributions \pi_0 and \pi_1, hence providing a unified
solution to generative modeling and domain transfer, among various other tasks
involving distribution transport. The idea of rectified flow is to learn the
ODE to follow the straight paths connecting the points drawn from \pi_0 and
\pi_1 as much as possible. This is achieved by solving a straightforward
nonlinear least squares optimization problem, which can be easily scaled to
large models without introducing extra parameters beyond standard supervised
learning. The straight paths are special and preferred because they are the
shortest paths between two points, and can be simulated exactly without time
discretization and hence yield computationally efficient models. We show that
the procedure of learning a rectified flow from data, called rectification,
turns an arbitrary coupling of \pi_0 and \pi_1 to a new deterministic coupling
with provably non-increasing convex transport costs. In addition, recursively
applying rectification allows us to obtain a sequence of flows with
increasingly straight paths, which can be simulated accurately with coarse time
discretization in the inference phase. In empirical studies, we show that
rectified flow performs superbly on image generation, image-to-image
translation, and domain adaptation. In particular, on image generation and
translation, our method yields nearly straight flows that give high quality
results even with a single Euler discretization step.
- Abstract(参考訳): 本稿では,経験的に観測された2つの分布 \pi_0 と \pi_1 の間の移動を学習する(神経)常微分方程式 (ode) モデルに対する驚くほど単純な手法である整流フローを提案する。
整流の考え方は、ODE が \pi_0 と \pi_1 から引き出された点をできるだけ接続する直線経路を学習することである。
これは、単純な非線形最小二乗最適化問題を解くことで実現され、標準教師付き学習を超える余分なパラメータを導入することなく、大規模モデルに容易に拡張できる。
ストレートパスは2点間の最短経路であるため特別な経路であり、時間的離散化なしに正確にシミュレートできるため、計算効率の良いモデルとなる。
整流と呼ばれるデータから整流流を学習する過程は, 任意の結合である \pi_0 と \pi_1 を, 確実に増大する凸輸送コストとの新しい決定論的結合に変換する。
さらに,再帰的再帰的整流化により,逐次的に直線化が進む流れ列を得ることができ,推定位相の粗い時間離散化と正確にシミュレーションできる。
本研究では,画像生成や画像から画像への変換,ドメイン適応などにおいて,整流の流れが極めて重要であることを示す。
特に,画像生成と翻訳では,1つのオイラー離散化ステップでも高品質な結果が得られるようなほぼ直線的な流れが得られる。
関連論文リスト
- Sequential Flow Straightening for Generative Modeling [14.521246785215808]
本稿では,大域的トランケーション誤差を低減するために,確率フローを直線化する学習手法であるSeqRFを提案する。
CIFAR-10, CelebA-$64×64$, LSUN-Churchデータセットの超越結果を達成する。
論文 参考訳(メタデータ) (2024-02-09T15:09:38Z) - Variational Flow Models: Flowing in Your Style [34.56398327249209]
結果のモデルを「変数フローモデル」と定義する。
我々は「線形」過程の後流を直列定速(SC)流れに変換する。
論文 参考訳(メタデータ) (2024-02-05T12:58:29Z) - Exploring Straighter Trajectories of Flow Matching with Diffusion
Guidance [66.4153984834872]
フローマッチング(StraightFM)のストレートトラジェクトリを提案する。
分布レベル全体から拡散モデルによって導かれる結合戦略により軌道を直線化する。
拡散法と従来のフローマッチング法の間で、FIDが低い視覚的に魅力的な画像を生成する。
論文 参考訳(メタデータ) (2023-11-28T06:19:30Z) - Arbitrary Distributions Mapping via SyMOT-Flow: A Flow-based Approach
Integrating Maximum Mean Discrepancy and Optimal Transport [3.069335774032178]
本稿では,2つの未知分布からの標本間の対称最大平均誤差を最小化することにより,可逆変換を訓練するSyMOT-Flowと呼ばれる新しいモデルを提案する。
結果として得られる変換はより安定で正確なサンプル生成をもたらす。
論文 参考訳(メタデータ) (2023-08-26T08:39:16Z) - Boosting Fast and High-Quality Speech Synthesis with Linear Diffusion [85.54515118077825]
本稿では, 常微分方程式に基づく線形拡散モデル(LinDiff)を提案する。
計算複雑性を低減するため、LinDiffでは、入力信号を小さなパッチに分割するパッチベースの処理アプローチを採用している。
我々のモデルは、より高速な合成速度で自己回帰モデルに匹敵する品質の音声を合成することができる。
論文 参考訳(メタデータ) (2023-06-09T07:02:43Z) - Minimizing Trajectory Curvature of ODE-based Generative Models [45.89620603363946]
拡散モデル、整流モデル、流れマッチングなどの最近の生成モデルは、生成過程を固定前進過程の時間反転として定義する。
我々は, ODE/SDEシミュレーションを使わずに生成軌道の曲率を最小化するために, 前進過程を効率的に訓練する方法を提案する。
論文 参考訳(メタデータ) (2023-01-27T21:52:03Z) - Fast Sampling of Diffusion Models via Operator Learning [74.37531458470086]
我々は,拡散モデルのサンプリング過程を高速化するために,確率フロー微分方程式の効率的な解法であるニューラル演算子を用いる。
シーケンシャルな性質を持つ他の高速サンプリング手法と比較して、並列復号法を最初に提案する。
本稿では,CIFAR-10では3.78、ImageNet-64では7.83の最先端FIDを1モデル評価環境で達成することを示す。
論文 参考訳(メタデータ) (2022-11-24T07:30:27Z) - Nonlinear Isometric Manifold Learning for Injective Normalizing Flows [58.720142291102135]
アイソメトリーを用いて、多様体学習と密度推定を分離する。
また、確率分布を歪ませない明示的な逆数を持つ埋め込みを設計するためにオートエンコーダを用いる。
論文 参考訳(メタデータ) (2022-03-08T08:57:43Z) - Gaussianization Flows [113.79542218282282]
そこで本研究では,サンプル生成における効率のよい繰り返しと効率のよい逆変換を両立できる新しい型正規化フローモデルを提案する。
この保証された表現性のため、サンプル生成の効率を損なうことなく、マルチモーダルなターゲット分布をキャプチャできる。
論文 参考訳(メタデータ) (2020-03-04T08:15:06Z) - A Near-Optimal Gradient Flow for Learning Neural Energy-Based Models [93.24030378630175]
学習エネルギーベースモデル(EBM)の勾配流を最適化する新しい数値スキームを提案する。
フォッカー・プランク方程式から大域相対エントロピーの2階ワッサーシュタイン勾配流を導出する。
既存のスキームと比較して、ワッサーシュタイン勾配流は実データ密度を近似するより滑らかで近似的な数値スキームである。
論文 参考訳(メタデータ) (2019-10-31T02:26:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。