論文の概要: Local Flow Matching Generative Models

• arxiv url: http://arxiv.org/abs/2410.02548v2
• Date: Tue, 31 Dec 2024 01:50:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-03 17:39:31.560736
• Title: Local Flow Matching Generative Models
• Title（参考訳）: 局所フローマッチング生成モデル
• Authors: Chen Xu, Xiuyuan Cheng, Yao Xie,
• Abstract要約: 局所フローマッチング(Local Flow Matching)は、フローベース生成モデルに基づく密度推定のための計算フレームワークである。 $textttLFM$はシミュレーション不要のスキームを採用し、フローマッチングサブモデルのシーケンスを漸進的に学習する。 FMと比較して, $textttLFM$ のトレーニング効率と競争的生成性能の改善を実証した。
• 参考スコア（独自算出の注目度）: 19.859984725284896
• License:
• Abstract: Density estimation is a fundamental problem in statistics and machine learning. We consider a modern approach using flow-based generative models, and propose Local Flow Matching ($\texttt{LFM}$), a computational framework for density estimation based on such models, which learn a continuous and invertible flow to map noise samples to data samples. Unlike existing methods, $\texttt{LFM}$ employs a simulation-free scheme and incrementally learns a sequence of Flow Matching sub-models. Each sub-model matches a diffusion process over a small step size in the data-to-noise direction. This iterative process reduces the gap between the two distributions interpolated by the sub-models, enabling smaller models with faster training times. Theoretically, we prove a generation guarantee of the proposed flow model regarding the $\chi^2$-divergence between the generated and true data distributions. Experimentally, we demonstrate the improved training efficiency and competitive generative performance of $\texttt{LFM}$ compared to FM on the unconditional generation of tabular data and image datasets and its applicability to robotic manipulation policy learning.
• Abstract（参考訳）: 密度推定は統計学と機械学習の基本的な問題である。 本稿では,フローベース生成モデルを用いた現代的な手法を検討するとともに,そのようなモデルに基づく密度推定のための計算フレームワークであるローカルフローマッチング($\texttt{LFM}$)を提案し,連続的かつ可逆的な流れを学習して,ノイズサンプルをデータサンプルにマッピングする。 既存のメソッドとは異なり、$\texttt{LFM}$はシミュレーションのないスキームを採用し、フローマッチングサブモデルのシーケンスを漸進的に学習する。 各サブモデルは、データ・ツー・ノイズ方向の小さなステップサイズの拡散プロセスと一致する。 この反復的なプロセスは、サブモデルによって補間された2つの分布間のギャップを減らし、より速いトレーニング時間でより小さなモデルを可能にする。 理論的には、生成したデータ分布と真のデータ分布の間の$\chi^2$-divergenceに関するフローモデルの生成を保証する。 実験では,表形式データと画像データセットの無条件生成におけるFMと比較して,$\texttt{LFM}$のトレーニング効率と競争的生成性能の改善と,ロボット操作ポリシー学習への適用性を実証した。

関連論文リスト

• DFM: Interpolant-free Dual Flow Matching [0.8192907805418583]
  モデルベクトル場に関する明示的な仮定を伴わない補間自由二重流れマッチング(DFM)手法を提案する。 SMAPによる教師なし異常検出実験は、最大極度またはFM目標で訓練されたCNFと比較して、DFMの利点を示す。
  論文  参考訳（メタデータ） (2024-10-11T20:46:04Z)
• Consistency Flow Matching: Defining Straight Flows with Velocity Consistency [97.28511135503176]
  本稿では,速度場の自己整合性を明示する新しいFM法であるConsistency Flow Matching(Consistency-FM)を紹介する。 予備実験により、一貫性FMは、一貫性モデルよりも4.4倍速く収束することにより、トレーニング効率を著しく向上することが示された。
  論文  参考訳（メタデータ） (2024-07-02T16:15:37Z)
• Exploring Straighter Trajectories of Flow Matching with Diffusion Guidance [66.4153984834872]
  フローマッチング(StraightFM)のストレートトラジェクトリを提案する。 分布レベル全体から拡散モデルによって導かれる結合戦略により軌道を直線化する。 拡散法と従来のフローマッチング法の間で、FIDが低い視覚的に魅力的な画像を生成する。
  論文  参考訳（メタデータ） (2023-11-28T06:19:30Z)
• Bayesian Flow Networks [4.585102332532472]
  本稿では,ベイジアン・フロー・ネットワーク(BFN)について述べる。ベイジアン・フロー・ネットワーク(BFN)は,独立分布の集合のパラメータをベイジアン推論で修正した新しい生成モデルである。 単純な事前および反復的な2つの分布の更新から始めると、拡散モデルの逆過程に似た生成手順が得られる。 BFNは動的にバイナライズされたMNISTとCIFAR-10で画像モデリングを行うために競合するログライクフレーションを実現し、text8文字レベルの言語モデリングタスクにおいて既知のすべての離散拡散モデルより優れている。
  論文  参考訳（メタデータ） (2023-08-14T09:56:35Z)
• Improving Out-of-Distribution Robustness of Classifiers via Generative Interpolation [56.620403243640396]
  ディープニューラルネットワークは、独立かつ同一に分散されたデータ(すなわち、d)から学習する上で、優れたパフォーマンスを達成する。 しかし、アウト・オブ・ディストリビューション(OoD)データを扱う場合、その性能は著しく低下する。 多様なOoDサンプルを合成するために,複数のドメインから学習した生成モデルを融合するための生成補間法(Generative Interpolation)を開発した。
  論文  参考訳（メタデータ） (2023-07-23T03:53:53Z)
• Diff-Instruct: A Universal Approach for Transferring Knowledge From Pre-trained Diffusion Models [77.83923746319498]
  本稿では,任意の生成モデルの学習を指導するDiff-Instructというフレームワークを提案する。 Diff-Instructは、最先端の単一ステップ拡散モデルであることを示す。 GANモデルの精製実験により、Diff-InstructはGANモデルの事前訓練されたジェネレータを一貫して改善できることが示されている。
  論文  参考訳（メタデータ） (2023-05-29T04:22:57Z)
• Improving and generalizing flow-based generative models with minibatch optimal transport [90.01613198337833]
  連続正規化フロー(CNF)のための一般条件流整合(CFM)技術を導入する。 CFMは、拡散モデルのフローをトレーニングするために使用されるような安定した回帰目標を特徴としているが、決定論的フローモデルの効率的な推論を好んでいる。 我々の目的の変種は最適輸送CFM (OT-CFM) であり、訓練がより安定し、より高速な推論をもたらすより単純なフローを生成する。
  論文  参考訳（メタデータ） (2023-02-01T14:47:17Z)
• Fast Sampling of Diffusion Models via Operator Learning [74.37531458470086]
  我々は,拡散モデルのサンプリング過程を高速化するために,確率フロー微分方程式の効率的な解法であるニューラル演算子を用いる。 シーケンシャルな性質を持つ他の高速サンプリング手法と比較して、並列復号法を最初に提案する。 本稿では,CIFAR-10では3.78、ImageNet-64では7.83の最先端FIDを1モデル評価環境で達成することを示す。
  論文  参考訳（メタデータ） (2022-11-24T07:30:27Z)
• Flow Matching for Generative Modeling [44.66897082688762]
  フローマッチングは、連続正規化フロー(CNF)のトレーニングのためのシミュレーション不要なアプローチである 拡散経路を持つFMを用いることで、より堅牢で安定した拡散モデルの代替となることが判明した。 ImageNet上でFlow Matchingを使用したCNFのトレーニングは、可能性とサンプル品質の両方の観点から最先端のパフォーマンスをもたらす。
  論文  参考訳（メタデータ） (2022-10-06T08:32:20Z)
• Diffusion Normalizing Flow [4.94950858749529]
  本稿では微分方程式(SDE)に基づく拡散正規化フローという新しい生成モデルを提案する。 このアルゴリズムは、2つのニューラルSDEで構成されており、データに徐々にノイズを加えてガウスランダムノイズに変換するフォワードSDEと、データ分布からサンプルへのノイズを徐々に除去する後方SDEである。 提案アルゴリズムは,高次元データ密度推定と画像生成の両タスクにおける競合性能を示す。
  論文  参考訳（メタデータ） (2021-10-14T17:41:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。