論文の概要: Markovian Flow Matching: Accelerating MCMC with Continuous Normalizing Flows

• arxiv url: http://arxiv.org/abs/2405.14392v1
• Date: Thu, 23 May 2024 10:08:19 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-24 15:54:01.872080
• Title: Markovian Flow Matching: Accelerating MCMC with Continuous Normalizing Flows
• Title（参考訳）: Markovian Flow Matching:連続正規化フローによるMCMCの高速化
• Authors: Alberto Cabezas, Louis Sharrock, Christopher Nemeth,
• Abstract要約: 連続正規化フロー(CNF)は、ニューラルネットワークを用いて前記経路を生成するベクトル場をモデル化することにより、基準と目標密度の間の確率経路を学習する。 近年,Lipman et al. (2022) は生成モデルにおけるCNFsの簡易かつ安価な学習法であるフローマッチング (FM) を導入した。 我々は,この手法をマルコフサンプリング法をFM目標評価に応用し,学習した確率経路を用いてモンテカルロサンプリングを改善することにより,確率的推論に再利用する。
• 参考スコア（独自算出の注目度）: 2.2530496464901106
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Continuous normalizing flows (CNFs) learn the probability path between a reference and a target density by modeling the vector field generating said path using neural networks. Recently, Lipman et al. (2022) introduced a simple and inexpensive method for training CNFs in generative modeling, termed flow matching (FM). In this paper, we re-purpose this method for probabilistic inference by incorporating Markovian sampling methods in evaluating the FM objective and using the learned probability path to improve Monte Carlo sampling. We propose a sequential method, which uses samples from a Markov chain to fix the probability path defining the FM objective. We augment this scheme with an adaptive tempering mechanism that allows the discovery of multiple modes in the target. Under mild assumptions, we establish convergence to a local optimum of the FM objective, discuss improvements in the convergence rate, and illustrate our methods on synthetic and real-world examples.
• Abstract（参考訳）: 連続正規化フロー(CNF)は、ニューラルネットワークを用いて前記経路を生成するベクトル場をモデル化することにより、基準と目標密度の間の確率経路を学習する。 近年、Lipman et al (2022) は、CNFsを生成的モデリングで訓練するためのシンプルで安価な手法であるフローマッチング (FM) を導入した。 本稿では,この手法をマルコフサンプリング法をFMの目的評価に応用し,学習した確率経路を用いてモンテカルロサンプリングを改善することにより,確率推定の手法を再検討する。 本稿では、マルコフ連鎖からのサンプルを用いてFMの目的を定義する確率パスを修正するシーケンシャル手法を提案する。 この手法を適応的なテンパリング機構により拡張し、ターゲット内の複数のモードの発見を可能にする。 軽微な仮定の下で、FM目標の局所的最適値への収束を確立し、収束率の改善について議論し、合成および実世界の実例に関する方法を説明する。

関連論文リスト

• Stream-level flow matching with Gaussian processes [4.935875591615496]
  条件付きフローマッチング(CFM)は、連続正規化フロー(CNF)を適合させる訓練アルゴリズムの一群である。 我々は、ストリームに沿った条件付き確率パス、ソースとターゲットのデータペアを接続する遅延パスのインスタンスを定義することで、CFMアルゴリズムを拡張した。 本研究では, CFMの一般化により, 推定限界ベクトル場の分散を適度な計算コストで効果的に低減できることを示す。
  論文  参考訳（メタデータ） (2024-09-30T15:47:22Z)
• Ai-Sampler: Adversarial Learning of Markov kernels with involutive maps [28.229819253644862]
  本稿では,マルコフ連鎖の遷移核のパラメータ化と訓練を行い,効率的なサンプリングと良好な混合を実現する方法を提案する。 この訓練方法は、チェーンの定常分布とデータの経験分布との総変動距離を最小化する。
  論文  参考訳（メタデータ） (2024-06-04T17:00:14Z)
• Accelerating Markov Chain Monte Carlo sampling with diffusion models [0.0]
  本稿では,Metropolis-Hastingsアルゴリズムと拡散モデルを組み合わせることで,マルコフ・チェイン・モンテカルロ(MCMC)サンプリングを高速化する新しい手法を提案する。 画像合成の文脈における拡散モデルについて概観し、低次元データアレイに適した流線形拡散モデルを提供する。 提案手法は,後方の正確な表現を得るために必要な可能性評価の回数を大幅に削減する。
  論文  参考訳（メタデータ） (2023-09-04T09:03:41Z)
• Score-based Source Separation with Applications to Digital Communication Signals [72.6570125649502]
  拡散モデルを用いた重畳音源の分離手法を提案する。 高周波(RF)システムへの応用によって、我々は、基礎となる離散的な性質を持つ情報源に興味を持っている。 提案手法は,最近提案されたスコア蒸留サンプリング方式のマルチソース拡張と見なすことができる。
  論文  参考訳（メタデータ） (2023-06-26T04:12:40Z)
• Improving and generalizing flow-based generative models with minibatch optimal transport [90.01613198337833]
  連続正規化フロー(CNF)のための一般条件流整合(CFM)技術を導入する。 CFMは、拡散モデルのフローをトレーニングするために使用されるような安定した回帰目標を特徴としているが、決定論的フローモデルの効率的な推論を好んでいる。 我々の目的の変種は最適輸送CFM (OT-CFM) であり、訓練がより安定し、より高速な推論をもたらすより単純なフローを生成する。
  論文  参考訳（メタデータ） (2023-02-01T14:47:17Z)
• Flow Matching for Generative Modeling [44.66897082688762]
  フローマッチングは、連続正規化フロー(CNF)のトレーニングのためのシミュレーション不要なアプローチである 拡散経路を持つFMを用いることで、より堅牢で安定した拡散モデルの代替となることが判明した。 ImageNet上でFlow Matchingを使用したCNFのトレーニングは、可能性とサンプル品質の両方の観点から最先端のパフォーマンスをもたらす。
  論文  参考訳（メタデータ） (2022-10-06T08:32:20Z)
• Bayesian Structure Learning with Generative Flow Networks [85.84396514570373]
  ベイズ構造学習では、データから有向非巡回グラフ(DAG)上の分布を推定することに興味がある。 近年,ジェネレーティブ・フロー・ネットワーク(GFlowNets)と呼ばれる確率モデルのクラスが,ジェネレーティブ・モデリングの一般的なフレームワークとして紹介されている。 DAG-GFlowNetと呼ばれる本手法は,DAGよりも後方の正確な近似を提供する。
  論文  参考訳（メタデータ） (2022-02-28T15:53:10Z)
• Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
  ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。 本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。 本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
  論文  参考訳（メタデータ） (2021-02-04T02:21:08Z)
• Learning Likelihoods with Conditional Normalizing Flows [54.60456010771409]
  条件正規化フロー(CNF)はサンプリングと推論において効率的である。 出力空間写像に対する基底密度が入力 x 上で条件づけられた CNF について、条件密度 p(y|x) をモデル化する。
  論文  参考訳（メタデータ） (2019-11-29T19:17:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。