論文の概要: Sampling in Unit Time with Kernel Fisher-Rao Flow
- arxiv url: http://arxiv.org/abs/2401.03892v1
- Date: Mon, 8 Jan 2024 13:43:56 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-09 16:31:14.677012
- Title: Sampling in Unit Time with Kernel Fisher-Rao Flow
- Title(参考訳): kernel fisher-rao flowを用いた単位時間サンプリング
- Authors: Aimee Maurais and Youssef Marzouk
- Abstract要約: 本研究では,非正規化対象密度やベイズ後部から試料を採取するための平均場ODEと対応する相互作用粒子系を導入する。
相互作用する粒子系は勾配が無く、クローズドな形で利用でき、参照密度からサンプリングし、(正規化されていない)ターゲット-参照密度比を計算する能力のみを必要とする。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce a new mean-field ODE and corresponding interacting particle
systems for sampling from an unnormalized target density or Bayesian posterior.
The interacting particle systems are gradient-free, available in closed form,
and only require the ability to sample from the reference density and compute
the (unnormalized) target-to-reference density ratio. The mean-field ODE is
obtained by solving a Poisson equation for a velocity field that transports
samples along the geometric mixture of the two densities, which is the path of
a particular Fisher-Rao gradient flow. We employ a reproducing kernel Hilbert
space ansatz for the velocity field, which makes the Poisson equation tractable
and enables us to discretize the resulting mean-field ODE over finite samples,
as a simple interacting particle system. The mean-field ODE can be additionally
be derived from a discrete-time perspective as the limit of successive
linearizations of the Monge-Amp\`ere equations within a framework known as
sample-driven optimal transport. We demonstrate empirically that our
interacting particle systems can produce high-quality samples from
distributions with varying characteristics.
- Abstract(参考訳): 非正規化された目標密度またはベイズ後方からサンプリングするための新しい平均場odeおよび対応する相互作用粒子系を提案する。
相互作用する粒子系は勾配が無く、閉じた形で利用でき、参照密度からサンプリングし、(正規化されていない)ターゲット-参照密度比を計算する能力のみを必要とする。
平均場ODEは、特定のフィッシャー-ラオ勾配流の経路である2つの密度の幾何学的混合に沿ってサンプルを輸送する速度場に対するポアソン方程式を解くことで得られる。
速度場を再現するカーネルヒルベルト空間 ansatz を用いてポアソン方程式を扱いやすくし, 有限サンプル上の平均場 ode を単純な相互作用粒子系として識別する。
平均場ODEは、サンプル駆動最適輸送として知られるフレームワーク内でのモンゲ・アンプ・エル方程式の連続線型化の極限として離散時間の観点からも導出することができる。
我々は,相互作用する粒子系が異なる特性の分布から高品質なサンプルを生成できることを実証的に示す。
関連論文リスト
- NETS: A Non-Equilibrium Transport Sampler [15.58993313831079]
我々は、Non-Equilibrium Transport Sampler (NETS)と呼ばれるアルゴリズムを提案する。
NETSはJarzynskiの平等に基づいて、重要サンプリング(AIS)の亜種と見なすことができる。
このドリフトは、様々な目的関数の最小化であり、全て偏りのない方法で推定できることを示す。
論文 参考訳(メタデータ) (2024-10-03T17:35:38Z) - Variational Inference via Smoothed Particle Hydrodynamics [0.0]
滑らかな粒子流体力学に基づく新しい変分推論法を提案する。
高速で、柔軟で、スケーラブルで、決定論的なサンプリングと、確率モデルのクラスに対する推論を提供する。
論文 参考訳(メタデータ) (2024-07-12T11:38:41Z) - Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。
物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。
PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
論文 参考訳(メタデータ) (2024-07-10T17:39:50Z) - On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。
本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
論文 参考訳(メタデータ) (2024-05-18T15:59:41Z) - Iterated Denoising Energy Matching for Sampling from Boltzmann Densities [109.23137009609519]
反復Denoising Energy Matching (iDEM)
iDEMは,拡散型サンプリング装置から高モデル密度のサンプリング領域を (I) 交換し, (II) それらのサンプルをマッチング目的に使用した。
提案手法は,全測定値の最先端性能を達成し,2~5倍の速さでトレーニングを行う。
論文 参考訳(メタデータ) (2024-02-09T01:11:23Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳(メタデータ) (2023-05-31T15:33:16Z) - Sampling with Mollified Interaction Energy Descent [57.00583139477843]
モーフィファイド相互作用エネルギー降下(MIED)と呼ばれる新しい最適化に基づくサンプリング手法を提案する。
MIEDは、モル化相互作用エネルギー(MIE)と呼ばれる確率測度に関する新しいクラスのエネルギーを最小化する
我々は,制約のないサンプリング問題に対して,我々のアルゴリズムがSVGDのような既存の粒子ベースアルゴリズムと同等に動作することを示す。
論文 参考訳(メタデータ) (2022-10-24T16:54:18Z) - Truly Mesh-free Physics-Informed Neural Networks [3.5611181253285253]
物理インフォームドニューラルネットワーク(PINN)は、最近、ニューラルネットワークに偏微分方程式(PDE)の形で事前の物理知識を組み込む原則的な方法として登場した。
本稿では,粒子密度PINN (pdPINN) と呼ばれるメッシュフリーで適応的な手法を提案する。
論文 参考訳(メタデータ) (2022-06-03T12:45:47Z) - Relative Entropy Gradient Sampler for Unnormalized Distributions [14.060615420986796]
非正規分布からのサンプリングのための相対エントロピー勾配サンプリング器(REGS)
REGSは、参照分布からサンプルへの初期サンプルを非正規化対象分布から反復的に押し出す単純な非線形変換の列を求める粒子法である。
論文 参考訳(メタデータ) (2021-10-06T14:10:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。