論文の概要: Path-Guided Particle-based Sampling

• arxiv url: http://arxiv.org/abs/2412.03312v1
• Date: Wed, 04 Dec 2024 13:44:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-05 15:10:16.640555
• Title: Path-Guided Particle-based Sampling
• Title（参考訳）: パスガイドによる粒子サンプリング
• Authors: Mingzhou Fan, Ruida Zhou, Chao Tian, Xiaoning Qian,
• Abstract要約: そこで本研究では,新しいLog-weighted Shrinkage(LwS)密度パスに基づくPGPS法を提案する。 ニューラルネットワークを用いて、設計された密度パスのフォッカー・プランク方程式によって動機付けられたベクトル場を学習する。 これらの粒子の分布は、初期分布から目標分布への密度経路に沿って導かれる。
• 参考スコア（独自算出の注目度）: 20.36997618226888
• License:
• Abstract: Particle-based Bayesian inference methods by sampling from a partition-free target (posterior) distribution, e.g., Stein variational gradient descent (SVGD), have attracted significant attention. We propose a path-guided particle-based sampling~(PGPS) method based on a novel Log-weighted Shrinkage (LwS) density path linking an initial distribution to the target distribution. We propose to utilize a Neural network to learn a vector field motivated by the Fokker-Planck equation of the designed density path. Particles, initiated from the initial distribution, evolve according to the ordinary differential equation defined by the vector field. The distribution of these particles is guided along a density path from the initial distribution to the target distribution. The proposed LwS density path allows for an efficient search of modes of the target distribution while canonical methods fail. We theoretically analyze the Wasserstein distance of the distribution of the PGPS-generated samples and the target distribution due to approximation and discretization errors. Practically, the proposed PGPS-LwS method demonstrates higher Bayesian inference accuracy and better calibration ability in experiments conducted on both synthetic and real-world Bayesian learning tasks, compared to baselines, such as SVGD and Langevin dynamics, etc.
• Abstract（参考訳）: パーティションフリーターゲット(後部)分布,例えばスタイン変動勾配勾配(SVGD)から抽出した粒子ベースベイズ推定法が注目されている。 初期分布と対象分布をリンクする新しい対数重み付き収縮(LwS)密度経路に基づく経路誘導粒子ベースサンプリング(PGPS)手法を提案する。 本稿では、ニューラルネットワークを用いて、設計された密度パスのフォッカー・プランク方程式によって動機付けられたベクトル場を学ぶことを提案する。 初期分布から始まる粒子は、ベクトル場によって定義される通常の微分方程式に従って進化する。 これらの粒子の分布は、初期分布から目標分布への密度経路に沿って導かれる。 提案したLwS密度パスは、標準手法が失敗する間、ターゲット分布のモードを効率的に探索することを可能にする。 理論的にPGPS生成試料の分布とターゲット分布のワッサーシュタイン距離を近似および離散化誤差により解析する。 PGPS-LwS法は,合成および実世界のベイズ学習タスクにおいて,SVGDやランゲヴィンダイナミクスなどのベースラインと比較して,より高いベイズ推論精度とキャリブレーション能力を示す。

関連論文リスト

• Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
  本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。 物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。 PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
  論文  参考訳（メタデータ） (2024-07-10T17:39:50Z)
• Sampling in Unit Time with Kernel Fisher-Rao Flow [0.0]
  非正規化対象密度からサンプリングするための平均場ODEと対応する相互作用粒子系(IPS)を導入する。 IPSは勾配のない閉形式であり、参照密度からサンプリングし、(正規化されていない)ターゲット-参照密度比を計算する能力のみを必要とする。
  論文  参考訳（メタデータ） (2024-01-08T13:43:56Z)
• Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
  Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。 本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
  論文  参考訳（メタデータ） (2023-06-27T08:15:28Z)
• Unsupervised Learning of Sampling Distributions for Particle Filters [80.6716888175925]
  観測結果からサンプリング分布を学習する4つの方法を提案する。 実験により、学習されたサンプリング分布は、設計された最小縮退サンプリング分布よりも優れた性能を示すことが示された。
  論文  参考訳（メタデータ） (2023-02-02T15:50:21Z)
• Matching Normalizing Flows and Probability Paths on Manifolds [57.95251557443005]
  連続正規化フロー (Continuous Normalizing Flows, CNFs) は、常微分方程式(ODE)を解くことによって、先行分布をモデル分布に変換する生成モデルである。 我々は,CNFが生成する確率密度パスと目標確率密度パスとの間に生じる新たな分岐系であるPPDを最小化して,CNFを訓練することを提案する。 PPDの最小化によって得られたCNFは、既存の低次元多様体のベンチマークにおいて、その可能性とサンプル品質が得られることを示す。
  論文  参考訳（メタデータ） (2022-07-11T08:50:19Z)
• Path Integral Sampler: a stochastic control approach for sampling [4.94950858749529]
  非正規化確率密度関数からサンプルを抽出する新しいアルゴリズムであるPath Integral Sampler(PIS)を提案する。 PISは初期分布からサンプルを抽出し、シュリンガー橋を通じてサンプルを伝播して終端分布に達する。 我々は、準最適制御を用いる場合、ワッサーシュタイン距離の観点から、PSSのサンプリング品質を理論的に正当化する。
  論文  参考訳（メタデータ） (2021-11-30T05:50:12Z)
• Unrolling Particles: Unsupervised Learning of Sampling Distributions [102.72972137287728]
  粒子フィルタリングは複素系の優れた非線形推定を計算するために用いられる。 粒子フィルタは様々なシナリオにおいて良好な推定値が得られることを示す。
  論文  参考訳（メタデータ） (2021-10-06T16:58:34Z)
• Relative Entropy Gradient Sampler for Unnormalized Distributions [14.060615420986796]
  非正規分布からのサンプリングのための相対エントロピー勾配サンプリング器(REGS) REGSは、参照分布からサンプルへの初期サンプルを非正規化対象分布から反復的に押し出す単純な非線形変換の列を求める粒子法である。
  論文  参考訳（メタデータ） (2021-10-06T14:10:38Z)
• Variational Transport: A Convergent Particle-BasedAlgorithm for Distributional Optimization [106.70006655990176]
  分散最適化問題は機械学習や統計学で広く発生する。 本稿では,変分輸送と呼ばれる粒子に基づく新しいアルゴリズムを提案する。 目的関数がpolyak-Lojasiewicz (PL) (Polyak, 1963) の機能バージョンと滑らかな条件を満たすとき、変分輸送は線形に収束することを示す。
  論文  参考訳（メタデータ） (2020-12-21T18:33:13Z)
• Generative Learning With Euler Particle Transport [14.557451744544592]
  生成学習のためのユーラー粒子輸送(EPT)手法を提案する。 提案手法は, 基準分布から目標分布への最適輸送マップの探索の問題に動機付けられている。 提案する密度比(差分)推定器は,データが低次元多様体上で支持されている場合,「次元の曲線」に支障を来さないことを示す。
  論文  参考訳（メタデータ） (2020-12-11T03:10:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。