論文の概要: Resampling Gradients Vanish in Differentiable Sequential Monte Carlo
Samplers
- arxiv url: http://arxiv.org/abs/2304.14390v1
- Date: Thu, 27 Apr 2023 17:54:57 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-28 12:04:56.207128
- Title: Resampling Gradients Vanish in Differentiable Sequential Monte Carlo
Samplers
- Title(参考訳): 可微分シーケンシャルモンテカルロサンプラーにおける再サンプリング勾配の消失
- Authors: Johannes Zenn and Robert Bamler
- Abstract要約: Annealed Importance Smpling (AIS) は、Markov鎖に沿って粒子を抽出可能な初期分布から抽出可能なターゲット分布に移動させる。
最近提案された微分可能なAIS(DAIS)は、AISの遷移カーネルと分布の効率的な最適化を可能にする。
我々は,Sequential Monte Carloにインスパイアされた再サンプリングステップによりDAISを拡張することを提案する。
- 参考スコア(独自算出の注目度): 8.122270502556374
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Annealed Importance Sampling (AIS) moves particles along a Markov chain from
a tractable initial distribution to an intractable target distribution. The
recently proposed Differentiable AIS (DAIS) (Geffner and Domke, 2021; Zhang et
al., 2021) enables efficient optimization of the transition kernels of AIS and
of the distributions. However, we observe a low effective sample size in DAIS,
indicating degenerate distributions. We thus propose to extend DAIS by a
resampling step inspired by Sequential Monte Carlo. Surprisingly, we find
empirically-and can explain theoretically-that it is not necessary to
differentiate through the resampling step which avoids gradient variance issues
observed in similar approaches for Particle Filters (Maddison et al., 2017;
Naesseth et al., 2018; Le et al., 2018).
- Abstract(参考訳): annealed importance sampling (ais) はマルコフ鎖に沿って粒子を扱いやすい初期分布から難解な標的分布へと移動させる。
最近提案された微分可能なAIS (DAIS) (Geffner and Domke, 2021; Zhang et al., 2021) は、AISの遷移カーネルと分布の効率的な最適化を可能にする。
しかし, DAISの試料サイズは低値であり, 縮退分布を示す。
そこで我々は、Sequential Monte Carloにインスパイアされた再サンプリングステップによりDAISを拡張することを提案する。
粒子フィルタに対する同様のアプローチで観測される勾配分散の問題を回避する再サンプリングステップ(Maddison et al., 2017; Naesseth et al., 2018; Le et al., 2018)を通じて、理論的に区別する必要はないと説明できる。
関連論文リスト
- An adaptive ensemble filter for heavy-tailed distributions: tuning-free
inflation and localization [0.3749861135832072]
重尾は、非線形力学および観察過程から生じる分布をフィルタリングする一般的な特徴である。
本研究では,各状態と観測値の同時予測分布のサンプルから,前から後への更新を推定するアルゴリズムを提案する。
本稿では,新しいアンサンブルフィルタの利点について述べる。
論文 参考訳(メタデータ) (2023-10-12T21:56:14Z) - Ito Diffusion Approximation of Universal Ito Chains for Sampling,
Optimization and Boosting [72.01080271666859]
この研究は、幾らかの微分方程式のオイラー・マルヤマ離散化のように見える、より一般で幅広いマルコフ連鎖、伊藤鎖を考える。
ほぼ任意の等方性ノイズと状態依存ノイズが伴うが、ほとんどの関連論文ではそうである。
我々の鎖のドリフトと拡散係数は、グラディエント・ランゲヴィン・ダイナミクス、サンプリング、グラディエント・ダイスティング、グラディエント・ブースティングのような広範囲の応用をカバーするために不完全である。
論文 参考訳(メタデータ) (2023-10-09T18:38:56Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Self-Repellent Random Walks on General Graphs -- Achieving Minimal
Sampling Variance via Nonlinear Markov Chains [11.3631620309434]
ランダムウォーカーは、サンプリングと近傍探索により、ネットワークトポロジ上のターゲット量を近似するように設計されている。
目的とする確率分布に対応するマルコフ連鎖が与えられた場合、過去に頻繁に訪れたノードに遷移する可能性が低く、滅多に訪れないノードに遷移する可能性が低い自己反発ランダムウォーク(SRRW)を設計する。
正の実アルファでパラメータ化されたSRRWのクラスに対して、プロセスの経験的分布がターゲットにほぼ確実に収束することを証明する。
論文 参考訳(メタデータ) (2023-05-08T23:59:09Z) - A Finite-Particle Convergence Rate for Stein Variational Gradient
Descent [47.6818454221125]
我々は、スタイン変分降下勾配(SVGD)に対する第1次有限粒子収束速度を提供する。
我々の明示的で非漸近的な証明戦略は、将来の改良のためのテンプレートとして役立ちます。
論文 参考訳(メタデータ) (2022-11-17T17:50:39Z) - Score-Based Diffusion meets Annealed Importance Sampling [89.92133671626327]
Annealed Importance Smpling はいまだに限界推定の最も効果的な方法の1つである。
我々は、スコアベース生成モデルにおける最近の進歩を活用し、AIS提案の最適拡張目標分布を近似する。
論文 参考訳(メタデータ) (2022-08-16T12:13:29Z) - Annealed Flow Transport Monte Carlo [91.20263039913912]
Annealed Flow Transport (AFT) built on Annealed Importance Smpling (AIS) and Sequential Monte Carlo (SMC)
AFTは、連続したターゲットに向かって粒子をプッシュするために順次学習されるNFに依存します。
AFTの人口バージョンの連続時間スケーリング限界は、Feynman--Kac測度によって与えられることを示した。
論文 参考訳(メタデータ) (2021-02-15T12:05:56Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z) - Unbalanced Sobolev Descent [31.777218621726284]
非平衡ソボレフ蛍光(USD)は、高次元の音源分布を、必ずしも同じ質量を持つとは限らないターゲット分布へ輸送する粒子降下アルゴリズムである。
USDは、ソボレフ・フィッシャー差動の証人関数の流れに沿って粒子を輸送し(対流ステップ)、この証人関数に関して粒子の質量を再考する(反応ステップ)。
本稿では,USD が従来の粒子降下アルゴリズムよりも高速に質量を保存・保存して分布を輸送する合成例を示す。
論文 参考訳(メタデータ) (2020-09-29T16:43:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。