論文の概要: Interacting Particle Langevin Algorithm for Maximum Marginal Likelihood
Estimation
- arxiv url: http://arxiv.org/abs/2303.13429v2
- Date: Wed, 11 Oct 2023 13:20:52 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-16 04:03:33.258673
- Title: Interacting Particle Langevin Algorithm for Maximum Marginal Likelihood
Estimation
- Title(参考訳): 最大偏差推定のための干渉粒子ランゲヴィンアルゴリズム
- Authors: \"O. Deniz Akyildiz, Francesca Romana Crucinio, Mark Girolami, Tim
Johnston, Sotirios Sabanis
- Abstract要約: 我々は,最大限界推定法を実装するための相互作用粒子系のクラスを開発する。
特に、この拡散の定常測度のパラメータ境界がギブス測度の形式であることを示す。
特定の再スケーリングを用いて、このシステムの幾何学的エルゴディディティを証明し、離散化誤差を限定する。
時間的に一様で、粒子の数で増加しない方法で。
- 参考スコア(独自算出の注目度): 2.53740603524637
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We develop a class of interacting particle systems for implementing a maximum
marginal likelihood estimation (MMLE) procedure to estimate the parameters of a
latent variable model. We achieve this by formulating a continuous-time
interacting particle system which can be seen as a Langevin diffusion over an
extended state space of parameters and latent variables. In particular, we
prove that the parameter marginal of the stationary measure of this diffusion
has the form of a Gibbs measure where number of particles acts as the inverse
temperature parameter in classical settings for global optimisation. Using a
particular rescaling, we then prove geometric ergodicity of this system and
bound the discretisation error in a manner that is uniform in time and does not
increase with the number of particles. The discretisation results in an
algorithm, termed Interacting Particle Langevin Algorithm (IPLA) which can be
used for MMLE. We further prove nonasymptotic bounds for the optimisation error
of our estimator in terms of key parameters of the problem, and also extend
this result to the case of stochastic gradients covering practical scenarios.
We provide numerical experiments to illustrate the empirical behaviour of our
algorithm in the context of logistic regression with verifiable assumptions.
Our setting provides a straightforward way to implement a diffusion-based
optimisation routine compared to more classical approaches such as the
Expectation Maximisation (EM) algorithm, and allows for especially explicit
nonasymptotic bounds.
- Abstract(参考訳): 潜在変数モデルのパラメータを推定するためのmmle(maximum marginal likelihood estimation)手順を実装するために相互作用する粒子系のクラスを開発した。
パラメータと潜在変数の拡張状態空間上のランジュバン拡散と見なすことのできる連続時間相互作用粒子系を定式化することでこれを達成する。
特に、この拡散の定常測度のパラメータの限界がギブズ測度の形であることは証明され、粒子の数が古典的な大域的最適化の設定において逆温度パラメータとして作用する。
特定の再スケーリングを用いて、このシステムの幾何学的エルゴディディティを証明し、離散化誤差を時間的に一様であり、粒子の数で増加しない方法で拘束する。
この離散化は、MMLEに使用できるInteracting Particle Langevin Algorithm (IPLA)と呼ばれるアルゴリズムをもたらす。
我々はさらに,問題の重要パラメータの観点から推定器の最適化誤差に対する非漸近的境界を証明し,その結果を実用シナリオをカバーする確率的勾配の場合にも拡張する。
検証可能な仮定を用いて,ロジスティック回帰の文脈におけるアルゴリズムの経験的挙動を説明する数値実験を行った。
我々の設定は、期待最大化(EM)アルゴリズムのような古典的なアプローチと比較して拡散に基づく最適化ルーチンを実装するための簡単な方法を提供する。
関連論文リスト
- Momentum Particle Maximum Likelihood [2.6831773062745863]
パラメータと確率分布の拡張空間上の自由エネルギー関数を最小化するための類似システムに基づくアプローチを提案する。
適切な仮定の下では、提案された系を連続時間における一意的な一意の最小化器に定量的に収束させる。
そこで本研究では,潜在変数モデルにおけるパラメータ推定に適用可能な数値的な離散化を提案する。
論文 参考訳(メタデータ) (2023-12-12T14:53:18Z) - Noise-Free Sampling Algorithms via Regularized Wasserstein Proximals [3.4240632942024685]
ポテンシャル関数が支配する分布からサンプリングする問題を考察する。
本研究は, 決定論的な楽譜に基づくMCMC法を提案し, 粒子に対する決定論的進化をもたらす。
論文 参考訳(メタデータ) (2023-08-28T23:51:33Z) - Robust scalable initialization for Bayesian variational inference with
multi-modal Laplace approximations [0.0]
フル共分散構造を持つ変分混合は、パラメータ数による変動パラメータによる二次的な成長に苦しむ。
本稿では,変分推論のウォームスタートに使用できる初期ガウスモデル近似を構築する方法を提案する。
論文 参考訳(メタデータ) (2023-07-12T19:30:04Z) - Stochastic Marginal Likelihood Gradients using Neural Tangent Kernels [78.6096486885658]
線形化されたラプラス近似に下界を導入する。
これらの境界は漸進的な最適化が可能であり、推定精度と計算複雑性とのトレードオフを可能にする。
論文 参考訳(メタデータ) (2023-06-06T19:02:57Z) - Probabilistic Unrolling: Scalable, Inverse-Free Maximum Likelihood
Estimation for Latent Gaussian Models [69.22568644711113]
我々は,モンテカルロサンプリングと反復線形解法を組み合わせた確率的アンローリングを導入し,行列逆転を回避した。
理論的解析により,解法の繰り返しによる解法の解法と逆転が最大値推定の勾配推定を高速化することを示した。
シミュレーションおよび実データ実験において、確率的アンロールは、モデル性能の損失を最小限に抑えながら、勾配EMよりも桁違いに高速な潜在ガウスモデルを学習することを示した。
論文 参考訳(メタデータ) (2023-06-05T21:08:34Z) - Monte Carlo Neural PDE Solver for Learning PDEs via Probabilistic
Representation [62.017505017414564]
教師なしの方法でニューラルソルバを訓練することが不可欠である。
既存の手法は妥当な精度を達成し、重要な計算課題と不正確なシミュレーションをもたらす。
PDEの確率的表現を用いて教師なしニューラルソルバを訓練するためのモンテカルロPDEソルバを提案する。
対流拡散, アレン・カーン, ナヴィエ・ストークス方程式に関する実験により, 精度と効率が著しく向上した。
論文 参考訳(メタデータ) (2023-02-10T08:05:19Z) - Kernel-based off-policy estimation without overlap: Instance optimality
beyond semiparametric efficiency [53.90687548731265]
本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。
任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
論文 参考訳(メタデータ) (2023-01-16T02:57:37Z) - Noise Estimation in Gaussian Process Regression [1.5002438468152661]
提案手法は, 相関誤差の分散と雑音の分散を, 限界確率関数の最大化に基づいて推定することができる。
従来のパラメータ最適化と比較して,提案手法の計算上の利点とロバスト性を示す。
論文 参考訳(メタデータ) (2022-06-20T19:36:03Z) - A blob method method for inhomogeneous diffusion with applications to
multi-agent control and sampling [0.6562256987706128]
重み付き多孔質媒質方程式(WPME)に対する決定論的粒子法を開発し,その収束性を時間間隔で証明する。
提案手法は,マルチエージェントカバレッジアルゴリズムや確率測定のサンプリングに自然に応用できる。
論文 参考訳(メタデータ) (2022-02-25T19:49:05Z) - SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for
Gaussian Process Regression with Derivatives [86.01677297601624]
本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。
我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
論文 参考訳(メタデータ) (2020-03-05T14:33:20Z) - A Near-Optimal Gradient Flow for Learning Neural Energy-Based Models [93.24030378630175]
学習エネルギーベースモデル(EBM)の勾配流を最適化する新しい数値スキームを提案する。
フォッカー・プランク方程式から大域相対エントロピーの2階ワッサーシュタイン勾配流を導出する。
既存のスキームと比較して、ワッサーシュタイン勾配流は実データ密度を近似するより滑らかで近似的な数値スキームである。
論文 参考訳(メタデータ) (2019-10-31T02:26:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。