論文の概要: Interacting Particle Langevin Algorithm for Maximum Marginal Likelihood
Estimation
- arxiv url: http://arxiv.org/abs/2303.13429v2
- Date: Wed, 11 Oct 2023 13:20:52 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-16 04:03:33.258673
- Title: Interacting Particle Langevin Algorithm for Maximum Marginal Likelihood
Estimation
- Title（参考訳）: 最大偏差推定のための干渉粒子ランゲヴィンアルゴリズム
- Authors: \"O. Deniz Akyildiz, Francesca Romana Crucinio, Mark Girolami, Tim
Johnston, Sotirios Sabanis
- Abstract要約: 我々は,最大限界推定法を実装するための相互作用粒子系のクラスを開発する。
特に、この拡散の定常測度のパラメータ境界がギブス測度の形式であることを示す。
特定の再スケーリングを用いて、このシステムの幾何学的エルゴディディティを証明し、離散化誤差を限定する。
時間的に一様で、粒子の数で増加しない方法で。
- 参考スコア（独自算出の注目度）: 2.53740603524637
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We develop a class of interacting particle systems for implementing a maximum
marginal likelihood estimation (MMLE) procedure to estimate the parameters of a
latent variable model. We achieve this by formulating a continuous-time
interacting particle system which can be seen as a Langevin diffusion over an
extended state space of parameters and latent variables. In particular, we
prove that the parameter marginal of the stationary measure of this diffusion
has the form of a Gibbs measure where number of particles acts as the inverse
temperature parameter in classical settings for global optimisation. Using a
particular rescaling, we then prove geometric ergodicity of this system and
bound the discretisation error in a manner that is uniform in time and does not
increase with the number of particles. The discretisation results in an
algorithm, termed Interacting Particle Langevin Algorithm (IPLA) which can be
used for MMLE. We further prove nonasymptotic bounds for the optimisation error
of our estimator in terms of key parameters of the problem, and also extend
this result to the case of stochastic gradients covering practical scenarios.
We provide numerical experiments to illustrate the empirical behaviour of our
algorithm in the context of logistic regression with verifiable assumptions.
Our setting provides a straightforward way to implement a diffusion-based
optimisation routine compared to more classical approaches such as the
Expectation Maximisation (EM) algorithm, and allows for especially explicit
nonasymptotic bounds.
- Abstract（参考訳）: 潜在変数モデルのパラメータを推定するためのmmle(maximum marginal likelihood estimation)手順を実装するために相互作用する粒子系のクラスを開発した。
パラメータと潜在変数の拡張状態空間上のランジュバン拡散と見なすことのできる連続時間相互作用粒子系を定式化することでこれを達成する。
特に、この拡散の定常測度のパラメータの限界がギブズ測度の形であることは証明され、粒子の数が古典的な大域的最適化の設定において逆温度パラメータとして作用する。
特定の再スケーリングを用いて、このシステムの幾何学的エルゴディディティを証明し、離散化誤差を時間的に一様であり、粒子の数で増加しない方法で拘束する。
この離散化は、MMLEに使用できるInteracting Particle Langevin Algorithm (IPLA)と呼ばれるアルゴリズムをもたらす。
我々はさらに,問題の重要パラメータの観点から推定器の最適化誤差に対する非漸近的境界を証明し,その結果を実用シナリオをカバーする確率的勾配の場合にも拡張する。
検証可能な仮定を用いて,ロジスティック回帰の文脈におけるアルゴリズムの経験的挙動を説明する数値実験を行った。
我々の設定は、期待最大化(EM)アルゴリズムのような古典的なアプローチと比較して拡散に基づく最適化ルーチンを実装するための簡単な方法を提供する。
関連論文リスト
- Kinetic Interacting Particle Langevin Monte Carlo [0.0]
本稿では,潜在変数モデルにおける統計的推論のために,アンダーダム付きランゲヴィンアルゴリズムの相互作用について紹介し,解析する。
本稿では,パラメータと潜伏変数の空間内で共同で進化する拡散過程を提案する。
統計モデルのパラメータを推定する実用的なアルゴリズムとして,この拡散について2つの明確な考察を行う。
論文 参考訳（メタデータ） (2024-07-08T09:52:46Z) - Proximal Interacting Particle Langevin Algorithms [0.0]
本稿では,潜時変動モデルにおける推論と学習のためのPIPLAアルゴリズムを提案する。
非微分不可能な統計モデルにおけるパラメータ推定の問題に合わせた、新しい近位IPLAファミリー内のいくつかの変種を提案する。
我々の理論と実験は、PIPLAファミリーが非微分可能モデルの潜在変数モデルにおけるパラメータ推定問題のデファクト選択であることを示している。
論文 参考訳（メタデータ） (2024-06-20T13:16:41Z) - Momentum Particle Maximum Likelihood [2.4561590439700076]
自由エネルギー関数を最小化するための類似の力学系に基づくアプローチを提案する。
システムを離散化することにより、潜在変数モデルにおける最大推定のための実用的なアルゴリズムを得る。
このアルゴリズムは既存の粒子法を数値実験で上回り、他のMLEアルゴリズムと比較する。
論文 参考訳（メタデータ） (2023-12-12T14:53:18Z) - Noise-Free Sampling Algorithms via Regularized Wasserstein Proximals [3.4240632942024685]
ポテンシャル関数が支配する分布からサンプリングする問題を考察する。
本研究は, 決定論的な楽譜に基づくMCMC法を提案し, 粒子に対する決定論的進化をもたらす。
論文 参考訳（メタデータ） (2023-08-28T23:51:33Z) - Stochastic Marginal Likelihood Gradients using Neural Tangent Kernels [78.6096486885658]
線形化されたラプラス近似に下界を導入する。
これらの境界は漸進的な最適化が可能であり、推定精度と計算複雑性とのトレードオフを可能にする。
論文 参考訳（メタデータ） (2023-06-06T19:02:57Z) - Probabilistic Unrolling: Scalable, Inverse-Free Maximum Likelihood
Estimation for Latent Gaussian Models [69.22568644711113]
我々は,モンテカルロサンプリングと反復線形解法を組み合わせた確率的アンローリングを導入し,行列逆転を回避した。
理論的解析により,解法の繰り返しによる解法の解法と逆転が最大値推定の勾配推定を高速化することを示した。
シミュレーションおよび実データ実験において、確率的アンロールは、モデル性能の損失を最小限に抑えながら、勾配EMよりも桁違いに高速な潜在ガウスモデルを学習することを示した。
論文 参考訳（メタデータ） (2023-06-05T21:08:34Z) - Monte Carlo Neural PDE Solver for Learning PDEs via Probabilistic Representation [59.45669299295436]
教師なしニューラルソルバのトレーニングのためのモンテカルロPDEソルバを提案する。
我々は、マクロ現象をランダム粒子のアンサンブルとみなすPDEの確率的表現を用いる。
対流拡散, アレン・カーン, ナヴィエ・ストークス方程式に関する実験により, 精度と効率が著しく向上した。
論文 参考訳（メタデータ） (2023-02-10T08:05:19Z) - Kernel-based off-policy estimation without overlap: Instance optimality
beyond semiparametric efficiency [53.90687548731265]
本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。
任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
論文 参考訳（メタデータ） (2023-01-16T02:57:37Z) - A blob method method for inhomogeneous diffusion with applications to
multi-agent control and sampling [0.6562256987706128]
重み付き多孔質媒質方程式(WPME)に対する決定論的粒子法を開発し,その収束性を時間間隔で証明する。
提案手法は,マルチエージェントカバレッジアルゴリズムや確率測定のサンプリングに自然に応用できる。
論文 参考訳（メタデータ） (2022-02-25T19:49:05Z) - SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for
Gaussian Process Regression with Derivatives [86.01677297601624]
本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。
我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
論文 参考訳（メタデータ） (2020-03-05T14:33:20Z) - A Near-Optimal Gradient Flow for Learning Neural Energy-Based Models [93.24030378630175]
学習エネルギーベースモデル(EBM)の勾配流を最適化する新しい数値スキームを提案する。
フォッカー・プランク方程式から大域相対エントロピーの2階ワッサーシュタイン勾配流を導出する。
既存のスキームと比較して、ワッサーシュタイン勾配流は実データ密度を近似するより滑らかで近似的な数値スキームである。
論文 参考訳（メタデータ） (2019-10-31T02:26:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。