論文の概要: A Particle Algorithm for Mean-Field Variational Inference

• arxiv url: http://arxiv.org/abs/2412.20385v2
• Date: Tue, 11 Feb 2025 14:37:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-12 14:04:17.779610
• Title: A Particle Algorithm for Mean-Field Variational Inference
• Title（参考訳）: 平均場変分推論のための粒子アルゴリズム
• Authors: Qiang Du, Kaizheng Wang, Edith Zhang, Chenyang Zhong,
• Abstract要約: 平均場変動推定のための新しい粒子ベースアルゴリズムを提案する。 我々はアルゴリズムに対して漸近的でない有限粒子収束を保証する。
• 参考スコア（独自算出の注目度）: 1.912429179274357
• License:
• Abstract: Variational inference is a fast and scalable alternative to Markov chain Monte Carlo and has been widely applied to posterior inference tasks in statistics and machine learning. A traditional approach for implementing mean-field variational inference (MFVI) is coordinate ascent variational inference (CAVI), which relies crucially on parametric assumptions on complete conditionals. In this paper, we introduce a novel particle-based algorithm for mean-field variational inference, which we term PArticle VI (PAVI). Notably, our algorithm does not rely on parametric assumptions on complete conditionals, and it applies to the nonparametric setting. We provide non-asymptotic finite-particle convergence guarantee for our algorithm. To our knowledge, this is the first end-to-end guarantee for particle-based MFVI.
• Abstract（参考訳）: 変分推論はマルコフ連鎖モンテカルロの高速でスケーラブルな代替であり、統計学や機械学習の後方推論タスクに広く応用されている。 平均場変分推論(MFVI)を実装する従来の手法は、完全な条件に対するパラメトリックな仮定に決定的に依存するCAVI(Coortic Ascent Variational Inference)である。 本稿では,PAVI(PAVI)と呼ばれる平均場変動推論のための新しい粒子ベースアルゴリズムを提案する。 特に,本アルゴリズムは完全条件に対するパラメトリック仮定に頼らず,非パラメトリック設定に適用する。 我々はアルゴリズムに対して漸近的でない有限粒子収束を保証する。 我々の知る限り、これは粒子ベースのMFVIの最初のエンドツーエンド保証である。

関連論文リスト

• Statistical Inference for Temporal Difference Learning with Linear Function Approximation [62.69448336714418]
  時間差差(TD)学習は、おそらく政策評価に最も広く使用されるものであり、この目的の自然な枠組みとして機能する。 本稿では,Polyak-Ruppert平均化と線形関数近似によるTD学習の整合性について検討し,既存の結果よりも3つの重要な改善点を得た。
  論文  参考訳（メタデータ） (2024-10-21T15:34:44Z)
• A Unified Theory of Stochastic Proximal Point Methods without Smoothness [52.30944052987393]
  近点法はその数値的安定性と不完全なチューニングに対する頑健性からかなりの関心を集めている。 本稿では,近位点法(SPPM)の幅広いバリエーションの包括的解析について述べる。
  論文  参考訳（メタデータ） (2024-05-24T21:09:19Z)
• Extending Mean-Field Variational Inference via Entropic Regularization: Theory and Computation [2.2656885622116394]
  変分推論 (VI) は高次元ベイズモデルに対する近似推論の一般的な方法として登場した。 エントロピー正則化を通したナイーブ平均場を拡張する新しいVI法を提案する。 我々は,$Xi$-variational rearsが真の後縁依存性を効果的に回復することを示した。
  論文  参考訳（メタデータ） (2024-04-14T01:40:11Z)
• On the Convergence of Black-Box Variational Inference [16.895490556279647]
  完全ブラックボックス変分推論(BBVI)の最初の収束保証を提供する。 以上の結果より, 対数平滑な後部密度と対数凹凸が強く, 位置スケールの変動が認められなかった。
  論文  参考訳（メタデータ） (2023-05-24T16:59:50Z)
• Online Learning with Adversaries: A Differential-Inclusion Analysis [52.43460995467893]
  我々は,完全に非同期なオンラインフェデレート学習のための観察行列ベースのフレームワークを提案する。 我々の主な結果は、提案アルゴリズムがほぼ確実に所望の平均$mu.$に収束することである。 新たな差分包摂型2時間スケール解析を用いて,この収束を導出する。
  論文  参考訳（メタデータ） (2023-04-04T04:32:29Z)
• Manifold Gaussian Variational Bayes on the Precision Matrix [70.44024861252554]
  複雑なモデルにおける変分推論(VI)の最適化アルゴリズムを提案する。 本研究では,変分行列上の正定値制約を満たすガウス変分推論の効率的なアルゴリズムを開発した。 MGVBPはブラックボックスの性質のため、複雑なモデルにおけるVIのための準備が整ったソリューションである。
  論文  参考訳（メタデータ） (2022-10-26T10:12:31Z)
• On Representations of Mean-Field Variational Inference [2.4316550366482357]
  平均場変動推論(MFVI)アルゴリズムを解析するためのフレームワークを提案する。 提案手法により,MFVI問題を3つの異なる方法で表現できる。 厳密な保証は、座標の漸進的変分推論アルゴリズムの時分割的な実装が限界の勾配フローをもたらすことを示すために確立される。
  論文  参考訳（メタデータ） (2022-10-20T16:26:22Z)
• Towards a Unified Framework for Uncertainty-aware Nonlinear Variable Selection with Theoretical Guarantees [2.1506382989223782]
  モデル不確実性を含む非線形変数選択のためのシンプルで統一的なフレームワークを開発する。 この手法は木アンサンブルのような微分不可能なモデルに対しても一般化可能であることを示す。
  論文  参考訳（メタデータ） (2022-04-15T02:12:00Z)
• A Variational Inference Approach to Inverse Problems with Gamma Hyperpriors [60.489902135153415]
  本稿では,ガンマハイパープライヤを用いた階層的逆問題に対する変分反復交替方式を提案する。 提案した変分推論手法は正確な再構成を行い、意味のある不確実な定量化を提供し、実装が容易である。
  論文  参考訳（メタデータ） (2021-11-26T06:33:29Z)
• Scalable Variational Gaussian Processes via Harmonic Kernel Decomposition [54.07797071198249]
  汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。 様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。 提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
  論文  参考訳（メタデータ） (2021-06-10T18:17:57Z)
• Statistical Guarantees for Transformation Based Models with Applications to Implicit Variational Inference [8.333191406788423]
  非パラメトリック推論における非線形潜在変数モデル(NL-LVM)の使用に関する理論的正当性を提供する。 我々はNL-LVMを用いて、GP-IVIとみなす変分分布の暗黙の族を構築する。 私たちの知る限りでは、暗黙の変分推論の理論的保証を提供するための最初の研究である。
  論文  参考訳（メタデータ） (2020-10-23T21:06:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。