論文の概要: On Representations of Mean-Field Variational Inference

• arxiv url: http://arxiv.org/abs/2210.11385v1
• Date: Thu, 20 Oct 2022 16:26:22 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-21 13:10:49.944626
• Title: On Representations of Mean-Field Variational Inference
• Title（参考訳）: 平均場変分推論の表現について
• Authors: Soumyadip Ghosh and Yingdong Lu and Tomasz Nowicki and Edith Zhang
• Abstract要約: 平均場変動推論(MFVI)アルゴリズムを解析するためのフレームワークを提案する。 提案手法により,MFVI問題を3つの異なる方法で表現できる。 厳密な保証は、座標の漸進的変分推論アルゴリズムの時分割的な実装が限界の勾配フローをもたらすことを示すために確立される。
• 参考スコア（独自算出の注目度）: 2.4316550366482357
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The mean field variational inference (MFVI) formulation restricts the general Bayesian inference problem to the subspace of product measures. We present a framework to analyze MFVI algorithms, which is inspired by a similar development for general variational Bayesian formulations. Our approach enables the MFVI problem to be represented in three different manners: a gradient flow on Wasserstein space, a system of Fokker-Planck-like equations and a diffusion process. Rigorous guarantees are established to show that a time-discretized implementation of the coordinate ascent variational inference algorithm in the product Wasserstein space of measures yields a gradient flow in the limit. A similar result is obtained for their associated densities, with the limit being given by a quasi-linear partial differential equation. A popular class of practical algorithms falls in this framework, which provides tools to establish convergence. We hope this framework could be used to guarantee convergence of algorithms in a variety of approaches, old and new, to solve variational inference problems.
• Abstract（参考訳）: 平均場変動推論(MFVI)の定式化は、一般ベイズ推論問題を積測度の部分空間に制限する。 本稿では,MFVIアルゴリズムを解析するためのフレームワークを提案する。 我々のアプローチでは、MFVI問題をワッサーシュタイン空間上の勾配流、フォッカー・プランク型方程式の系、拡散過程の3つの異なる方法で表すことができる。 厳密な保証が確立され、測度の積 wasserstein 空間における座標上昇変分推論アルゴリズムの時間的離散化実装が極限の勾配フローをもたらすことを示した。 関連する密度に対して同様の結果が得られ、その極限は準線形偏微分方程式によって与えられる。 一般的な実用的なアルゴリズムのクラスがこのフレームワークに該当し、収束を確立するツールを提供する。 このフレームワークが、様々なアプローチにおけるアルゴリズムの収束を保証するために、古くて新しい方法で、変分推論問題を解決するために使用できることを願っている。

関連論文リスト

• A Variational Bayesian Inference Theory of Elasticity and Its Mixed Probabilistic Finite Element Method for Inverse Deformation Solutions in Any Dimension [3.9900555221077396]
  弾性ひずみエネルギーはベイズ推論ネットワークの先行として用いられる。 提案手法は, 強い不連続性や破壊を伴う連続変形写像を逆予測できる。
  論文  参考訳（メタデータ） (2024-10-10T04:35:18Z)
• Total Uncertainty Quantification in Inverse PDE Solutions Obtained with Reduced-Order Deep Learning Surrogate Models [50.90868087591973]
  機械学習サロゲートモデルを用いて得られた逆PDE解の総不確かさを近似したベイズ近似法を提案する。 非線型拡散方程式に対する反復的アンサンブルスムーズおよび深層アンサンブル法との比較により,提案手法を検証した。
  論文  参考訳（メタデータ） (2024-08-20T19:06:02Z)
• A Unified Theory of Stochastic Proximal Point Methods without Smoothness [52.30944052987393]
  近点法はその数値的安定性と不完全なチューニングに対する頑健性からかなりの関心を集めている。 本稿では,近位点法(SPPM)の幅広いバリエーションの包括的解析について述べる。
  論文  参考訳（メタデータ） (2024-05-24T21:09:19Z)
• A Rigorous Link between Deep Ensembles and (Variational) Bayesian Methods [14.845158804951552]
  ベイズ的,変分的ベイズ的,アンサンブル法の間の数学的に厳密な関係を確立した。 技術的なレベルでは、ワッサーシュタインフローのレンズを通して一般化された変分推論に寄与する。
  論文  参考訳（メタデータ） (2023-05-24T11:13:59Z)
• SARAH-based Variance-reduced Algorithm for Stochastic Finite-sum Cocoercive Variational Inequalities [137.6408511310322]
  有限サムコヒーレンシブ変分不等式の問題を考える。 強い単調な問題に対しては、この方法を用いて解への線形収束を達成することができる。
  論文  参考訳（メタデータ） (2022-10-12T08:04:48Z)
• Error-Aware Spatial Ensembles for Video Frame Interpolation [50.63021118973639]
  近年,ビデオフレーム(VFI)アルゴリズムは,データ駆動アルゴリズムと実装の両面で前例のない進歩により,大幅に改善されている。 近年の研究では、挑戦的なVFIシナリオに対処する手段として、高度な動き推定や新しいワープ手法が導入されている。 本研究は、光フローとIEの相関関係を詳細に検討することにより、中間フレームを異なるIEレベルに対応する異なる領域に分割する新しいエラー予測指標を提案する。
  論文  参考訳（メタデータ） (2022-07-25T16:15:38Z)
• Mean-field Variational Inference via Wasserstein Gradient Flow [8.05603983337769]
  平均場(MF)近似のような変分推論は、効率的な計算のためにある種の共役構造を必要とする。 We introduced a general computer framework to implement MFal inference for Bayesian model with or without latent variables, using the Wasserstein gradient flow (WGF)。 本稿では,ニューラルネットワークを用いた制約のない関数近似手法を提案する。
  論文  参考訳（メタデータ） (2022-07-17T04:05:32Z)
• A Variational Inference Approach to Inverse Problems with Gamma Hyperpriors [60.489902135153415]
  本稿では,ガンマハイパープライヤを用いた階層的逆問題に対する変分反復交替方式を提案する。 提案した変分推論手法は正確な再構成を行い、意味のある不確実な定量化を提供し、実装が容易である。
  論文  参考訳（メタデータ） (2021-11-26T06:33:29Z)
• Low-Discrepancy Points via Energetic Variational Inference [5.936959130012709]
  本稿では,カーネルの不一致を最小限に抑えて,決定論的変分推論手法を提案し,低差分点を生成する。 得られたアルゴリズムをEVI-MMDと命名し、対象分布が完全に特定された例を通して実演する。 その性能は、分布近似、数値積分、生成学習の応用における代替手法と比較して満足できる。
  論文  参考訳（メタデータ） (2021-11-21T03:09:07Z)
• Probabilistic Numerical Method of Lines for Time-Dependent Partial Differential Equations [20.86460521113266]
  現在の最先端のPDEソルバは、空間次元と時間次元を別々に、シリアルに、ブラックボックスアルゴリズムで扱います。 この問題を解決するために,ライン法と呼ばれる手法の確率的版を導入する。 空間不確かさと時間不確かさの連成定量化は、十分に調整されたODEソルバの性能上の利点を失うことなく実現できる。
  論文  参考訳（メタデータ） (2021-10-22T15:26:05Z)
• Optimal oracle inequalities for solving projected fixed-point equations [53.31620399640334]
  ヒルベルト空間の既知の低次元部分空間を探索することにより、確率観測の集合を用いて近似解を計算する手法を検討する。 本稿では,線形関数近似を用いた政策評価問題に対する時間差分学習手法の誤差を正確に評価する方法について述べる。
  論文  参考訳（メタデータ） (2020-12-09T20:19:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。