論文の概要: Bures-Wasserstein Importance-Weighted Evidence Lower Bound: Exposition and Applications
- arxiv url: http://arxiv.org/abs/2602.04272v1
- Date: Wed, 04 Feb 2026 07:01:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-05 19:45:11.416269
- Title: Bures-Wasserstein Importance-Weighted Evidence Lower Bound: Exposition and Applications
- Title(参考訳): Bures-Wasserstein 重要度重み付き下界証拠の公開と応用
- Authors: Peiwen Jiang, Takuo Matsubara, Minh-Ngoc Tran,
- Abstract要約: 変分推論の有効な目的として,IW-ELBO(IW-ELBO)の重要性が浮かび上がっている(VI)
本稿では、ブレス=ヴァッサーシュタイン空間におけるIW-ELBOの最適化を定式化する。
解析の重要な寄与は勾配推定器の安定性に関するものである。
- 参考スコア(独自算出の注目度): 10.150648641677828
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The Importance-Weighted Evidence Lower Bound (IW-ELBO) has emerged as an effective objective for variational inference (VI), tightening the standard ELBO and mitigating the mode-seeking behaviour. However, optimizing the IW-ELBO in Euclidean space is often inefficient, as its gradient estimators suffer from a vanishing signal-to-noise ratio (SNR). This paper formulates the optimisation of the IW-ELBO in Bures-Wasserstein space, a manifold of Gaussian distributions equipped with the 2-Wasserstein metric. We derive the Wasserstein gradient of the IW-ELBO and project it onto the Bures-Wasserstein space to yield a tractable algorithm for Gaussian VI. A pivotal contribution of our analysis concerns the stability of the gradient estimator. While the SNR of the standard Euclidean gradient estimator is known to vanish as the number of importance samples $K$ increases, we prove that the SNR of the Wasserstein gradient scales favourably as $Ω(\sqrt{K})$, ensuring optimisation efficiency even for large $K$. We further extend this geometric analysis to the Variational Rényi Importance-Weighted Autoencoder bound, establishing analogous stability guarantees. Experiments demonstrate that the proposed framework achieves superior approximation performance compared to other baselines.
- Abstract(参考訳): The Importance-Weighted Evidence Lower Bound (IW-ELBO) has appeared as effective objective for variational Inference (VI), tightening the standard ELBO and mitigating the mode-seeking behavior。
しかしながら、ユークリッド空間におけるIW-ELBOの最適化は、勾配推定器が消滅する信号-雑音比(SNR)に苦しむため、しばしば非効率である。
本稿では、2-ワッサーシュタイン計量を備えたガウス分布の多様体であるブレス=ワッサーシュタイン空間におけるIW-ELBOの最適化を定式化する。
我々は、IW-ELBO のワッサーシュタイン勾配を導出し、それをバーレス=ワッサーシュタイン空間に射影し、ガウス VI の抽出可能なアルゴリズムを生成する。
解析の重要な寄与は勾配推定器の安定性に関するものである。
標準ユークリッド勾配推定器のSNRは、重要サンプル数$K$が増加するにつれて消滅することが知られているが、ワッサーシュタイン勾配のSNRが$Ω(\sqrt{K})$と好ましくスケールし、大きな$K$に対しても最適化効率を確保することを証明している。
さらに、この幾何解析を変分レニイ重要度重み付きオートエンコーダ境界に拡張し、類似の安定性を保証する。
実験により,提案フレームワークは,他のベースラインと比較して近似性能が優れていることが示された。
関連論文リスト
- G$^2$RPO: Granular GRPO for Precise Reward in Flow Models [74.21206048155669]
本稿では,サンプリング方向の高精度かつ包括的な報酬評価を実現する新しいグラニュラー-GRPO(G$2$RPO)フレームワークを提案する。
複数の拡散スケールで計算された利点を集約するマルチグラニュラリティ・アドバンテージ・インテグレーション・モジュールを導入する。
G$2$RPOは既存のフローベースGRPOベースラインを著しく上回る。
論文 参考訳(メタデータ) (2025-10-02T12:57:12Z) - Closed-form Filtering for Non-linear Systems [83.91296397912218]
我々は密度近似と計算効率の面でいくつかの利点を提供するガウスPSDモデルに基づく新しいフィルタのクラスを提案する。
本研究では,遷移や観測がガウスPSDモデルである場合,フィルタリングを効率的にクローズド形式で行うことができることを示す。
提案する推定器は, 近似の精度に依存し, 遷移確率の正則性に適応する推定誤差を伴って, 高い理論的保証を享受する。
論文 参考訳(メタデータ) (2024-02-15T08:51:49Z) - Geometry-Aware Normalizing Wasserstein Flows for Optimal Causal
Inference [0.0]
本稿では,パラメトリックサブモデルと連続正規化フローを統合することにより,因果推論に対する画期的なアプローチを提案する。
我々は、最適輸送とワッサーシュタイン勾配流を利用して、有限サンプル設定における最小分散の因果推論手法を開発する。
予備実験では, 従来の流れに比べて平均二乗誤差が低い。
論文 参考訳(メタデータ) (2023-11-30T18:59:05Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - Differentiable Annealed Importance Sampling and the Perils of Gradient
Noise [68.44523807580438]
Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。
差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。
我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
論文 参考訳(メタデータ) (2021-07-21T17:10:14Z) - Faster Convergence of Stochastic Gradient Langevin Dynamics for
Non-Log-Concave Sampling [110.88857917726276]
我々は,非log-concaveとなる分布のクラスからサンプリングするために,勾配ランゲヴィンダイナミクス(SGLD)の新たな収束解析を行う。
我々のアプローチの核心は、補助的時間反転型マルコフ連鎖を用いたSGLDのコンダクタンス解析である。
論文 参考訳(メタデータ) (2020-10-19T15:23:18Z) - Optimal Variance Control of the Score Function Gradient Estimator for
Importance Weighted Bounds [12.75471887147565]
本稿では,重要重み付き変動境界(IWAE)のスコア関数勾配推定器の新しい結果を紹介する。
我々は、大きな$K$の極限において、推定子のSignal-to-Noise比(SNR)が$sqrtK$として大きくなるように制御変数を選択することができることを証明した。
論文 参考訳(メタデータ) (2020-08-05T08:41:46Z) - On Projection Robust Optimal Transport: Sample Complexity and Model
Misspecification [101.0377583883137]
射影ロバスト(PR)OTは、2つの測度の間のOTコストを最大化するために、射影可能な$k$次元部分空間を選択する。
私たちの最初の貢献は、PRワッサーシュタイン距離のいくつかの基本的な統計的性質を確立することである。
次に、部分空間を最適化するのではなく平均化することにより、PRW距離の代替として積分PRワッサーシュタイン距離(IPRW)を提案する。
論文 参考訳(メタデータ) (2020-06-22T14:35:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。