論文の概要: Implicit Variational Rejection Sampling
- arxiv url: http://arxiv.org/abs/2606.14235v1
- Date: Fri, 12 Jun 2026 08:17:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-15 16:00:42.819319
- Title: Implicit Variational Rejection Sampling
- Title(参考訳): インプシットな変動型リジェクションサンプリング
- Authors: Jian Xu, Shigui Li, Wei Chen, Jiacheng Li, Zhiqi Lin, Delu Zeng, Xinghao Ding, John Paisley, Qibin Zhao,
- Abstract要約: 変分推論(VI)は、複雑な後続分布を近似するベイズ機械学習の基本的な推論手法である。
最近の進歩は、ニューラルネットワークを利用して暗黙の分布をモデル化し、柔軟性を高めている。
本稿では,暗黙分布と拒絶サンプリングを統合して後部近似を改善するImplicit Variational Rejection Smpling (IVRS) 法を提案する。
- 参考スコア(独自算出の注目度): 49.24060583051337
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Variational Inference (VI) is a fundamental inference technique in Bayesian machine learning for approximating complex posterior distributions. Traditional VI often relies on the mean-field factorization, which can inadequately capture true posterior complexity. Recent advancements have leveraged neural networks to model implicit distributions, offering increased flexibility. However, the practical constraints of neural network architectures still produces inaccuracies. In this paper, we propose a method called Implicit Variational Rejection Sampling (IVRS), which integrates implicit distributions with rejection sampling to improve the posterior approximation. Our method uses neural networks to construct implicit proposal distributions, and rejection sampling with a discriminator network that estimates the density ratio between the implicit proposal and the true posterior for refining the approximation. Towards this end, we introduce the Implicit Resampling Evidence Lower Bound (IR-ELBO) as a metric to characterize the resampled distribution's quality and derive a tighter variational lower bound. Experimental results demonstrate that our method outperforms traditional variational inference techniques.
- Abstract(参考訳): 変分推論(VI)は、複雑な後続分布を近似するベイズ機械学習の基本的な推論手法である。
伝統的なVIは、しばしば平均場分解に依存しており、それは真の後続の複雑さを不適切に捉えることができる。
最近の進歩は、ニューラルネットワークを利用して暗黙の分布をモデル化し、柔軟性を高めている。
しかし、ニューラルネットワークアーキテクチャの実践的な制約は、いまだに不正確なものを生み出している。
本稿では,暗黙分布と拒絶サンプリングを統合して後部近似を改善するImplicit Variational Rejection Smpling (IVRS) 法を提案する。
本手法は,暗黙的提案分布の構築にニューラルネットワークを用い,暗黙的提案と真後部との密度比を推定する判別器ネットワークを用いた拒絶サンプリングを行った。
この目的に向けて、再サンプリング分布の品質を特徴付ける指標として、Implicit Resampence Evidence Lower bound (IR-ELBO)を導入し、より厳密な変動下界を導出する。
実験により,本手法は従来の変分推論手法よりも優れた性能を示した。
関連論文リスト
- Amortized Posterior Sampling with Diffusion Prior Distillation [55.03585818289934]
Amortized Posterior Smplingは、逆問題における効率的な後方サンプリングのための新しい変分推論手法である。
本手法は,拡散モデルにより暗黙的に定義された変動分布と後続分布とのばらつきを最小限に抑えるために条件付き流れモデルを訓練する。
既存の手法とは異なり、我々のアプローチは教師なしであり、ペア化されたトレーニングデータを必要としておらず、ユークリッドと非ユークリッドの両方のドメインに適用できる。
論文 参考訳(メタデータ) (2024-07-25T09:53:12Z) - Uncertainty Quantification via Stable Distribution Propagation [60.065272548502]
本稿では,ニューラルネットワークによる安定確率分布の伝播手法を提案する。
提案手法は局所線形化に基づいており,ReLU非線型性に対する全変動距離の近似値として最適であることを示す。
論文 参考訳(メタデータ) (2024-02-13T09:40:19Z) - Implicit Variational Inference for High-Dimensional Posteriors [7.924706533725115]
変分推論において、ベイズモデルの利点は、真の後続分布を正確に捉えることに依存する。
複雑な多重モーダルおよび相関後部を近似するのに適した暗黙分布を特定するニューラルサンプリング手法を提案する。
提案手法では,ニューラルネットワークを局所的に線形化することにより,暗黙分布を用いた近似推論の新たなバウンダリを導入する。
論文 参考訳(メタデータ) (2023-10-10T14:06:56Z) - Deblurring via Stochastic Refinement [85.42730934561101]
条件付き拡散モデルに基づくブラインドデブロアリングのための代替フレームワークを提案する。
提案手法は,PSNRなどの歪み指標の点で競合する。
論文 参考訳(メタデータ) (2021-12-05T04:36:09Z) - Sampling-free Variational Inference for Neural Networks with
Multiplicative Activation Noise [51.080620762639434]
サンプリングフリー変動推論のための後方近似のより効率的なパラメータ化を提案する。
提案手法は,標準回帰問題に対する競合的な結果をもたらし,大規模画像分類タスクに適している。
論文 参考訳(メタデータ) (2021-03-15T16:16:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。