論文の概要: Annealed Importance Sampling with q-Paths
- arxiv url: http://arxiv.org/abs/2012.07823v1
- Date: Mon, 14 Dec 2020 18:57:05 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-08 14:23:43.673916
- Title: Annealed Importance Sampling with q-Paths
- Title(参考訳): q-Pathsによる重要度サンプリング
- Authors: Rob Brekelmans, Vaden Masrani, Thang Bui, Frank Wood, Aram Galstyan,
Greg Ver Steeg, Frank Nielsen
- Abstract要約: annealed importance sampling (ais) は分割関数や限界確率を推定するためのゴールド標準である。
既存の文献は、主に指数関数族とkl分岐に関連する幾何学的混合あるいはモーメント平均経路に制限されている。
q$-paths(特別な場合として幾何経路を含む)を用いてaiを探索し、均質なパワー平均、変形した指数関数族、および$alpha$-divergenceと関連づける。
- 参考スコア(独自算出の注目度): 51.73925445218365
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Annealed importance sampling (AIS) is the gold standard for estimating
partition functions or marginal likelihoods, corresponding to importance
sampling over a path of distributions between a tractable base and an
unnormalized target. While AIS yields an unbiased estimator for any path,
existing literature has been primarily limited to the geometric mixture or
moment-averaged paths associated with the exponential family and KL divergence.
We explore AIS using $q$-paths, which include the geometric path as a special
case and are related to the homogeneous power mean, deformed exponential
family, and $\alpha$-divergence.
- Abstract(参考訳): annealed importance sampling (ais) は分割関数や限界確率を推定するための金本位制であり、移動可能なベースと非正規化されたターゲットとの間の分布の経路上での重要度サンプリングに対応する。
AISは任意の経路に対して偏りのない推定器を生成するが、既存の文献は主に指数族とKLの発散に関連する幾何学的混合またはモーメント平均経路に限られている。
我々は、特殊ケースとして幾何学パスを含む$q$-pathsを用いてAISを探索し、同質なパワー平均、変形指数族、および$\alpha$-divergenceに関連する。
関連論文リスト
- Provable benefits of annealing for estimating normalizing constants:
Importance Sampling, Noise-Contrastive Estimation, and beyond [24.86929310909572]
幾何経路を用いることで、指数関数から目標と提案の間の距離の関数への推定誤差が減少することを示す。
最適経路を効率的に近似する2段階推定器を提案する。
論文 参考訳(メタデータ) (2023-10-05T21:16:55Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Generalized equivalences between subsampling and ridge regularization [3.1346887720803505]
アンサンブルリッジ推定器におけるサブサンプリングとリッジ正則化の間の構造的およびリスク等価性を証明した。
我々の同値性の間接的な意味は、最適に調整されたリッジ回帰は、データアスペクト比において単調な予測リスクを示すことである。
論文 参考訳(メタデータ) (2023-05-29T14:05:51Z) - Variational Representations of Annealing Paths: Bregman Information
under Monotonic Embedding [12.020235141059992]
算術平均は、予想されるブレグマン偏差を1つの代表点に最小化することを示す。
本分析では, 準算術的手段, パラメトリック・ファミリー, 発散関数の相互作用に注目した。
論文 参考訳(メタデータ) (2022-09-15T17:22:04Z) - Matching Normalizing Flows and Probability Paths on Manifolds [57.95251557443005]
連続正規化フロー (Continuous Normalizing Flows, CNFs) は、常微分方程式(ODE)を解くことによって、先行分布をモデル分布に変換する生成モデルである。
我々は,CNFが生成する確率密度パスと目標確率密度パスとの間に生じる新たな分岐系であるPPDを最小化して,CNFを訓練することを提案する。
PPDの最小化によって得られたCNFは、既存の低次元多様体のベンチマークにおいて、その可能性とサンプル品質が得られることを示す。
論文 参考訳(メタデータ) (2022-07-11T08:50:19Z) - Robust Estimation for Nonparametric Families via Generative Adversarial
Networks [92.64483100338724]
我々は,高次元ロバストな統計問題を解くためにGAN(Generative Adversarial Networks)を設計するためのフレームワークを提供する。
我々の研究は、これらをロバスト平均推定、第二モーメント推定、ロバスト線形回帰に拡張する。
技術面では、提案したGAN損失は、スムーズで一般化されたコルモゴロフ-スミルノフ距離と見なすことができる。
論文 参考訳(メタデータ) (2022-02-02T20:11:33Z) - Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector
Problems [98.34292831923335]
オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。
我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
論文 参考訳(メタデータ) (2021-12-29T18:46:52Z) - q-Paths: Generalizing the Geometric Annealing Path using Power Means [51.73925445218366]
我々は、幾何学と算術の混合を特別なケースとして含むパスのファミリーである$q$-pathsを紹介した。
幾何経路から離れた小さな偏差がベイズ推定に経験的利得をもたらすことを示す。
論文 参考訳(メタデータ) (2021-07-01T21:09:06Z) - Cram\'er-Rao Lower Bounds Arising from Generalized Csisz\'ar Divergences [17.746238062801293]
我々は Csisz'ar $f$-divergences の一般化された族に対する確率分布の幾何学について研究する。
これらの定式化が, 護衛モデルの偏りのない, 効率的な推定手法の発見に繋がることを示す。
論文 参考訳(メタデータ) (2020-01-14T13:41:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。