論文の概要: Sliced Wasserstein Variational Inference
- arxiv url: http://arxiv.org/abs/2207.13177v1
- Date: Tue, 26 Jul 2022 20:51:51 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-28 12:56:52.935747
- Title: Sliced Wasserstein Variational Inference
- Title（参考訳）: スライスされたワッサーシュタイン変分推論
- Authors: Mingxuan Yi and Song Liu
- Abstract要約: 最適輸送から生じる有効な計量であるスライスされたワッサーシュタイン距離を最小化することで,新しい変分推定法を提案する。
我々の近似は、ニューラルネットワークのようなジェネレータによって近似ファミリーを再生できるように、変動分布の引き込み可能な密度関数も必要としない。
- 参考スコア（独自算出の注目度）: 3.405431122165563
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Variational Inference approximates an unnormalized distribution via the
minimization of Kullback-Leibler (KL) divergence. Although this divergence is
efficient for computation and has been widely used in applications, it suffers
from some unreasonable properties. For example, it is not a proper metric,
i.e., it is non-symmetric and does not preserve the triangle inequality. On the
other hand, optimal transport distances recently have shown some advantages
over KL divergence. With the help of these advantages, we propose a new
variational inference method by minimizing sliced Wasserstein distance, a valid
metric arising from optimal transport. This sliced Wasserstein distance can be
approximated simply by running MCMC but without solving any optimization
problem. Our approximation also does not require a tractable density function
of variational distributions so that approximating families can be amortized by
generators like neural networks. Furthermore, we provide an analysis of the
theoretical properties of our method. Experiments on synthetic and real data
are illustrated to show the performance of the proposed method.
- Abstract（参考訳）: 変分推論は、kullback-leibler(kl)分岐の最小化を通じて非正規化分布を近似する。
この分散は計算に効率的であり、アプリケーションで広く使われているが、いくつかの不合理な性質に悩まされている。
例えば、それは適切な計量ではない、すなわち、非対称であり、三角不等式を保たない。
一方、最適輸送距離はklの発散よりもいくつかの利点を示している。
これらの利点を活かし,最適移動から生じる有効な計量であるスライスワッサースタイン距離を最小化することで,新しい変分推定法を提案する。
このスライスされたワッサーシュタイン距離は、MCMCを実行するだけで近似できるが、最適化問題は解けない。
この近似は変動分布の移動可能な密度関数を必要とせず、近似族はニューラルネットワークのようなジェネレータによって償却される。
さらに,本手法の理論的性質の解析を行った。
提案手法の性能を示すために, 合成データおよび実データの実験を行った。
関連論文リスト
- Energy-Based Sliced Wasserstein Distance [47.18652387199418]
スライスされたワッサーシュタイン(SW)距離の鍵成分はスライス分布である。
本研究では,スライシング分布をパラメータフリーなエネルギーベース分布として設計する。
次に、新しいスライスされたワッセルシュタイン計量、エネルギーベースのスライスされたワッセルシュタイン距離(EBSW)を導出する。
論文 参考訳（メタデータ） (2023-04-26T14:28:45Z) - Kernel-based off-policy estimation without overlap: Instance optimality
beyond semiparametric efficiency [53.90687548731265]
本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。
任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
論文 参考訳（メタデータ） (2023-01-16T02:57:37Z) - Statistical and Topological Properties of Gaussian Smoothed Sliced
Probability Divergences [9.08047281767226]
滑らか化とスライシングが計量特性と弱位相を保存することを示す。
また、これらの分散のサンプルの複雑さに関する結果も提示する。
論文 参考訳（メタデータ） (2021-10-20T12:21:32Z) - On the Robustness to Misspecification of $\alpha$-Posteriors and Their
Variational Approximations [12.52149409594807]
$alpha$-posteriorとその変分近似は、確率を下げ、変分近似エラーを導入することで標準後部推論を歪ませる。
このような歪みが適切に調整されると、潜在的なパラメトリックモデルの誤仕様がある場合、Kulback-Leibler (KL) の真の分散が、おそらく実現不可能な、後方分布が減少することを示した。
論文 参考訳（メタデータ） (2021-04-16T19:11:53Z) - Continuous Wasserstein-2 Barycenter Estimation without Minimax
Optimization [94.18714844247766]
ワッサーシュタイン・バリセンターは、最適輸送に基づく確率測度の重み付き平均の幾何学的概念を提供する。
本稿では,Wasserstein-2 バリセンタのサンプルアクセスを演算するスケーラブルなアルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-02-02T21:01:13Z) - Variational Transport: A Convergent Particle-BasedAlgorithm for Distributional Optimization [106.70006655990176]
分散最適化問題は機械学習や統計学で広く発生する。
本稿では,変分輸送と呼ばれる粒子に基づく新しいアルゴリズムを提案する。
目的関数がpolyak-Lojasiewicz (PL) (Polyak, 1963) の機能バージョンと滑らかな条件を満たすとき、変分輸送は線形に収束することを示す。
論文 参考訳（メタデータ） (2020-12-21T18:33:13Z) - The Unbalanced Gromov Wasserstein Distance: Conic Formulation and
Relaxation [0.0]
距離測度空間(すなわち確率分布を持つ距離空間)を比較することは、多くの機械学習問題の中心である。
そのような距離空間の間の最も一般的な距離は計量測度Gro-Wasserstein (GW) 距離であり、その距離は二次である。
GW の定式化は、任意の正測度を持つ距離空間の比較を等距離まで緩和する。
論文 参考訳（メタデータ） (2020-09-09T12:38:14Z) - On Projection Robust Optimal Transport: Sample Complexity and Model
Misspecification [101.0377583883137]
射影ロバスト(PR)OTは、2つの測度の間のOTコストを最大化するために、射影可能な$k$次元部分空間を選択する。
私たちの最初の貢献は、PRワッサーシュタイン距離のいくつかの基本的な統計的性質を確立することである。
次に、部分空間を最適化するのではなく平均化することにより、PRW距離の代替として積分PRワッサーシュタイン距離(IPRW)を提案する。
論文 参考訳（メタデータ） (2020-06-22T14:35:33Z) - Projection Robust Wasserstein Distance and Riemannian Optimization [107.93250306339694]
プロジェクション・ソリッドスタイン(PRW)は、ワッサーシュタイン・プロジェクション(WPP)のロバストな変種であることを示す。
本稿では,PRW距離の計算への第一歩として,その理論と実データに関する実験の関連について述べる。
論文 参考訳（メタデータ） (2020-06-12T20:40:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。