論文の概要: Finite sample approximations of exact and entropic Wasserstein distances
between covariance operators and Gaussian processes
- arxiv url: http://arxiv.org/abs/2104.12368v1
- Date: Mon, 26 Apr 2021 06:57:14 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-27 14:57:59.167804
- Title: Finite sample approximations of exact and entropic Wasserstein distances
between covariance operators and Gaussian processes
- Title(参考訳): 共分散作用素とガウス過程の間の完全およびエントロピーワッサーシュタイン距離の有限サンプル近似
- Authors: Minh Ha Quang
- Abstract要約: 2つの中心ガウス過程間のシンクホーンの発散を一貫して効率的に推定できることを示す。
固定正規化パラメータでは、収束率は次元非依存であり、ヒルベルト-シュミット距離のそれと同じ順序である。
rkhs の少なくとも一方が有限次元であれば、ガウス過程の間の正確なワッサーシュタイン距離の it 次元依存サンプル複雑性が得られる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This work studies finite sample approximations of the exact and entropic
regularized Wasserstein distances between centered Gaussian processes and, more
generally, covariance operators of functional random processes. We first show
that these distances/divergences are fully represented by reproducing kernel
Hilbert space (RKHS) covariance and cross-covariance operators associated with
the corresponding covariance functions. Using this representation, we show that
the Sinkhorn divergence between two centered Gaussian processes can be
consistently and efficiently estimated from the divergence between their
corresponding normalized finite-dimensional covariance matrices, or
alternatively, their sample covariance operators. Consequently, this leads to a
consistent and efficient algorithm for estimating the Sinkhorn divergence from
finite samples generated by the two processes. For a fixed regularization
parameter, the convergence rates are {\it dimension-independent} and of the
same order as those for the Hilbert-Schmidt distance. If at least one of the
RKHS is finite-dimensional, we obtain a {\it dimension-dependent} sample
complexity for the exact Wasserstein distance between the Gaussian processes.
- Abstract(参考訳): この研究は、中心ガウス過程とより一般的には関数的ランダム過程の共分散作用素の間の完全かつエントロピー正則なワッサーシュタイン距離の有限サンプル近似を研究する。
まず,これらの距離/ディバージェンスを、対応する共分散関数に付随する核ヒルベルト空間(rkhs)共分散とクロス共分散作用素の再現によって完全に表現することを示す。
この表現を用いて, 2つの中心ガウス過程間のシンクホーンの発散を, 対応する正規化有限次元共分散行列間の発散, あるいはそのサンプル共分散作用素から, 一貫して効率的に推定できることを示す。
これにより、2つのプロセスによって生成された有限なサンプルからシンクホーンの発散を推定するための一貫性と効率のよいアルゴリズムが導かれる。
固定正則化パラメータでは、収束率は、ヒルベルト-シュミット距離のそれと同じ順序の {\it dimension-independent} である。
RKHS の少なくとも一方が有限次元であれば、ガウス過程の間の正確なワッサーシュタイン距離について、次元依存的なサンプル複雑性が得られる。
関連論文リスト
- Wasserstein Bounds for generative diffusion models with Gaussian tail targets [0.0]
本稿では,データ分布とスコアベース生成モデルの生成の間のワッサースタイン距離を推定する。
次元で有界な複雑性は、対数定数を持つ$O(sqrtd)$である。
論文 参考訳(メタデータ) (2024-12-15T17:20:42Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Kullback-Leibler and Renyi divergences in reproducing kernel Hilbert
space and Gaussian process settings [0.0]
正規化Kullback-LeiblerとR'enyiの発散をAlpha Log-Det(Log-Det)発散により定式化する。
特徴的核について、最初の設定は、完全可分な距離空間上の任意のボレル確率測度の間の分岐をもたらす。
我々は、Alpha Log-Detの発散がヒルベルト-シュミットノルムにおいて連続であることを示し、ヒルベルト空間値の確率変数に対して大数の法則を適用することができる。
論文 参考訳(メタデータ) (2022-07-18T06:40:46Z) - A Stochastic Newton Algorithm for Distributed Convex Optimization [62.20732134991661]
均質な分散凸最適化のためのNewtonアルゴリズムを解析し、各マシンが同じ人口目標の勾配を計算する。
提案手法は,既存の手法と比較して,性能を損なうことなく,必要な通信ラウンドの数,頻度を低減できることを示す。
論文 参考訳(メタデータ) (2021-10-07T17:51:10Z) - Estimation of Riemannian distances between covariance operators and
Gaussian processes [0.7360807642941712]
無限次元正定値ヒルベルト・シュミット作用素間の2つの距離について検討する。
結果は、どちらの距離もヒルベルト・シュミットノルムに収束することを示している。
論文 参考訳(メタデータ) (2021-08-26T09:57:47Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - The Connection between Discrete- and Continuous-Time Descriptions of
Gaussian Continuous Processes [60.35125735474386]
我々は、一貫した推定子をもたらす離散化が粗粒化下での不変性を持つことを示す。
この結果は、導関数再構成のための微分スキームと局所時間推論アプローチの組み合わせが、2次または高次微分方程式の時系列解析に役立たない理由を説明する。
論文 参考訳(メタデータ) (2021-01-16T17:11:02Z) - Convergence and finite sample approximations of entropic regularized
Wasserstein distances in Gaussian and RKHS settings [0.0]
ヒルベルト空間設定におけるエントロピー正則化ワッサーシュタイン距離の収束と有限サンプル近似について検討する。
無限次元ヒルベルト空間上のガウス測度の場合、2-シンクホーン発散の収束は、正確な2-ワッセルシュタイン距離の収束よりも弱い。
論文 参考訳(メタデータ) (2021-01-05T09:46:58Z) - Optimal oracle inequalities for solving projected fixed-point equations [53.31620399640334]
ヒルベルト空間の既知の低次元部分空間を探索することにより、確率観測の集合を用いて近似解を計算する手法を検討する。
本稿では,線形関数近似を用いた政策評価問題に対する時間差分学習手法の誤差を正確に評価する方法について述べる。
論文 参考訳(メタデータ) (2020-12-09T20:19:32Z) - Faster Wasserstein Distance Estimation with the Sinkhorn Divergence [0.0]
正方形ワッサーシュタイン距離(英: squared Wasserstein distance)は、非パラメトリックな設定における確率分布を比較する量である。
そこで本研究では,シンクホーンの発散量を用いて推定する手法を提案する。
滑らかな密度に対して、この推定器はサンプルの複雑さに匹敵するが、より高い正規化レベルが可能であることを示す。
論文 参考訳(メタデータ) (2020-06-15T06:58:16Z) - The Convergence Indicator: Improved and completely characterized
parameter bounds for actual convergence of Particle Swarm Optimization [68.8204255655161]
我々は、粒子が最終的に単一点に収束するか、分岐するかを計算するのに使用できる新しい収束指標を導入する。
この収束指標を用いて、収束群につながるパラメータ領域を完全に特徴づける実際の境界を提供する。
論文 参考訳(メタデータ) (2020-06-06T19:08:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。