論文の概要: Convergence and finite sample approximations of entropic regularized
Wasserstein distances in Gaussian and RKHS settings
- arxiv url: http://arxiv.org/abs/2101.01429v2
- Date: Mon, 15 Feb 2021 09:44:14 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-11 11:44:09.093240
- Title: Convergence and finite sample approximations of entropic regularized
Wasserstein distances in Gaussian and RKHS settings
- Title（参考訳）: ガウスおよびRKHS設定におけるエントロピー正則ワッサーシュタイン距離の収束と有限サンプル近似
- Authors: Minh Ha Quang
- Abstract要約: ヒルベルト空間設定におけるエントロピー正則化ワッサーシュタイン距離の収束と有限サンプル近似について検討する。
無限次元ヒルベルト空間上のガウス測度の場合、2-シンクホーン発散の収束は、正確な2-ワッセルシュタイン距離の収束よりも弱い。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This work studies the convergence and finite sample approximations of
entropic regularized Wasserstein distances in the Hilbert space setting. Our
first main result is that for Gaussian measures on an infinite-dimensional
Hilbert space, convergence in the 2-Sinkhorn divergence is {\it strictly
weaker} than convergence in the exact 2-Wasserstein distance. Specifically, a
sequence of centered Gaussian measures converges in the 2-Sinkhorn divergence
if the corresponding covariance operators converge in the Hilbert-Schmidt norm.
This is in contrast to the previous known result that a sequence of centered
Gaussian measures converges in the exact 2-Wasserstein distance if and only if
the covariance operators converge in the trace class norm. In the reproducing
kernel Hilbert space (RKHS) setting, the {\it kernel Gaussian-Sinkhorn
divergence}, which is the Sinkhorn divergence between Gaussian measures defined
on an RKHS, defines a semi-metric on the set of Borel probability measures on a
Polish space, given a characteristic kernel on that space. With the
Hilbert-Schmidt norm convergence, we obtain {\it dimension-independent}
convergence rates for finite sample approximations of the kernel
Gaussian-Sinkhorn divergence, with the same order as the Maximum Mean
Discrepancy. These convergence rates apply in particular to Sinkhorn divergence
between Gaussian measures on Euclidean and infinite-dimensional Hilbert spaces.
The sample complexity for the 2-Wasserstein distance between Gaussian measures
on Euclidean space, while dimension-dependent and larger than that of the
Sinkhorn divergence, is exponentially faster than the worst case scenario in
the literature.
- Abstract（参考訳）: この研究はヒルベルト空間設定におけるエントロピー正則化ワッサーシュタイン距離の収束と有限サンプル近似を研究する。
第一の主な結果は、無限次元ヒルベルト空間上のガウス測度に対して、2-シンクホーンの発散の収束は、正確な 2-ワッセルシュタイン距離の収束よりも厳密に弱い。
具体的には、中心となるガウス測度の列が、対応する共分散作用素がヒルベルト・シュミットノルムに収束すると、2-シンクホーン分岐に収束する。
これは、ガウス測度の列が正確な2-ワッサーシュタイン距離に収束することと、共分散作用素がトレースクラスノルムに収束することとが対照的である。
再生カーネルヒルベルト空間 (RKHS) において、RKHS 上で定義されるガウス測度の間のシンクホーン発散(英語版)(Sinkhorn divergence)である {\it kernel Gaussian-Sinkhorn divergence} は、ポーランド空間上のボレル確率測度の集合上の半計量を定義する。
ヒルベルト・シュミットノルム収束により、核のガウス・シンクホーン分岐の有限サンプル近似に対する、最大平均偏差と同じ順序の「it次元非依存」収束率が得られる。
これらの収束率は特にユークリッド空間上のガウス測度と無限次元ヒルベルト空間の間のシンクホーン分岐に適用される。
ユークリッド空間上のガウス測度の間の2-wasserstein距離のサンプル複雑性は、シンクホーンの発散よりも次元依存で大きいが、文献の最悪の場合よりも指数関数的に速い。
関連論文リスト
- Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳（メタデータ） (2024-04-29T15:04:07Z) - Continuous percolation in a Hilbert space for a large system of qubits [58.720142291102135]
パーコレーション遷移は無限クラスターの出現によって定義される。
ヒルベルト空間の指数的に増加する次元性は、有限サイズの超球面による被覆を非効率にすることを示す。
コンパクトな距離空間におけるパーコレーション遷移への我々のアプローチは、他の文脈での厳密な処理に有用である。
論文 参考訳（メタデータ） (2022-10-15T13:53:21Z) - Kullback-Leibler and Renyi divergences in reproducing kernel Hilbert
space and Gaussian process settings [0.0]
正規化Kullback-LeiblerとR'enyiの発散をAlpha Log-Det(Log-Det)発散により定式化する。
特徴的核について、最初の設定は、完全可分な距離空間上の任意のボレル確率測度の間の分岐をもたらす。
我々は、Alpha Log-Detの発散がヒルベルト-シュミットノルムにおいて連続であることを示し、ヒルベルト空間値の確率変数に対して大数の法則を適用することができる。
論文 参考訳（メタデータ） (2022-07-18T06:40:46Z) - Estimation of Riemannian distances between covariance operators and
Gaussian processes [0.7360807642941712]
無限次元正定値ヒルベルト・シュミット作用素間の2つの距離について検討する。
結果は、どちらの距離もヒルベルト・シュミットノルムに収束することを示している。
論文 参考訳（メタデータ） (2021-08-26T09:57:47Z) - Spectral clustering under degree heterogeneity: a case for the random
walk Laplacian [83.79286663107845]
本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。
次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
論文 参考訳（メタデータ） (2021-05-03T16:36:27Z) - Finite sample approximations of exact and entropic Wasserstein distances
between covariance operators and Gaussian processes [0.0]
2つの中心ガウス過程間のシンクホーンの発散を一貫して効率的に推定できることを示す。
固定正規化パラメータでは、収束率は次元非依存であり、ヒルベルト-シュミット距離のそれと同じ順序である。
rkhs の少なくとも一方が有限次元であれば、ガウス過程の間の正確なワッサーシュタイン距離の it 次元依存サンプル複雑性が得られる。
論文 参考訳（メタデータ） (2021-04-26T06:57:14Z) - Entropic regularization of Wasserstein distance between
infinite-dimensional Gaussian measures and Gaussian processes [0.0]
この研究は、無限次元ヒルベルト空間上の2-ワッサーシュタイン距離のエントロピー正則化の定式化を研究する。
無限次元の設定では、エントロピックな2-ワッサーシュタイン距離とシンクホーンの発散は、正確な2-ワッサースタイン距離とは対照的にFr'echet微分可能である。
論文 参考訳（メタデータ） (2020-11-15T10:03:12Z) - Metrizing Weak Convergence with Maximum Mean Discrepancies [88.54422104669078]
本稿では、幅広い種類のカーネルに対する確率測度の弱収束を測る最大平均誤差(MMD)を特徴付ける。
我々は、局所コンパクトで非コンパクトなハウスドルフ空間において、有界連続ボレル可測核 k の MMD が確率測度の弱収束を測ることを証明する。
論文 参考訳（メタデータ） (2020-06-16T15:49:33Z) - The Convergence Indicator: Improved and completely characterized
parameter bounds for actual convergence of Particle Swarm Optimization [68.8204255655161]
我々は、粒子が最終的に単一点に収束するか、分岐するかを計算するのに使用できる新しい収束指標を導入する。
この収束指標を用いて、収束群につながるパラメータ領域を完全に特徴づける実際の境界を提供する。
論文 参考訳（メタデータ） (2020-06-06T19:08:05Z) - Entropy-Regularized $2$-Wasserstein Distance between Gaussian Measures [2.320417845168326]
エントロピー規則化された2-ワッサーシュタイン距離の下でガウス幾何学を研究する。
ガウス多様体に制限された集団バリセンターの固定点特徴付けを提供する。
正規化マグニチュードの変化により、測地線が変化するにつれて、消滅と無限大の制限事例について研究する。
論文 参考訳（メタデータ） (2020-06-05T13:18:57Z) - Debiased Sinkhorn barycenters [110.79706180350507]
最適輸送(OT)におけるエントロピー正則化(Entropy regularization)は、機械学習におけるWassersteinメトリクスやバリセンタに対する近年の関心の原動力となっている。
このバイアスがエントロピー正則化器を定義する基準測度とどのように密接に関連しているかを示す。
両世界の長所を保ち、エントロピーを滑らかにしないシンクホーン様の高速な反復をデバイアスド・ワッサースタインのバリセンタとして提案する。
論文 参考訳（メタデータ） (2020-06-03T23:06:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。