論文の概要: Max-sliced Wasserstein concentration and uniform ratio bounds of empirical measures on RKHS
- arxiv url: http://arxiv.org/abs/2405.13153v1
- Date: Tue, 21 May 2024 18:47:43 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-25 02:13:10.855762
- Title: Max-sliced Wasserstein concentration and uniform ratio bounds of empirical measures on RKHS
- Title(参考訳): 最大スライスワッサーシュタイン濃度とRKHSの実験測度の均一比境界
- Authors: Ruiyu Han, Cynthia Rush, Johannes Wiesel,
- Abstract要約: 最適なトランスポートとワッサーシュタイン距離$mathcalW_p$は最近、統計学、機械学習、データサイエンス、物理科学の分野で多くの応用例を見てきた。
しかし、これらの応用は次元性の呪いによって厳しく制限されているため、これらの問題を推定するために必要なデータポイントの数は次元において指数関数的に増加する。
ここでは、これらの変種の一つ、すなわち最大スライスされたワッサーシュタイン計量 $overlinemathcalW_p$ に焦点を当てる。
- 参考スコア(独自算出の注目度): 9.783697404304025
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Optimal transport and the Wasserstein distance $\mathcal{W}_p$ have recently seen a number of applications in the fields of statistics, machine learning, data science, and the physical sciences. These applications are however severely restricted by the curse of dimensionality, meaning that the number of data points needed to estimate these problems accurately increases exponentially in the dimension. To alleviate this problem, a number of variants of $\mathcal{W}_p$ have been introduced. We focus here on one of these variants, namely the max-sliced Wasserstein metric $\overline{\mathcal{W}}_p$. This metric reduces the high-dimensional minimization problem given by $\mathcal{W}_p$ to a maximum of one-dimensional measurements in an effort to overcome the curse of dimensionality. In this note we derive concentration results and upper bounds on the expectation of $\overline{\mathcal{W}}_p$ between the true and empirical measure on unbounded reproducing kernel Hilbert spaces. We show that, under quite generic assumptions, probability measures concentrate uniformly fast in one-dimensional subspaces, at (nearly) parametric rates. Our results rely on an improvement of currently known bounds for $\overline{\mathcal{W}}_p$ in the finite-dimensional case.
- Abstract(参考訳): 最適輸送とワッサーシュタイン距離$\mathcal{W}_p$は最近、統計学、機械学習、データサイエンス、物理科学の分野で多くの応用例を見てきた。
しかし、これらの応用は次元性の呪いによって厳しく制限されているため、これらの問題を推定するために必要なデータポイントの数は次元において指数関数的に増加する。
この問題を緩和するために、$\mathcal{W}_p$の多くの変種が導入された。
ここでは、これらの変種の一つ、すなわち max-sliced Wasserstein 計量 $\overline{\mathcal{W}}_p$ に焦点を当てる。
この計量は、$\mathcal{W}_p$によって与えられる高次元最小化問題を、次元性の呪いを克服するために最大1次元の測定値に還元する。
ここでは、非有界再生核ヒルベルト空間上の実測度と経験測度の間の$\overline{\mathcal{W}}_p$の期待値の集中結果と上界を導出する。
非常に一般的な仮定の下では、確率測度は(ほぼ)パラメトリックレートで、一次元部分空間において一様に高速に集中することが示される。
我々の結果は、有限次元の場合の$\overline{\mathcal{W}}_p$に対する現在知られている境界の改善に依存している。
関連論文リスト
- Statistical and Computational Guarantees of Kernel Max-Sliced Wasserstein Distances [9.608373793625107]
カーネル最大スライシング (KMS) ワッサーシュタイン距離は、この目的のために開発された。
KMS の 2$-Wasserstein 距離の計算は NP-hard であることを示す。
論文 参考訳(メタデータ) (2024-05-24T11:14:56Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳(メタデータ) (2024-04-29T15:04:07Z) - Properties of Discrete Sliced Wasserstein Losses [11.280151521887076]
Sliced Wasserstein (SW) 距離は、確率測度を比較するために、Wasserstein 距離の代替として人気がある。
広範囲のアプリケーションには画像処理、ドメイン適応、生成モデリングが含まれており、SWを最小化するためにパラメータを最適化することが一般的である。
このエネルギーの正則性と最適化特性、およびモンテカルロ近似 $mathcalE_p$ について検討する。
論文 参考訳(メタデータ) (2023-07-19T21:21:18Z) - Effective Minkowski Dimension of Deep Nonparametric Regression: Function
Approximation and Statistical Theories [70.90012822736988]
ディープ非パラメトリック回帰に関する既存の理論は、入力データが低次元多様体上にある場合、ディープニューラルネットワークは本質的なデータ構造に適応できることを示した。
本稿では,$mathcalS$で表される$mathbbRd$のサブセットに入力データが集中するという緩和された仮定を導入する。
論文 参考訳(メタデータ) (2023-06-26T17:13:31Z) - Pseudonorm Approachability and Applications to Regret Minimization [73.54127663296906]
我々は、高次元 $ell_infty$-approachability 問題を、低次元の擬ノルムアプローチ可能性問題に変換する。
我々は、$ell$や他のノルムに対するアプローチ可能性に関する以前の研究に類似した疑似ノルムアプローチ可能性のアルゴリズム理論を開発する。
論文 参考訳(メタデータ) (2023-02-03T03:19:14Z) - The Sketched Wasserstein Distance for mixture distributions [13.643197515573029]
スケッチド・ワッサースタイン距離(英: Sketched Wasserstein Distance)(WS$)は、有限混合分布に特化された新しい確率距離である。
我々は、$WS$が、$mathcalS = textrmconv(mathcalA)$ の要素の混合の空間に最も区別できるものとして定義されることを示す。
論文 参考訳(メタデータ) (2022-06-26T02:33:40Z) - Computationally Efficient Horizon-Free Reinforcement Learning for Linear
Mixture MDPs [111.75736569611159]
線形混合MDPのための計算効率のよい初めての地平線フリーアルゴリズムを提案する。
我々のアルゴリズムは、未知の遷移力学に対する重み付き最小二乗推定器に適応する。
これにより、$sigma_k2$'sが知られているときに、この設定で最もよく知られたアルゴリズムも改善される。
論文 参考訳(メタデータ) (2022-05-23T17:59:18Z) - Minimax Optimal Quantization of Linear Models: Information-Theoretic
Limits and Efficient Algorithms [59.724977092582535]
測定から学習した線形モデルの定量化の問題を考える。
この設定の下では、ミニマックスリスクに対する情報理論の下限を導出する。
本稿では,2層ReLUニューラルネットワークに対して,提案手法と上界を拡張可能であることを示す。
論文 参考訳(メタデータ) (2022-02-23T02:39:04Z) - Dimensionality Reduction for Wasserstein Barycenter [6.327655795051619]
本稿では,Wasserstein Barycenter問題に対する次元還元手法について検討する。
ランダム化次元減少は、その問題を$d$と$k$に独立に次元$O(log n)$の空間にマッピングするために利用できることを示す。
また、Wasserstein Barycenter問題に対するコアセットの構成も提供し、入力分布を著しく減少させる。
論文 参考訳(メタデータ) (2021-10-18T02:57:25Z) - Non-Parametric Estimation of Manifolds from Noisy Data [1.0152838128195467]
ノイズの多いサンプルの有限集合から$mathbbRD$の$d$次元部分多様体を推定する問題を検討する。
点推定では$n-frack2k + d$、接空間の推定では$n-frack-12k + d$の収束率を推定する。
論文 参考訳(メタデータ) (2021-05-11T02:29:33Z) - Continuous Wasserstein-2 Barycenter Estimation without Minimax
Optimization [94.18714844247766]
ワッサーシュタイン・バリセンターは、最適輸送に基づく確率測度の重み付き平均の幾何学的概念を提供する。
本稿では,Wasserstein-2 バリセンタのサンプルアクセスを演算するスケーラブルなアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-02-02T21:01:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。