論文の概要: Projection Robust Wasserstein Barycenter
- arxiv url: http://arxiv.org/abs/2102.03390v1
- Date: Fri, 5 Feb 2021 19:23:35 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-09 16:05:49.965347
- Title: Projection Robust Wasserstein Barycenter
- Title(参考訳): Projection Robust Wasserstein Barycenter
- Authors: Minhui Huang, Shiqian Ma, Lifeng Lai
- Abstract要約: ワッサースタイン・バリセンターの 近似は 次元の呪いのため 数値的に困難です
本稿では,次元の呪いを緩和するプロジェクションロバストなワッサーシュタインバリセンタ(PRWB)を提案する。
- 参考スコア(独自算出の注目度): 36.97843660480747
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Collecting and aggregating information from several probability measures or
histograms is a fundamental task in machine learning. One of the popular
solution methods for this task is to compute the barycenter of the probability
measures under the Wasserstein metric. However, approximating the Wasserstein
barycenter is numerically challenging because of the curse of dimensionality.
This paper proposes the projection robust Wasserstein barycenter (PRWB) that
mitigates the curse of dimensionality. This new model projects the probability
measures onto a lower-dimensional subspace that maximizes the Wasserstein
barycenter objective. The resulting problem is a max-min problem over the
Stiefel manifold, which is numerically challenging in practice. Combining the
iterative Bregman projection algorithm and Riemannian optimization, we propose
two new algorithms for computing the PRWB. The complexity of arithmetic
operations of the proposed algorithms for obtaining an $\epsilon$-stationary
solution is analyzed. We incorporate the PRWB into a discrete distribution
clustering algorithm, and the numerical results on real text datasets confirm
that our PRWB model helps improve the clustering performance significantly.
- Abstract(参考訳): いくつかの確率尺度やヒストグラムから情報を収集し集約することは、機械学習の基本的なタスクである。
このタスクの一般的なソリューション方法の1つは、Wassersteinメトリックの下で確率測定のバリセンターを計算することです。
しかし、Wassersteinバリセンターの近似は、次元の呪いのために数値的に困難です。
本論文では,次元の呪いを緩和するプロジェクション堅牢なWassersteinバリセンタ(PRWB)を提案する。
この新しいモデルは、wasserstein barycenterの目的を最大化する低次元部分空間に確率測度を投影する。
結果として生じる問題は Stiefel 多様体上の最大分問題であり、実際は数値的に困難である。
反復的なブレグマンプロジェクションアルゴリズムとリーマン最適化を組み合わせることで、PRWBを計算するための2つの新しいアルゴリズムを提案する。
提案アルゴリズムの算術演算の複雑さを解析し,$\epsilon$-stationary の解を求める。
PRWBを離散分散クラスタリングアルゴリズムに組み込み、実際のテキストデータセットの数値結果により、PRWBモデルがクラスタリングパフォーマンスを大幅に向上させることができます。
関連論文リスト
- Linearized Wasserstein dimensionality reduction with approximation
guarantees [65.16758672591365]
LOT Wassmap は、ワーッサーシュタイン空間の低次元構造を明らかにするための計算可能なアルゴリズムである。
我々は,LOT Wassmapが正しい埋め込みを実現し,サンプルサイズの増加とともに品質が向上することを示す。
また、LOT Wassmapがペア距離計算に依存するアルゴリズムと比較して計算コストを大幅に削減することを示す。
論文 参考訳(メタデータ) (2023-02-14T22:12:16Z) - Wasserstein Iterative Networks for Barycenter Estimation [80.23810439485078]
生成モデルを用いて連続測度のワッサーシュタイン2バリセンターを近似するアルゴリズムを提案する。
有名人の顔のデータセットに基づいて、バリセンタアルゴリズムの定量的評価に使用できるAve, celeba!データセットを構築した。
論文 参考訳(メタデータ) (2022-01-28T16:59:47Z) - Partial Wasserstein Covering [10.52782170493037]
我々は、大規模なデータセットをエミュレートする目的で、部分的なWassersteinと呼ばれる一般的なタスクについて検討する。
この問題をワッサーシュタイン偏微分を目的関数とする離散最適化問題としてモデル化する。
我々は、シーンデータセットの駆動を含む部分的なワッサースタインの発散の観点から、2つのデータセットを効率的に作成できることを示します。
論文 参考訳(メタデータ) (2021-06-02T01:48:41Z) - Learning High Dimensional Wasserstein Geodesics [55.086626708837635]
高次元の2つの確率分布の間のワッサーシュタイン測地線を計算するための新しい定式化と学習戦略を提案する。
ラグランジュ乗算器の手法を最適輸送(OT)問題の動的定式化に適用することにより、サドル点がワッサーシュタイン測地線であるミニマックス問題を導出する。
次に、深層ニューラルネットワークによる関数のパラメータ化を行い、トレーニングのためのサンプルベースの双方向学習アルゴリズムを設計する。
論文 参考訳(メタデータ) (2021-02-05T04:25:28Z) - Continuous Wasserstein-2 Barycenter Estimation without Minimax
Optimization [94.18714844247766]
ワッサーシュタイン・バリセンターは、最適輸送に基づく確率測度の重み付き平均の幾何学的概念を提供する。
本稿では,Wasserstein-2 バリセンタのサンプルアクセスを演算するスケーラブルなアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-02-02T21:01:13Z) - A Riemannian Block Coordinate Descent Method for Computing the
Projection Robust Wasserstein Distance [36.97843660480747]
wasserstein距離は、機械学習とディープラーニングにおいてますます重要になっている。
最近提案された次元の呪いを和らげるためのアプローチは、サンプルデータを低次元の部分空間に投影し、それから投影されたデータ間のワッサーシュタイン距離を計算することである。
しかし、このアプローチは、実際には非常に難しいStiefel多様体上の最大分問題を解決する必要があります。
本研究では,Stiefel多様体上の正規化最大ミン問題の新たな再構成に基づく,この問題を解くための新しいブロック座標降下法(RBCD)を提案する。
論文 参考訳(メタデータ) (2020-12-09T17:47:56Z) - Fast Epigraphical Projection-based Incremental Algorithms for
Wasserstein Distributionally Robust Support Vector Machine [31.58346511479111]
Wasserstein textbf Distributionally textbfRobust textbfOptimization (DRO) は、データでうまく機能する決定を見つけることに関心がある。
DRO問題を解くための2つの新しい図形投影型インクリメンタルアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-10-24T10:42:27Z) - Scalable Computations of Wasserstein Barycenter via Input Convex Neural
Networks [15.171726731041055]
ワッサーシュタイン・バリーセンター(Wasserstein Barycenter)は、与えられた確率分布の集合の重み付き平均を表す原理的なアプローチである。
本稿では,Wasserstein Barycentersを機械学習の高次元的応用を目的とした,スケーラブルな新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-07-08T22:41:18Z) - Stochastic Saddle-Point Optimization for Wasserstein Barycenters [69.68068088508505]
オンラインデータストリームによって生成される有限個の点からなるランダムな確率測度に対する人口推定バリセンタ問題を考察する。
本稿では,この問題の構造を用いて,凸凹型サドル点再構成を行う。
ランダム確率測度の分布が離散的な場合、最適化アルゴリズムを提案し、その複雑性を推定する。
論文 参考訳(メタデータ) (2020-06-11T19:40:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。