論文の概要: When OT meets MoM: Robust estimation of Wasserstein Distance
- arxiv url: http://arxiv.org/abs/2006.10325v3
- Date: Fri, 18 Feb 2022 17:46:46 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-19 12:41:27.329877
- Title: When OT meets MoM: Robust estimation of Wasserstein Distance
- Title(参考訳): OTがMoMに遭遇したとき:Wasserstein距離のロバスト推定
- Authors: Guillaume Staerman, Pierre Laforgue, Pavlo Mozharovskyi, Florence
d'Alch\'e-Buc
- Abstract要約: 本稿では,2つの確率分布間のワッサーシュタイン距離を,観測結果が外れ値によって汚染されると推定する問題を考察する。
データ汚染モデルに基づいて, 一貫性を検証した新しいMoMベースのロバスト推定器について紹介し, 議論する。
そこで本研究では,シンクホーンアルゴリズムと組み合わせて使用可能な,シンプルなMoMに基づく再重み付け手法を提案する。
- 参考スコア(独自算出の注目度): 8.812837829361923
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Issued from Optimal Transport, the Wasserstein distance has gained importance
in Machine Learning due to its appealing geometrical properties and the
increasing availability of efficient approximations. In this work, we consider
the problem of estimating the Wasserstein distance between two probability
distributions when observations are polluted by outliers. To that end, we
investigate how to leverage Medians of Means (MoM) estimators to robustify the
estimation of Wasserstein distance. Exploiting the dual Kantorovitch
formulation of Wasserstein distance, we introduce and discuss novel MoM-based
robust estimators whose consistency is studied under a data contamination model
and for which convergence rates are provided. These MoM estimators enable to
make Wasserstein Generative Adversarial Network (WGAN) robust to outliers, as
witnessed by an empirical study on two benchmarks CIFAR10 and Fashion MNIST.
Eventually, we discuss how to combine MoM with the entropy-regularized
approximation of the Wasserstein distance and propose a simple MoM-based
re-weighting scheme that could be used in conjunction with the Sinkhorn
algorithm.
- Abstract(参考訳): 最適輸送から発行されたwasserstein距離は、幾何学的性質と効率的な近似の可用性の増加により、機械学習において重要性を増している。
本研究では, 2つの確率分布間のワッサースタイン距離を, 観測が異常値によって汚染される場合に推定する問題を考える。
そこで我々は,Wasserstein 距離の推定に Medians of Means (MoM) 推定器を利用する方法を検討した。
ワッサースタイン距離の二重カントロヴィッチ定式化を行ない,データ汚染モデルの下で整合性を研究し,収束率を提供する新しいMoMベースのロバスト推定器を紹介し,議論する。
これらのMoM推定器は、2つのベンチマーク CIFAR10 と Fashion MNIST で実証されたように、Wasserstein Generative Adversarial Network (WGAN) を外れ値に対して堅牢にすることができる。
最終的に、我々は、MoMとワッサーシュタイン距離のエントロピー規則化近似をどのように組み合わせるかを議論し、シンクホーンアルゴリズムと組み合わせて使用できる単純なMoMベースの再重み付け方式を提案する。
関連論文リスト
- Conditional Wasserstein Distances with Applications in Bayesian OT Flow Matching [1.609940380983903]
逆問題において、多くの条件生成モデルは、合同測度と学習近似との距離を最小化することにより、後続測度を近似する。
条件付きワッサーシュタイン距離は、後部の期待するワッサーシュタイン距離と等しいような制限された結合の集合を通じて導入する。
我々は条件付きワッサーシュタイン距離の理論的性質を導出し、対応する測地線と速度場と流れのODEを特徴づける。
論文 参考訳(メタデータ) (2024-03-27T15:54:55Z) - Federated Wasserstein Distance [16.892296712204597]
本稿では、2つの分布間のワッサーシュタイン距離を連合的に計算する原理的方法を紹介する。
中央のエンティティ/サーバが計算をオーケストレーションしている間に、異なるデバイス/クライアントに格納および保持されている2つのサンプル間のWasserstein距離を推定する方法を示す。
論文 参考訳(メタデータ) (2023-10-03T11:30:50Z) - Mutual Wasserstein Discrepancy Minimization for Sequential
Recommendation [82.0801585843835]
逐次リコメンデーションのためのMutual WasserStein差分最小化MSteinに基づく新しい自己教師型学習フレームワークを提案する。
また,ワッサーシュタイン離散度測定に基づく新しい学習損失を提案する。
論文 参考訳(メタデータ) (2023-01-28T13:38:48Z) - Estimation and inference for the Wasserstein distance between mixing measures in topic models [18.66039789963639]
混合測度間のワッサーシュタイン距離は混合モデルの統計解析において中心的な位置を占めるようになった。
この研究は、この距離の新しい標準解釈を提案し、トピックモデルにおけるワッサーシュタイン距離の推論を行うためのツールを提供する。
論文 参考訳(メタデータ) (2022-06-26T02:33:40Z) - Learning High Dimensional Wasserstein Geodesics [55.086626708837635]
高次元の2つの確率分布の間のワッサーシュタイン測地線を計算するための新しい定式化と学習戦略を提案する。
ラグランジュ乗算器の手法を最適輸送(OT)問題の動的定式化に適用することにより、サドル点がワッサーシュタイン測地線であるミニマックス問題を導出する。
次に、深層ニューラルネットワークによる関数のパラメータ化を行い、トレーニングのためのサンプルベースの双方向学習アルゴリズムを設計する。
論文 参考訳(メタデータ) (2021-02-05T04:25:28Z) - Continuous Wasserstein-2 Barycenter Estimation without Minimax
Optimization [94.18714844247766]
ワッサーシュタイン・バリセンターは、最適輸送に基づく確率測度の重み付き平均の幾何学的概念を提供する。
本稿では,Wasserstein-2 バリセンタのサンプルアクセスを演算するスケーラブルなアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-02-02T21:01:13Z) - Two-sample Test using Projected Wasserstein Distance [18.46110328123008]
統計学と機械学習の基本的な問題である2サンプルテストのための予測されたワッサースタイン距離を開発する。
重要な貢献は、投影された確率分布の間のワッサーシュタイン距離を最大化する低次元線型写像を見つけるために最適射影を結合することである。
論文 参考訳(メタデータ) (2020-10-22T18:08:58Z) - Continuous Regularized Wasserstein Barycenters [51.620781112674024]
正規化ワッサーシュタイン・バリセンタ問題に対する新しい双対定式化を導入する。
我々は、強い双対性を確立し、対応する主対関係を用いて、正規化された輸送問題の双対ポテンシャルを用いて暗黙的にバリセンターをパラメトリゼーションする。
論文 参考訳(メタデータ) (2020-08-28T08:28:06Z) - On Projection Robust Optimal Transport: Sample Complexity and Model
Misspecification [101.0377583883137]
射影ロバスト(PR)OTは、2つの測度の間のOTコストを最大化するために、射影可能な$k$次元部分空間を選択する。
私たちの最初の貢献は、PRワッサーシュタイン距離のいくつかの基本的な統計的性質を確立することである。
次に、部分空間を最適化するのではなく平均化することにより、PRW距離の代替として積分PRワッサーシュタイン距離(IPRW)を提案する。
論文 参考訳(メタデータ) (2020-06-22T14:35:33Z) - Projection Robust Wasserstein Distance and Riemannian Optimization [107.93250306339694]
プロジェクション・ソリッドスタイン(PRW)は、ワッサーシュタイン・プロジェクション(WPP)のロバストな変種であることを示す。
本稿では,PRW距離の計算への第一歩として,その理論と実データに関する実験の関連について述べる。
論文 参考訳(メタデータ) (2020-06-12T20:40:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。