論文の概要: Wasserstein Wormhole: Scalable Optimal Transport Distance with Transformers
- arxiv url: http://arxiv.org/abs/2404.09411v2
- Date: Fri, 3 May 2024 13:07:49 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-06 17:18:04.040569
- Title: Wasserstein Wormhole: Scalable Optimal Transport Distance with Transformers
- Title（参考訳）: Wasserstein Wormhole: 変圧器を用いたスケーラブルな最適輸送距離
- Authors: Doron Haviv, Russell Zhang Kunes, Thomas Dougherty, Cassandra Burdziak, Tal Nawy, Anna Gilbert, Dana Pe'er,
- Abstract要約: 本稿では,変圧器をベースとした自己エンコーダWasserstein Wormholeを紹介し,経験的分布を潜在空間に埋め込む。
目的関数は、非ユークリッド距離を埋め込む際に発生する誤差の有界性を示す。
Wasserstein Wormholeは計算幾何学と単細胞生物学の分野でデータ解析の新しい道を開く。
- 参考スコア（独自算出の注目度）: 8.86135871860412
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Optimal transport (OT) and the related Wasserstein metric (W) are powerful and ubiquitous tools for comparing distributions. However, computing pairwise Wasserstein distances rapidly becomes intractable as cohort size grows. An attractive alternative would be to find an embedding space in which pairwise Euclidean distances map to OT distances, akin to standard multidimensional scaling (MDS). We present Wasserstein Wormhole, a transformer-based autoencoder that embeds empirical distributions into a latent space wherein Euclidean distances approximate OT distances. Extending MDS theory, we show that our objective function implies a bound on the error incurred when embedding non-Euclidean distances. Empirically, distances between Wormhole embeddings closely match Wasserstein distances, enabling linear time computation of OT distances. Along with an encoder that maps distributions to embeddings, Wasserstein Wormhole includes a decoder that maps embeddings back to distributions, allowing for operations in the embedding space to generalize to OT spaces, such as Wasserstein barycenter estimation and OT interpolation. By lending scalability and interpretability to OT approaches, Wasserstein Wormhole unlocks new avenues for data analysis in the fields of computational geometry and single-cell biology.
- Abstract（参考訳）: 最適輸送(OT)と関連するワッサーシュタイン計量(W)は、分布を比較するための強力でユビキタスなツールである。
しかし、コホートサイズが大きくなるにつれて、ペアワイズワッサースタイン距離の計算は急速に困難になる。
魅力的な選択肢は、標準多次元スケーリング(MDS)と同様、ユークリッド距離をOT距離にペアでマッピングする埋め込み空間を見つけることである。
我々は、変圧器をベースとした自己エンコーダであるワッサーシュタイン・ワームホール(Wasserstein Wormhole)を、ユークリッド距離がOT距離に近似する潜在空間に経験的分布を埋める。
MDS理論を拡張して、目的関数は非ユークリッド距離を埋め込む際に発生する誤差の有界性を示すことを示す。
実験的に、ワームホール埋め込み間の距離はワッサーシュタイン距離と密接に一致し、OT距離の線形時間計算を可能にした。
Wasserstein Wormholeは、分散を埋め込みにマッピングするエンコーダとともに、埋め込みを分布にマッピングするデコーダを含み、埋め込み空間内の操作をWasserstein Barycenter EstimationやOT補間といったOT空間に一般化することができる。
スケーラビリティと解釈可能性をOTアプローチに貸すことで、Wasserstein Wormholeは計算幾何学と単細胞生物学の分野におけるデータ解析の新たな道を開く。
関連論文リスト
- Sliced-Wasserstein Distances and Flows on Cartan-Hadamard Manifolds [13.851780805245477]
カルティマタン・アダマール多様体上のスライス・ワッサーシュタイン距離の一般構成を導出する。
また、ワッサーシュタイン勾配流を近似することにより、これらの新しい距離を最小化する非パラメトリックスキームを提案する。
論文 参考訳（メタデータ） (2024-03-11T10:01:21Z) - Federated Wasserstein Distance [16.892296712204597]
本稿では、2つの分布間のワッサーシュタイン距離を連合的に計算する原理的方法を紹介する。
中央のエンティティ/サーバが計算をオーケストレーションしている間に、異なるデバイス/クライアントに格納および保持されている2つのサンプル間のWasserstein距離を推定する方法を示す。
論文 参考訳（メタデータ） (2023-10-03T11:30:50Z) - Linearized Wasserstein dimensionality reduction with approximation
guarantees [65.16758672591365]
LOT Wassmap は、ワーッサーシュタイン空間の低次元構造を明らかにするための計算可能なアルゴリズムである。
我々は,LOT Wassmapが正しい埋め込みを実現し,サンプルサイズの増加とともに品質が向上することを示す。
また、LOT Wassmapがペア距離計算に依存するアルゴリズムと比較して計算コストを大幅に削減することを示す。
論文 参考訳（メタデータ） (2023-02-14T22:12:16Z) - Markovian Sliced Wasserstein Distances: Beyond Independent Projections [51.80527230603978]
我々は、射影方向にマルコフ構造を課す新しいSW距離の族、Markovian sliced Wasserstein (MSW) 距離を導入する。
フロー,色移動,深部生成モデルなどの様々な応用において,従来のSW変種との距離を比較し,MSWの良好な性能を示す。
論文 参考訳（メタデータ） (2023-01-10T01:58:15Z) - Unbalanced Optimal Transport, from Theory to Numerics [0.0]
我々は、不均衡なOT、エントロピー正則化、Gromov-Wasserstein (GW) が、データサイエンスの効率的な幾何学的損失関数にOTを変換するために、ハンドインで機能すると主張している。
このレビューの主な動機は、不均衡なOT、エントロピー正則化、GWがいかに協力してOTをデータ科学の効率的な幾何学的損失関数に変えるかを説明することである。
論文 参考訳（メタデータ） (2022-11-16T09:02:52Z) - Geodesic Sinkhorn for Fast and Accurate Optimal Transport on Manifolds [53.110934987571355]
多様体グラフ上の熱核に基づく測地学的シンクホーンを提案する。
化学療法中の患者試料からの高次元単細胞データの複数分布のバリセンタの計算に本法を適用した。
論文 参考訳（メタデータ） (2022-11-02T00:51:35Z) - Spherical Sliced-Wasserstein [14.98994743486746]
Sliced-Wasserstein distance (SW) はユークリッド空間に居住するデータに制限される。
我々は、球状スライテッド・ワッサーシュタインと呼ばれる新しいSWの相違を定義する球体に特に焦点をあてる。
我々の構成は、新しい球面ラドン変換とともに、円上のワッサーシュタイン距離の閉形式解に基づいている。
論文 参考訳（メタデータ） (2022-06-17T13:48:50Z) - Learning High Dimensional Wasserstein Geodesics [55.086626708837635]
高次元の2つの確率分布の間のワッサーシュタイン測地線を計算するための新しい定式化と学習戦略を提案する。
ラグランジュ乗算器の手法を最適輸送(OT)問題の動的定式化に適用することにより、サドル点がワッサーシュタイン測地線であるミニマックス問題を導出する。
次に、深層ニューラルネットワークによる関数のパラメータ化を行い、トレーニングのためのサンプルベースの双方向学習アルゴリズムを設計する。
論文 参考訳（メタデータ） (2021-02-05T04:25:28Z) - On Projection Robust Optimal Transport: Sample Complexity and Model
Misspecification [101.0377583883137]
射影ロバスト(PR)OTは、2つの測度の間のOTコストを最大化するために、射影可能な$k$次元部分空間を選択する。
私たちの最初の貢献は、PRワッサーシュタイン距離のいくつかの基本的な統計的性質を確立することである。
次に、部分空間を最適化するのではなく平均化することにより、PRW距離の代替として積分PRワッサーシュタイン距離(IPRW)を提案する。
論文 参考訳（メタデータ） (2020-06-22T14:35:33Z) - Theoretical Guarantees for Bridging Metric Measure Embedding and Optimal
Transport [18.61019008000831]
共役ユークリッド空間に計量測度空間を埋め込み、埋め込み分布上の最適輸送(OT)を計算する方法を考える。
このことは、ロバストなワッサーシュタイン距離(SERW)を埋め込む部分埋め込み(sub-embedding robust Wasserstein)と呼ばれるものにつながります。
論文 参考訳（メタデータ） (2020-02-19T17:52:01Z) - Fast and Robust Comparison of Probability Measures in Heterogeneous
Spaces [62.35667646858558]
本稿では, アンカー・エナジー (AE) とアンカー・ワッサースタイン (AW) 距離を紹介する。
我々の主な貢献は、素案実装が立方体となる対数四重項時間でAEを正確に計算するスイープラインアルゴリズムを提案することである。
AE と AW は,一般的な GW 近似の計算コストのごく一部において,様々な実験環境において良好に動作することを示す。
論文 参考訳（メタデータ） (2020-02-05T03:09:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。