論文の概要: Unbalanced Low-rank Optimal Transport Solvers
- arxiv url: http://arxiv.org/abs/2305.19727v1
- Date: Wed, 31 May 2023 10:39:51 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-01 17:08:56.497593
- Title: Unbalanced Low-rank Optimal Transport Solvers
- Title（参考訳）: 非平衡低ランク最適輸送解法
- Authors: Meyer Scetbon, Michal Klein, Giovanni Palla, Marco Cuturi
- Abstract要約: 線形OT問題とFused-Gromov-Wasserstein一般化のための拡張を実装するアルゴリズムを提案する。
本研究の目的は, これら2つの系統を融合して, 汎用・スカラー・アンバランス・低ランクOTソルバの約束を実現することである。
- 参考スコア（独自算出の注目度）: 38.79369155558385
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The relevance of optimal transport methods to machine learning has long been
hindered by two salient limitations. First, the $O(n^3)$ computational cost of
standard sample-based solvers (when used on batches of $n$ samples) is
prohibitive. Second, the mass conservation constraint makes OT solvers too
rigid in practice: because they must match \textit{all} points from both
measures, their output can be heavily influenced by outliers. A flurry of
recent works in OT has addressed these computational and modelling limitations,
but has resulted in two separate strains of methods: While the computational
outlook was much improved by entropic regularization, more recent $O(n)$
linear-time \textit{low-rank} solvers hold the promise to scale up OT further.
On the other hand, modelling rigidities have been eased owing to unbalanced
variants of OT, that rely on penalization terms to promote, rather than impose,
mass conservation. The goal of this paper is to merge these two strains, to
achieve the promise of \textit{both} versatile/scalable unbalanced/low-rank OT
solvers. We propose custom algorithms to implement these extensions for the
linear OT problem and its Fused-Gromov-Wasserstein generalization, and
demonstrate their practical relevance to challenging spatial transcriptomics
matching problems.
- Abstract（参考訳）: 機械学習に対する最適輸送手法の関連性は、長い間、2つの有能な制限によって妨げられてきた。
まず、標準サンプルベースソルバの$O(n^3)$計算コスト($n$サンプルのバッチで使用される場合)は禁じられている。
第二に、質量保存制約はOTソルバを実際は厳密にしすぎる:それらは両方の測度から \textit{all} 点と一致しなければならないので、出力は外れ値の影響を受けやすい。
OTにおける最近の一連の研究は、これらの計算とモデリングの限界に対処しているが、2つの異なる方法の系統が導かれた: 計算の見通しはエントロピー正則化によって大幅に改善されたが、より最近の$O(n)$ linear-time \textit{low-rank} ソルバは、OTをさらにスケールアップする約束を保っている。
一方、モデル剛性は、質量保存を課すのではなく、罰則を助長する OT の非平衡な変種によって緩和されている。
本研究の目的は,これら2つのひずみを融合し,多元性/スカラー・アンバランス・ローランクOTソルバの実現である。
本稿では,これらの拡張を線形ot問題とその融合グロモフ・ワッセルシュタイン一般化のために実装するカスタムアルゴリズムを提案し,空間的トランスクリプトミクスマッチング問題に対する実用的妥当性を示す。
関連論文リスト
- Robust Barycenter Estimation using Semi-Unbalanced Neural Optimal Transport [84.51977664336056]
我々は,テクストロバスト連続バリセンタを推定するための,新しいスケーラブルなアプローチを提案する。
提案手法は$min$-$max$最適化問題であり,テキスト一般コスト関数に適応可能である。
論文 参考訳（メタデータ） (2024-10-04T23:27:33Z) - Unbalanced Optimal Transport meets Sliced-Wasserstein [11.44982599214965]
本研究では、不均衡なOTをスライスするアイデアに基づく2つの新しい損失関数を提案し、その位相と統計的性質について検討する。
結果の方法論がモジュール化され、それに関連する作業が包含され、拡張されることが示されます。
論文 参考訳（メタデータ） (2023-06-12T15:15:00Z) - Robust computation of optimal transport by $\beta$-potential
regularization [79.24513412588745]
最適輸送(OT)は、確率分布間の差を測定する機械学習分野で広く使われているツールである。
我々は、いわゆる$beta$-divergenceに付随するベータポテンシャル項でOTを正規化することを提案する。
提案アルゴリズムで計算した輸送行列は,外乱が存在する場合でも確率分布を頑健に推定するのに役立つことを実験的に実証した。
論文 参考訳（メタデータ） (2022-12-26T18:37:28Z) - Unbalanced Optimal Transport, from Theory to Numerics [0.0]
我々は、不均衡なOT、エントロピー正則化、Gromov-Wasserstein (GW) が、データサイエンスの効率的な幾何学的損失関数にOTを変換するために、ハンドインで機能すると主張している。
このレビューの主な動機は、不均衡なOT、エントロピー正則化、GWがいかに協力してOTをデータ科学の効率的な幾何学的損失関数に変えるかを説明することである。
論文 参考訳（メタデータ） (2022-11-16T09:02:52Z) - Sparsity-Constrained Optimal Transport [27.76137474217754]
正規化された最適輸送は、ニューラルネットワークの損失層やマッチング層として、ますます利用されている。
本稿では,交通計画に明示的な基数制約を課したOTに対する新しいアプローチを提案する。
本手法は,非正規化OT($k$の場合)と二次正規化OT($k$が十分に大きい場合)の中間地盤と考えることができる。
論文 参考訳（メタデータ） (2022-09-30T13:39:47Z) - Kantorovich Strikes Back! Wasserstein GANs are not Optimal Transport? [138.1080446991979]
Wasserstein Generative Adversarial Networks (WGANs) は、最適輸送(OT)理論とカントロビッチ双対性に基づく一般的な生成モデルである。
WGANの成功にもかかわらず、基礎となるOT双対解器が、発生器の更新に必要なOTコスト(Wasserstein-1 距離、$mathbbW_1$)とOT勾配をどの程度よく近似するかは、まだ不明である。
我々は1-Lipschitz関数を構築し、それらを光モノトン輸送計画の構築に用いる。この戦略は、解析的に知られたOT計画、OTコスト、OTと連続ベンチマーク分布のペアを生成する。
論文 参考訳（メタデータ） (2022-06-15T19:07:46Z) - Low-rank Optimal Transport: Approximation, Statistics and Debiasing [51.50788603386766]
フロゼットボン2021ローランで提唱された低ランク最適輸送(LOT)アプローチ
LOTは興味のある性質と比較した場合、エントロピー正則化の正当な候補と見なされる。
本稿では,これらの領域のそれぞれを対象とし,計算OTにおける低ランクアプローチの影響を補強する。
論文 参考訳（メタデータ） (2022-05-24T20:51:37Z) - Lazy Lagrangians with Predictions for Online Learning [24.18464455081512]
オンライン凸最適化における時間的差分制約による一般的な問題について考察する。
Follow-The-Regularized-Leaderイテレーションと予測適応動的ステップを組み合わせることで、新しい原始双対アルゴリズムを設計する。
我々の研究は、この制約されたOCO設定のためのFTRLフレームワークを拡張し、各最先端のグレディベースのソリューションより優れています。
論文 参考訳（メタデータ） (2022-01-08T21:49:10Z) - Robust Optimal Transport with Applications in Generative Modeling and
Domain Adaptation [120.69747175899421]
ワッサーシュタインのような最適輸送(OT)距離は、GANやドメイン適応のようないくつかの領域で使用されている。
本稿では,現代のディープラーニングアプリケーションに適用可能な,ロバストなOT最適化の計算効率のよい2つの形式を提案する。
提案手法では, ノイズの多いデータセット上で, 外部分布で劣化したGANモデルをトレーニングすることができる。
論文 参考訳（メタデータ） (2020-10-12T17:13:40Z) - Regularized Optimal Transport is Ground Cost Adversarial [34.81915836064636]
最適輸送問題の正則化は, 地価逆数と解釈できることを示す。
これにより、地上空間上のロバストな異性度測度にアクセスでき、他のアプリケーションで使用することができる。
論文 参考訳（メタデータ） (2020-02-10T17:28:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。