論文の概要: Low-Rank Optimal Transport through Factor Relaxation with Latent Coupling
- arxiv url: http://arxiv.org/abs/2411.10555v1
- Date: Fri, 15 Nov 2024 20:07:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-19 14:36:21.144535
- Title: Low-Rank Optimal Transport through Factor Relaxation with Latent Coupling
- Title(参考訳): 遅延結合による因子緩和による低ランク最適輸送
- Authors: Peter Halmos, Xinhao Liu, Julian Gold, Benjamin J Raphael,
- Abstract要約: 大規模データセットに最適なトランスポートを適用する上で重要な課題は、データセットのサイズと結合行列の2次スケーリングである。
我々は、$textitlatent coupling$(LC)因子化に基づいて、低ランク問題の代替パラメータ化を導出する。
グラフクラスタリングや空間転写学などの多様なアプリケーションにおいて,その解釈可能性を示しながら,優れた性能を示す。
- 参考スコア(独自算出の注目度): 1.8749305679160366
- License:
- Abstract: Optimal transport (OT) is a general framework for finding a minimum-cost transport plan, or coupling, between probability distributions, and has many applications in machine learning. A key challenge in applying OT to massive datasets is the quadratic scaling of the coupling matrix with the size of the dataset. [Forrow et al. 2019] introduced a factored coupling for the k-Wasserstein barycenter problem, which [Scetbon et al. 2021] adapted to solve the primal low-rank OT problem. We derive an alternative parameterization of the low-rank problem based on the $\textit{latent coupling}$ (LC) factorization previously introduced by [Lin et al. 2021] generalizing [Forrow et al. 2019]. The LC factorization has multiple advantages for low-rank OT including decoupling the problem into three OT problems and greater flexibility and interpretability. We leverage these advantages to derive a new algorithm $\textit{Factor Relaxation with Latent Coupling}$ (FRLC), which uses $\textit{coordinate}$ mirror descent to compute the LC factorization. FRLC handles multiple OT objectives (Wasserstein, Gromov-Wasserstein, Fused Gromov-Wasserstein), and marginal constraints (balanced, unbalanced, and semi-relaxed) with linear space complexity. We provide theoretical results on FRLC, and demonstrate superior performance on diverse applications -- including graph clustering and spatial transcriptomics -- while demonstrating its interpretability.
- Abstract(参考訳): 最適輸送(OT)は、確率分布間の最小コスト輸送計画(英語版)(最小コスト輸送計画)を見つけるための一般的なフレームワークであり、機械学習に多くの応用がある。
大規模なデータセットにOTを適用する上で重要な課題は、データセットのサイズと結合行列の2次スケーリングである。
Forrow et al 2019 では,k-Wasserstein Barycenter 問題に対する因子結合を導入し,[Scetbon et al 2021] が一次低ランクOT 問題の解法に適応した。
我々は,[Lin et al 2021] の一般化による以前に導入された $\textit{latent coupling}$ (LC) 分解に基づいて,低ランク問題の代替パラメータ化を導出する。
LC因子化は、問題を3つのOT問題に分解し、柔軟性と解釈可能性を高めるなど、低ランクOTに多くの利点がある。
これらの利点を利用して、新しいアルゴリズム $\textit{Factor Relaxation with Latent Coupling}$ (FRLC) を導出します。
FRLCは、複数のOT目標(ワッサーシュタイン、グロモフ=ワッサースタイン、フューズド・グロモフ=ワッサースタイン)と、線形空間複雑性を持つ限界制約(バランス、アンバランス、半緩和)を扱う。
FRLCに関する理論的結果を提供し,その解釈可能性を示しながら,グラフクラスタリングや空間転写学を含む多種多様なアプリケーションにおいて優れた性能を示す。
関連論文リスト
- Unbalanced Low-rank Optimal Transport Solvers [38.79369155558385]
線形OT問題とFused-Gromov-Wasserstein一般化のための拡張を実装するアルゴリズムを提案する。
本研究の目的は, これら2つの系統を融合して, 汎用・スカラー・アンバランス・低ランクOTソルバの約束を実現することである。
論文 参考訳(メタデータ) (2023-05-31T10:39:51Z) - FeDXL: Provable Federated Learning for Deep X-Risk Optimization [105.17383135458897]
我々は、既存のアルゴリズムが適用できないXリスクのファミリーを最適化するために、新しい連邦学習(FL)問題に取り組む。
Xリスクに対するFLアルゴリズムを設計する際の課題は、複数のマシンに対する目的の非可逆性と、異なるマシン間の相互依存にある。
論文 参考訳(メタデータ) (2022-10-26T00:23:36Z) - Low-rank Optimal Transport: Approximation, Statistics and Debiasing [51.50788603386766]
フロゼットボン2021ローランで提唱された低ランク最適輸送(LOT)アプローチ
LOTは興味のある性質と比較した場合、エントロピー正則化の正当な候補と見なされる。
本稿では,これらの領域のそれぞれを対象とし,計算OTにおける低ランクアプローチの影響を補強する。
論文 参考訳(メタデータ) (2022-05-24T20:51:37Z) - Permutation Compressors for Provably Faster Distributed Nonconvex
Optimization [68.8204255655161]
本稿では,Gorbunov et al (2021) の MARINA 法が,理論的な通信複雑性の観点から最先端の手法とみなすことができることを示す。
MARINAの理論は、古典的な独立圧縮機設定を超えて、潜在的にエミュレートされた圧縮機の理論を支持するものである。
論文 参考訳(メタデータ) (2021-10-07T09:38:15Z) - On the complexity of the optimal transport problem with graph-structured
cost [9.24979291231758]
マルチマージ最適輸送(Multi-marginal optimal transport、MOT)は、複数の辺縁への最適輸送の一般化である。
MOTの使用は、その計算複雑性によって大きく妨げられ、限界数で指数関数的にスケールする。
論文 参考訳(メタデータ) (2021-10-01T19:29:59Z) - Linear-Time Gromov Wasserstein Distances using Low Rank Couplings and
Costs [45.87981728307819]
異種空間に居住する関連するデータセットを比較して整列する能力は、機械学習においてますます重要な役割を担っている。
グロモフ・ワッサーシュタイン (Gromov-Wasserstein, GW) 形式主義はこの問題に対処するのに役立つ。
論文 参考訳(メタデータ) (2021-06-02T12:50:56Z) - Solving weakly supervised regression problem using low-rank manifold
regularization [77.34726150561087]
我々は弱い教師付き回帰問題を解く。
weakly"の下では、いくつかのトレーニングポイントではラベルが知られ、未知のものもあれば、無作為なノイズの存在やリソースの欠如などの理由によって不確かであることが分かっています。
数値的な節ではモンテカルロモデルを用いて提案手法を人工と実のデータセットに適用した。
論文 参考訳(メタデータ) (2021-04-13T23:21:01Z) - Low-Rank Sinkhorn Factorization [45.87981728307819]
本稿では,テキストサブカップリング係数の積として,低位結合の明示的な因子化を導入する。
このアルゴリズムの非漸近定常収束を証明し、その効率をベンチマーク実験で示す。
論文 参考訳(メタデータ) (2021-03-08T13:18:45Z) - Computationally efficient sparse clustering [67.95910835079825]
我々はPCAに基づく新しいクラスタリングアルゴリズムの有限サンプル解析を行う。
ここでは,ミニマックス最適誤クラスタ化率を,体制$|theta infty$で達成することを示す。
論文 参考訳(メタデータ) (2020-05-21T17:51:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。