論文の概要: Anchor Space Optimal Transport as a Fast Solution to Multiple Optimal Transport Problems
- arxiv url: http://arxiv.org/abs/2310.16123v2
- Date: Wed, 29 Jan 2025 09:06:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-30 15:51:29.757477
- Title: Anchor Space Optimal Transport as a Fast Solution to Multiple Optimal Transport Problems
- Title(参考訳): 複数の最適輸送問題に対する高速解としてのアンカー空間最適輸送
- Authors: Jianming Huang, Xun Su, Zhongxi Fang, Hiroyuki Kasai,
- Abstract要約: 機械学習において、最適輸送(OT)理論は様々な応用の確率分布を比較するために広く利用されている。
現実的なシナリオでは、複数のOT問題を解く必要があることが多い。
本稿では,複数のOT問題を対象とした近似OT問題として,アンカー空間最適輸送(ASOT)問題を提案する。
- 参考スコア(独自算出の注目度): 12.674530639112405
- License:
- Abstract: In machine learning, Optimal Transport (OT) theory is extensively utilized to compare probability distributions across various applications, such as graph data represented by node distributions and image data represented by pixel distributions. In practical scenarios, it is often necessary to solve multiple OT problems. Traditionally, these problems are treated independently, with each OT problem being solved sequentially. However, the computational complexity required to solve a single OT problem is already substantial, making the resolution of multiple OT problems even more challenging. Although many applications of fast solutions to OT are based on the premise of a single OT problem with arbitrary distributions, few efforts handle such multiple OT problems with multiple distributions. Therefore, we propose the anchor space optimal transport (ASOT) problem: an approximate OT problem designed for multiple OT problems. This proposal stems from our finding that in many tasks the mass transport tends to be concentrated in a reduced space from the original feature space. By restricting the mass transport to a learned anchor point space, ASOT avoids pairwise instantiations of cost matrices for multiple OT problems and simplifies the problems by canceling insignificant transports. This simplification greatly reduces its computational costs. We then prove the upper bounds of its $1$-Wasserstein distance error between the proposed ASOT and the original OT problem under different conditions. Building upon this accomplishment, we propose three methods to learn anchor spaces for reducing the approximation error. Furthermore, our proposed methods present great advantages for handling distributions of different sizes with GPU parallelization.
- Abstract(参考訳): 機械学習において、最適輸送(OT)理論は、ノード分布で表されるグラフデータやピクセル分布で表される画像データなど、様々なアプリケーションにわたる確率分布を比較するために広く利用されている。
現実的なシナリオでは、複数のOT問題を解く必要があることが多い。
伝統的にこれらの問題は独立に扱われ、各OT問題は順次解決される。
しかし、1つのOT問題を解くのに必要な計算量はすでにかなり複雑であり、複数のOT問題の解法はより困難である。
OTに対する高速解の多くの応用は、任意の分布を持つ単一OT問題の前提に基づいているが、複数の分布を持つ複数のOT問題に対処する取り組みはほとんどない。
そこで本研究では,複数のOT問題を対象とした近似OT問題として,アンカー空間最適輸送(ASOT)問題を提案する。
この提案は、多くのタスクにおいて、マストランスポートは元の特徴空間から還元された空間に集中する傾向があるという我々の発見に由来する。
学習したアンカー点空間への質量輸送を制限することにより、ASOTは複数のOT問題に対するコスト行列のペアのインスタンス化を回避し、重要な輸送をキャンセルすることで問題を単純化する。
この単純化は計算コストを大幅に削減する。
次に、提案したASOTと元のOT問題の間の1ドルワッサースタイン距離誤差の上限を異なる条件で証明する。
この成果に基づいて,近似誤差を低減するために,アンカー空間を学習する3つの手法を提案する。
さらに,提案手法は,GPU並列化により異なる大きさの分布を扱う上で大きな利点を示す。
関連論文リスト
- Overcoming Fake Solutions in Semi-Dual Neural Optimal Transport: A Smoothing Approach for Learning the Optimal Transport Plan [5.374547520354591]
ニューラルネットワークでOTマップを学習する手段として広く使用されているセミデュアルニューラルネットワークは、ひとつのディストリビューションを正確に別のディストリビューションに転送できない偽のソリューションを生成することが多い。
本稿では, OTマップと最適輸送計画の両方を学習し, 2つの分布間の最適結合を表現した新しい OTP を提案する。
実験の結果,OTPモデルは既存の手法が失敗する最適なトランスポートマップを復元し,画像と画像の変換タスクにおいて現在のOTベースモデルより優れていることがわかった。
論文 参考訳(メタデータ) (2025-02-07T00:37:12Z) - A Statistical Learning Perspective on Semi-dual Adversarial Neural Optimal Transport Solvers [65.28989155951132]
本稿では,ミニマックス二次OT解法により得られた近似OT写像の一般化誤差の上限を確立する。
解析は二次 OT に焦点をあてるが、より一般的な OT の定式化のために類似した境界を導出できると考えている。
論文 参考訳(メタデータ) (2025-02-03T12:37:20Z) - Energy-Guided Continuous Entropic Barycenter Estimation for General Costs [95.33926437521046]
任意のOTコスト関数に対して連続的エントロピーOT(EOT)バリセンタを近似する新しいアルゴリズムを提案する。
本手法は、弱いOTに基づくEOT問題の二重再構成に基づいている。
論文 参考訳(メタデータ) (2023-10-02T11:24:36Z) - Light Unbalanced Optimal Transport [69.18220206873772]
理論的に最適化され、軽量で、バランスの取れないEOTソルバを提案する。
我々の進歩は、トラクタブルと非ミニマックス最適化の目的をもたらすUEOT問題の最適化に関する新しい視点の開発である。
我々は,この解法がUEOT解の普遍近似を提供し,一般化限界を得ることを示す。
論文 参考訳(メタデータ) (2023-03-14T15:44:40Z) - Unbalanced Optimal Transport, from Theory to Numerics [0.0]
我々は、不均衡なOT、エントロピー正則化、Gromov-Wasserstein (GW) が、データサイエンスの効率的な幾何学的損失関数にOTを変換するために、ハンドインで機能すると主張している。
このレビューの主な動機は、不均衡なOT、エントロピー正則化、GWがいかに協力してOTをデータ科学の効率的な幾何学的損失関数に変えるかを説明することである。
論文 参考訳(メタデータ) (2022-11-16T09:02:52Z) - Entropic Neural Optimal Transport via Diffusion Processes [105.34822201378763]
本稿では,連続確率分布間のエントロピー最適輸送(EOT)計画を計算するための新しいアルゴリズムを提案する。
提案アルゴリズムは,シュリンガーブリッジ問題(Schr"odinger Bridge problem)として知られるEOTの動的バージョンのサドル点再構成に基づく。
大規模EOTの従来の手法とは対照的に,我々のアルゴリズムはエンドツーエンドであり,単一の学習ステップで構成されている。
論文 参考訳(メタデータ) (2022-11-02T14:35:13Z) - Sparsity-Constrained Optimal Transport [27.76137474217754]
正規化された最適輸送は、ニューラルネットワークの損失層やマッチング層として、ますます利用されている。
本稿では,交通計画に明示的な基数制約を課したOTに対する新しいアプローチを提案する。
本手法は,非正規化OT($k$の場合)と二次正規化OT($k$が十分に大きい場合)の中間地盤と考えることができる。
論文 参考訳(メタデータ) (2022-09-30T13:39:47Z) - Low-rank Optimal Transport: Approximation, Statistics and Debiasing [51.50788603386766]
フロゼットボン2021ローランで提唱された低ランク最適輸送(LOT)アプローチ
LOTは興味のある性質と比較した場合、エントロピー正則化の正当な候補と見なされる。
本稿では,これらの領域のそれぞれを対象とし,計算OTにおける低ランクアプローチの影響を補強する。
論文 参考訳(メタデータ) (2022-05-24T20:51:37Z) - A Survey on Optimal Transport for Machine Learning: Theory and
Applications [1.1279808969568252]
最適輸送(OT)理論はコンピュータ科学コミュニティから注目を集めている。
本稿では,簡単な紹介と歴史,先行研究の紹介,今後の研究の方向性について述べる。
論文 参考訳(メタデータ) (2021-06-03T16:10:42Z) - Manifold optimization for optimal transport [34.88495814664577]
Optimal Transport (OT)は、機械学習に広く関心を寄せている。
多様体の最適化の枠組みの中でOT問題にアプローチする方法について議論します。
Manifold最適化ベースの最適トランスポート(MOT)レポジトリを,PythonとMatlabのOT問題を解決する上で有用なコードで提供しています。
論文 参考訳(メタデータ) (2021-03-01T10:49:19Z) - Joint Wasserstein Distribution Matching [89.86721884036021]
JDM問題(Joint Distribution matching)は、2つのドメインの関節分布を一致させるために双方向マッピングを学習することを目的としており、多くの機械学習およびコンピュータビジョンアプリケーションで発生している。
2つの領域における関節分布のワッサーシュタイン距離を最小化することにより、JDM問題に対処することを提案する。
そこで我々は,難解な問題を簡単な最適化問題に還元する重要な定理を提案し,その解法を開発した。
論文 参考訳(メタデータ) (2020-03-01T03:39:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。