論文の概要: A Survey on Optimal Transport for Machine Learning: Theory and
Applications
- arxiv url: http://arxiv.org/abs/2106.01963v1
- Date: Thu, 3 Jun 2021 16:10:42 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-04 17:45:59.433432
- Title: A Survey on Optimal Transport for Machine Learning: Theory and
Applications
- Title(参考訳): 機械学習のための最適輸送に関する考察:理論と応用
- Authors: Luis Caicedo Torres, Luiz Manella Pereira, M. Hadi Amini
- Abstract要約: 最適輸送(OT)理論はコンピュータ科学コミュニティから注目を集めている。
本稿では,簡単な紹介と歴史,先行研究の紹介,今後の研究の方向性について述べる。
- 参考スコア(独自算出の注目度): 1.1279808969568252
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Optimal Transport (OT) theory has seen an increasing amount of attention from
the computer science community due to its potency and relevance in modeling and
machine learning. It introduces means that serve as powerful ways to compare
probability distributions with each other, as well as producing optimal
mappings to minimize cost functions. In this survey, we present a brief
introduction and history, a survey of previous work and propose directions of
future study. We will begin by looking at the history of optimal transport and
introducing the founders of this field. We then give a brief glance into the
algorithms related to OT. Then, we will follow up with a mathematical
formulation and the prerequisites to understand OT. These include Kantorovich
duality, entropic regularization, KL Divergence, and Wassertein barycenters.
Since OT is a computationally expensive problem, we then introduce the
entropy-regularized version of computing optimal mappings, which allowed OT
problems to become applicable in a wide range of machine learning problems. In
fact, the methods generated from OT theory are competitive with the current
state-of-the-art methods. We follow this up by breaking down research papers
that focus on image processing, graph learning, neural architecture search,
document representation, and domain adaptation. We close the paper with a small
section on future research. Of the recommendations presented, three main
problems are fundamental to allow OT to become widely applicable but rely
strongly on its mathematical formulation and thus are hardest to answer. Since
OT is a novel method, there is plenty of space for new research, and with more
and more competitive methods (either on an accuracy level or computational
speed level) being created, the future of applied optimal transport is bright
as it has become pervasive in machine learning.
- Abstract(参考訳): 最適輸送(OT)理論は、モデリングと機械学習における有効性と関連性から、コンピュータサイエンスコミュニティから注目が集まっている。
これは、確率分布を互いに比較する強力な手段として機能し、コスト関数を最小化する最適な写像を生成する。
本調査では,簡単な紹介と歴史,先行研究の紹介,今後の研究の方向性について述べる。
まず、最適な輸送の歴史を見て、この分野の創始者を紹介します。
次に、OTに関連するアルゴリズムを少し見てみます。
次に、数学的定式化とOTを理解するための前提条件について述べる。
これらには、カントロビッチ双対性、エントロピー正則化、KLダイバージェンス、ワッサーテインバリセンターが含まれる。
OTは計算に費用がかかる問題であるため、エントロピー規則化された最適写像を導入し、OT問題を幅広い機械学習問題に適用できるようにした。
実際、OT理論から生成された手法は現在の最先端の手法と競合する。
我々は、画像処理、グラフ学習、ニューラルネットワーク検索、ドキュメント表現、ドメイン適応に焦点をあてた研究論文を分解して、これに従う。
我々はその論文を、今後の研究の小さな部分で締めくくった。
提示された推奨事項のうち、3つの主要な問題はotを広く適用できるようにするための基本であるが、数学的定式化に強く依存しており、答えるのが最も困難である。
otは新たな手法であるため、新たな研究の余地は十分あり、より競争力のある手法(精度レベルや計算速度レベルではなく)が開発されているため、機械学習で広く普及するにつれて、応用された最適輸送の未来は明るい。
関連論文リスト
- A Statistical Learning Perspective on Semi-dual Adversarial Neural Optimal Transport Solvers [65.28989155951132]
本稿では,ミニマックス二次OT解法により得られた近似OT写像の一般化誤差の上限を確立する。
解析は二次 OT に焦点をあてるが、より一般的な OT の定式化のために類似した境界を導出できると考えている。
論文 参考訳(メタデータ) (2025-02-03T12:37:20Z) - A Survey on Algorithmic Developments in Optimal Transport Problem with Applications [0.0]
最適輸送(OT)は、分布間の差異を定量化するための堅牢なフレームワークとして確立されている。
本稿では,その理論的基礎から,OT問題について詳細に検討する。
シンクホーン反復、原始双対戦略、還元に基づくアプローチなど、最先端のアルゴリズムを探索する。
論文 参考訳(メタデータ) (2025-01-08T18:06:30Z) - Quantum Theory and Application of Contextual Optimal Transport [2.160404814399144]
本稿では、文脈化された輸送計画の記憶的最適化のための、第一種量子コンピューティングの定式化を提案する。
従来のニューラルOTアプローチと一致しない性能を報告する。
論文 参考訳(メタデータ) (2024-02-22T22:03:16Z) - Energy-Guided Continuous Entropic Barycenter Estimation for General Costs [95.33926437521046]
任意のOTコスト関数に対して連続的エントロピーOT(EOT)バリセンタを近似する新しいアルゴリズムを提案する。
本手法は、弱いOTに基づくEOT問題の二重再構成に基づいている。
論文 参考訳(メタデータ) (2023-10-02T11:24:36Z) - Building the Bridge of Schr\"odinger: A Continuous Entropic Optimal
Transport Benchmark [96.06787302688595]
提案手法は, 基本真理 OT 解が構成によって知られている確率分布のペアを作成する方法である。
これらのベンチマークペアを使用して、既存のニューラルネットワーク EOT/SB ソルバが実際に EOT ソリューションをどれだけよく計算しているかをテストする。
論文 参考訳(メタデータ) (2023-06-16T20:03:36Z) - Scalable Optimal Transport Methods in Machine Learning: A Contemporary Survey [15.500897098518989]
本稿では,機械学習における最適な輸送方法について述べる。
まず、最適な輸送背景を説明し、異なるフレーバー(数学的定式化)、特性、顕著な応用を紹介する。
次に、大規模・高次元データの現在の要求に対応するために最適な輸送をスケールする方法に関する根本的な問題に対処する。
論文 参考訳(メタデータ) (2023-05-08T22:43:16Z) - Entropic Neural Optimal Transport via Diffusion Processes [105.34822201378763]
本稿では,連続確率分布間のエントロピー最適輸送(EOT)計画を計算するための新しいアルゴリズムを提案する。
提案アルゴリズムは,シュリンガーブリッジ問題(Schr"odinger Bridge problem)として知られるEOTの動的バージョンのサドル点再構成に基づく。
大規模EOTの従来の手法とは対照的に,我々のアルゴリズムはエンドツーエンドであり,単一の学習ステップで構成されている。
論文 参考訳(メタデータ) (2022-11-02T14:35:13Z) - Low-rank Optimal Transport: Approximation, Statistics and Debiasing [51.50788603386766]
フロゼットボン2021ローランで提唱された低ランク最適輸送(LOT)アプローチ
LOTは興味のある性質と比較した場合、エントロピー正則化の正当な候補と見なされる。
本稿では,これらの領域のそれぞれを対象とし,計算OTにおける低ランクアプローチの影響を補強する。
論文 参考訳(メタデータ) (2022-05-24T20:51:37Z) - Learning to Optimize: A Primer and A Benchmark [94.29436694770953]
最適化への学習(L2O)は、機械学習を活用して最適化方法を開発する新しいアプローチです。
この記事では、継続的最適化のためのL2Oの総合的な調査とベンチマークを行う。
論文 参考訳(メタデータ) (2021-03-23T20:46:20Z) - Regularized Optimal Transport is Ground Cost Adversarial [34.81915836064636]
最適輸送問題の正則化は, 地価逆数と解釈できることを示す。
これにより、地上空間上のロバストな異性度測度にアクセスでき、他のアプリケーションで使用することができる。
論文 参考訳(メタデータ) (2020-02-10T17:28:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。