論文の概要: Minibatch optimal transport distances; analysis and applications

• arxiv url: http://arxiv.org/abs/2101.01792v1
• Date: Tue, 5 Jan 2021 21:29:31 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-11 11:59:52.358049
• Title: Minibatch optimal transport distances; analysis and applications
• Title（参考訳）: ミニバッチ最適輸送距離の解析とその応用
• Authors: Kilian Fatras, Younes Zine, Szymon Majewski, R\'emi Flamary, R\'emi Gribonval, Nicolas Courty
• Abstract要約: 最適輸送距離は確率分布を比較するための古典的なツールとなり、機械学習に多くの応用を見出した。 一般的な回避策は、これらの距離をミニバッチで計算して、いくつかの小さな最適な輸送問題の結果の平均化です。 本稿では,本手法の広範な分析を行い,その効果を限定したケースで検討した。
• 参考スコア（独自算出の注目度）: 9.574645423576932
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Optimal transport distances have become a classic tool to compare probability distributions and have found many applications in machine learning. Yet, despite recent algorithmic developments, their complexity prevents their direct use on large scale datasets. To overcome this challenge, a common workaround is to compute these distances on minibatches i.e. to average the outcome of several smaller optimal transport problems. We propose in this paper an extended analysis of this practice, which effects were previously studied in restricted cases. We first consider a large variety of Optimal Transport kernels. We notably argue that the minibatch strategy comes with appealing properties such as unbiased estimators, gradients and a concentration bound around the expectation, but also with limits: the minibatch OT is not a distance. To recover some of the lost distance axioms, we introduce a debiased minibatch OT function and study its statistical and optimisation properties. Along with this theoretical analysis, we also conduct empirical experiments on gradient flows, generative adversarial networks (GANs) or color transfer that highlight the practical interest of this strategy.
• Abstract（参考訳）: 最適輸送距離は確率分布を比較するための古典的なツールとなり、機械学習に多くの応用を見出した。 しかし、最近のアルゴリズム開発にもかかわらず、その複雑さは大規模なデータセットでの使用を妨げている。 この課題を克服するため、一般的な回避策はミニバッチ上でこれらの距離を計算することである。 より小さな輸送問題の結果を 平均化しています 本稿では,本手法の広範な分析を行い,その効果を限定したケースで検討した。 まず,多種多様な最適輸送核を考える。 特に、ミニバッチ戦略は、偏りのない推定器、勾配、期待値の周りに有界な濃度などの魅力的な性質が伴うが、同時に制限がある:ミニバッチ OT は距離ではない。 失われた距離公理のいくつかを回復するために、debiased minibatch ot関数を導入し、その統計的および最適化特性について検討する。 また, この理論解析とともに, 勾配流, 生成的逆ネットワーク (gans) や色彩伝達に関する経験的実験を行い, この戦略の実用的関心を浮き彫りにする。

関連論文リスト

• Energy-Guided Continuous Entropic Barycenter Estimation for General Costs [95.33926437521046]
  任意のOTコスト関数に対して連続的エントロピーOT(EOT)バリセンタを近似する新しいアルゴリズムを提案する。 本手法は、弱いOTに基づくEOT問題の二重再構成に基づいている。
  論文  参考訳（メタデータ） (2023-10-02T11:24:36Z)
• Budget-Constrained Bounds for Mini-Batch Estimation of Optimal Transport [35.440243358517066]
  我々は,ミニバッチOT問題の解を集約して構築した最適輸送問題に対して,上下境界の新たなファミリーを導入する。 上界ファミリーは、一方の極端における従来のミニバッチ平均化と、もう一方の極端におけるミニバッチの最適結合によって見出されるタイトな境界を含む。 様々な実験を通じて,計算予算と拘束力のトレードオフについて検討し,コンピュータビジョン応用におけるこれらの境界の有用性を示す。
  論文  参考訳（メタデータ） (2022-10-24T22:12:17Z)
• InfoOT: Information Maximizing Optimal Transport [58.72713603244467]
  InfoOTは最適な輸送の情報理論の拡張である。 幾何学的距離を最小化しながら、ドメイン間の相互情報を最大化する。 この定式化は、外れ値に対して堅牢な新しい射影法をもたらし、目に見えないサンプルに一般化する。
  論文  参考訳（メタデータ） (2022-10-06T18:55:41Z)
• Learning Optimal Transport Between two Empirical Distributions with Normalizing Flows [12.91637880428221]
  本稿では、ニューラルネットワークの柔軟性を活用して、最適輸送マップを近似的に学習することを提案する。 我々は、このOT問題の解を近似するために、非可逆ニューラルネットワークの特定の例、すなわち正規化フローが利用できることを示した。
  論文  参考訳（メタデータ） (2022-07-04T08:08:47Z)
• Low-rank Optimal Transport: Approximation, Statistics and Debiasing [51.50788603386766]
  フロゼットボン2021ローランで提唱された低ランク最適輸送(LOT)アプローチ LOTは興味のある性質と比較した場合、エントロピー正則化の正当な候補と見なされる。 本稿では,これらの領域のそれぞれを対象とし,計算OTにおける低ランクアプローチの影響を補強する。
  論文  参考訳（メタデータ） (2022-05-24T20:51:37Z)
• Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
  3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。 パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
  論文  参考訳（メタデータ） (2022-04-13T12:43:12Z)
• An Efficient Mini-batch Method via Partial Transportation [10.127116789814488]
  ミニバッチ最適輸送(m-OT)は、大規模アプリケーションにおけるOTのメモリ問題に広く用いられている。 ミニバッチ実験尺度間の部分最適輸送(POT)を用いた新しいミニバッチ手法を提案する。 m-POTはm-UOTに匹敵する性能を持ちながらm-OT深部ドメイン適応アプリケーションよりも優れていることを示す。
  論文  参考訳（メタデータ） (2021-08-22T05:45:48Z)
• Differentiable Annealed Importance Sampling and the Perils of Gradient Noise [68.44523807580438]
  Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。 差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。 我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
  論文  参考訳（メタデータ） (2021-07-21T17:10:14Z)
• Do Neural Optimal Transport Solvers Work? A Continuous Wasserstein-2 Benchmark [133.46066694893318]
  最適輸送のためのニューラルネットワークに基づく解法の性能を評価する。 既存の解法では,下流タスクでは良好に機能するにもかかわらず,最適な輸送マップを復元できないことがわかった。
  論文  参考訳（メタデータ） (2021-06-03T15:59:28Z)
• Unbalanced minibatch Optimal Transport; applications to Domain Adaptation [8.889304968879163]
  最適輸送距離は、非パラメトリック確率分布を比較するための機械学習の能力に多くの応用を見出した。 我々は、同じミニバッチ戦略と不均衡な最適輸送が組み合わさって、より堅牢な振る舞いをもたらすと論じる。 実験により, 領域適応に関する課題において, 不均衡な最適移動の利用は, 最近のベースラインと競合するか, はるかに良好な結果をもたらすことが示された。
  論文  参考訳（メタデータ） (2021-03-05T11:15:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。