論文の概要: Unbalanced minibatch Optimal Transport; applications to Domain Adaptation

• arxiv url: http://arxiv.org/abs/2103.03606v1
• Date: Fri, 5 Mar 2021 11:15:47 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-09 00:07:18.774206
• Title: Unbalanced minibatch Optimal Transport; applications to Domain Adaptation
• Title（参考訳）: 非平衡ミニバッチ最適輸送;ドメイン適応への応用
• Authors: Kilian Fatras, Thibault S\'ejourn\'e, Nicolas Courty, R\'emi Flamary
• Abstract要約: 最適輸送距離は、非パラメトリック確率分布を比較するための機械学習の能力に多くの応用を見出した。 我々は、同じミニバッチ戦略と不均衡な最適輸送が組み合わさって、より堅牢な振る舞いをもたらすと論じる。 実験により, 領域適応に関する課題において, 不均衡な最適移動の利用は, 最近のベースラインと競合するか, はるかに良好な結果をもたらすことが示された。
• 参考スコア（独自算出の注目度）: 8.889304968879163
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Optimal transport distances have found many applications in machine learning for their capacity to compare non-parametric probability distributions. Yet their algorithmic complexity generally prevents their direct use on large scale datasets. Among the possible strategies to alleviate this issue, practitioners can rely on computing estimates of these distances over subsets of data, {\em i.e.} minibatches. While computationally appealing, we highlight in this paper some limits of this strategy, arguing it can lead to undesirable smoothing effects. As an alternative, we suggest that the same minibatch strategy coupled with unbalanced optimal transport can yield more robust behavior. We discuss the associated theoretical properties, such as unbiased estimators, existence of gradients and concentration bounds. Our experimental study shows that in challenging problems associated to domain adaptation, the use of unbalanced optimal transport leads to significantly better results, competing with or surpassing recent baselines.
• Abstract（参考訳）: 最適輸送距離は、非パラメトリック確率分布を比較するための機械学習の能力に多くの応用を見出した。 しかし、アルゴリズムの複雑さは一般的に大規模なデータセットでの使用を妨げている。 この問題を緩和するための可能な戦略の中で、実践者はデータのサブセット上のこれらの距離の計算推定に頼ることができる。 ミニバッチ。 計算上は魅力的だが,本論文ではこの戦略の限界を強調し,好ましくない平滑化効果をもたらす可能性があることを指摘する。 代替案として,同じミニバッチ戦略と不均衡な最適輸送が組み合わさることで,より堅牢な行動が得られることを示唆する。 偏りのない推定子,勾配の存在,濃度境界など,関連する理論的性質について考察する。 実験により, 領域適応に関する課題において, 不均衡な最適移動の利用は, 最近のベースラインと競合するか, はるかに良好な結果をもたらすことが示された。

関連論文リスト

• OTClean: Data Cleaning for Conditional Independence Violations using Optimal Transport [51.6416022358349]
  sysは、条件付き独立性(CI)制約下でのデータ修復に最適な輸送理論を利用するフレームワークである。 我々はSinkhornの行列スケーリングアルゴリズムにインスパイアされた反復アルゴリズムを開発し、高次元および大規模データを効率的に処理する。
  論文  参考訳（メタデータ） (2024-03-04T18:23:55Z)
• Budget-Constrained Bounds for Mini-Batch Estimation of Optimal Transport [35.440243358517066]
  我々は,ミニバッチOT問題の解を集約して構築した最適輸送問題に対して,上下境界の新たなファミリーを導入する。 上界ファミリーは、一方の極端における従来のミニバッチ平均化と、もう一方の極端におけるミニバッチの最適結合によって見出されるタイトな境界を含む。 様々な実験を通じて,計算予算と拘束力のトレードオフについて検討し,コンピュータビジョン応用におけるこれらの境界の有用性を示す。
  論文  参考訳（メタデータ） (2022-10-24T22:12:17Z)
• InfoOT: Information Maximizing Optimal Transport [58.72713603244467]
  InfoOTは最適な輸送の情報理論の拡張である。 幾何学的距離を最小化しながら、ドメイン間の相互情報を最大化する。 この定式化は、外れ値に対して堅牢な新しい射影法をもたらし、目に見えないサンプルに一般化する。
  論文  参考訳（メタデータ） (2022-10-06T18:55:41Z)
• Unbalanced CO-Optimal Transport [16.9451175221198]
  Co-Optimal Transport (COOT)は、特徴間のアライメントを推論することで、この比較をさらに進める。 実世界のデータに一様に表される外れ値に敏感であることを示す。 これにより、ノイズに対するロバスト性を確実に示す不均衡なCOOTを提案することができる。
  論文  参考訳（メタデータ） (2022-05-30T08:43:19Z)
• Low-rank Optimal Transport: Approximation, Statistics and Debiasing [51.50788603386766]
  フロゼットボン2021ローランで提唱された低ランク最適輸送(LOT)アプローチ LOTは興味のある性質と比較した場合、エントロピー正則化の正当な候補と見なされる。 本稿では,これらの領域のそれぞれを対象とし,計算OTにおける低ランクアプローチの影響を補強する。
  論文  参考訳（メタデータ） (2022-05-24T20:51:37Z)
• Differentiable Annealed Importance Sampling and the Perils of Gradient Noise [68.44523807580438]
  Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。 差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。 我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
  論文  参考訳（メタデータ） (2021-07-21T17:10:14Z)
• Do Neural Optimal Transport Solvers Work? A Continuous Wasserstein-2 Benchmark [133.46066694893318]
  最適輸送のためのニューラルネットワークに基づく解法の性能を評価する。 既存の解法では,下流タスクでは良好に機能するにもかかわらず,最適な輸送マップを復元できないことがわかった。
  論文  参考訳（メタデータ） (2021-06-03T15:59:28Z)
• Minibatch optimal transport distances; analysis and applications [9.574645423576932]
  最適輸送距離は確率分布を比較するための古典的なツールとなり、機械学習に多くの応用を見出した。 一般的な回避策は、これらの距離をミニバッチで計算して、いくつかの小さな最適な輸送問題の結果の平均化です。 本稿では,本手法の広範な分析を行い,その効果を限定したケースで検討した。
  論文  参考訳（メタデータ） (2021-01-05T21:29:31Z)
• Robust Optimal Transport with Applications in Generative Modeling and Domain Adaptation [120.69747175899421]
  ワッサーシュタインのような最適輸送(OT)距離は、GANやドメイン適応のようないくつかの領域で使用されている。 本稿では,現代のディープラーニングアプリケーションに適用可能な,ロバストなOT最適化の計算効率のよい2つの形式を提案する。 提案手法では, ノイズの多いデータセット上で, 外部分布で劣化したGANモデルをトレーニングすることができる。
  論文  参考訳（メタデータ） (2020-10-12T17:13:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。