論文の概要: Learning Optimal Transport Between two Empirical Distributions with Normalizing Flows

• arxiv url: http://arxiv.org/abs/2207.01246v2
• Date: Tue, 5 Jul 2022 07:29:23 GMT
• ステータス: 処理完了
• システム内更新日: 2022-07-06 12:19:20.105809
• Title: Learning Optimal Transport Between two Empirical Distributions with Normalizing Flows
• Title（参考訳）: 正規化流れを伴う2つの経験的分布間の最適輸送の学習
• Authors: Florentin Coeurdoux, Nicolas Dobigeon, Pierre Chainais
• Abstract要約: 本稿では、ニューラルネットワークの柔軟性を活用して、最適輸送マップを近似的に学習することを提案する。 我々は、このOT問題の解を近似するために、非可逆ニューラルネットワークの特定の例、すなわち正規化フローが利用できることを示した。
• 参考スコア（独自算出の注目度）: 12.91637880428221
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Optimal transport (OT) provides effective tools for comparing and mapping probability measures. We propose to leverage the flexibility of neural networks to learn an approximate optimal transport map. More precisely, we present a new and original method to address the problem of transporting a finite set of samples associated with a first underlying unknown distribution towards another finite set of samples drawn from another unknown distribution. We show that a particular instance of invertible neural networks, namely the normalizing flows, can be used to approximate the solution of this OT problem between a pair of empirical distributions. To this aim, we propose to relax the Monge formulation of OT by replacing the equality constraint on the push-forward measure by the minimization of the corresponding Wasserstein distance. The push-forward operator to be retrieved is then restricted to be a normalizing flow which is trained by optimizing the resulting cost function. This approach allows the transport map to be discretized as a composition of functions. Each of these functions is associated to one sub-flow of the network, whose output provides intermediate steps of the transport between the original and target measures. This discretization yields also a set of intermediate barycenters between the two measures of interest. Experiments conducted on toy examples as well as a challenging task of unsupervised translation demonstrate the interest of the proposed method. Finally, some experiments show that the proposed approach leads to a good approximation of the true OT.
• Abstract（参考訳）: 最適輸送(OT)は、確率測度の比較とマッピングに有効なツールを提供する。 ニューラルネットワークの柔軟性を活用して、近似最適輸送マップを学習することを提案する。 より正確には、第1の基底となる未知の分布に付随する有限集合のサンプルを、別の未知の分布から引き出された別の有限集合のサンプルへ輸送する問題に対処する新しいオリジナルな方法を提案する。 可逆ニューラルネットワークの特定の例、すなわち正規化フローは、一対の経験的分布の間のこのot問題の解を近似するために利用できることを示す。 本研究の目的は,対応するワッサーシュタイン距離の最小化により,プッシュフォワード測度の等式制約を置き換えることで,OTのモンジュ定式化を緩和することである。 取得するプッシュフォワード演算子は、結果のコスト関数を最適化してトレーニングされる正規化フローに制限される。 このアプローチにより、トランスポートマップは関数の合成として識別できる。 これらの関数はネットワークの1つのサブフローに関連付けられ、その出力は元の測度とターゲット測度の間の中間ステップを提供する。 この離散化はまた、二つの利害の測度の間の中間バリセンタの集合をもたらす。 おもちゃの例で行った実験と教師なし翻訳の難しい課題は,提案手法の興味を示している。 最後に、いくつかの実験により、提案手法が真のOTの良好な近似に繋がることを示した。

関連論文リスト

• Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
  本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。 物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。 PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
  論文  参考訳（メタデータ） (2024-07-10T17:39:50Z)
• Distributed Markov Chain Monte Carlo Sampling based on the Alternating Direction Method of Multipliers [143.6249073384419]
  本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。 我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。 シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
  論文  参考訳（メタデータ） (2024-01-29T02:08:40Z)
• Diffusion Generative Flow Samplers: Improving learning signals through partial trajectory optimization [87.21285093582446]
  Diffusion Generative Flow Samplers (DGFS) はサンプルベースのフレームワークであり、学習プロセスを短い部分的軌道セグメントに分解することができる。 生成フローネットワーク(GFlowNets)のための理論から着想を得た。
  論文  参考訳（メタデータ） (2023-10-04T09:39:05Z)
• Arbitrary Distributions Mapping via SyMOT-Flow: A Flow-based Approach Integrating Maximum Mean Discrepancy and Optimal Transport [2.7309692684728617]
  本稿では,2つの未知分布からの標本間の対称最大平均誤差を最小化することにより,可逆変換を訓練するSyMOT-Flowと呼ばれる新しいモデルを提案する。 結果として得られる変換はより安定で正確なサンプル生成をもたらす。
  論文  参考訳（メタデータ） (2023-08-26T08:39:16Z)
• Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
  Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。 本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
  論文  参考訳（メタデータ） (2023-06-27T08:15:28Z)
• On Sampling with Approximate Transport Maps [22.03230737620495]
  輸送地図は、非自明な測地による分布のサンプリングを容易にし、それらを扱いやすい分布に変換する。 このアプローチのポテンシャルは、ターゲットに向かって参照分布をプッシュするようにトレーニングされたディープニューラルネットワークでパラメータ化されたマップである正規化フロー(NF)の開発によって高まっている。 NF型サンプリング器は先日,フローから引き出された (i) モンテカルロ法または (ii) フローベース再パラメータ化法をブレンドした(マルコフ連鎖)モンテカルロ法を提案した。
  論文  参考訳（メタデータ） (2023-02-09T16:52:52Z)
• Relative Entropy-Regularized Optimal Transport on a Graph: a new algorithm and an experimental comparison [0.0]
  本研究は,ランダム化された最短経路形式におけるグラフ問題に対する最適輸送を解くための,新しい相対エントロピー正規化アルゴリズムについて検討する。 この新たな定式化の主な利点は、エッジフローキャパシティの制約に容易に対応できるという事実である。 結果として得られる最適ルーティングポリシー、すなわち各ノードのエッジに従う確率分布はマルコビアンであり、入力と出力を所定の限界確率に制限することで計算される。
  論文  参考訳（メタデータ） (2021-08-23T08:25:51Z)
• Comparing Probability Distributions with Conditional Transport [63.11403041984197]
  新しい発散として条件輸送(CT)を提案し、償却されたCT(ACT)コストと近似します。 ACTは条件付き輸送計画の計算を補正し、計算が容易な非バイアスのサンプル勾配を持つ。 さまざまなベンチマークデータセットのジェネレーティブモデリングでは、既存のジェネレーティブ敵対ネットワークのデフォルトの統計距離をACTに置き換えることで、一貫してパフォーマンスを向上させることが示されています。
  論文  参考訳（メタデータ） (2020-12-28T05:14:22Z)
• Spatially Adaptive Inference with Stochastic Feature Sampling and Interpolation [72.40827239394565]
  スパースサンプリングされた場所のみの機能を計算することを提案する。 次に、効率的な手順で特徴写像を密に再構築する。 提案したネットワークは、様々なコンピュータビジョンタスクの精度を維持しながら、かなりの計算を省くために実験的に示されている。
  論文  参考訳（メタデータ） (2020-03-19T15:36:31Z)
• CO-Optimal Transport [19.267807479856575]
  最適輸送(OT)は、2つの分布の対応関係を見つけ、類似性を測定するための強力なツールである。 我々は,CO-Optimal Transport のための COOT という新しいOT 問題を提案し,サンプルと特徴の2つのトランスポートマップを同時に最適化する。 ヘテロジニアス領域適応とコクラスタリング/データ要約における2つの機械学習アプリケーションを用いて、その汎用性を実証する。
  論文  参考訳（メタデータ） (2020-02-10T13:33:15Z)
• Statistical Optimal Transport posed as Learning Kernel Embedding [0.0]
  この研究は、統計学的最適輸送(OT)を、輸送計画のカーネルの平均埋め込みをサンプルベースによる限界埋め込みの推定から学習する、という新しいアプローチを採っている。 重要な結果は、非常に穏やかな条件下では、$epsilon$-optimal recovery of the transport plan と Barycentric-projection based transport map が、完全に次元のないサンプル複雑性で可能であることである。
  論文  参考訳（メタデータ） (2020-02-08T14:58:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。