論文の概要: Normalizing flows as approximations of optimal transport maps via linear-control neural ODEs
- arxiv url: http://arxiv.org/abs/2311.01404v4
- Date: Mon, 02 Dec 2024 21:18:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-04 15:38:29.098972
- Title: Normalizing flows as approximations of optimal transport maps via linear-control neural ODEs
- Title(参考訳): 線形制御ニューラルネットワークによる最適輸送マップの近似としての正規化フロー
- Authors: Alessandro Scagliotti, Sara Farinelli,
- Abstract要約: 我々は、絶対連続測度$mu,nuinmathcalP(mathbbRn)$間の$Wimat$-optimal transport map Tを線形制御ニューラルネットワークのフローとして回収する問題を考える。
- 参考スコア(独自算出の注目度): 49.1574468325115
- License:
- Abstract: In this paper, we consider the problem of recovering the $W_2$-optimal transport map T between absolutely continuous measures $\mu,\nu\in\mathcal{P}(\mathbb{R}^n)$ as the flow of a linear-control neural ODE, where the control depends only on the time variable and takes values in a finite-dimensional space. We first show that, under suitable assumptions on $\mu,\nu$ and on the controlled vector fields governing the neural ODE, the optimal transport map is contained in the $C^0_c$-closure of the flows generated by the system. Then, we tackle the problem under the assumption that only discrete approximations of $\mu_N,\nu_N$ of the original measures $\mu,\nu$ are available: we formulate approximated optimal control problems, and we show that their solutions give flows that approximate the original optimal transport map $T$. In the framework of generative models, the approximating flow constructed here can be seen as a `Normalizing Flow', which usually refers to the task of providing invertible transport maps between probability measures by means of deep neural networks. We propose an iterative numerical scheme based on the Pontryagin Maximum Principle for the resolution of the optimal control problem, resulting in a method for the practical computation of the approximated optimal transport map, and we test it on a two-dimensional example.
- Abstract(参考訳): 本稿では、絶対連続測度 $\mu,\nu\in\mathcal{P}(\mathbb{R}^n)$ を線形制御ニューラルネットワークのフローとして、時間変数のみに依存し、有限次元空間で値を取るような W_2$-Optimal transport map T を復元する問題を考察する。
最初に、$\mu,\nu$およびニューラルODEを管理する制御ベクトル場に対する適切な仮定の下で、最適輸送写像がシステムによって生成されたフローの$C^0_c$-クロージャに含まれることを示す。
そして、元の測度 $\mu,\nu$ の離散近似のみを利用できるという仮定の下でこの問題に取り組む: 近似された最適制御問題を定式化し、それらの解が元の最適輸送写像 $T$ を近似するフローを与えることを示す。
生成モデルの枠組みでは、ここで構築された近似フローは'Normalizing Flow'と見ることができる。
本稿では,最適制御問題の解法に対するポントリャーギン最大原理に基づく反復的数値スキームを提案し,近似された最適輸送写像の実用的な計算法を提案し,これを2次元例で検証する。
関連論文リスト
- Distribution learning via neural differential equations: minimal energy regularization and approximation theory [1.5771347525430774]
微分常微分方程式(ODE)は、複素確率分布を近似するのに使用できる可逆輸送写像の表現的表現を提供する。
大規模な輸送写像のクラス$T$に対して、写像によって誘導される変位の直線$(1-t)x + t(tTx)$ を実現する時間依存ODE速度場が存在することを示す。
このような速度場は、特定の最小エネルギー正規化を含む訓練対象の最小値であることを示す。
論文 参考訳(メタデータ) (2025-02-06T05:50:21Z) - Fast and scalable Wasserstein-1 neural optimal transport solver for single-cell perturbation prediction [55.89763969583124]
最適輸送理論はそのような写像を構築するための原則化された枠組みを提供する。
本稿では,Wasserstein-1に基づく新しい最適輸送解法を提案する。
実験により,提案した解法は,2次元データセット上に一意かつ単調な写像を求める際に,$W$ OTソルバを模倣できることを示した。
論文 参考訳(メタデータ) (2024-11-01T14:23:19Z) - Flow Priors for Linear Inverse Problems via Iterative Corrupted Trajectory Matching [35.77769905072651]
本稿では,MAP推定器を効率的に近似する反復アルゴリズムを提案し,様々な線形逆問題の解法を提案する。
本アルゴリズムは,MAPの目的を局所MAP'の目的の和で近似できるという観測によって数学的に正当化される。
我々は,超解法,デブロアリング,インペイント,圧縮センシングなど,様々な線形逆問題に対するアプローチを検証する。
論文 参考訳(メタデータ) (2024-05-29T06:56:12Z) - Flow-based Distributionally Robust Optimization [23.232731771848883]
We present a framework, called $textttFlowDRO$, for solve flow-based distributionally robust optimization (DRO) problem with Wasserstein uncertainty set。
我々は、連続した最悪のケース分布(Last Favorable Distribution, LFD)とそれからのサンプルを見つけることを目指している。
本稿では、逆学習、分布論的に堅牢な仮説テスト、およびデータ駆動型分布摂動差分プライバシーの新しいメカニズムを実証する。
論文 参考訳(メタデータ) (2023-10-30T03:53:31Z) - Efficient Neural Network Approaches for Conditional Optimal Transport with Applications in Bayesian Inference [1.740133468405535]
静的および条件付き最適輸送(COT)問題の解を近似する2つのニューラルネットワークアプローチを提案する。
我々は、ベンチマークデータセットとシミュレーションに基づく逆問題を用いて、両アルゴリズムを競合する最先端のアプローチと比較する。
論文 参考訳(メタデータ) (2023-10-25T20:20:09Z) - Computing high-dimensional optimal transport by flow neural networks [22.320632565424745]
この研究はフローベースモデルを開発し、P$から任意の$Q$に転送する。
本稿では,フローニューラルネットワークのトレーニングにより,$P$と$Q$の間の動的最適輸送を学習することを提案する。
訓練された最適輸送流はその後、無限小密度推定(DRE)や、生成モデルのための潜在空間における分布を含む多くの下流タスクを実行することができる。
論文 参考訳(メタデータ) (2023-05-19T17:48:21Z) - Fast Computation of Optimal Transport via Entropy-Regularized Extragradient Methods [75.34939761152587]
2つの分布間の最適な輸送距離の効率的な計算は、様々な応用を促進するアルゴリズムとして機能する。
本稿では,$varepsilon$加法精度で最適な輸送を計算できるスケーラブルな一階最適化法を提案する。
論文 参考訳(メタデータ) (2023-01-30T15:46:39Z) - Minimax Optimal Quantization of Linear Models: Information-Theoretic
Limits and Efficient Algorithms [59.724977092582535]
測定から学習した線形モデルの定量化の問題を考える。
この設定の下では、ミニマックスリスクに対する情報理論の下限を導出する。
本稿では,2層ReLUニューラルネットワークに対して,提案手法と上界を拡張可能であることを示す。
論文 参考訳(メタデータ) (2022-02-23T02:39:04Z) - Near-optimal estimation of smooth transport maps with kernel
sums-of-squares [81.02564078640275]
滑らかな条件下では、2つの分布の間の正方形ワッサーシュタイン距離は、魅力的な統計的誤差上界で効率的に計算できる。
生成的モデリングのような応用への関心の対象は、基礎となる最適輸送写像である。
そこで本研究では,地図上の統計的誤差であるL2$が,既存のミニマックス下限値とほぼ一致し,スムーズな地図推定が可能となる最初のトラクタブルアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-12-03T13:45:36Z) - Physics-Informed Machine Learning Method for Large-Scale Data
Assimilation Problems [48.7576911714538]
我々は,未知のフラックス (Neumann) と様々なヘッド (Dirichlet) 境界条件を持つ地下流れをモデル化するための物理インフォームド条件付きKarhunen-Lo'eve展開法(PICKLE)を拡張した。
PICKLE法はMAP法と精度が比較できるが,大規模問題ではMAP法よりもはるかに高速であることを示す。
論文 参考訳(メタデータ) (2021-07-30T18:43:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。