論文の概要: Optimal transport flow and infinitesimal density ratio estimation
- arxiv url: http://arxiv.org/abs/2305.11857v2
- Date: Fri, 2 Jun 2023 14:34:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2023-06-05 19:08:38.896551
- Title: Optimal transport flow and infinitesimal density ratio estimation
- Title(参考訳): 最適輸送流と無限小密度比推定
- Authors: Chen Xu, Xiuyuan Cheng, Yao Xie
- Abstract要約: P$から任意の$Q$に転送するフローモデルは、様々なアプリケーション関心事である。
本稿では,経験的サンプルから学習したニューラル-ODEモデルを用いて,P$からQ$まで非可逆的に輸送するフローを提案する。
トレーニングされたフローモデルにより、時間パラメータ化された$log$-densityに沿って無限小DREを実行できる。
- 参考スコア(独自算出の注目度): 22.140275054568985
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Continuous normalizing flows are widely used in generative tasks, where a
flow network transports from a data distribution $P$ to a normal distribution.
A flow model that transports from $P$ to an arbitrary $Q$, where both $P$ and
$Q$ are accessible via finite samples, is of various application interests,
particularly in the recently developed telescoping density ratio estimation
(DRE) which calls for the construction of intermediate densities to bridge
between the two densities. In this work, we propose such a flow by a neural-ODE
model which is trained from empirical samples to transport invertibly from $P$
to $Q$ (and vice versa) and optimally by minimizing the transport cost. The
trained flow model allows us to perform infinitesimal DRE along the
time-parametrized $\log$-density by training an additional continuous-time
network using classification loss, whose time integration provides a telescopic
DRE. The effectiveness of the proposed model is empirically demonstrated on
high-dimensional mutual information estimation and energy-based generative
models of image data.
- Abstract(参考訳): 連続正規化フローは生成的タスクで広く使われており、フローネットワークはデータ分散 $p$ から正規分布へ転送される。
P$から任意の$Q$へ輸送するフローモデルでは、P$と$Q$の両方が有限サンプルを通してアクセス可能であるが、特に近年開発されたテレスコープ密度比推定(DRE)において、この2つの密度を橋渡しするための中間密度の構築が求められている。
本研究では,経験的サンプルから学習したニューラル-ODEモデルを用いて,P$から$Q$(およびその逆)まで非可逆的に輸送し,輸送コストを最適に最小化するフローを提案する。
訓練されたフローモデルは、分類損失を用いて追加の連続時間ネットワークを訓練することで、時間パラメータ化された$\log$-densityに沿って無限小dreを実行できる。
画像データの高次元相互情報推定とエネルギーベース生成モデルにおいて,提案モデルの有効性を実証的に示す。
関連論文リスト
- Improving Neural Optimal Transport via Displacement Interpolation [16.474572112062535]
最適輸送(OT)理論は、ソース分布をターゲット分布に移動させるコスト最小化輸送マップを考察する。
本稿では, 安定度を向上し, 変位を利用した OT Map の近似性を向上する手法を提案する。
画像から画像への変換タスクにおいて,DIOTMが既存のOTベースモデルより優れていることを示す。
論文 参考訳(メタデータ) (2024-10-03T16:42:23Z) - Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。
物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。
PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
論文 参考訳(メタデータ) (2024-07-10T17:39:50Z) - Normalizing flows as approximations of optimal transport maps via linear-control neural ODEs [49.1574468325115]
ニューマライズフロー」は、深層ニューラルネットワークを用いて確率測度間の可逆輸送マップを構築するタスクに関連している。
我々は、絶対連続測度$mu,nuinmathcalP(mathbbRn)$間の$Wamma$-optimal transport map $T$を線形制御ニューラルネットワークのフローとして回収する問題を考える。
論文 参考訳(メタデータ) (2023-11-02T17:17:03Z) - Flow-based Distributionally Robust Optimization [23.232731771848883]
We present a framework, called $textttFlowDRO$, for solve flow-based distributionally robust optimization (DRO) problem with Wasserstein uncertainty set。
我々は、連続した最悪のケース分布(Last Favorable Distribution, LFD)とそれからのサンプルを見つけることを目指している。
本稿では、逆学習、分布論的に堅牢な仮説テスト、およびデータ駆動型分布摂動差分プライバシーの新しいメカニズムを実証する。
論文 参考訳(メタデータ) (2023-10-30T03:53:31Z) - Arbitrary Distributions Mapping via SyMOT-Flow: A Flow-based Approach Integrating Maximum Mean Discrepancy and Optimal Transport [2.7309692684728617]
本稿では,2つの未知分布からの標本間の対称最大平均誤差を最小化することにより,可逆変換を訓練するSyMOT-Flowと呼ばれる新しいモデルを提案する。
結果として得られる変換はより安定で正確なサンプル生成をもたらす。
論文 参考訳(メタデータ) (2023-08-26T08:39:16Z) - Generative Modeling through the Semi-dual Formulation of Unbalanced
Optimal Transport [9.980822222343921]
非平衡最適輸送(UOT)の半二重定式化に基づく新しい生成モデルを提案する。
OTとは異なり、UOTは分散マッチングの厳しい制約を緩和する。このアプローチは、外れ値に対する堅牢性、トレーニング中の安定性、より高速な収束を提供する。
CIFAR-10ではFIDスコアが2.97、CelebA-HQ-256では6.36である。
論文 参考訳(メタデータ) (2023-05-24T06:31:05Z) - GeONet: a neural operator for learning the Wasserstein geodesic [13.468026138183623]
本稿では、初期分布と終端分布の入力対から2つのエンドポイント分布を接続するワッサーシュタイン測地線への非線形マッピングを学習するメッシュ不変なディープニューラルネットワークであるGeONetを提案する。
シミュレーション例では,GeONet が標準 OT ソルバと同等の精度で,MNIST データセットに比較して,予測段階の計算コストを桁違いに大幅に削減することを示した。
論文 参考訳(メタデータ) (2022-09-28T21:55:40Z) - Learning Optimal Transport Between two Empirical Distributions with
Normalizing Flows [12.91637880428221]
本稿では、ニューラルネットワークの柔軟性を活用して、最適輸送マップを近似的に学習することを提案する。
我々は、このOT問題の解を近似するために、非可逆ニューラルネットワークの特定の例、すなわち正規化フローが利用できることを示した。
論文 参考訳(メタデータ) (2022-07-04T08:08:47Z) - Manifold Interpolating Optimal-Transport Flows for Trajectory Inference [64.94020639760026]
最適輸送流(MIOFlow)を補間するマニフォールド補間法を提案する。
MIOFlowは、散発的なタイムポイントで撮影された静的スナップショットサンプルから、連続的な人口動態を学習する。
本手法は, 胚体分化および急性骨髄性白血病の治療から得られたscRNA-seqデータとともに, 分岐とマージによるシミュレーションデータについて検討した。
論文 参考訳(メタデータ) (2022-06-29T22:19:03Z) - Truncated tensor Schatten p-norm based approach for spatiotemporal
traffic data imputation with complicated missing patterns [77.34726150561087]
本研究は, モード駆動繊維による3症例の欠失を含む, 4症例の欠失パターンについて紹介する。
本モデルでは, 目的関数の非性にもかかわらず, 乗算器の交互データ演算法を統合することにより, 最適解を導出する。
論文 参考訳(メタデータ) (2022-05-19T08:37:56Z) - Neural Optimal Transport [82.2689844201373]
本稿では、最適な輸送マップを計算し、強力で弱い輸送コストを計画するニューラルネットベースの新しいアルゴリズムを提案する。
ニューラルネットワークが確率分布間の輸送計画の普遍的近似であることを示す。
論文 参考訳(メタデータ) (2022-01-28T16:24:13Z) - Do Neural Optimal Transport Solvers Work? A Continuous Wasserstein-2
Benchmark [133.46066694893318]
最適輸送のためのニューラルネットワークに基づく解法の性能を評価する。
既存の解法では,下流タスクでは良好に機能するにもかかわらず,最適な輸送マップを復元できないことがわかった。
論文 参考訳(メタデータ) (2021-06-03T15:59:28Z) - Communication-Efficient Distributed Stochastic AUC Maximization with
Deep Neural Networks [50.42141893913188]
本稿では,ニューラルネットワークを用いた大規模AUCのための分散変数について検討する。
我々のモデルは通信ラウンドをはるかに少なくし、理論上はまだ多くの通信ラウンドを必要としています。
いくつかのデータセットに対する実験は、我々の理論の有効性を示し、我々の理論を裏付けるものである。
論文 参考訳(メタデータ) (2020-05-05T18:08:23Z) - TrajectoryNet: A Dynamic Optimal Transport Network for Modeling Cellular
Dynamics [74.43710101147849]
本稿では,動的最適輸送を実現するために,分布間の連続経路を制御するTrjectoryNetを提案する。
単細胞RNAシークエンシング(scRNA-seq)技術から得られたデータにおける細胞動態の研究において、これが特に当てはまるかを示す。
論文 参考訳(メタデータ) (2020-02-09T21:00:38Z) - Deep Residual Flow for Out of Distribution Detection [27.218308616245164]
本稿では,正規化フローに基づく表現密度モデルを活用することにより,最先端技術を改善する新しい手法を提案する。
本稿では,ResNet および DenseNet アーキテクチャにおける提案手法の有効性について述べる。
論文 参考訳(メタデータ) (2020-01-15T16:38:47Z) - Discriminator optimal transport [6.624726878647543]
判別器最適化プロセスは、ターゲット分布$p$とジェネレータ分布$p_G$との間のワッサーシュタイン距離の二重コスト関数の低境界を増大させることを示す。
これは、訓練された判別器が、$p_G$から$p$までの最適な輸送(OT)を近似できることを意味する。
CIFAR-10, STL-10 で訓練された無条件 GAN と ImageNet による条件付き GAN の事前学習モデルにより, 開始スコアと FID が向上することを示す。
論文 参考訳(メタデータ) (2019-10-15T14:47:37Z) - Model Fusion via Optimal Transport [64.13185244219353]
ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。
これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
論文 参考訳(メタデータ) (2019-10-12T22:07:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。