論文の概要: Optimal transport flow and infinitesimal density ratio estimation
- arxiv url: http://arxiv.org/abs/2305.11857v2
- Date: Fri, 2 Jun 2023 14:34:22 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-05 19:08:38.896551
- Title: Optimal transport flow and infinitesimal density ratio estimation
- Title(参考訳): 最適輸送流と無限小密度比推定
- Authors: Chen Xu, Xiuyuan Cheng, Yao Xie
- Abstract要約: P$から任意の$Q$に転送するフローモデルは、様々なアプリケーション関心事である。
本稿では,経験的サンプルから学習したニューラル-ODEモデルを用いて,P$からQ$まで非可逆的に輸送するフローを提案する。
トレーニングされたフローモデルにより、時間パラメータ化された$log$-densityに沿って無限小DREを実行できる。
- 参考スコア(独自算出の注目度): 22.140275054568985
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Continuous normalizing flows are widely used in generative tasks, where a
flow network transports from a data distribution $P$ to a normal distribution.
A flow model that transports from $P$ to an arbitrary $Q$, where both $P$ and
$Q$ are accessible via finite samples, is of various application interests,
particularly in the recently developed telescoping density ratio estimation
(DRE) which calls for the construction of intermediate densities to bridge
between the two densities. In this work, we propose such a flow by a neural-ODE
model which is trained from empirical samples to transport invertibly from $P$
to $Q$ (and vice versa) and optimally by minimizing the transport cost. The
trained flow model allows us to perform infinitesimal DRE along the
time-parametrized $\log$-density by training an additional continuous-time
network using classification loss, whose time integration provides a telescopic
DRE. The effectiveness of the proposed model is empirically demonstrated on
high-dimensional mutual information estimation and energy-based generative
models of image data.
- Abstract(参考訳): 連続正規化フローは生成的タスクで広く使われており、フローネットワークはデータ分散 $p$ から正規分布へ転送される。
P$から任意の$Q$へ輸送するフローモデルでは、P$と$Q$の両方が有限サンプルを通してアクセス可能であるが、特に近年開発されたテレスコープ密度比推定(DRE)において、この2つの密度を橋渡しするための中間密度の構築が求められている。
本研究では,経験的サンプルから学習したニューラル-ODEモデルを用いて,P$から$Q$(およびその逆)まで非可逆的に輸送し,輸送コストを最適に最小化するフローを提案する。
訓練されたフローモデルは、分類損失を用いて追加の連続時間ネットワークを訓練することで、時間パラメータ化された$\log$-densityに沿って無限小dreを実行できる。
画像データの高次元相互情報推定とエネルギーベース生成モデルにおいて,提案モデルの有効性を実証的に示す。
関連論文リスト
- Normalizing flows as approximations of optimal transport maps via
linear-control neural ODEs [55.2480439325792]
ニューマライズフロー」は、深層ニューラルネットワークを用いて確率測度間の可逆輸送マップを構築するタスクに関連している。
我々は、絶対連続測度$mu,nuinmathcalP(mathbbRn)$間の$W$最適輸送マップ$T$を線形制御ニューラルネットワークのフローとして回収する問題を考える。
論文 参考訳(メタデータ) (2023-11-02T17:17:03Z) - Arbitrary Distributions Mapping via SyMOT-Flow: A Flow-based Approach
Integrating Maximum Mean Discrepancy and Optimal Transport [3.069335774032178]
本稿では,2つの未知分布からの標本間の対称最大平均誤差を最小化することにより,可逆変換を訓練するSyMOT-Flowと呼ばれる新しいモデルを提案する。
結果として得られる変換はより安定で正確なサンプル生成をもたらす。
論文 参考訳(メタデータ) (2023-08-26T08:39:16Z) - PDE+: Enhancing Generalization via PDE with Adaptive Distributional
Diffusion [66.95761172711073]
ニューラルネットワークの一般化は、機械学習における中心的な課題です。
本稿では、入力データを調整することに集中するのではなく、ニューラルネットワークの基盤機能を直接拡張することを提案する。
私たちはこの理論的フレームワークを、$textbfPDE+$$textbfPDE$ with $textbfA$daptive $textbfD$istributional $textbfD$iffusionとして実践しました。
論文 参考訳(メタデータ) (2023-05-25T08:23:26Z) - Manifold Interpolating Optimal-Transport Flows for Trajectory Inference [64.94020639760026]
最適輸送流(MIOFlow)を補間するマニフォールド補間法を提案する。
MIOFlowは、散発的なタイムポイントで撮影された静的スナップショットサンプルから、連続的な人口動態を学習する。
本手法は, 胚体分化および急性骨髄性白血病の治療から得られたscRNA-seqデータとともに, 分岐とマージによるシミュレーションデータについて検討した。
論文 参考訳(メタデータ) (2022-06-29T22:19:03Z) - Neural Optimal Transport [82.2689844201373]
本稿では、最適な輸送マップを計算し、強力で弱い輸送コストを計画するニューラルネットベースの新しいアルゴリズムを提案する。
ニューラルネットワークが確率分布間の輸送計画の普遍的近似であることを示す。
論文 参考訳(メタデータ) (2022-01-28T16:24:13Z) - TrajectoryNet: A Dynamic Optimal Transport Network for Modeling Cellular
Dynamics [74.43710101147849]
本稿では,動的最適輸送を実現するために,分布間の連続経路を制御するTrjectoryNetを提案する。
単細胞RNAシークエンシング(scRNA-seq)技術から得られたデータにおける細胞動態の研究において、これが特に当てはまるかを示す。
論文 参考訳(メタデータ) (2020-02-09T21:00:38Z) - Deep Residual Flow for Out of Distribution Detection [27.218308616245164]
本稿では,正規化フローに基づく表現密度モデルを活用することにより,最先端技術を改善する新しい手法を提案する。
本稿では,ResNet および DenseNet アーキテクチャにおける提案手法の有効性について述べる。
論文 参考訳(メタデータ) (2020-01-15T16:38:47Z) - Discriminator optimal transport [6.624726878647543]
判別器最適化プロセスは、ターゲット分布$p$とジェネレータ分布$p_G$との間のワッサーシュタイン距離の二重コスト関数の低境界を増大させることを示す。
これは、訓練された判別器が、$p_G$から$p$までの最適な輸送(OT)を近似できることを意味する。
CIFAR-10, STL-10 で訓練された無条件 GAN と ImageNet による条件付き GAN の事前学習モデルにより, 開始スコアと FID が向上することを示す。
論文 参考訳(メタデータ) (2019-10-15T14:47:37Z) - Model Fusion via Optimal Transport [64.13185244219353]
ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。
これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
論文 参考訳(メタデータ) (2019-10-12T22:07:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。