論文の概要: Q-malizing flow and infinitesimal density ratio estimation
- arxiv url: http://arxiv.org/abs/2305.11857v1
- Date: Fri, 19 May 2023 17:48:21 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-22 13:00:49.149270
- Title: Q-malizing flow and infinitesimal density ratio estimation
- Title(参考訳): Q-malizing flowと無限小密度比推定
- Authors: Chen Xu, Xiuyuan Cheng, Yao Xie
- Abstract要約: 連続正規化フローは、生成タスクで広く使われている。
P$から任意の$Q$に転送できるフローモデルは、様々なアプリケーション関心事である。
実験試料からP$からQ$への非可逆輸送を訓練し,輸送コストを最小化して正規化するニューラル-ODEモデルを提案する。
- 参考スコア(独自算出の注目度): 22.140275054568985
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Continuous normalizing flows are widely used in generative tasks, where a
flow network transports from a data distribution $P$ to a normal distribution.
A flow model that can transport from $P$ to an arbitrary $Q$, where both $P$
and $Q$ are accessible via finite samples, would be of various application
interests, particularly in the recently developed telescoping density ratio
estimation (DRE) which calls for the construction of intermediate densities to
bridge between $P$ and $Q$. In this work, we propose such a ``Q-malizing flow''
by a neural-ODE model which is trained to transport invertibly from $P$ to $Q$
(and vice versa) from empirical samples and is regularized by minimizing the
transport cost. The trained flow model allows us to perform infinitesimal DRE
along the time-parametrized $\log$-density by training an additional
continuous-time flow network using classification loss, which estimates the
time-partial derivative of the $\log$-density. Integrating the time-score
network along time provides a telescopic DRE between $P$ and $Q$ that is more
stable than a one-step DRE. The effectiveness of the proposed model is
empirically demonstrated on mutual information estimation from high-dimensional
data and energy-based generative models of image data.
- Abstract(参考訳): 連続正規化フローは生成的タスクで広く使われており、フローネットワークはデータ分散 $p$ から正規分布へ転送される。
P$と$Q$の両方が有限サンプルを通してアクセス可能な任意の$Q$へ輸送できるフローモデルは、特に、$P$と$Q$の間を橋渡しする中間密度の構築を要求する最近開発されたテレスコープ密度比推定(DRE)において、様々な応用上の関心事である。
本研究では, ニューラルネットワークモデルを用いて, 実験試料から$P$から$Q$(およびその逆)への非逆輸送を訓練し, 輸送コストを最小化して正規化する「<Q-malizing flow'」を提案する。
訓練されたフローモデルは、分類損失を用いて追加の連続時間フローネットワークを訓練することで、時間パラメータ化された$\log$-densityに沿って無限小のdreを実行できる。
タイムスコアネットワークを時間とともに統合することで、ワンステップのDREよりも安定な$P$と$Q$の間のテレスコープDREを提供する。
提案モデルの有効性は,高次元データとエネルギーに基づく画像データの生成モデルから相互情報推定において実証的に実証される。
関連論文リスト
- Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。
物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。
PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
論文 参考訳(メタデータ) (2024-07-10T17:39:50Z) - Normalizing flows as approximations of optimal transport maps via linear-control neural ODEs [49.1574468325115]
ニューマライズフロー」は、深層ニューラルネットワークを用いて確率測度間の可逆輸送マップを構築するタスクに関連している。
我々は、絶対連続測度$mu,nuinmathcalP(mathbbRn)$間の$Wamma$-optimal transport map $T$を線形制御ニューラルネットワークのフローとして回収する問題を考える。
論文 参考訳(メタデータ) (2023-11-02T17:17:03Z) - Arbitrary Distributions Mapping via SyMOT-Flow: A Flow-based Approach Integrating Maximum Mean Discrepancy and Optimal Transport [2.7309692684728617]
本稿では,2つの未知分布からの標本間の対称最大平均誤差を最小化することにより,可逆変換を訓練するSyMOT-Flowと呼ばれる新しいモデルを提案する。
結果として得られる変換はより安定で正確なサンプル生成をもたらす。
論文 参考訳(メタデータ) (2023-08-26T08:39:16Z) - Manifold Interpolating Optimal-Transport Flows for Trajectory Inference [64.94020639760026]
最適輸送流(MIOFlow)を補間するマニフォールド補間法を提案する。
MIOFlowは、散発的なタイムポイントで撮影された静的スナップショットサンプルから、連続的な人口動態を学習する。
本手法は, 胚体分化および急性骨髄性白血病の治療から得られたscRNA-seqデータとともに, 分岐とマージによるシミュレーションデータについて検討した。
論文 参考訳(メタデータ) (2022-06-29T22:19:03Z) - Neural Optimal Transport [82.2689844201373]
本稿では、最適な輸送マップを計算し、強力で弱い輸送コストを計画するニューラルネットベースの新しいアルゴリズムを提案する。
ニューラルネットワークが確率分布間の輸送計画の普遍的近似であることを示す。
論文 参考訳(メタデータ) (2022-01-28T16:24:13Z) - TrajectoryNet: A Dynamic Optimal Transport Network for Modeling Cellular
Dynamics [74.43710101147849]
本稿では,動的最適輸送を実現するために,分布間の連続経路を制御するTrjectoryNetを提案する。
単細胞RNAシークエンシング(scRNA-seq)技術から得られたデータにおける細胞動態の研究において、これが特に当てはまるかを示す。
論文 参考訳(メタデータ) (2020-02-09T21:00:38Z) - Deep Residual Flow for Out of Distribution Detection [27.218308616245164]
本稿では,正規化フローに基づく表現密度モデルを活用することにより,最先端技術を改善する新しい手法を提案する。
本稿では,ResNet および DenseNet アーキテクチャにおける提案手法の有効性について述べる。
論文 参考訳(メタデータ) (2020-01-15T16:38:47Z) - Discriminator optimal transport [6.624726878647543]
判別器最適化プロセスは、ターゲット分布$p$とジェネレータ分布$p_G$との間のワッサーシュタイン距離の二重コスト関数の低境界を増大させることを示す。
これは、訓練された判別器が、$p_G$から$p$までの最適な輸送(OT)を近似できることを意味する。
CIFAR-10, STL-10 で訓練された無条件 GAN と ImageNet による条件付き GAN の事前学習モデルにより, 開始スコアと FID が向上することを示す。
論文 参考訳(メタデータ) (2019-10-15T14:47:37Z) - Model Fusion via Optimal Transport [64.13185244219353]
ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。
これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
論文 参考訳(メタデータ) (2019-10-12T22:07:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。