論文の概要: Q-malizing flow and infinitesimal density ratio estimation

• arxiv url: http://arxiv.org/abs/2305.11857v1
• Date: Fri, 19 May 2023 17:48:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2023-05-22 13:00:49.149270
• Title: Q-malizing flow and infinitesimal density ratio estimation
• Title（参考訳）: Q-malizing flowと無限小密度比推定
• Authors: Chen Xu, Xiuyuan Cheng, Yao Xie
• Abstract要約: 連続正規化フローは、生成タスクで広く使われている。 P$から任意の$Q$に転送できるフローモデルは、様々なアプリケーション関心事である。 実験試料からP$からQ$への非可逆輸送を訓練し,輸送コストを最小化して正規化するニューラル-ODEモデルを提案する。
• 参考スコア（独自算出の注目度）: 22.140275054568985
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Continuous normalizing flows are widely used in generative tasks, where a flow network transports from a data distribution $P$ to a normal distribution. A flow model that can transport from $P$ to an arbitrary $Q$, where both $P$ and $Q$ are accessible via finite samples, would be of various application interests, particularly in the recently developed telescoping density ratio estimation (DRE) which calls for the construction of intermediate densities to bridge between $P$ and $Q$. In this work, we propose such a ``Q-malizing flow'' by a neural-ODE model which is trained to transport invertibly from $P$ to $Q$ (and vice versa) from empirical samples and is regularized by minimizing the transport cost. The trained flow model allows us to perform infinitesimal DRE along the time-parametrized $\log$-density by training an additional continuous-time flow network using classification loss, which estimates the time-partial derivative of the $\log$-density. Integrating the time-score network along time provides a telescopic DRE between $P$ and $Q$ that is more stable than a one-step DRE. The effectiveness of the proposed model is empirically demonstrated on mutual information estimation from high-dimensional data and energy-based generative models of image data.
• Abstract（参考訳）: 連続正規化フローは生成的タスクで広く使われており、フローネットワークはデータ分散 $p$ から正規分布へ転送される。 P$と$Q$の両方が有限サンプルを通してアクセス可能な任意の$Q$へ輸送できるフローモデルは、特に、$P$と$Q$の間を橋渡しする中間密度の構築を要求する最近開発されたテレスコープ密度比推定(DRE)において、様々な応用上の関心事である。 本研究では, ニューラルネットワークモデルを用いて, 実験試料から$P$から$Q$(およびその逆)への非逆輸送を訓練し, 輸送コストを最小化して正規化する「<Q-malizing flow'」を提案する。 訓練されたフローモデルは、分類損失を用いて追加の連続時間フローネットワークを訓練することで、時間パラメータ化された$\log$-densityに沿って無限小のdreを実行できる。 タイムスコアネットワークを時間とともに統合することで、ワンステップのDREよりも安定な$P$と$Q$の間のテレスコープDREを提供する。 提案モデルの有効性は,高次元データとエネルギーに基づく画像データの生成モデルから相互情報推定において実証的に実証される。

関連論文リスト

• Improving Neural Optimal Transport via Displacement Interpolation [16.474572112062535]
  最適輸送(OT)理論は、ソース分布をターゲット分布に移動させるコスト最小化輸送マップを考察する。 本稿では, 安定度を向上し, 変位を利用した OT Map の近似性を向上する手法を提案する。 画像から画像への変換タスクにおいて,DIOTMが既存のOTベースモデルより優れていることを示す。
  論文  参考訳（メタデータ） (2024-10-03T16:42:23Z)
• Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
  本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。 物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。 PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
  論文  参考訳（メタデータ） (2024-07-10T17:39:50Z)
• Normalizing flows as approximations of optimal transport maps via linear-control neural ODEs [49.1574468325115]
  ニューマライズフロー」は、深層ニューラルネットワークを用いて確率測度間の可逆輸送マップを構築するタスクに関連している。 我々は、絶対連続測度$mu,nuinmathcalP(mathbbRn)$間の$Wamma$-optimal transport map $T$を線形制御ニューラルネットワークのフローとして回収する問題を考える。
  論文  参考訳（メタデータ） (2023-11-02T17:17:03Z)
• Flow-based Distributionally Robust Optimization [23.232731771848883]
  We present a framework, called $textttFlowDRO$, for solve flow-based distributionally robust optimization (DRO) problem with Wasserstein uncertainty set。 我々は、連続した最悪のケース分布(Last Favorable Distribution, LFD)とそれからのサンプルを見つけることを目指している。 本稿では、逆学習、分布論的に堅牢な仮説テスト、およびデータ駆動型分布摂動差分プライバシーの新しいメカニズムを実証する。
  論文  参考訳（メタデータ） (2023-10-30T03:53:31Z)
• Arbitrary Distributions Mapping via SyMOT-Flow: A Flow-based Approach Integrating Maximum Mean Discrepancy and Optimal Transport [2.7309692684728617]
  本稿では,2つの未知分布からの標本間の対称最大平均誤差を最小化することにより,可逆変換を訓練するSyMOT-Flowと呼ばれる新しいモデルを提案する。 結果として得られる変換はより安定で正確なサンプル生成をもたらす。
  論文  参考訳（メタデータ） (2023-08-26T08:39:16Z)
• Generative Modeling through the Semi-dual Formulation of Unbalanced Optimal Transport [9.980822222343921]
  非平衡最適輸送(UOT)の半二重定式化に基づく新しい生成モデルを提案する。 OTとは異なり、UOTは分散マッチングの厳しい制約を緩和する。このアプローチは、外れ値に対する堅牢性、トレーニング中の安定性、より高速な収束を提供する。 CIFAR-10ではFIDスコアが2.97、CelebA-HQ-256では6.36である。
  論文  参考訳（メタデータ） (2023-05-24T06:31:05Z)
• GeONet: a neural operator for learning the Wasserstein geodesic [13.468026138183623]
  本稿では、初期分布と終端分布の入力対から2つのエンドポイント分布を接続するワッサーシュタイン測地線への非線形マッピングを学習するメッシュ不変なディープニューラルネットワークであるGeONetを提案する。 シミュレーション例では,GeONet が標準 OT ソルバと同等の精度で,MNIST データセットに比較して,予測段階の計算コストを桁違いに大幅に削減することを示した。
  論文  参考訳（メタデータ） (2022-09-28T21:55:40Z)
• Learning Optimal Transport Between two Empirical Distributions with Normalizing Flows [12.91637880428221]
  本稿では、ニューラルネットワークの柔軟性を活用して、最適輸送マップを近似的に学習することを提案する。 我々は、このOT問題の解を近似するために、非可逆ニューラルネットワークの特定の例、すなわち正規化フローが利用できることを示した。
  論文  参考訳（メタデータ） (2022-07-04T08:08:47Z)
• Manifold Interpolating Optimal-Transport Flows for Trajectory Inference [64.94020639760026]
  最適輸送流(MIOFlow)を補間するマニフォールド補間法を提案する。 MIOFlowは、散発的なタイムポイントで撮影された静的スナップショットサンプルから、連続的な人口動態を学習する。 本手法は, 胚体分化および急性骨髄性白血病の治療から得られたscRNA-seqデータとともに, 分岐とマージによるシミュレーションデータについて検討した。
  論文  参考訳（メタデータ） (2022-06-29T22:19:03Z)
• Truncated tensor Schatten p-norm based approach for spatiotemporal traffic data imputation with complicated missing patterns [77.34726150561087]
  本研究は, モード駆動繊維による3症例の欠失を含む, 4症例の欠失パターンについて紹介する。 本モデルでは, 目的関数の非性にもかかわらず, 乗算器の交互データ演算法を統合することにより, 最適解を導出する。
  論文  参考訳（メタデータ） (2022-05-19T08:37:56Z)
• Neural Optimal Transport [82.2689844201373]
  本稿では、最適な輸送マップを計算し、強力で弱い輸送コストを計画するニューラルネットベースの新しいアルゴリズムを提案する。 ニューラルネットワークが確率分布間の輸送計画の普遍的近似であることを示す。
  論文  参考訳（メタデータ） (2022-01-28T16:24:13Z)
• Do Neural Optimal Transport Solvers Work? A Continuous Wasserstein-2 Benchmark [133.46066694893318]
  最適輸送のためのニューラルネットワークに基づく解法の性能を評価する。 既存の解法では,下流タスクでは良好に機能するにもかかわらず,最適な輸送マップを復元できないことがわかった。
  論文  参考訳（メタデータ） (2021-06-03T15:59:28Z)
• Communication-Efficient Distributed Stochastic AUC Maximization with Deep Neural Networks [50.42141893913188]
  本稿では,ニューラルネットワークを用いた大規模AUCのための分散変数について検討する。 我々のモデルは通信ラウンドをはるかに少なくし、理論上はまだ多くの通信ラウンドを必要としています。 いくつかのデータセットに対する実験は、我々の理論の有効性を示し、我々の理論を裏付けるものである。
  論文  参考訳（メタデータ） (2020-05-05T18:08:23Z)
• TrajectoryNet: A Dynamic Optimal Transport Network for Modeling Cellular Dynamics [74.43710101147849]
  本稿では,動的最適輸送を実現するために,分布間の連続経路を制御するTrjectoryNetを提案する。 単細胞RNAシークエンシング(scRNA-seq)技術から得られたデータにおける細胞動態の研究において、これが特に当てはまるかを示す。
  論文  参考訳（メタデータ） (2020-02-09T21:00:38Z)
• Deep Residual Flow for Out of Distribution Detection [27.218308616245164]
  本稿では,正規化フローに基づく表現密度モデルを活用することにより,最先端技術を改善する新しい手法を提案する。 本稿では,ResNet および DenseNet アーキテクチャにおける提案手法の有効性について述べる。
  論文  参考訳（メタデータ） (2020-01-15T16:38:47Z)
• Discriminator optimal transport [6.624726878647543]
  判別器最適化プロセスは、ターゲット分布$p$とジェネレータ分布$p_G$との間のワッサーシュタイン距離の二重コスト関数の低境界を増大させることを示す。 これは、訓練された判別器が、$p_G$から$p$までの最適な輸送(OT)を近似できることを意味する。 CIFAR-10, STL-10 で訓練された無条件 GAN と ImageNet による条件付き GAN の事前学習モデルにより, 開始スコアと FID が向上することを示す。
  論文  参考訳（メタデータ） (2019-10-15T14:47:37Z)
• Model Fusion via Optimal Transport [64.13185244219353]
  ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。 これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
  論文  参考訳（メタデータ） (2019-10-12T22:07:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。