論文の概要: SyMOT-Flow: Learning optimal transport flow for two arbitrary
distributions with maximum mean discrepancy
- arxiv url: http://arxiv.org/abs/2308.13815v1
- Date: Sat, 26 Aug 2023 08:39:16 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-29 18:59:32.249299
- Title: SyMOT-Flow: Learning optimal transport flow for two arbitrary
distributions with maximum mean discrepancy
- Title(参考訳): SyMOT-Flow:最大平均誤差を持つ2つの任意の分布に対する最適輸送流の学習
- Authors: Zhe Xiong, Qiaoqiao Ding, Xiaoqun Zhang
- Abstract要約: 本稿では,2つの未知分布からの標本間の対称最大平均誤差を最小化することにより,可逆変換を訓練するSyMOT-Flowと呼ばれる新しいモデルを提案する。
結果として得られる変換はより安定で正確なサンプル生成をもたらす。
- 参考スコア(独自算出の注目度): 3.069335774032178
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Finding a transformation between two unknown probability distributions from
samples is crucial for modeling complex data distributions and perform tasks
such as density estimation, sample generation, and statistical inference. One
powerful framework for such transformations is normalizing flow, which
transforms an unknown distribution into a standard normal distribution using an
invertible network. In this paper, we introduce a novel model called SyMOT-Flow
that trains an invertible transformation by minimizing the symmetric maximum
mean discrepancy between samples from two unknown distributions, and we
incorporate an optimal transport cost as regularization to obtain a
short-distance and interpretable transformation. The resulted transformation
leads to more stable and accurate sample generation. We establish several
theoretical results for the proposed model and demonstrate its effectiveness
with low-dimensional illustrative examples as well as high-dimensional
generative samples obtained through the forward and reverse flows.
- Abstract(参考訳): サンプルから2つの未知の確率分布間の変換を見つけることは、複雑なデータ分布をモデル化し、密度推定、サンプル生成、統計推論などのタスクを実行するために重要である。
このような変換のための強力なフレームワークの1つはフローの正規化であり、未知の分布を可逆ネットワークを用いて標準正規分布に変換する。
本稿では, 2つの未知分布のサンプル間の対称最大平均差を最小化し, 可逆変換を訓練するsymot-flowと呼ばれる新しいモデルを提案し, 最適な輸送コストを正規化として取り入れ, 近距離かつ解釈可能な変換を得る。
結果として得られた変換はより安定で正確なサンプル生成をもたらす。
提案モデルに対するいくつかの理論的結果を確立し,その効果を低次元図示例および前方逆流から得られた高次元生成サンプルを用いて実証する。
関連論文リスト
- Unsupervised Representation Learning from Sparse Transformation Analysis [79.94858534887801]
本稿では,潜在変数のスパース成分への変換を分解し,シーケンスデータから表現を学習することを提案する。
入力データは、まず潜伏活性化の分布として符号化され、その後確率フローモデルを用いて変換される。
論文 参考訳(メタデータ) (2024-10-07T23:53:25Z) - Flow matching achieves almost minimax optimal convergence [50.38891696297888]
フローマッチング (FM) は, シミュレーションのない生成モデルとして注目されている。
本稿では,大試料径のFMの収束特性を$p$-Wasserstein 距離で論じる。
我々は、FMが1leq p leq 2$でほぼ最小の収束率を達成できることを確立し、FMが拡散モデルに匹敵する収束率に達するという最初の理論的証拠を示す。
論文 参考訳(メタデータ) (2024-05-31T14:54:51Z) - On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。
本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
論文 参考訳(メタデータ) (2024-05-18T15:59:41Z) - Convergence Analysis of Flow Matching in Latent Space with Transformers [7.069772598731282]
本稿では,ODEに基づく生成モデル,特にフローマッチングに関する理論的収束保証について述べる。
トレーニング済みのオートエンコーダネットワークを用いて、高次元の原入力を低次元の潜在空間にマッピングし、トランスフォーマーネットワークをトレーニングし、標準正規分布から目標潜在分布への変換速度場を予測する。
論文 参考訳(メタデータ) (2024-04-03T07:50:53Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Tensorizing flows: a tool for variational inference [0.0]
本稿では,ガウス参照をテンソルネットワークを介して構築した参照分布に置き換える正規化フローの拡張を提案する。
本研究では, 複雑な変分推論タスクにおいて, フローとテンソルネットワークを組み合わせることで, どちらか一方のツールを使わずに得られる結果を改善することができることを示す。
論文 参考訳(メタデータ) (2023-05-03T23:42:22Z) - Learning Optimal Transport Between two Empirical Distributions with
Normalizing Flows [12.91637880428221]
本稿では、ニューラルネットワークの柔軟性を活用して、最適輸送マップを近似的に学習することを提案する。
我々は、このOT問題の解を近似するために、非可逆ニューラルネットワークの特定の例、すなわち正規化フローが利用できることを示した。
論文 参考訳(メタデータ) (2022-07-04T08:08:47Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Resampling Base Distributions of Normalizing Flows [0.0]
学習された拒絶サンプリングに基づいて,フローを正規化するためのベース分布を導入する。
ログライクリフの最大化と逆Kulback-Leibler分散の最適化の両方を用いて、適切な学習アルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-10-29T14:44:44Z) - Comparing Probability Distributions with Conditional Transport [63.11403041984197]
新しい発散として条件輸送(CT)を提案し、償却されたCT(ACT)コストと近似します。
ACTは条件付き輸送計画の計算を補正し、計算が容易な非バイアスのサンプル勾配を持つ。
さまざまなベンチマークデータセットのジェネレーティブモデリングでは、既存のジェネレーティブ敵対ネットワークのデフォルトの統計距離をACTに置き換えることで、一貫してパフォーマンスを向上させることが示されています。
論文 参考訳(メタデータ) (2020-12-28T05:14:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。