論文の概要: Comparing Probability Distributions with Conditional Transport
- arxiv url: http://arxiv.org/abs/2012.14100v3
- Date: Fri, 9 Apr 2021 02:00:37 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-19 11:09:18.274727
- Title: Comparing Probability Distributions with Conditional Transport
- Title(参考訳): 確率分布と条件輸送の比較
- Authors: Huangjie Zheng and Mingyuan Zhou
- Abstract要約: 新しい発散として条件輸送(CT)を提案し、償却されたCT(ACT)コストと近似します。
ACTは条件付き輸送計画の計算を補正し、計算が容易な非バイアスのサンプル勾配を持つ。
さまざまなベンチマークデータセットのジェネレーティブモデリングでは、既存のジェネレーティブ敵対ネットワークのデフォルトの統計距離をACTに置き換えることで、一貫してパフォーマンスを向上させることが示されています。
- 参考スコア(独自算出の注目度): 63.11403041984197
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: To measure the difference between two probability distributions, we propose
conditional transport (CT) as a new divergence and further approximate it with
the amortized CT (ACT) cost to make it amenable to implicit distributions and
stochastic gradient descent based optimization. ACT amortizes the computation
of its conditional transport plans and comes with unbiased sample gradients
that are straightforward to compute. When applied to train a generative model,
ACT is shown to strike a good balance between mode covering and seeking
behaviors and strongly resist mode collapse. On a wide variety of benchmark
datasets for generative modeling, substituting the default statistical distance
of an existing generative adversarial network with ACT is shown to consistently
improve the performance.
- Abstract(参考訳): 2つの確率分布の差を測定するために, 条件付き輸送(CT)を新たな分岐として提案し, さらに, 暗黙的分布と確率的勾配勾配に基づく最適化を実現するために, 償却CT(ACT)コストを近似した。
ACTは条件付き輸送計画の計算を補正し、計算が容易な非バイアスのサンプル勾配を持つ。
生成モデルの訓練に応用すると、ACTはモード被覆と動作探索のバランスが良く、モード崩壊に強く抵抗することが示される。
生成モデルのための様々なベンチマークデータセットにおいて、ACTによる既存の生成逆数ネットワークの既定統計距離を置換することにより、その性能を一貫して改善することを示す。
関連論文リスト
- Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Optimal Transport-Guided Conditional Score-Based Diffusion Models [63.14903268958398]
条件付きスコアベース拡散モデル(SBDM)は、条件付きデータを条件としてターゲットデータの条件付き生成を行い、画像翻訳において大きな成功を収めた。
本稿では, 最適輸送誘導条件付きスコアベース拡散モデル(OTCS)を提案する。
論文 参考訳(メタデータ) (2023-11-02T13:28:44Z) - Efficient Neural Network Approaches for Conditional Optimal Transport
with Applications in Bayesian Inference [1.866895151196396]
静的および動的条件付き最適輸送(COT)問題の解を近似する2つのニューラルネットワーク手法を提案する。
提案手法は,対象条件分布をトラクタブルな参照分布の変換として表現する。
PCP-Mapは、部分的に入力された凸ニューラルネットワーク(PICNN)の勾配として条件付きトランスポートマップをモデル化し、計算効率を向上させるために新しい数値実装を使用する。
COT-Flowは、正規化されたニューラルODEの流れを介して条件付き輸送をモデル化する。
論文 参考訳(メタデータ) (2023-10-25T20:20:09Z) - Arbitrary Distributions Mapping via SyMOT-Flow: A Flow-based Approach
Integrating Maximum Mean Discrepancy and Optimal Transport [3.069335774032178]
本稿では,2つの未知分布からの標本間の対称最大平均誤差を最小化することにより,可逆変換を訓練するSyMOT-Flowと呼ばれる新しいモデルを提案する。
結果として得られる変換はより安定で正確なサンプル生成をもたらす。
論文 参考訳(メタデータ) (2023-08-26T08:39:16Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳(メタデータ) (2022-11-30T05:33:29Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Autoregressive Score Matching [113.4502004812927]
自動回帰条件スコアモデル(AR-CSM)を提案する。
AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。
本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
論文 参考訳(メタデータ) (2020-10-24T07:01:24Z) - Statistical Optimal Transport posed as Learning Kernel Embedding [0.0]
この研究は、統計学的最適輸送(OT)を、輸送計画のカーネルの平均埋め込みをサンプルベースによる限界埋め込みの推定から学習する、という新しいアプローチを採っている。
重要な結果は、非常に穏やかな条件下では、$epsilon$-optimal recovery of the transport plan と Barycentric-projection based transport map が、完全に次元のないサンプル複雑性で可能であることである。
論文 参考訳(メタデータ) (2020-02-08T14:58:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。