論文の概要: Comparing Probability Distributions with Conditional Transport
- arxiv url: http://arxiv.org/abs/2012.14100v3
- Date: Fri, 9 Apr 2021 02:00:37 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-19 11:09:18.274727
- Title: Comparing Probability Distributions with Conditional Transport
- Title（参考訳）: 確率分布と条件輸送の比較
- Authors: Huangjie Zheng and Mingyuan Zhou
- Abstract要約: 新しい発散として条件輸送(CT)を提案し、償却されたCT(ACT)コストと近似します。
ACTは条件付き輸送計画の計算を補正し、計算が容易な非バイアスのサンプル勾配を持つ。
さまざまなベンチマークデータセットのジェネレーティブモデリングでは、既存のジェネレーティブ敵対ネットワークのデフォルトの統計距離をACTに置き換えることで、一貫してパフォーマンスを向上させることが示されています。
- 参考スコア（独自算出の注目度）: 63.11403041984197
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: To measure the difference between two probability distributions, we propose
conditional transport (CT) as a new divergence and further approximate it with
the amortized CT (ACT) cost to make it amenable to implicit distributions and
stochastic gradient descent based optimization. ACT amortizes the computation
of its conditional transport plans and comes with unbiased sample gradients
that are straightforward to compute. When applied to train a generative model,
ACT is shown to strike a good balance between mode covering and seeking
behaviors and strongly resist mode collapse. On a wide variety of benchmark
datasets for generative modeling, substituting the default statistical distance
of an existing generative adversarial network with ACT is shown to consistently
improve the performance.
- Abstract（参考訳）: 2つの確率分布の差を測定するために, 条件付き輸送(CT)を新たな分岐として提案し, さらに, 暗黙的分布と確率的勾配勾配に基づく最適化を実現するために, 償却CT(ACT)コストを近似した。
ACTは条件付き輸送計画の計算を補正し、計算が容易な非バイアスのサンプル勾配を持つ。
生成モデルの訓練に応用すると、ACTはモード被覆と動作探索のバランスが良く、モード崩壊に強く抵抗することが示される。
生成モデルのための様々なベンチマークデータセットにおいて、ACTによる既存の生成逆数ネットワークの既定統計距離を置換することにより、その性能を一貫して改善することを示す。
関連論文リスト
- Minibatch Optimal Transport and Perplexity Bound Estimation in Discrete Flow Matching [0.0]
テキストデータなどの分類データ分布における自己回帰モデルの性能は、連続拡散とフローモデルでは依然として困難である。
対流補間剤を用いた離散流に対する動的最適輸送様最小化法を提案する。
連続フローとは異なり、変数の即時変化は密度推定を可能にするが、離散モデルは固有の非決定性や経路の不連続性のために同様のメカニズムを欠いている。
論文 参考訳（メタデータ） (2024-11-01T17:35:09Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
本報告では,明示的な次元の一般スコアミスマッチ拡散サンプリング器を用いた最初の性能保証について述べる。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳（メタデータ） (2024-10-17T16:42:12Z) - Variational Schrödinger Diffusion Models [14.480273869571468]
Schr"odinger Bridge (SB) は拡散モデルにおける輸送計画の最適化手法として登場した。
我々は変分推論を利用してSBの前方スコア関数(変分スコア)を線形化する。
本稿では,多変量拡散過程と変分スコアを適応的に最適化して効率的な輸送を行う,変分Schr"odinger拡散モデル(VSDM)を提案する。
論文 参考訳（メタデータ） (2024-05-08T04:01:40Z) - Optimal Transport-Guided Conditional Score-Based Diffusion Models [63.14903268958398]
条件付きスコアベース拡散モデル(SBDM)は、条件付きデータを条件としてターゲットデータの条件付き生成を行い、画像翻訳において大きな成功を収めた。
本稿では, 最適輸送誘導条件付きスコアベース拡散モデル(OTCS)を提案する。
論文 参考訳（メタデータ） (2023-11-02T13:28:44Z) - Arbitrary Distributions Mapping via SyMOT-Flow: A Flow-based Approach Integrating Maximum Mean Discrepancy and Optimal Transport [2.7309692684728617]
本稿では,2つの未知分布からの標本間の対称最大平均誤差を最小化することにより,可逆変換を訓練するSyMOT-Flowと呼ばれる新しいモデルを提案する。
結果として得られる変換はより安定で正確なサンプル生成をもたらす。
論文 参考訳（メタデータ） (2023-08-26T08:39:16Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳（メタデータ） (2022-11-30T05:33:29Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳（メタデータ） (2022-02-23T06:11:49Z) - Autoregressive Score Matching [113.4502004812927]
自動回帰条件スコアモデル(AR-CSM)を提案する。
AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。
本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
論文 参考訳（メタデータ） (2020-10-24T07:01:24Z) - Statistical Optimal Transport posed as Learning Kernel Embedding [0.0]
この研究は、統計学的最適輸送(OT)を、輸送計画のカーネルの平均埋め込みをサンプルベースによる限界埋め込みの推定から学習する、という新しいアプローチを採っている。
重要な結果は、非常に穏やかな条件下では、$epsilon$-optimal recovery of the transport plan と Barycentric-projection based transport map が、完全に次元のないサンプル複雑性で可能であることである。
論文 参考訳（メタデータ） (2020-02-08T14:58:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。