論文の概要: On the Generative Utility of Cyclic Conditionals

• arxiv url: http://arxiv.org/abs/2106.15962v1
• Date: Wed, 30 Jun 2021 10:23:45 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-01 12:41:20.367153
• Title: On the Generative Utility of Cyclic Conditionals
• Title（参考訳）: サイクル条件の生成的有用性について
• Authors: Chang Liu, Haoyue Tang, Tao Qin, Jintao Wang, Tie-Yan Liu
• Abstract要約: 2つの条件付きモデル$p(x|z)$を用いて、共同分布$p(x,z)$をモデル化できるかどうか、また、どのようにしてサイクルを形成するかを検討する。 本稿では,周期条件生成モデリングのためのCyGenフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 103.1624347008042
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study whether and how can we model a joint distribution $p(x,z)$ using two conditional models $p(x|z)$ and $q(z|x)$ that form a cycle. This is motivated by the observation that deep generative models, in addition to a likelihood model $p(x|z)$, often also use an inference model $q(z|x)$ for data representation, but they rely on a usually uninformative prior distribution $p(z)$ to define a joint distribution, which may render problems like posterior collapse and manifold mismatch. To explore the possibility to model a joint distribution using only $p(x|z)$ and $q(z|x)$, we study their compatibility and determinacy, corresponding to the existence and uniqueness of a joint distribution whose conditional distributions coincide with them. We develop a general theory for novel and operable equivalence criteria for compatibility, and sufficient conditions for determinacy. Based on the theory, we propose the CyGen framework for cyclic-conditional generative modeling, including methods to enforce compatibility and use the determined distribution to fit and generate data. With the prior constraint removed, CyGen better fits data and captures more representative features, supported by experiments showing better generation and downstream classification performance.
• Abstract（参考訳）: サイクルを形成する条件付きモデル $p(x|z)$ と $q(z|x)$ を用いてジョイント分布 $p(x,z)$ をモデル化できるかどうかについて検討する。 これは、深い生成モデルが、確率モデル $p(x|z)$ に加えて、しばしばデータ表現に推論モデル $q(z|x)$ を用いるという観察によって動機付けられたものであるが、それらは通常、非形式的な事前分布 $p(z)$ に依存してジョイント分布を定義する。 p(x|z)$ と $q(z|x)$ でジョイント分布をモデル化する可能性を探るため、条件分布が一致するジョイント分布の存在と一意性に対応するそれらの相溶性と決定性について検討する。 我々は、互換性のための新規かつ操作可能な等価基準と、決定性のための十分な条件に関する一般的な理論を開発する。 この理論に基づき, 相互換性を強制し, 決定された分布をデータに適合させ, 生成する手法を含む, 循環条件生成モデリングのためのcygenフレームワークを提案する。 事前の制約を取り除き、CyGenはデータに適合し、より代表的な機能をキャプチャし、より良い生成と下流の分類性能を示す実験でサポートした。

関連論文リスト

• A Sharp Convergence Theory for The Probability Flow ODEs of Diffusion Models [45.60426164657739]
  拡散型サンプリング器の非漸近収束理論を開発する。 我々は、$d/varepsilon$がターゲット分布を$varepsilon$トータル偏差距離に近似するのに十分であることを証明した。 我々の結果は、$ell$のスコア推定誤差がデータ生成プロセスの品質にどのように影響するかも特徴付ける。
  論文  参考訳（メタデータ） (2024-08-05T09:02:24Z)
• Diffusion models as plug-and-play priors [98.16404662526101]
  我々は、事前の$p(mathbfx)$と補助的な制約である$c(mathbfx,mathbfy)$からなるモデルにおいて、高次元データ$mathbfx$を推論する問題を考える。 拡散モデルの構造は,異なるノイズ量に富んだ定性デノナイジングネットワークを通じて,微分を反復することで近似推論を行うことができる。
  論文  参考訳（メタデータ） (2022-06-17T21:11:36Z)
• Convergence for score-based generative modeling with polynomial complexity [9.953088581242845]
  我々は、Scoreベースの生成モデルの背後にあるコアメカニックに対する最初の収束保証を証明した。 以前の作品と比較すると、時間的に指数関数的に増加するエラーや、次元の呪いに苦しむエラーは発生しない。 予測器・相関器はどちらの部分のみを使用するよりも収束性が高いことを示す。
  論文  参考訳（メタデータ） (2022-06-13T14:57:35Z)
• $p$-Generalized Probit Regression and Scalable Maximum Likelihood Estimation via Sketching and Coresets [74.37849422071206]
  本稿では, 2次応答に対する一般化線形モデルである,$p$一般化プロビット回帰モデルについて検討する。 p$の一般化されたプロビット回帰に対する最大可能性推定器は、大容量データ上で$(1+varepsilon)$の係数まで効率的に近似できることを示す。
  論文  参考訳（メタデータ） (2022-03-25T10:54:41Z)
• Any Variational Autoencoder Can Do Arbitrary Conditioning [7.96091289659041]
  後方マッチングにより、任意の変分オートエンコーダは、VAE自体を変更することなく任意の条件付けを行うことができる。 Posterior Matchingは、様々なタスクに対する現在の最先端メソッドに匹敵する、あるいは優れたパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2022-01-28T20:48:44Z)
• Universal and data-adaptive algorithms for model selection in linear contextual bandits [52.47796554359261]
  モデル選択の最も単純な非自明な例を考える: 単純な多重武装バンディット問題と線形文脈バンディット問題とを区別する。 データ適応的な方法で探索する新しいアルゴリズムを導入し、$mathcalO(dalpha T1- alpha)$という形式の保証を提供する。 我々のアプローチは、いくつかの仮定の下で、ネストされた線形文脈包帯のモデル選択に拡張する。
  論文  参考訳（メタデータ） (2021-11-08T18:05:35Z)
• PSD Representations for Effective Probability Models [117.35298398434628]
  最近提案された非負関数に対する正半定値(PSD)モデルがこの目的に特に適していることを示す。 我々はPSDモデルの近似と一般化能力の両方を特徴付け、それらが強い理論的保証を享受していることを示す。 本研究では,PSDモデルの密度推定,決定理論,推論への応用への道を開く。
  論文  参考訳（メタデータ） (2021-06-30T15:13:39Z)
• Autoregressive Score Matching [113.4502004812927]
  自動回帰条件スコアモデル(AR-CSM)を提案する。 AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。 本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
  論文  参考訳（メタデータ） (2020-10-24T07:01:24Z)
• Probability Link Models with Symmetric Information Divergence [1.5749416770494706]
  リンクモデルの2つの一般的なクラスが提案されている。 最初のモデルは2つの生存関数を結び、比例奇数や変化点のようなモデルに適用できる。 2つ目のモデルは2つの累積確率分布関数をリンクする。
  論文  参考訳（メタデータ） (2020-08-10T19:49:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。