論文の概要: Generalized Energy Based Models

• arxiv url: http://arxiv.org/abs/2003.05033v5
• Date: Tue, 21 Dec 2021 12:02:53 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-24 20:45:52.116438
• Title: Generalized Energy Based Models
• Title（参考訳）: 一般化エネルギーベースモデル
• Authors: Michael Arbel and Liang Zhou and Arthur Gretton
• Abstract要約: 本稿では,ジェネレーティブ・モデリングのための一般エネルギーベース・モデル(GEBM)を紹介する。 エネルギー関数と基底の両方が、基底分布のみを保持するGANとは異なり、最終的なモデルを構成する。 両方のトレーニングステージが明確に定義されていることを示す。
• 参考スコア（独自算出の注目度）: 35.49065282173972
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We introduce the Generalized Energy Based Model (GEBM) for generative modelling. These models combine two trained components: a base distribution (generally an implicit model), which can learn the support of data with low intrinsic dimension in a high dimensional space; and an energy function, to refine the probability mass on the learned support. Both the energy function and base jointly constitute the final model, unlike GANs, which retain only the base distribution (the "generator"). GEBMs are trained by alternating between learning the energy and the base. We show that both training stages are well-defined: the energy is learned by maximising a generalized likelihood, and the resulting energy-based loss provides informative gradients for learning the base. Samples from the posterior on the latent space of the trained model can be obtained via MCMC, thus finding regions in this space that produce better quality samples. Empirically, the GEBM samples on image-generation tasks are of much better quality than those from the learned generator alone, indicating that all else being equal, the GEBM will outperform a GAN of the same complexity. When using normalizing flows as base measures, GEBMs succeed on density modelling tasks, returning comparable performance to direct maximum likelihood of the same networks.
• Abstract（参考訳）: 本稿では,ジェネレーションモデリングのための一般エネルギーベースモデル(GEBM)を紹介する。 これらのモデルは、高次元空間において低固有次元のデータの支持を学習できる基底分布(一般に暗黙的モデル)と、学習された支援の確率質量を洗練するエネルギー関数の2つの訓練されたコンポーネントを組み合わせる。 エネルギー関数と基底は、ベース分布のみを保持するgansとは異なり、共に最終モデルを構成する(「生成子」)。 GEBMはエネルギーと基地の学習の交互に訓練される。 エネルギーは一般化された可能性の最大化によって学習され、結果として得られるエネルギーに基づく損失は、基礎を学ぶための情報的勾配を与える。 トレーニングされたモデルの潜在空間の後方からのサンプルはmcmcを介して得られるため、この空間の領域がより良い品質のサンプルを生成する。 イメージ生成タスクに関するGEBMのサンプルは、学習したジェネレータ単独のものよりもはるかに品質が良く、他のすべてが同じで、GEBMは同じ複雑さのGANよりも優れていることを示している。 正規化フローをベース尺度として使用する場合、GEBMは密度モデリングタスクに成功し、同等の性能を同一ネットワークの最大値に戻す。

関連論文リスト

• Variational Potential Flow: A Novel Probabilistic Framework for Energy-Based Generative Modelling [10.926841288976684]
  エネルギーをベースとした新しい生成フレームワークVAPOについて述べる。 VAPOは、勾配(流れ)が前のサンプルを導くポテンシャルエネルギー関数を学習することを目的としており、その密度の進化は近似的なデータ準同相性に従う。 イメージはポテンシャルエネルギーをトレーニングした後、ガウスのサンプルを初期化し、固定時間間隔で電位フローを管理するODEを解くことで生成することができる。
  論文  参考訳（メタデータ） (2024-07-21T18:08:12Z)
• Generalized Contrastive Divergence: Joint Training of Energy-Based Model and Diffusion Model through Inverse Reinforcement Learning [13.22531381403974]
  Generalized Contrastive Divergence (GCD) はエネルギーベースモデル(EBM)とサンプルを同時にトレーニングするための新しい目的関数である。 EBMと拡散モデルの両方にジョイントトレーニングが有用であることを示す予備的かつ有望な結果を示す。
  論文  参考訳（メタデータ） (2023-12-06T10:10:21Z)
• Learning Energy-Based Models by Cooperative Diffusion Recovery Likelihood [64.95663299945171]
  高次元データに基づくエネルギーベースモデル(EBM)の訓練は、困難かつ時間を要する可能性がある。 EBMと、GANや拡散モデルのような他の生成フレームワークとの間には、サンプル品質に顕著なギャップがある。 本研究では,協調拡散回復可能性 (CDRL) を提案する。
  論文  参考訳（メタデータ） (2023-09-10T22:05:24Z)
• Learning Joint Latent Space EBM Prior Model for Multi-layer Generator [44.4434704520236]
  多層ジェネレータモデルの学習における基礎的問題について検討する。 本稿では,全層にまたがる待ち行列空間上のエネルギーモデル (EBM) を提案する。 実験により、学習したモデルが高品質な画像を生成する際に表現できることが実証された。
  論文  参考訳（メタデータ） (2023-06-10T00:27:37Z)
• On Feature Diversity in Energy-based Models [98.78384185493624]
  エネルギーベースモデル(EBM)は通常、異なる特徴の組み合わせを学習し、入力構成ごとにエネルギーマッピングを生成する内部モデルによって構成される。 EBMのほぼ正しい(PAC)理論を拡張し,EBMの性能に及ぼす冗長性低減の影響を解析した。
  論文  参考訳（メタデータ） (2023-06-02T12:30:42Z)
• An Energy-Based Prior for Generative Saliency [62.79775297611203]
  本稿では,情報的エネルギーベースモデルを事前分布として採用する,新たな生成正当性予測フレームワークを提案する。 生成サリエンシモデルを用いて,画像から画素単位の不確実性マップを得ることができ,サリエンシ予測におけるモデル信頼度を示す。 実験結果から, エネルギーベース先行モデルを用いた生成塩分率モデルでは, 精度の高い塩分率予測だけでなく, 人間の知覚と整合した信頼性の高い不確実性マップを実現できることが示された。
  論文  参考訳（メタデータ） (2022-04-19T10:51:00Z)
• Controllable and Compositional Generation with Latent-Space Energy-Based Models [60.87740144816278]
  制御可能な生成は、現実世界のアプリケーションで深層生成モデルの採用を成功させる上で重要な要件の1つである。 本研究では, エネルギーモデル(EBM)を用いて, 属性の集合上での合成生成を扱う。 エネルギー関数を論理演算子と合成することにより、分解能1024x1024のフォトリアリスティック画像を生成する際に、このような構成性を実現するのはこれが初めてである。
  論文  参考訳（メタデータ） (2021-10-21T03:31:45Z)
• Learning Latent Space Energy-Based Prior Model [118.86447805707094]
  我々はジェネレータモデルの潜在空間でエネルギーベースモデル(EBM)を学習する。 学習したモデルが画像やテキストの生成や異常検出の点で強い性能を示すことを示す。
  論文  参考訳（メタデータ） (2020-06-15T08:11:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。