論文の概要: Towards a Better Global Loss Landscape of GANs

• arxiv url: http://arxiv.org/abs/2011.04926v1
• Date: Tue, 10 Nov 2020 06:10:52 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-27 06:29:31.775825
• Title: Towards a Better Global Loss Landscape of GANs
• Title（参考訳）: GANのグローバルロスランドスケープ化に向けて
• Authors: Ruoyu Sun, Tiantian Fang, Alex Schwing
• Abstract要約: 分離可能なGANの実証的損失のグローバルな景観解析について述べる。 合成データの実験では、バッドが実際に盆地に現れることが示されている。 例えば、RpGANは比較的狭い網を持つ分離可能なGANよりも優れた性能を示す。
• 参考スコア（独自算出の注目度）: 13.50061291734299
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Understanding of GAN training is still very limited. One major challenge is its non-convex-non-concave min-max objective, which may lead to sub-optimal local minima. In this work, we perform a global landscape analysis of the empirical loss of GANs. We prove that a class of separable-GAN, including the original JS-GAN, has exponentially many bad basins which are perceived as mode-collapse. We also study the relativistic pairing GAN (RpGAN) loss which couples the generated samples and the true samples. We prove that RpGAN has no bad basins. Experiments on synthetic data show that the predicted bad basin can indeed appear in training. We also perform experiments to support our theory that RpGAN has a better landscape than separable-GAN. For instance, we empirically show that RpGAN performs better than separable-GAN with relatively narrow neural nets. The code is available at https://github.com/AilsaF/RS-GAN.
• Abstract（参考訳）: GANトレーニングの理解は依然として極めて限られている。 主な課題の1つは、非凸非凸min-maxの目標であり、これは準最適局所極小に繋がる可能性がある。 本研究では,グローバルなランドスケープ解析を行い,GANの損失を実証した。 JS-GANを含む分離可能なGANのクラスは指数関数的に多くの悪い盆地を持ち、モード崩壊と見なされる。 また, 生成したサンプルと真のサンプルを結合した相対論的ペアリングGAN(RpGAN)損失についても検討した。 我々はRpGANが悪い盆地を持たないことを証明した。 合成データによる実験では、予測された悪い盆地は訓練中に実際に現れることが示されている。 また,RpGANは分離可能なGANよりもランドスケープが優れているという理論を支持する実験を行った。 例えば、RpGANは比較的狭いニューラルネットを持つ分離可能なGANよりも優れた性能を示す。 コードはhttps://github.com/AilsaF/RS-GANで公開されている。

関連論文リスト

• SMaRt: Improving GANs with Score Matching Regularity [94.81046452865583]
  生成的敵ネットワーク(GAN)は通常、基礎となる多様体が複雑である非常に多様なデータから学ぶのに苦労する。 スコアマッチングは、生成したデータポイントを実データ多様体へ持続的にプッシュする能力のおかげで、この問題に対する有望な解決策であることを示す。 スコアマッチング規則性(SMaRt)を用いたGANの最適化を提案する。
  論文  参考訳（メタデータ） (2023-11-30T03:05:14Z)
• DigGAN: Discriminator gradIent Gap Regularization for GAN Training with Limited Data [13.50061291734299]
  本稿では,既存のGANに付加可能なDigGAN(DigGAN)の定式化を提案する。 DigGANは既存のGANを強化し、判別器の予測 w.r.t. 実画像と生成されたサンプル w.r.t. の勾配のノルムのギャップを狭める。 この定式化は,GANロスランドスケープ内の悪い引き込みを回避し,限られたデータが得られる場合に,GANトレーニングの結果を大幅に改善するDigGANを見出した。
  論文  参考訳（メタデータ） (2022-11-27T01:03:58Z)
• Minimax Optimality (Probably) Doesn't Imply Distribution Learning for GANs [44.4200799586461]
  標準的な暗号的仮定は、この強い条件がまだ不十分であることを示している。 我々の技術は、GANとPRGの深い関係を明らかにし、GANの計算環境に関するさらなる洞察をもたらすものと信じている。
  論文  参考訳（メタデータ） (2022-01-18T18:59:21Z)
• Inferential Wasserstein Generative Adversarial Networks [9.859829604054127]
  自動エンコーダとWGANを融合する原理的フレームワークである新しい推論ワッサースタインGAN(iWGAN)モデルを導入する。 iWGANはモード崩壊の症状を大幅に緩和し、収束を高速化し、各サンプルの品質チェックの測定を行うことができる。
  論文  参考訳（メタデータ） (2021-09-13T00:43:21Z)
• Prb-GAN: A Probabilistic Framework for GAN Modelling [20.181803514993778]
  本稿では,ネットワークパラメータ上の分布を生成するためにドロップアウトを用いた新しいバリエーションを提案する。 我々の手法は非常にシンプルで、既存のGANアーキテクチャの変更はほとんど必要ありません。
  論文  参考訳（メタデータ） (2021-07-12T08:04:13Z)
• Forward Super-Resolution: How Can GANs Learn Hierarchical Generative Models for Real-World Distributions [66.05472746340142]
  生成ネットワーク(GAN)は、複雑で現実世界の分布を学習する上で最も成功したネットワークの一つである。 本稿では,GANが実写画像の分布を効率的に学習する方法について述べる。
  論文  参考訳（メタデータ） (2021-06-04T17:33:29Z)
• Teaching a GAN What Not to Learn [20.03447539784024]
  GAN(Generative Adversarial Network)は、本来、対象分布に従うことを学習する教師なし生成モデルとして構想されていた。 本稿では,ペルシアの有名な詩人ルミの思想に動機づけられたGAN問題に対して,異なる視点からアプローチする。 GANフレームワークでは、モデリングを学習しなければならないGAN陽性データだけでなく、回避しなければならないいわゆる負のサンプルも提示します。 この定式化により、判別器は、望ましくない生成サンプルをペナリゼーションすることで、基礎となるターゲット分布をより良く表現することができる。
  論文  参考訳（メタデータ） (2020-10-29T14:44:24Z)
• Improving Generative Adversarial Networks with Local Coordinate Coding [150.24880482480455]
  GAN(Generative Adversarial Network)は、事前定義された事前分布から現実的なデータを生成することに成功している。 実際には、意味情報はデータから学んだ潜在的な分布によって表現される。 ローカル座標符号化(LCC)を用いたLCCGANモデルを提案する。
  論文  参考訳（メタデータ） (2020-07-28T09:17:50Z)
• Discriminator Contrastive Divergence: Semi-Amortized Generative Modeling by Exploring Energy of the Discriminator [85.68825725223873]
  GAN(Generative Adversarial Networks)は、高次元データのモデリングにおいて大きな可能性を秘めている。 本稿では,WGANの識別器の特性を活かした識別器コントラストの多様性について紹介する。 我々は、合成データと実世界の画像生成ベンチマークの両方において、大幅に改善された生成の利点を実証する。
  論文  参考訳（メタデータ） (2020-04-05T01:50:16Z)
• Freeze the Discriminator: a Simple Baseline for Fine-Tuning GANs [104.85633684716296]
  判別器の冷凍下層を有するGANの簡易微調整が驚くほど良好であることを示す。 この単純なベースラインであるFreezeDは、非条件GANと条件GANの両方で使用されている従来の技術よりも大幅に優れている。
  論文  参考訳（メタデータ） (2020-02-25T15:30:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。