論文の概要: A Wasserstein perspective of Vanilla GANs
- arxiv url: http://arxiv.org/abs/2403.15312v2
- Date: Mon, 29 Jul 2024 07:24:12 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-30 23:47:39.643067
- Title: A Wasserstein perspective of Vanilla GANs
- Title(参考訳): バニラ・ガンのワッサーシュタイン観
- Authors: Lea Kunkel, Mathias Trabs,
- Abstract要約: バニラ GAN はワッサーシュタイン GAN の一般化である。
特に、ワッサーシュタイン距離におけるバニラ GAN のオラクル不等式を得る。
バニラ GAN とワッサーシュタイン GAN の収束率を未知の確率分布の推定子として結論付ける。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The empirical success of Generative Adversarial Networks (GANs) caused an increasing interest in theoretical research. The statistical literature is mainly focused on Wasserstein GANs and generalizations thereof, which especially allow for good dimension reduction properties. Statistical results for Vanilla GANs, the original optimization problem, are still rather limited and require assumptions such as smooth activation functions and equal dimensions of the latent space and the ambient space. To bridge this gap, we draw a connection from Vanilla GANs to the Wasserstein distance. By doing so, existing results for Wasserstein GANs can be extended to Vanilla GANs. In particular, we obtain an oracle inequality for Vanilla GANs in Wasserstein distance. The assumptions of this oracle inequality are designed to be satisfied by network architectures commonly used in practice, such as feedforward ReLU networks. By providing a quantitative result for the approximation of a Lipschitz function by a feedforward ReLU network with bounded H\"older norm, we conclude a rate of convergence for Vanilla GANs as well as Wasserstein GANs as estimators of the unknown probability distribution.
- Abstract(参考訳): GAN(Generative Adversarial Networks)の実証的な成功により、理論研究への関心が高まった。
統計学は主にワッサーシュタイン GAN とその一般化に焦点が当てられており、特に良好な次元還元特性が可能である。
元の最適化問題であるヴァニラ GAN の統計結果は依然としてかなり制限されており、滑らかな活性化関数や潜在空間と周囲空間の等次元といった仮定を必要とする。
このギャップを埋めるために、バニラ・ガンからワッサーシュタイン距離に接続する。
これにより、ワッサーシュタイン GAN の既存の結果がヴァニラ GAN にまで拡張できる。
特に、ワッサーシュタイン距離におけるバニラ GAN のオラクル不等式を得る。
このオラクルの不等式の仮定は、フィードフォワードReLUネットワークなど、実際に一般的に使用されるネットワークアーキテクチャによって満たされるように設計されている。
有界なH\"古いノルムを持つフィードフォワードReLUネットワークによるリプシッツ関数の近似の定量的結果を提供することで、ヴァニラ GAN とワッサーシュタイン GAN の収束率を未知の確率分布の推定子として結論付ける。
関連論文リスト
- Robust Estimation for Nonparametric Families via Generative Adversarial
Networks [92.64483100338724]
我々は,高次元ロバストな統計問題を解くためにGAN(Generative Adversarial Networks)を設計するためのフレームワークを提供する。
我々の研究は、これらをロバスト平均推定、第二モーメント推定、ロバスト線形回帰に拡張する。
技術面では、提案したGAN損失は、スムーズで一般化されたコルモゴロフ-スミルノフ距離と見なすことができる。
論文 参考訳(メタデータ) (2022-02-02T20:11:33Z) - Minimax Optimality (Probably) Doesn't Imply Distribution Learning for
GANs [44.4200799586461]
標準的な暗号的仮定は、この強い条件がまだ不十分であることを示している。
我々の技術は、GANとPRGの深い関係を明らかにし、GANの計算環境に関するさらなる洞察をもたらすものと信じている。
論文 参考訳(メタデータ) (2022-01-18T18:59:21Z) - Optimal 1-Wasserstein Distance for WGANs [2.1174215880331775]
有限標本とレジームの両方において、WGAN(Wasserstein GANs)を徹底的に解析する。
半離散状態における最適輸送理論の新たな結果を導出する。
論文 参考訳(メタデータ) (2022-01-08T13:04:03Z) - Augmented Sliced Wasserstein Distances [55.028065567756066]
拡張スライスされたワッサーシュタイン距離(ASWD)と呼ばれる新しい距離測定法を提案する。
ASWDは、ニューラルネットワークによってパラメータ化された高次元超曲面への最初のマッピングサンプルによって構成される。
数値的な結果から、ASWDは、合成問題と実世界の問題の両方において、他のワッサーシュタイン変種を著しく上回っていることが示されている。
論文 参考訳(メタデータ) (2020-06-15T23:00:08Z) - Cumulant GAN [17.4556035872983]
GAN(Generative Adversarial Networks)を学習するための新しい損失関数を提案する。
対応する最適化問題は R'enyi divergence minimization と同値であることを示す。
我々は,画像生成がWasserstein GANに対してより堅牢であることを実験的に実証した。
論文 参考訳(メタデータ) (2020-06-11T17:23:02Z) - Some Theoretical Insights into Wasserstein GANs [0.0]
我々は、ワッサーシュタイン GANs (WGANs) の性質に関する理論的進歩を提案する。
ニューラルネットワークによってパラメータ化される積分確率メトリクスの文脈で、WGANのアーキテクチャを適切に定義する。
統計的に駆動されたアプローチでは、サンプルサイズが無限大になる傾向にある経験的WGANの収束について研究する。
論文 参考訳(メタデータ) (2020-06-04T07:55:41Z) - Approximation Schemes for ReLU Regression [80.33702497406632]
我々はReLU回帰の根本的な問題を考察する。
目的は、未知の分布から引き出された2乗損失に対して、最も適したReLUを出力することである。
論文 参考訳(メタデータ) (2020-05-26T16:26:17Z) - Discriminator Contrastive Divergence: Semi-Amortized Generative Modeling
by Exploring Energy of the Discriminator [85.68825725223873]
GAN(Generative Adversarial Networks)は、高次元データのモデリングにおいて大きな可能性を秘めている。
本稿では,WGANの識別器の特性を活かした識別器コントラストの多様性について紹介する。
我々は、合成データと実世界の画像生成ベンチマークの両方において、大幅に改善された生成の利点を実証する。
論文 参考訳(メタデータ) (2020-04-05T01:50:16Z) - GANs with Conditional Independence Graphs: On Subadditivity of
Probability Divergences [70.30467057209405]
GAN(Generative Adversarial Networks)は、データセットの基盤となる分布を学習するための現代的な手法である。
GANは、基礎となるディストリビューションに関する追加情報がないモデルフリーで設計されている。
本稿では,ベイズネット/MRFの近傍に単純な識別器群を用いたモデルベースGANの設計を提案する。
論文 参考訳(メタデータ) (2020-03-02T04:31:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。