論文の概要: Rates of convergence for density estimation with GANs
- arxiv url: http://arxiv.org/abs/2102.00199v1
- Date: Sat, 30 Jan 2021 09:59:14 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-02 15:44:15.667593
- Title: Rates of convergence for density estimation with GANs
- Title(参考訳): GANを用いた密度推定における収束率
- Authors: Denis Belomestny, Eric Moulines, Alexey Naumov, Nikita Puchkin, and
Sergey Samsonov
- Abstract要約: バニラ生成逆数ネットワーク(GAN)の非漸近特性について検討する。
Jensen-Shannon (JS) divergence at the rate $(log n/n)2beta/(2beta+d)$ where $n$ is the sample size and $beta$ determines the smoothness of $p*.$ これは、JS が $beta で $n-1/2$ より高速なバニラ GAN を用いた密度推定の文献の最初の結果である。
- 参考スコア(独自算出の注目度): 8.804759113538037
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We undertake a precise study of the non-asymptotic properties of vanilla
generative adversarial networks (GANs) and derive theoretical guarantees in the
problem of estimating an unknown $d$-dimensional density $p^*$ under a proper
choice of the class of generators and discriminators. We prove that the
resulting density estimate converges to $p^*$ in terms of Jensen-Shannon (JS)
divergence at the rate $(\log n/n)^{2\beta/(2\beta+d)}$ where $n$ is the sample
size and $\beta$ determines the smoothness of $p^*.$ This is the first result
in the literature on density estimation using vanilla GANs with JS rates faster
than $n^{-1/2}$ in the regime $\beta>d/2.$
- Abstract(参考訳): 我々は,gans (vanilla generative adversarial networks) の非漸近的性質の精密な研究を行い, 生成器と判別器のクラスを適切に選択して, 未知のd$次元密度 $p^*$ を推定する問題において, 理論的保証を導出する。
結果の密度推定は、$(\log n/n)^{2\beta/(2\beta+d)}$の速度で、$(\log n/n)^{2\beta/(2\beta+d)}$の点で$p^*$に収束することを証明する。$\beta$は$p^*の滑らかさを決定する。
関連論文リスト
- A Unified Analysis for Finite Weight Averaging [50.75116992029417]
Gradient Descent(SGD)の平均イテレーションは、SWA(Weight Averaging)、EMA(Exponential moving Average)、LAWA(Latest Weight Averaging)といったディープラーニングモデルのトレーニングにおいて、経験的な成功を収めている。
本稿では、LAWAを有限重み平均化(FWA)として一般化し、最適化と一般化の観点からSGDと比較して、それらの利点を説明する。
論文 参考訳(メタデータ) (2024-11-20T10:08:22Z) - Convergence Analysis of Probability Flow ODE for Score-based Generative Models [5.939858158928473]
確率フローODEに基づく決定論的サンプリング器の収束特性を理論的・数値的両面から検討する。
連続時間レベルでは、ターゲットと生成されたデータ分布の総変動を$mathcalO(d3/4delta1/2)$で表すことができる。
論文 参考訳(メタデータ) (2024-04-15T12:29:28Z) - Convergence Rates for Stochastic Approximation: Biased Noise with Unbounded Variance, and Applications [2.0584253077707477]
目的関数 $J(cdot)$ の定常点を求めるグラディエント・Descent (SGD) 法の収束特性について検討した。
この結果は、すべての定常点が大域最小値である性質を持つ invex' 関数のクラスに適用できる。
論文 参考訳(メタデータ) (2023-12-05T15:22:39Z) - Towards Faster Non-Asymptotic Convergence for Diffusion-Based Generative
Models [49.81937966106691]
我々は拡散モデルのデータ生成過程を理解するための非漸近理論のスイートを開発する。
従来の研究とは対照的に,本理論は基本的だが多目的な非漸近的アプローチに基づいて開発されている。
論文 参考訳(メタデータ) (2023-06-15T16:30:08Z) - Estimating the Density Ratio between Distributions with High Discrepancy
using Multinomial Logistic Regression [21.758330613138778]
その結果, 最先端密度比推定器は, 十分に分離されたケースでは性能が良くないことがわかった。
密度比推定に多クラス分類を利用する方法を提案する。
論文 参考訳(メタデータ) (2023-05-01T15:10:56Z) - High-Dimensional Inference over Networks: Linear Convergence and
Statistical Guarantees [20.701475313495884]
エージェントネットワーク上の疎線形回帰を非指向グラフとしてモデル化し,サーバノードを持たない。
分布予測勾配追跡に基づくアルゴリズムの収束率と統計的保証を解析する。
論文 参考訳(メタデータ) (2022-01-21T01:26:08Z) - Acceleration in Distributed Optimization Under Similarity [72.54787082152278]
集中ノードを持たないエージェントネットワーク上での分散(強い凸)最適化問題について検討する。
$varepsilon$-solutionは$tildemathcalrhoObig(sqrtfracbeta/mu (1-)log1/varepsilonbig)$通信ステップ数で達成される。
この速度は、関心のクラスに適用される分散ゴシップ-アルゴリズムの、初めて(ポリログ因子まで)より低い複雑性の通信境界と一致する。
論文 参考訳(メタデータ) (2021-10-24T04:03:00Z) - Limit Distribution Theory for the Smooth 1-Wasserstein Distance with
Applications [18.618590805279187]
スムーズな1-ワッサーシュタイン距離 (SWD) $W_1sigma$ は経験的近似における次元の呪いを軽減する手段として最近提案された。
この研究は、高次元の極限分布結果を含むSWDの詳細な統計的研究を行う。
論文 参考訳(メタデータ) (2021-07-28T17:02:24Z) - The Sample Complexity of Robust Covariance Testing [56.98280399449707]
i. i. d.
形式 $Z = (1-epsilon) X + epsilon B$ の分布からのサンプル。ここで $X$ はゼロ平均で未知の共分散である Gaussian $mathcalN(0, Sigma)$ である。
汚染がない場合、事前の研究は、$O(d)$サンプルを使用するこの仮説テストタスクの単純なテスターを与えた。
サンプル複雑性の上限が $omega(d2)$ for $epsilon$ an arbitrarily small constant and $gamma であることを証明します。
論文 参考訳(メタデータ) (2020-12-31T18:24:41Z) - Analysis of KNN Density Estimation [56.29748742084386]
kNN密度推定は、サポートセットが知られている場合、$ell_infty$と$ell_infty$の条件の両方で最小限最適である。
$ell_infty$エラーはミニマックス下限に到達しないが、カーネル密度推定よりは優れている。
論文 参考訳(メタデータ) (2020-09-30T03:33:17Z) - Sample Complexity of Asynchronous Q-Learning: Sharper Analysis and
Variance Reduction [63.41789556777387]
非同期Q-ラーニングはマルコフ決定過程(MDP)の最適行動値関数(またはQ-関数)を学習することを目的としている。
Q-関数の入出力$varepsilon$-正確な推定に必要なサンプルの数は、少なくとも$frac1mu_min (1-gamma)5varepsilon2+ fract_mixmu_min (1-gamma)$の順である。
論文 参考訳(メタデータ) (2020-06-04T17:51:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。