論文の概要: Data Interpolants -- That's What Discriminators in Higher-order
Gradient-regularized GANs Are
- arxiv url: http://arxiv.org/abs/2306.00785v1
- Date: Thu, 1 Jun 2023 15:16:36 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-02 15:16:18.812303
- Title: Data Interpolants -- That's What Discriminators in Higher-order
Gradient-regularized GANs Are
- Title(参考訳): データ補間--高次勾配正規化ganの判別器はそうである
- Authors: Siddarth Asokan and Chandra Sekhar Seelamantula
- Abstract要約: 解析的に、最小二乗勾配 (LSGAN) とワッサーシュタイン (WGAN) GAN 変種を通して、判別器最適化問題は$n$次元の1つであることを示す。
変分計算を用いた最適判別器は、反復ラプラシアンあるいは多調和作用素を含む偏微分方程式の解であることが判明した。
本稿では,ポリWGAN判別器を用いて,エンコーダデコーダをベースとしたGANフレーバーを用いて,データの潜在空間分布をモデル化する。
- 参考スコア(独自算出の注目度): 20.03447539784024
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider the problem of optimizing the discriminator in generative
adversarial networks (GANs) subject to higher-order gradient regularization. We
show analytically, via the least-squares (LSGAN) and Wasserstein (WGAN) GAN
variants, that the discriminator optimization problem is one of interpolation
in $n$-dimensions. The optimal discriminator, derived using variational
Calculus, turns out to be the solution to a partial differential equation
involving the iterated Laplacian or the polyharmonic operator. The solution is
implementable in closed-form via polyharmonic radial basis function (RBF)
interpolation. In view of the polyharmonic connection, we refer to the
corresponding GANs as Poly-LSGAN and Poly-WGAN. Through experimental validation
on multivariate Gaussians, we show that implementing the optimal RBF
discriminator in closed-form, with penalty orders $m \approx\lceil \frac{n}{2}
\rceil $, results in superior performance, compared to training GAN with
arbitrarily chosen discriminator architectures. We employ the Poly-WGAN
discriminator to model the latent space distribution of the data with
encoder-decoder-based GAN flavors such as Wasserstein autoencoders.
- Abstract(参考訳): 我々は,高次勾配正規化の対象となるgansにおける判別器の最適化の問題を考える。
解析的に、最小二乗法 (LSGAN) とワッサーシュタイン法 (WGAN) により、判別器最適化問題は$n$次元の補間の一つであることを示す。
変分法を用いて導出される最適判別器は、反復ラプラシアンあるいは多調和作用素を含む偏微分方程式の解であることが判明した。
この解は、多調和ラジアル基底関数(RBF)補間による閉形式で実装可能である。
ポリハーモニック接続の観点から、対応するGANをポリLSGANおよびポリWGANと呼ぶ。
多変量ガウスの実験的検証により, 任意の選択した識別器アーキテクチャを用いてGANを訓練した場合と比較して, 最適RBF判別器をクローズド形式で実装し, ペナルティ命令が$m \approx\lceil \frac{n}{2} \rceil $で優れた性能を示す。
本稿では,ポリWGAN判別器を用いて,エンコーダデコーダに基づくGANフレーバーを用いたデータ空間分布をモデル化する。
関連論文リスト
- Closed-form Filtering for Non-linear Systems [83.91296397912218]
我々は密度近似と計算効率の面でいくつかの利点を提供するガウスPSDモデルに基づく新しいフィルタのクラスを提案する。
本研究では,遷移や観測がガウスPSDモデルである場合,フィルタリングを効率的にクローズド形式で行うことができることを示す。
提案する推定器は, 近似の精度に依存し, 遷移確率の正則性に適応する推定誤差を伴って, 高い理論的保証を享受する。
論文 参考訳(メタデータ) (2024-02-15T08:51:49Z) - On the Computation of the Gaussian Rate-Distortion-Perception Function [10.564071872770146]
平均二乗誤差(MSE)歪み下における多変量ガウス音源に対するレート歪み知覚関数(RDPF)の計算について検討した。
我々は、関連するアルゴリズムの実現、および収束と収束のキャラクタリゼーションの速度を提供する。
計算結果を数値シミュレーションで相関させ,既存の結果に関連付ける。
論文 参考訳(メタデータ) (2023-11-15T18:34:03Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - GANs Settle Scores! [16.317645727944466]
本稿では,変分的手法による発電機最適化を統一的に解析する手法を提案する。
$f$-divergence-minimizing GANsにおいて、最適生成器はその出力分布のスコアとデータ分布のスコアとを一致させるものであることを示す。
本稿では,スコアとフローマッチングに基づく$f$-GAN と IPM-GAN の新たな代替案を提案する。
論文 参考訳(メタデータ) (2023-06-02T16:24:07Z) - Combating Mode Collapse in GANs via Manifold Entropy Estimation [70.06639443446545]
Generative Adversarial Networks (GAN) は、様々なタスクやアプリケーションにおいて魅力的な結果を示している。
GANのモード崩壊問題に対処するための新しいトレーニングパイプラインを提案する。
論文 参考訳(メタデータ) (2022-08-25T12:33:31Z) - Numerical Solution of Stiff Ordinary Differential Equations with Random
Projection Neural Networks [0.0]
正規微分方程式(ODE)の解に対する乱射影ニューラルネットワーク(RPNN)に基づく数値スキームを提案する。
提案手法は剛性の影響を受けずに高い数値近似精度を示し,textttode45 と textttode15s の関数よりも優れていた。
論文 参考訳(メタデータ) (2021-08-03T15:49:17Z) - Hidden Convexity of Wasserstein GANs: Interpretable Generative Models
with Closed-Form Solutions [31.952858521063277]
凸双対レンズを用いた2層ニューラルネットワーク判別器によるワッサースタインGANの影響を解析した。
さらに、識別器の異なる活性化機能のパワーを実証する。
論文 参考訳(メタデータ) (2021-07-12T18:33:49Z) - Probabilistic Circuits for Variational Inference in Discrete Graphical
Models [101.28528515775842]
変分法による離散的グラフィカルモデルの推論は困難である。
エビデンス・ロウアーバウンド(ELBO)を推定するためのサンプリングに基づく多くの手法が提案されている。
Sum Product Networks (SPN) のような確率的回路モデルのトラクタビリティを活用する新しい手法を提案する。
選択的SPNが表現的変動分布として適していることを示し、対象モデルの対数密度が重み付けされた場合、対応するELBOを解析的に計算可能であることを示す。
論文 参考訳(メタデータ) (2020-10-22T05:04:38Z) - Discriminator Contrastive Divergence: Semi-Amortized Generative Modeling
by Exploring Energy of the Discriminator [85.68825725223873]
GAN(Generative Adversarial Networks)は、高次元データのモデリングにおいて大きな可能性を秘めている。
本稿では,WGANの識別器の特性を活かした識別器コントラストの多様性について紹介する。
我々は、合成データと実世界の画像生成ベンチマークの両方において、大幅に改善された生成の利点を実証する。
論文 参考訳(メタデータ) (2020-04-05T01:50:16Z) - Your GAN is Secretly an Energy-based Model and You Should use
Discriminator Driven Latent Sampling [106.68533003806276]
本研究では,潜時空間におけるサンプリングは,潜時空間の前対数密度と判別器出力スコアの和によって誘導されるエネルギーベースモデルに従って,潜時空間におけるサンプリングを行うことによって達成できることを示す。
判別器駆動潜時サンプリング(DDLS)は,高次元画素空間で動作する従来の手法と比較して,高効率であることを示す。
論文 参考訳(メタデータ) (2020-03-12T23:33:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。