論文の概要: A New Paradigm for Generative Adversarial Networks based on Randomized
Decision Rules
- arxiv url: http://arxiv.org/abs/2306.13641v1
- Date: Fri, 23 Jun 2023 17:50:34 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-26 11:58:53.698854
- Title: A New Paradigm for Generative Adversarial Networks based on Randomized
Decision Rules
- Title(参考訳): ランダム化決定規則に基づく生成逆数ネットワークのための新しいパラダイム
- Authors: Sehwan Kim, Qifan Song, and Faming Liang
- Abstract要約: Generative Adversarial Network (GAN)は、最近、生成モデルをトレーニングするための新しい機械学習手法として文献で紹介されている。
非パラメトリッククラスタリングや非パラメトリック条件独立テストのような統計学に多くの応用がある。
本稿では,GANがこの問題に苦しむ理由を特定し,それに対応するために,ランダム化決定規則に基づく新しいGANの定式化を提案する。
- 参考スコア(独自算出の注目度): 8.36840154574354
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The Generative Adversarial Network (GAN) was recently introduced in the
literature as a novel machine learning method for training generative models.
It has many applications in statistics such as nonparametric clustering and
nonparametric conditional independence tests. However, training the GAN is
notoriously difficult due to the issue of mode collapse, which refers to the
lack of diversity among generated data. In this paper, we identify the reasons
why the GAN suffers from this issue, and to address it, we propose a new
formulation for the GAN based on randomized decision rules. In the new
formulation, the discriminator converges to a fixed point while the generator
converges to a distribution at the Nash equilibrium. We propose to train the
GAN by an empirical Bayes-like method by treating the discriminator as a
hyper-parameter of the posterior distribution of the generator. Specifically,
we simulate generators from its posterior distribution conditioned on the
discriminator using a stochastic gradient Markov chain Monte Carlo (MCMC)
algorithm, and update the discriminator using stochastic gradient descent along
with simulations of the generators. We establish convergence of the proposed
method to the Nash equilibrium. Apart from image generation, we apply the
proposed method to nonparametric clustering and nonparametric conditional
independence tests. A portion of the numerical results is presented in the
supplementary material.
- Abstract(参考訳): generative adversarial network(gan)は、最近文献に、生成モデルのトレーニングのための新しい機械学習方法として紹介された。
非パラメトリッククラスタリングや非パラメトリック条件独立テストのような統計学に多くの応用がある。
しかし、モード崩壊の問題により、GANのトレーニングは極めて困難であり、これは生成されたデータ間の多様性の欠如を表している。
本稿では,GANがこの問題に苦しむ理由を特定し,それに対応するために,ランダム化決定規則に基づく新しいGANの定式化を提案する。
この新しい定式化では、判別器は不動点に収束し、生成器はナッシュ平衡での分布に収束する。
判別器を発電機の後方分布のハイパーパラメータとして扱うことにより,経験的なベイズ様の方法でganを訓練することを提案する。
具体的には,確率勾配マルコフ連鎖モンテカルロ(mcmc)アルゴリズムを用いた識別器上での後方分布から生成器をシミュレートし,確率勾配降下と生成器のシミュレーションを用いて判別器を更新する。
提案手法をnash平衡に収束させる。
画像生成とは別に,提案手法を非パラメトリッククラスタリングおよび非パラメトリック条件独立試験に適用する。
補足材料には、数値結果の一部が提示される。
関連論文リスト
- Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
本報告では,明示的な次元の一般スコアミスマッチ拡散サンプリング器を用いた最初の性能保証について述べる。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - HJ-sampler: A Bayesian sampler for inverse problems of a stochastic process by leveraging Hamilton-Jacobi PDEs and score-based generative models [1.949927790632678]
本稿では,ブラウン運動文脈におけるコールホップ変換(Cole-Hopf transform)と呼ばれるログ変換に基づく。
本稿では,HJ-sampler という新しいアルゴリズムを開発し,与えられた終端観測による微分方程式の逆問題に対する推論を行う。
論文 参考訳(メタデータ) (2024-09-15T05:30:54Z) - Wasserstein Generative Regression [6.366148239550708]
非パラメトリック回帰と条件分布学習のための新しい統一的アプローチを提案する。
提案手法は,生成学習フレームワークを用いた回帰関数と条件生成器を同時に推定する。
非漸近誤差境界の導出と適切な仮定の下でのアプローチの分布整合性による理論的保証を提供する。
論文 参考訳(メタデータ) (2023-06-27T02:44:54Z) - Accurate generation of stochastic dynamics based on multi-model
Generative Adversarial Networks [0.0]
GAN(Generative Adversarial Networks)は、テキストや画像生成などの分野において大きな可能性を秘めている。
ここでは、格子上の原型過程に適用することにより、このアプローチを定量的に検証する。
重要なことに、ノイズにもかかわらずモデルの離散性は維持される。
論文 参考訳(メタデータ) (2023-05-25T10:41:02Z) - Mode Penalty Generative Adversarial Network with adapted Auto-encoder [0.15229257192293197]
本稿では,事前学習した自動エンコーダと組み合わされたモードペナルティGANを提案する。
提案手法をGANに適用することにより, ジェネレータの最適化がより安定し, 実験による収束が早くなることを示す。
論文 参考訳(メタデータ) (2020-11-16T03:39:53Z) - Identification of Probability weighted ARX models with arbitrary domains [75.91002178647165]
PieceWise Affineモデルは、ハイブリッドシステムの他のクラスに対する普遍近似、局所線型性、同値性を保証する。
本研究では,任意の領域を持つ固有入力モデル(NPWARX)を用いたPieceWise Auto Regressiveの同定に着目する。
このアーキテクチャは、機械学習の分野で開発されたMixture of Expertの概念に従って考案された。
論文 参考訳(メタデータ) (2020-09-29T12:50:33Z) - GANs with Variational Entropy Regularizers: Applications in Mitigating
the Mode-Collapse Issue [95.23775347605923]
深層学習の成功に基づいて、GAN(Generative Adversarial Networks)は、観測されたサンプルから確率分布を学習するための現代的なアプローチを提供する。
GANはしばしば、ジェネレータが入力分布の既存のすべてのモードをキャプチャできないモード崩壊問題に悩まされる。
情報理論のアプローチを採り、生成したサンプルのエントロピーの変動的下限を最大化し、それらの多様性を増大させる。
論文 参考訳(メタデータ) (2020-09-24T19:34:37Z) - Conditional Hybrid GAN for Sequence Generation [56.67961004064029]
本稿では,この問題を解決するための条件付きハイブリッドGAN(C-Hybrid-GAN)を提案する。
我々はGumbel-Softmax法を利用して離散値列の分布を近似する。
提案したC-Hybrid-GANは、文脈条件付き離散値シーケンス生成において既存の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2020-09-18T03:52:55Z) - Unsupervised Controllable Generation with Self-Training [90.04287577605723]
GANによる制御可能な世代は依然として困難な研究課題である。
本稿では,自己学習を通じてジェネレータを制御する潜伏符号の分布を学習するための教師なしフレームワークを提案する。
我々のフレームワークは、変分オートエンコーダのような他の変種と比較して、より良い絡み合いを示す。
論文 参考訳(メタデータ) (2020-07-17T21:50:35Z) - The Bures Metric for Generative Adversarial Networks [10.69910379275607]
GAN(Generative Adversarial Networks)は、高品質なサンプルを生成する高性能な生成手法である。
実バッチの多様性と偽バッチの多様性を一致させることを提案する。
多様性マッチングはモード崩壊を著しく低減し, サンプル品質に肯定的な影響を及ぼす。
論文 参考訳(メタデータ) (2020-06-16T12:04:41Z) - Discriminator Contrastive Divergence: Semi-Amortized Generative Modeling
by Exploring Energy of the Discriminator [85.68825725223873]
GAN(Generative Adversarial Networks)は、高次元データのモデリングにおいて大きな可能性を秘めている。
本稿では,WGANの識別器の特性を活かした識別器コントラストの多様性について紹介する。
我々は、合成データと実世界の画像生成ベンチマークの両方において、大幅に改善された生成の利点を実証する。
論文 参考訳(メタデータ) (2020-04-05T01:50:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。