論文の概要: Evolutionary Generative Adversarial Networks with Crossover Based
Knowledge Distillation
- arxiv url: http://arxiv.org/abs/2101.11186v1
- Date: Wed, 27 Jan 2021 03:24:30 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-13 19:42:17.509795
- Title: Evolutionary Generative Adversarial Networks with Crossover Based
Knowledge Distillation
- Title(参考訳): クロスオーバーに基づく知識蒸留による進化的汎用ネットワーク
- Authors: Junjie Li, Junwei Zhang, Xiaoyu Gong, Shuai L\"u
- Abstract要約: 本稿では,進化戦略を用いてGANに広く適用可能な一般クロスオーバー演算子を提案する。
次に、それに基づいて進化的GANフレームワークC-GANを設計する。
そして、クロスオーバー演算子と進化生成逆数ネットワーク(EGAN)を組み合わせて、クロスオーバー(CE-GAN)を用いた進化生成逆数ネットワークを実装する。
- 参考スコア(独自算出の注目度): 4.044110325063562
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generative Adversarial Networks (GAN) is an adversarial model, and it has
been demonstrated to be effective for various generative tasks. However, GAN
and its variants also suffer from many training problems, such as mode collapse
and gradient vanish. In this paper, we firstly propose a general crossover
operator, which can be widely applied to GANs using evolutionary strategies.
Then we design an evolutionary GAN framework C-GAN based on it. And we combine
the crossover operator with evolutionary generative adversarial networks (EGAN)
to implement the evolutionary generative adversarial networks with crossover
(CE-GAN). Under the premise that a variety of loss functions are used as
mutation operators to generate mutation individuals, we evaluate the generated
samples and allow the mutation individuals to learn experiences from the output
in a knowledge distillation manner, imitating the best output outcome,
resulting in better offspring. Then, we greedily selected the best offspring as
parents for subsequent training using discriminator as evaluator. Experiments
on real datasets demonstrate the effectiveness of CE-GAN and show that our
method is competitive in terms of generated images quality and time efficiency.
- Abstract(参考訳): generative adversarial networks (gan) は敵対的モデルであり、様々な生成的タスクに有効であることが示されている。
しかし、GANとその変種はまた、モード崩壊やグラデーション消失などの多くの訓練問題に苦しんでいます。
本稿ではまず,進化戦略を用いてGANに広く適用可能な一般クロスオーバー演算子を提案する。
そして、それに基づいて進化的GANフレームワークC-GANを設計する。
また,クロスオーバー演算子と進化生成逆数ネットワーク(EGAN)を組み合わせて,クロスオーバー(CE-GAN)を用いた進化生成逆数ネットワークを実装した。
変異個体を生成する突然変異演算子として、さまざまな損失関数が使用されることを前提に、生成されたサンプルを評価し、突然変異個体が知識蒸留方法でアウトプットから経験を学習できるようにし、最高のアウトプット結果を模倣し、より良い子孫を生み出します。
そして,父母として最良の子を選抜し,その後,判別器を評価器として訓練を行った。
実データを用いた実験により,CE-GANの有効性を実証し,生成した画像の品質と時間効率の両面で競合することを示す。
関連論文リスト
- GE-AdvGAN: Improving the transferability of adversarial samples by
gradient editing-based adversarial generative model [69.71629949747884]
GAN(Generative Adversarial Networks)のような逆生成モデルは、様々な種類のデータを生成するために広く応用されている。
本研究では, GE-AdvGAN という新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-01-11T16:43:16Z) - Mind the Gap in Distilling StyleGANs [100.58444291751015]
StyleGANファミリは、非条件生成のためのGAN(Generative Adversarial Networks)として最も人気のあるものの一つである。
本稿では,StyleGAN-likeアーキテクチャの蒸留に関する総合的研究について述べる。
論文 参考訳(メタデータ) (2022-08-18T14:18:29Z) - Deceive D: Adaptive Pseudo Augmentation for GAN Training with Limited
Data [125.7135706352493]
GAN(Generative Adversarial Network)は、高忠実度画像を合成するために、訓練に十分なデータを必要とする。
近年の研究では、差別者の過度な適合により、限られたデータでGANを訓練することは困難であることが示されている。
本稿では,APA (Adaptive Pseudo Augmentation) と呼ばれる新しい手法を提案する。
論文 参考訳(メタデータ) (2021-11-12T18:13:45Z) - The Nuts and Bolts of Adopting Transformer in GANs [124.30856952272913]
高忠実度画像合成のためのGAN(Generative Adversarial Network)フレームワークにおけるTransformerの特性について検討する。
我々の研究は、STrans-Gと呼ばれる畳み込みニューラルネットワーク(CNN)フリージェネレータであるGANにおけるトランスフォーマーの新しい代替設計につながる。
論文 参考訳(メタデータ) (2021-10-25T17:01:29Z) - IE-GAN: An Improved Evolutionary Generative Adversarial Network Using a
New Fitness Function and a Generic Crossover Operator [20.100388977505002]
我々は、新しいフィットネス機能と汎用クロスオーバー演算子を導入するIE-GANと呼ばれる改良されたE-GANフレームワークを提案する。
特に、提案されたフィットネス機能は、個人の進化過程をより正確にモデル化することができる。
進化アルゴリズムで一般的に採用されているクロスオーバー演算子は、子孫が両親の優れた遺伝子発現を模倣することができる。
論文 参考訳(メタデータ) (2021-07-25T13:55:07Z) - Fostering Diversity in Spatial Evolutionary Generative Adversarial
Networks [10.603020431394157]
本稿では,空間分布型CoE-GANであるMustangsを紹介する。
MNISTとCelebAの実験分析により、ムスタングは統計的により正確な発電機を訓練することを示した。
論文 参考訳(メタデータ) (2021-06-25T12:40:36Z) - Epigenetic evolution of deep convolutional models [81.21462458089142]
我々は、より深い畳み込みモデルを進化させるために、これまで提案されていた神経進化の枠組みを構築した。
異なる形状と大きさのカーネルを同一層内に共存させる畳み込み層配置を提案する。
提案したレイアウトにより、畳み込み層内の個々のカーネルのサイズと形状を、対応する新しい突然変異演算子で進化させることができる。
論文 参考訳(メタデータ) (2021-04-12T12:45:16Z) - Training Generative Adversarial Networks in One Stage [58.983325666852856]
本稿では,1段階のみに効率よくGANを訓練できる汎用的なトレーニング手法を提案する。
提案手法は,データフリーな知識蒸留など,他の逆学習シナリオにも容易に適用可能であることを示す。
論文 参考訳(メタデータ) (2021-02-28T09:03:39Z) - Demonstrating the Evolution of GANs through t-SNE [0.4588028371034407]
COEGANのような進化的アルゴリズムは、最近、GANトレーニングを改善するソリューションとして提案されている。
本研究では, t-distributed Neighbour Embedding (t-SNE) を用いたGANの進展評価手法を提案する。
結果の t-SNE マップと Jaccard インデックスに基づく計量をモデル品質を表すために提案する。
論文 参考訳(メタデータ) (2021-01-31T20:07:08Z) - Autoencoding Generative Adversarial Networks [0.0]
本稿では,所定の潜在空間と与えられたサンプル空間とのマッピングを学習する4ネットワークモデルを提案する。
AEGAN技術は、トレーニング安定化、モード崩壊防止、実際のサンプル間の直接反転など、一般的なGANトレーニングにいくつかの改善を提供する。
論文 参考訳(メタデータ) (2020-04-11T19:51:04Z) - Using Skill Rating as Fitness on the Evolution of GANs [0.4588028371034407]
Generative Adversarial Networks (GAN) は、生成タスクにおいて印象的な結果を得た敵モデルである。
GANは安定性に関するいくつかの課題を提示し、トレーニングを通常、ヒット・アンド・ミスのプロセスにする。
近年の研究では、これらの課題を解決し、優れたモデルを見つけるための自動方法を提供することを目的として、GANトレーニングにおける進化的アルゴリズムの使用が提案されている。
論文 参考訳(メタデータ) (2020-04-09T20:26:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。