論文の概要: Improving GANs with A Dynamic Discriminator
- arxiv url: http://arxiv.org/abs/2209.09897v1
- Date: Tue, 20 Sep 2022 17:57:33 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-21 19:31:34.370292
- Title: Improving GANs with A Dynamic Discriminator
- Title(参考訳): 動的判別器によるgans改善
- Authors: Ceyuan Yang, Yujun Shen, Yinghao Xu, Deli Zhao, Bo Dai, Bolei Zhou
- Abstract要約: 我々は、オンザフライで調整可能な判別器は、そのような時間変化に適応できると論じる。
総合的な実証研究により、提案したトレーニング戦略がDynamicDと呼ばれ、追加のコストやトレーニング目標を発生させることなく、合成性能を向上させることが確認された。
- 参考スコア(独自算出の注目度): 106.54552336711997
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Discriminator plays a vital role in training generative adversarial networks
(GANs) via distinguishing real and synthesized samples. While the real data
distribution remains the same, the synthesis distribution keeps varying because
of the evolving generator, and thus effects a corresponding change to the
bi-classification task for the discriminator. We argue that a discriminator
with an on-the-fly adjustment on its capacity can better accommodate such a
time-varying task. A comprehensive empirical study confirms that the proposed
training strategy, termed as DynamicD, improves the synthesis performance
without incurring any additional computation cost or training objectives. Two
capacity adjusting schemes are developed for training GANs under different data
regimes: i) given a sufficient amount of training data, the discriminator
benefits from a progressively increased learning capacity, and ii) when the
training data is limited, gradually decreasing the layer width mitigates the
over-fitting issue of the discriminator. Experiments on both 2D and 3D-aware
image synthesis tasks conducted on a range of datasets substantiate the
generalizability of our DynamicD as well as its substantial improvement over
the baselines. Furthermore, DynamicD is synergistic to other
discriminator-improving approaches (including data augmentation, regularizers,
and pre-training), and brings continuous performance gain when combined for
learning GANs.
- Abstract(参考訳): 判別器は、実検体と合成検体を区別することにより、生成敵ネットワーク(GAN)を訓練する上で重要な役割を担っている。
実際のデータ分布は同じであるが、生成器の進化により合成分布が変化し続けるため、判別器の2つの分類タスクに対応する変化が生じる。
我々は、オンザフライで調整可能な判別器は、そのような時間変化に適応できると論じる。
包括的実証研究により, 提案手法はdynamicdと呼ばれ, 計算コストや学習目標の増大を伴わずに合成性能を向上できることを確認した。
異なるデータ体制下でGANを訓練するための2つの容量調整スキームが開発されている。
一 十分な量の訓練データを与えられた場合、段階的に学習能力の増大による差別者給付
二 訓練データに制限があるときは、徐々に層幅を減らし、判別器の過度に適合する問題を緩和する。
様々なデータセットを用いた2次元および3次元画像合成タスクの実験は、我々のDynamicDの一般化可能性に加えて、ベースラインよりも大幅に改善されている。
さらに、DynamicDは他の差別化手法(データ強化、正規化、事前学習を含む)と相乗効果があり、GANを学習する際に連続的なパフォーマンス向上をもたらす。
関連論文リスト
- Contrastive-Adversarial and Diffusion: Exploring pre-training and fine-tuning strategies for sulcal identification [3.0398616939692777]
対人学習、コントラスト学習、拡散認知学習、通常の再構成学習といった技術が標準となっている。
この研究は、ニューラルネットワークの学習プロセスを強化するために、事前学習技術と微調整戦略の利点を解明することを目的としている。
論文 参考訳(メタデータ) (2024-05-29T15:44:51Z) - Data Augmentation for Traffic Classification [54.92823760790628]
Data Augmentation (DA) はコンピュータビジョン(CV)と自然言語処理(NLP)に広く採用されている技術である。
DAはネットワークのコンテキスト、特にトラフィック分類(TC)タスクにおいて、牽引力を得るのに苦労しています。
論文 参考訳(メタデータ) (2024-01-19T15:25:09Z) - Learning Better with Less: Effective Augmentation for Sample-Efficient
Visual Reinforcement Learning [57.83232242068982]
データ拡張(DA)は、ビジュアル強化学習(RL)アルゴリズムのサンプル効率を高める重要な手法である。
サンプル効率のよい視覚的RLを実現する上で, DAのどの属性が有効かは明らかになっていない。
本研究は,DAの属性が有効性に与える影響を評価するための総合的な実験を行う。
論文 参考訳(メタデータ) (2023-05-25T15:46:20Z) - Generalizable Low-Resource Activity Recognition with Diverse and
Discriminative Representation Learning [24.36351102003414]
HAR(Human Activity Recognition)は、人間のセンサーの読み取りから動作パターンを特定することに焦点を当てた時系列分類タスクである。
一般化可能な低リソースHARのためのDDLearn(Diverse and Discriminative Expression Learning)という新しい手法を提案する。
平均精度は9.5%向上した。
論文 参考訳(メタデータ) (2023-05-25T08:24:22Z) - Augmentation-Aware Self-Supervision for Data-Efficient GAN Training [68.81471633374393]
識別器が過度に適合する傾向があるため、限られたデータでGANを訓練することは困難である。
本稿では,拡張データの拡張パラメータを予測する,拡張型自己教師型識別器を提案する。
本稿では,クラス条件の BigGAN と非条件の StyleGAN2 アーキテクチャを用いた State-of-the-art (SOTA) 手法と比較する。
論文 参考訳(メタデータ) (2022-05-31T10:35:55Z) - Deceive D: Adaptive Pseudo Augmentation for GAN Training with Limited
Data [125.7135706352493]
GAN(Generative Adversarial Network)は、高忠実度画像を合成するために、訓練に十分なデータを必要とする。
近年の研究では、差別者の過度な適合により、限られたデータでGANを訓練することは困難であることが示されている。
本稿では,APA (Adaptive Pseudo Augmentation) と呼ばれる新しい手法を提案する。
論文 参考訳(メタデータ) (2021-11-12T18:13:45Z) - Data-Efficient Instance Generation from Instance Discrimination [40.71055888512495]
本稿では,インスタンス識別に基づくデータ効率の高いインスタンス生成手法を提案する。
本研究では,インスタンス識別に基づくデータ効率の高いインスタンス生成(InsGen)手法を提案する。
論文 参考訳(メタデータ) (2021-06-08T17:52:59Z) - When Relation Networks meet GANs: Relation GANs with Triplet Loss [110.7572918636599]
GAN(Generative Adversarial Network)の学習安定性はいまだに悩みの種である
本稿では,判別器のための関係ネットワークアーキテクチャについて検討し,より優れた一般化と安定性を実現する三重項損失を設計する。
ベンチマークデータセットの実験により、提案された関係判別器と新たな損失は、可変視覚タスクに大幅な改善をもたらすことが示された。
論文 参考訳(メタデータ) (2020-02-24T11:35:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。