論文の概要: Improving GAN Training with Probability Ratio Clipping and Sample Reweighting

• arxiv url: http://arxiv.org/abs/2006.06900v4
• Date: Fri, 30 Oct 2020 16:27:22 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-22 02:05:32.366968
• Title: Improving GAN Training with Probability Ratio Clipping and Sample Reweighting
• Title（参考訳）: 確率比クリッピングとサンプル重み付けによるganトレーニングの改善
• Authors: Yue Wu, Pan Zhou, Andrew Gordon Wilson, Eric P. Xing, Zhiting Hu
• Abstract要約: GAN(Generative Adversarial Network)は、不安定なトレーニングにより性能が低下することが多い。 本稿では,より優れたトレーニング安定性を享受する新しい変分GANトレーニングフレームワークを提案する。 多様な最先端のGANアーキテクチャにトレーニングアプローチを組み込むことで、幅広いタスクに対して大幅な性能向上を実現した。
• 参考スコア（独自算出の注目度）: 145.5106274085799
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Despite success on a wide range of problems related to vision, generative adversarial networks (GANs) often suffer from inferior performance due to unstable training, especially for text generation. To solve this issue, we propose a new variational GAN training framework which enjoys superior training stability. Our approach is inspired by a connection of GANs and reinforcement learning under a variational perspective. The connection leads to (1) probability ratio clipping that regularizes generator training to prevent excessively large updates, and (2) a sample re-weighting mechanism that improves discriminator training by downplaying bad-quality fake samples. Moreover, our variational GAN framework can provably overcome the training issue in many GANs that an optimal discriminator cannot provide any informative gradient to training generator. By plugging the training approach in diverse state-of-the-art GAN architectures, we obtain significantly improved performance over a range of tasks, including text generation, text style transfer, and image generation.
• Abstract（参考訳）: 視覚にまつわる幅広い問題において成功したにもかかわらず、生成的敵ネットワーク(GAN)は不安定な訓練、特にテキスト生成において、性能が劣る。 そこで本研究では,より優れたトレーニング安定性を享受できる変分GANトレーニングフレームワークを提案する。 提案手法は,GANと強化学習の相互関係から着想を得たものである。 その結果,(1) 大量更新を防止するため, ジェネレータトレーニングを標準化する確率比クリッピング, (2) 品質の悪い偽検体を下書きすることで識別器トレーニングを改善するサンプル再重み付け機構が得られた。 さらに, 変動型ganフレームワークは, 最適判別器がトレーニング生成器に有意な勾配を与えることができない多くのganにおいて, 学習課題を克服することができる。 多様な最先端のGANアーキテクチャにトレーニングアプローチを組み込むことで,テキスト生成,テキストスタイル転送,画像生成など,さまざまなタスクに対して大幅な性能向上を実現した。

関連論文リスト

• Parallelly Tempered Generative Adversarial Networks [7.94957965474334]
  生成的敵対ネットワーク(GAN)は、生成的人工知能(AI)における代表的バックボーンモデルである。 本研究は,モード崩壊の存在下でのトレーニングの不安定性と非効率性を,対象分布におけるマルチモーダルにリンクすることで解析する。 新たに開発したGAN目標関数により, 生成元は同時に全ての誘電分布を学習することができる。
  論文  参考訳（メタデータ） (2024-11-18T18:01:13Z)
• Improving GAN Training via Feature Space Shrinkage [69.98365478398593]
  本稿では,識別器の画像表現空間におけるトレーニングデータの領域を縮小するAdaptiveMixを提案する。 直接有界な特徴空間を考慮し, ハードサンプルを構築し, ハードサンプルと簡単なサンプル間の特徴距離を狭めることを提案する。 評価結果から,我々のAdaptiveMixはGANの訓練を容易にし,生成したサンプルの画像品質を効果的に向上させることができることが示された。
  論文  参考訳（メタデータ） (2023-03-02T20:22:24Z)
• SCP-GAN: Self-Correcting Discriminator Optimization for Training Consistency Preserving Metric GAN on Speech Enhancement Tasks [28.261911789087463]
  本稿では,多くのGANベースSEモデルに適用可能なGANトレーニングスキームの改良について紹介する。 本稿では,SEタスク上でGAN識別器を訓練するための自己補正最適化を提案する。 提案手法をいくつかの最先端のGANベースSEモデルで検証し、一貫した改善を得た。
  論文  参考訳（メタデータ） (2022-10-26T04:48:40Z)
• Enhancing Adversarial Training with Feature Separability [52.39305978984573]
  本稿では,特徴分離性を備えた対人訓練(ATFS)により,クラス内特徴の類似性を向上し,クラス間特徴分散を増大させることができる,新たな対人訓練グラフ(ATG)を提案する。 包括的な実験を通じて、提案したATFSフレームワークがクリーンかつロバストなパフォーマンスを著しく改善することを示した。
  論文  参考訳（メタデータ） (2022-05-02T04:04:23Z)
• Training Generative Adversarial Networks in One Stage [58.983325666852856]
  本稿では,1段階のみに効率よくGANを訓練できる汎用的なトレーニング手法を提案する。 提案手法は,データフリーな知識蒸留など,他の逆学習シナリオにも容易に適用可能であることを示す。
  論文  参考訳（メタデータ） (2021-02-28T09:03:39Z)
• Evolving GAN Formulations for Higher Quality Image Synthesis [15.861807854144228]
  generative adversarial networks (gans) はディープラーニングを複雑な生成と翻訳タスクに拡張した。 トレーニングプロセスにおけるモード崩壊やその他の不安定性は、生成された結果の品質を劣化させることが多い。 本稿では2つのネットワーク毎にカスタマイズされた損失関数を発見し,GANを改善するためのTaylorGANという新しい手法を提案する。
  論文  参考訳（メタデータ） (2021-02-17T05:11:21Z)
• Self-Progressing Robust Training [146.8337017922058]
  敵対的なトレーニングのような現在の堅牢なトレーニング方法は、敵対的な例を生成するために「攻撃」を明示的に使用します。 我々はSPROUTと呼ばれる自己プログレッシブ・ロバスト・トレーニングのための新しいフレームワークを提案する。 その結果,スケーラブルで効果的で攻撃に依存しないロバストなトレーニング手法に新たな光を当てた。
  論文  参考訳（メタデータ） (2020-12-22T00:45:24Z)
• Improving the Speed and Quality of GAN by Adversarial Training [87.70013107142142]
  我々は,GAN訓練の高速化と品質向上を目的としたFastGANを開発した。 当社のトレーニングアルゴリズムは,2-4GPUを必要とすることによって,ImageNetのトレーニングを一般向けに提供しています。
  論文  参考訳（メタデータ） (2020-08-07T20:21:31Z)
• InfoMax-GAN: Improved Adversarial Image Generation via Information Maximization and Contrastive Learning [39.316605441868944]
  GAN(Generative Adversarial Networks)は、多くのジェネレーティブモデリングアプリケーションの基本である。 本稿では,GANにおける2つの基本的な問題を同時に緩和する基本的枠組みを提案する。 提案手法は, 5つのデータセットにわたる画像合成において, GANトレーニングを著しく安定化し, GAN性能を向上させる。
  論文  参考訳（メタデータ） (2020-07-09T06:56:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。