論文の概要: Private GANs, Revisited

• arxiv url: http://arxiv.org/abs/2302.02936v2
• Date: Thu, 5 Oct 2023 04:47:52 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-06 22:52:18.455274
• Title: Private GANs, Revisited
• Title（参考訳）: プライベートgan、再訪
• Authors: Alex Bie, Gautam Kamath, Guojun Zhang
• Abstract要約: 差分的私的GANの訓練における標準的アプローチは,訓練修正後の有意に改善した結果が得られることを示す。 単純な修正 -- ジェネレータステップ間での差別化のステップをより多く取る -- が、ジェネレータと差別化のパリティを回復し、結果を改善することを示しています。
• 参考スコア（独自算出の注目度）: 16.570354461039603
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We show that the canonical approach for training differentially private GANs -- updating the discriminator with differentially private stochastic gradient descent (DPSGD) -- can yield significantly improved results after modifications to training. Specifically, we propose that existing instantiations of this approach neglect to consider how adding noise only to discriminator updates inhibits discriminator training, disrupting the balance between the generator and discriminator necessary for successful GAN training. We show that a simple fix -- taking more discriminator steps between generator steps -- restores parity between the generator and discriminator and improves results. Additionally, with the goal of restoring parity, we experiment with other modifications -- namely, large batch sizes and adaptive discriminator update frequency -- to improve discriminator training and see further improvements in generation quality. Our results demonstrate that on standard image synthesis benchmarks, DPSGD outperforms all alternative GAN privatization schemes. Code: https://github.com/alexbie98/dpgan-revisit.
• Abstract（参考訳）: 以上の結果から, 個人差動型確率勾配降下法 (dpsgd) による識別器の更新は, 訓練の修正後, 有意に改善する可能性が示唆された。 具体的には,判別器更新にのみノイズを加えることで識別器の訓練が阻害され,生成器と識別器のバランスが損なわれることを考える。 単純な修正 -- ジェネレータステップ間でより差別的なステップを取る -- によって、ジェネレータと判別器のパリティが回復し、結果が向上することを示す。 さらに、パリティを回復する目的で、大きなバッチサイズと適応型判別器更新頻度といった他の変更を実験し、判別器のトレーニングを改善し、世代品質をさらに向上させる。 以上の結果から,標準画像合成ベンチマークでは,DPSGDは代替のGAN民営化方式よりも優れていた。 コード: https://github.com/alexbie98/dpgan-revisit。

関連論文リスト

• SCP-GAN: Self-Correcting Discriminator Optimization for Training Consistency Preserving Metric GAN on Speech Enhancement Tasks [28.261911789087463]
  本稿では,多くのGANベースSEモデルに適用可能なGANトレーニングスキームの改良について紹介する。 本稿では,SEタスク上でGAN識別器を訓練するための自己補正最適化を提案する。 提案手法をいくつかの最先端のGANベースSEモデルで検証し、一貫した改善を得た。
  論文  参考訳（メタデータ） (2022-10-26T04:48:40Z)
• Improving GANs with A Dynamic Discriminator [106.54552336711997]
  我々は、オンザフライで調整可能な判別器は、そのような時間変化に適応できると論じる。 総合的な実証研究により、提案したトレーニング戦略がDynamicDと呼ばれ、追加のコストやトレーニング目標を発生させることなく、合成性能を向上させることが確認された。
  論文  参考訳（メタデータ） (2022-09-20T17:57:33Z)
• Augmentation-Aware Self-Supervision for Data-Efficient GAN Training [68.81471633374393]
  識別器が過度に適合する傾向があるため、限られたデータでGANを訓練することは困難である。 本稿では,拡張データの拡張パラメータを予測する,拡張型自己教師型識別器を提案する。 本稿では,クラス条件の BigGAN と非条件の StyleGAN2 アーキテクチャを用いた State-of-the-art (SOTA) 手法と比較する。
  論文  参考訳（メタデータ） (2022-05-31T10:35:55Z)
• Revisiting Consistency Regularization for Semi-Supervised Learning [80.28461584135967]
  そこで我々は,FeatDistLossというシンプルな手法により,一貫性の規則化を改良したフレームワークを提案する。 実験結果から,本モデルは様々なデータセットや設定のための新しい技術状態を定義する。
  論文  参考訳（メタデータ） (2021-12-10T20:46:13Z)
• Re-using Adversarial Mask Discriminators for Test-time Training under Distribution Shifts [10.647970046084916]
  安定判別器の訓練によって表現的損失関数が生成され、推論時に再使用してセグメント化ミスを検出し、修正することができると論じる。 我々は、識別器と画像再構成コストを(デコーダを介して)組み合わせることで、モデルをさらに改善できることを示す。 提案手法は単純で,事前学習したGANの試験時間性能を向上させる。
  論文  参考訳（メタデータ） (2021-08-26T17:31:46Z)
• Data-Efficient Instance Generation from Instance Discrimination [40.71055888512495]
  本稿では,インスタンス識別に基づくデータ効率の高いインスタンス生成手法を提案する。 本研究では,インスタンス識別に基づくデータ効率の高いインスタンス生成(InsGen)手法を提案する。
  論文  参考訳（メタデータ） (2021-06-08T17:52:59Z)
• Training GANs with Stronger Augmentations via Contrastive Discriminator [80.8216679195]
  本稿では,gan判別器にコントラスト表現学習方式を導入する。 この「融合」により、識別者は訓練の不安定さを増すことなく、より強力な増強に対処できる。 実験の結果,contratd付きganはfidを一貫して改善し,データ拡張を組み込んだ他の手法と比較した。
  論文  参考訳（メタデータ） (2021-03-17T16:04:54Z)
• RDP-GAN: A R\'enyi-Differential Privacy based Generative Adversarial Network [75.81653258081435]
  GAN(Generative Adversarial Network)は,プライバシ保護の高い現実的なサンプルを生成する能力によって,近年注目を集めている。 しかし、医療記録や財務記録などの機密・私的な訓練例にGANを適用すると、個人の機密・私的な情報を漏らしかねない。 本稿では、学習中の損失関数の値にランダムノイズを慎重に付加することにより、GAN内の差分プライバシー(DP)を実現するR'enyi-differentially private-GAN(RDP-GAN)を提案する。
  論文  参考訳（メタデータ） (2020-07-04T09:51:02Z)
• When Relation Networks meet GANs: Relation GANs with Triplet Loss [110.7572918636599]
  GAN(Generative Adversarial Network)の学習安定性はいまだに悩みの種である 本稿では,判別器のための関係ネットワークアーキテクチャについて検討し,より優れた一般化と安定性を実現する三重項損失を設計する。 ベンチマークデータセットの実験により、提案された関係判別器と新たな損失は、可変視覚タスクに大幅な改善をもたらすことが示された。
  論文  参考訳（メタデータ） (2020-02-24T11:35:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。