論文の概要: Polarity Sampling: Quality and Diversity Control of Pre-Trained
Generative Networks via Singular Values
- arxiv url: http://arxiv.org/abs/2203.01993v1
- Date: Thu, 3 Mar 2022 20:16:49 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-07 15:14:41.317607
- Title: Polarity Sampling: Quality and Diversity Control of Pre-Trained
Generative Networks via Singular Values
- Title（参考訳）: 極性サンプリング:特異値を用いた事前学習生成ネットワークの品質と多様性制御
- Authors: Ahmed Imtiaz Humayun, Randall Balestriero, Richard Baraniuk
- Abstract要約: ポーラリティサンプリング(Polarity Sampling)は、DGNの生成品質と多様性を制御するための理論上正当化されたプラグアンドプレイ法である。
非ゼロ極性値は、トランケーションのような標準手法よりも精度が良いことを示す。
特に、Polarity SmplingはFFHQデータセットのStyleGAN2の最先端をFID 2.57に、LSUNカーデータセットのStyleGAN2をFID 2.27に、AFHQv2データセットのStyleGAN3をFID 3.95に再定義している。
- 参考スコア（独自算出の注目度）: 8.686667049158478
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: We present Polarity Sampling, a theoretically justified plug-and-play method
for controlling the generation quality and diversity of pre-trained deep
generative networks DGNs). Leveraging the fact that DGNs are, or can be
approximated by, continuous piecewise affine splines, we derive the analytical
DGN output space distribution as a function of the product of the DGN's
Jacobian singular values raised to a power $\rho$. We dub $\rho$ the
$\textbf{polarity}$ parameter and prove that $\rho$ focuses the DGN sampling on
the modes ($\rho < 0$) or anti-modes ($\rho > 0$) of the DGN output-space
distribution. We demonstrate that nonzero polarity values achieve a better
precision-recall (quality-diversity) Pareto frontier than standard methods,
such as truncation, for a number of state-of-the-art DGNs. We also present
quantitative and qualitative results on the improvement of overall generation
quality (e.g., in terms of the Frechet Inception Distance) for a number of
state-of-the-art DGNs, including StyleGAN3, BigGAN-deep, NVAE, for different
conditional and unconditional image generation tasks. In particular, Polarity
Sampling redefines the state-of-the-art for StyleGAN2 on the FFHQ Dataset to
FID 2.57, StyleGAN2 on the LSUN Car Dataset to FID 2.27 and StyleGAN3 on the
AFHQv2 Dataset to FID 3.95. Demo: bit.ly/polarity-demo-colab
- Abstract（参考訳）: 提案するPolarity Smplingは,事前学習した深層生成ネットワークDGNの生成品質と多様性を制御するための,理論上正当化されたプラグアンドプレイ方式である。
DGN が連続な部分的アフィンスプラインによって近似できるという事実を活用して、DGN のジャコビアン特異値の積の関数として解析的 DGN 出力空間分布を$\rho$ に導く。
私たちは$\rho$ the $\textbf{polarity}$パラメータをダブし、$\rho$がDGNのサンプリングをDGNの出力空間分布のモード($\rho < 0$)またはアンチモーメント($\rho > 0$)に集中していることを証明する。
非ゼロ極性値は、多くの最先端DGNに対して、トランケーションのような標準手法よりも精度の高いパレートフロンティアを実現することを示す。
また,s stylegan3,biggan-deep,nvae,および条件付きおよび非条件画像生成タスクを含む多数の最先端dgnにおいて,全体的な世代品質(例えばフレシェ開始距離)の向上に関する定量的・定性的な結果を示す。
特に、Polarity SmplingはFFHQ DatasetのStyleGAN2、LSUN Car DatasetのStyleGAN2、AFHQv2 DatasetのStyleGAN3をFID 3.95に再定義している。
デモ: bit.ly/polarity-demo-colab
関連論文リスト
- Decoupled Pseudo-labeling for Semi-Supervised Monocular 3D Object Detection [108.672972439282]
SSM3ODに対するDPL(decoupled pseudo-labeling)アプローチを提案する。
提案手法は,擬似ラベルを効率的に生成するためのDPGモジュールを特徴とする。
また,擬似ラベルの雑音深度監視による最適化競合を軽減するために,DGPモジュールを提案する。
論文 参考訳（メタデータ） (2024-03-26T05:12:18Z) - Dual-Perspective Knowledge Enrichment for Semi-Supervised 3D Object
Detection [55.210991151015534]
本稿では, DPKE という新しい2次元知識豊か化手法を提案する。
我々のDPKEは、データパースペクティブと機能パースペクティブという2つの観点から、限られたトレーニングデータ、特にラベルなしデータの知識を豊かにしています。
論文 参考訳（メタデータ） (2024-01-10T08:56:07Z) - A Contrastive Variational Graph Auto-Encoder for Node Clustering [10.52321770126932]
最先端のクラスタリング手法には多くの課題がある。
既存のVGAEは、推論と生成モデルの相違を考慮していない。
私たちのソリューションには、フィーチャーランダムネスとフィーチャードリフトのトレードオフを制御する2つのメカニズムがあります。
論文 参考訳（メタデータ） (2023-12-28T05:07:57Z) - Differentially Private SGD Without Clipping Bias: An Error-Feedback Approach [62.000948039914135]
Differentially Private Gradient Descent with Gradient Clipping (DPSGD-GC) を使用して、差分プライバシ(DP)がモデルパフォーマンス劣化の犠牲となることを保証する。
DPSGD-GCに代わる新しいエラーフィードバック(EF)DPアルゴリズムを提案する。
提案アルゴリズムに対するアルゴリズム固有のDP解析を確立し,R'enyi DPに基づくプライバシ保証を提供する。
論文 参考訳（メタデータ） (2023-11-24T17:56:44Z) - $(\alpha_D,\alpha_G)$-GANs: Addressing GAN Training Instabilities via
Dual Objectives [7.493779672689531]
生成器(G)と識別器(D)に異なる値関数(対象物)を持つ2目的GANのクラスを導入する。
結果のゼロでない和ゲームは、$(alpha_D,alpha_G)$の適切な条件下での$f$-divergenceを最小化する。
合成2次元ガウス混合環とスタックドMNISTデータセットのトレーニング不安定性を緩和するために, チューニング $(alpha_D,alpha_G)$ の値を強調した。
論文 参考訳（メタデータ） (2023-02-28T05:22:54Z) - Anti-Symmetric DGN: a stable architecture for Deep Graph Networks [12.71306369339218]
安定かつ非散逸的なDGN設計のためのフレームワークであるアンチサイメトリディープグラフネットワーク(A-DGN)を提案する。
A-DGNは性能向上に寄与し、数十のレイヤが使用されている場合でも効果的に学習できる。
論文 参考訳（メタデータ） (2022-10-18T12:04:55Z) - Normalized/Clipped SGD with Perturbation for Differentially Private
Non-Convex Optimization [94.06564567766475]
DP-SGDとDP-NSGDは、センシティブなトレーニングデータを記憶する大規模モデルのリスクを軽減する。
DP-NSGD は DP-SGD よりも比較的チューニングが比較的容易であるのに対して,これらの2つのアルゴリズムは同様の精度を実現する。
論文 参考訳（メタデータ） (2022-06-27T03:45:02Z) - Kernel Stein Generative Modeling [68.03537693810972]
グラディエント・ランゲヴィン・ダイナミクス(SGLD)は高次元および複雑なデータ分布に関するエネルギーモデルによる印象的な結果を示す。
Stein Variational Gradient Descent (SVGD) は、与えられた分布を近似するために一組の粒子を反復的に輸送する決定論的サンプリングアルゴリズムである。
雑音条件付きカーネルSVGD(NCK-SVGD)を提案する。
論文 参考訳（メタデータ） (2020-07-06T21:26:04Z) - Your GAN is Secretly an Energy-based Model and You Should use
Discriminator Driven Latent Sampling [106.68533003806276]
本研究では,潜時空間におけるサンプリングは,潜時空間の前対数密度と判別器出力スコアの和によって誘導されるエネルギーベースモデルに従って,潜時空間におけるサンプリングを行うことによって達成できることを示す。
判別器駆動潜時サンプリング(DDLS)は,高次元画素空間で動作する従来の手法と比較して,高効率であることを示す。
論文 参考訳（メタデータ） (2020-03-12T23:33:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。