論文の概要: Training Wasserstein GANs without gradient penalties
- arxiv url: http://arxiv.org/abs/2110.14150v1
- Date: Wed, 27 Oct 2021 03:46:13 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-28 13:57:45.476795
- Title: Training Wasserstein GANs without gradient penalties
- Title(参考訳): 勾配ペナルティを伴わないWasserstein GANsの訓練
- Authors: Dohyun Kwon, Yeoneung Kim, Guido Mont\'ufar, Insoon Yang
- Abstract要約: 本稿では,Wasserstein生成逆数ネットワークを訓練するための安定な手法を提案する。
我々は,このアルゴリズムが判別器のリプシッツ制約を効果的に適用できることを実験的に示す。
我々の手法は勾配のペナルティを必要とせず、他の方法よりも計算効率が良い。
- 参考スコア(独自算出の注目度): 4.0489350374378645
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a stable method to train Wasserstein generative adversarial
networks. In order to enhance stability, we consider two objective functions
using the $c$-transform based on Kantorovich duality which arises in the theory
of optimal transport. We experimentally show that this algorithm can
effectively enforce the Lipschitz constraint on the discriminator while other
standard methods fail to do so. As a consequence, our method yields an accurate
estimation for the optimal discriminator and also for the Wasserstein distance
between the true distribution and the generated one. Our method requires no
gradient penalties nor corresponding hyperparameter tuning and is
computationally more efficient than other methods. At the same time, it yields
competitive generators of synthetic images based on the MNIST, F-MNIST, and
CIFAR-10 datasets.
- Abstract(参考訳): 本稿では,Wasserstein生成逆数ネットワークを訓練するための安定な手法を提案する。
安定性を高めるために,最適移動理論に現れるカントロヴィチ双対性に基づく$c$-変換を用いた2つの目的関数を考える。
我々は,このアルゴリズムが判別器のリプシッツ制約を効果的に適用できる一方で,他の標準手法では適用できないことを示す。
その結果, 最適判別器と, 真の分布と生成した分布との間のワッサースタイン距離の正確な推定が可能となった。
本手法は勾配ペナルティやそれに対応するハイパーパラメータチューニングを必要とせず,他の手法よりも計算効率が高い。
同時に、MNIST、F-MNIST、CIFAR-10データセットに基づく合成画像の競合生成器を生成する。
関連論文リスト
- Efficiently Escaping Saddle Points for Non-Convex Policy Optimization [40.0986936439803]
政策勾配(PG)は、拡張性と優れた性能のために強化学習に広く用いられている。
本稿では,ヘッセンベクトル積 (HVP) の形で二階情報を用いた分散還元二階法を提案し,サンプルの複雑さを$tildeO(epsilon-3)$とする近似二階定常点 (SOSP) に収束する。
論文 参考訳(メタデータ) (2023-11-15T12:36:45Z) - Flow-based Distributionally Robust Optimization [23.232731771848883]
We present a framework, called $textttFlowDRO$, for solve flow-based distributionally robust optimization (DRO) problem with Wasserstein uncertainty set。
我々は、連続した最悪のケース分布(Last Favorable Distribution, LFD)とそれからのサンプルを見つけることを目指している。
本稿では、逆学習、分布論的に堅牢な仮説テスト、およびデータ駆動型分布摂動差分プライバシーの新しいメカニズムを実証する。
論文 参考訳(メタデータ) (2023-10-30T03:53:31Z) - Sobolev Space Regularised Pre Density Models [51.558848491038916]
本研究では,ソボレフ法則の正則化に基づく非パラメトリック密度推定法を提案する。
この方法は統計的に一貫したものであり、帰納的検証モデルを明確かつ一貫したものにしている。
論文 参考訳(メタデータ) (2023-07-25T18:47:53Z) - Gradient-Free Methods for Deterministic and Stochastic Nonsmooth
Nonconvex Optimization [94.19177623349947]
非滑らかな非最適化問題は、機械学習とビジネス製造に現れる。
2つのコア課題は、有限収束を保証する効率的な方法の開発を妨げる。
GFMとSGFMの2相版も提案され, 改良された大規模評価結果が得られた。
論文 参考訳(メタデータ) (2022-09-12T06:53:24Z) - Sliced Wasserstein Variational Inference [3.405431122165563]
最適輸送から生じる有効な計量であるスライスされたワッサーシュタイン距離を最小化することで,新しい変分推定法を提案する。
我々の近似は、ニューラルネットワークのようなジェネレータによって近似ファミリーを再生できるように、変動分布の引き込み可能な密度関数も必要としない。
論文 参考訳(メタデータ) (2022-07-26T20:51:51Z) - Continuous Wasserstein-2 Barycenter Estimation without Minimax
Optimization [94.18714844247766]
ワッサーシュタイン・バリセンターは、最適輸送に基づく確率測度の重み付き平均の幾何学的概念を提供する。
本稿では,Wasserstein-2 バリセンタのサンプルアクセスを演算するスケーラブルなアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-02-02T21:01:13Z) - Byzantine-Resilient Non-Convex Stochastic Gradient Descent [61.6382287971982]
敵対的レジリエントな分散最適化。
機械は独立して勾配を計算し 協力することができます
私達のアルゴリズムは新しい集中の技術およびサンプル複雑性に基づいています。
それは非常に実用的です:それはないときすべての前の方法の性能を改善します。
セッティングマシンがあります。
論文 参考訳(メタデータ) (2020-12-28T17:19:32Z) - Continuous Regularized Wasserstein Barycenters [51.620781112674024]
正規化ワッサーシュタイン・バリセンタ問題に対する新しい双対定式化を導入する。
我々は、強い双対性を確立し、対応する主対関係を用いて、正規化された輸送問題の双対ポテンシャルを用いて暗黙的にバリセンターをパラメトリゼーションする。
論文 参考訳(メタデータ) (2020-08-28T08:28:06Z) - Projection Robust Wasserstein Distance and Riemannian Optimization [107.93250306339694]
プロジェクション・ソリッドスタイン(PRW)は、ワッサーシュタイン・プロジェクション(WPP)のロバストな変種であることを示す。
本稿では,PRW距離の計算への第一歩として,その理論と実データに関する実験の関連について述べる。
論文 参考訳(メタデータ) (2020-06-12T20:40:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。