論文の概要: Wasserstein Proximal of GANs
- arxiv url: http://arxiv.org/abs/2102.06862v1
- Date: Sat, 13 Feb 2021 05:29:37 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-16 16:01:15.321228
- Title: Wasserstein Proximal of GANs
- Title(参考訳): GANのWasserstein近位
- Authors: Alex Tong Lin, Wuchen Li, Stanley Osher, Guido Montufar
- Abstract要約: 生成器にWasserstein-2 metric proximalを適用することにより,生成敵ネットワークを訓練する新しい方法を提案する。
本手法は,壁時計時間とフレシェット開始距離の観点で,トレーニングの速度と安定性を向上できることを実証する。
- 参考スコア(独自算出の注目度): 5.89179309980335
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce a new method for training generative adversarial networks by
applying the Wasserstein-2 metric proximal on the generators. The approach is
based on Wasserstein information geometry. It defines a parametrization
invariant natural gradient by pulling back optimal transport structures from
probability space to parameter space. We obtain easy-to-implement iterative
regularizers for the parameter updates of implicit deep generative models. Our
experiments demonstrate that this method improves the speed and stability of
training in terms of wall-clock time and Fr\'echet Inception Distance.
- Abstract(参考訳): 生成器にWasserstein-2 metric proximalを適用することにより,生成敵ネットワークを訓練する新しい方法を提案する。
このアプローチはwasserstein information geometryに基づいている。
確率空間からパラメータ空間へ最適な輸送構造を引き戻すことによって、パラメータ化不変自然勾配を定義する。
暗黙的な深層生成モデルのパラメータ更新のための繰り返し正規化器を簡易に実装する。
本実験では, ウォールクロック時間, Fr\'echet Inception Distance の点で, トレーニングの速度と安定性を改善することを実証した。
関連論文リスト
- Information Geometry and Beta Link for Optimizing Sparse Variational Student-t Processes [6.37512592611305]
勾配勾配勾配を用いた実世界のデータセットの計算効率と柔軟性を向上させるために,学生Tプロセスが提案されている。
アダムのような伝統的な勾配降下法はパラメータ空間の幾何を十分に活用しない可能性があり、収束と準最適性能を遅くする可能性がある。
我々は,情報幾何学から自然勾配法を適用し,学生-tプロセスの変分パラメータ最適化を行う。
論文 参考訳(メタデータ) (2024-08-13T07:53:39Z) - Continuous-time Riemannian SGD and SVRG Flows on Wasserstein Probabilistic Space [17.13355049019388]
我々はワッサーシュタイン空間上の勾配流を勾配降下流(SGD)と分散還元流(SVRG)に拡張する。
ワッサーシュタイン空間の性質を利用して、ユークリッド空間における対応する離散力学を近似するために微分方程式を構築する。
この結果はユークリッド空間における結果と一致することが証明されている。
論文 参考訳(メタデータ) (2024-01-24T15:35:44Z) - GPS-Gaussian: Generalizable Pixel-wise 3D Gaussian Splatting for Real-time Human Novel View Synthesis [70.24111297192057]
我々は、文字の新たなビューをリアルタイムに合成するための新しいアプローチ、GPS-Gaussianを提案する。
提案手法は,スパースビューカメラ設定下での2K解像度のレンダリングを可能にする。
論文 参考訳(メタデータ) (2023-12-04T18:59:55Z) - Optimal Neural Network Approximation of Wasserstein Gradient Direction
via Convex Optimization [43.6961980403682]
ワッサーシュタイン勾配方向の計算は、後続サンプリング問題や科学計算に不可欠である。
正方形ReLUアクティベーションを持つ2層ネットワーク群において、半定値プログラミング(SDP)緩和を導出する変動問題について検討する。
このSDPは、2層ネットワークを含むより広い関数群におけるワッサーシュタイン勾配の近似と見なすことができる。
論文 参考訳(メタデータ) (2022-05-26T00:51:12Z) - Counting Phases and Faces Using Bayesian Thermodynamic Integration [77.34726150561087]
本稿では,2パラメータ統計力学系における熱力学関数と位相境界の再構成手法を提案する。
提案手法を用いて,IsingモデルとTASEPの分割関数と位相図を正確に再構成する。
論文 参考訳(メタデータ) (2022-05-18T17:11:23Z) - Nesterov Accelerated ADMM for Fast Diffeomorphic Image Registration [63.15453821022452]
ディープラーニングに基づくアプローチの最近の発展は、DiffIRのサブ秒間実行を実現している。
本稿では,中間定常速度場を機能的に構成する簡易な反復スキームを提案する。
次に、任意の順序の正規化項を用いて、これらの速度場に滑らかさを課す凸最適化モデルを提案する。
論文 参考訳(メタデータ) (2021-09-26T19:56:45Z) - Learning High Dimensional Wasserstein Geodesics [55.086626708837635]
高次元の2つの確率分布の間のワッサーシュタイン測地線を計算するための新しい定式化と学習戦略を提案する。
ラグランジュ乗算器の手法を最適輸送(OT)問題の動的定式化に適用することにより、サドル点がワッサーシュタイン測地線であるミニマックス問題を導出する。
次に、深層ニューラルネットワークによる関数のパラメータ化を行い、トレーニングのためのサンプルベースの双方向学習アルゴリズムを設計する。
論文 参考訳(メタデータ) (2021-02-05T04:25:28Z) - Continuous Wasserstein-2 Barycenter Estimation without Minimax
Optimization [94.18714844247766]
ワッサーシュタイン・バリセンターは、最適輸送に基づく確率測度の重み付き平均の幾何学的概念を提供する。
本稿では,Wasserstein-2 バリセンタのサンプルアクセスを演算するスケーラブルなアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-02-02T21:01:13Z) - Efficient Wasserstein Natural Gradients for Reinforcement Learning [31.15380502703101]
政策勾配法および強化学習のための進化戦略への新しい最適化手法を提案する。
この手順は、ワッサーシュタインのペナルティによって誘導される幾何を利用して速度最適化を行う計算効率の良いワッサーシュタイン自然勾配(WNG)降下を用いる。
論文 参考訳(メタデータ) (2020-10-12T00:50:17Z) - A Near-Optimal Gradient Flow for Learning Neural Energy-Based Models [93.24030378630175]
学習エネルギーベースモデル(EBM)の勾配流を最適化する新しい数値スキームを提案する。
フォッカー・プランク方程式から大域相対エントロピーの2階ワッサーシュタイン勾配流を導出する。
既存のスキームと比較して、ワッサーシュタイン勾配流は実データ密度を近似するより滑らかで近似的な数値スキームである。
論文 参考訳(メタデータ) (2019-10-31T02:26:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。