論文の概要: Statistical inference for generative adversarial networks and other
minimax problems
- arxiv url: http://arxiv.org/abs/2104.10601v2
- Date: Tue, 5 Dec 2023 12:28:33 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-06 20:48:32.218304
- Title: Statistical inference for generative adversarial networks and other
minimax problems
- Title(参考訳): 生成逆ネットワークと他のミニマックス問題の統計的推論
- Authors: Mika Meitz
- Abstract要約: 本稿では,GAN(Generative Adversarial Network)を統計的推論の観点から検討する。
GANは、2つのニューラルネットワーク、ジェネレータ、識別器のパラメータを推定し、特定のミニマックス問題の解法として一般的な機械学習手法である。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper studies generative adversarial networks (GANs) from the
perspective of statistical inference. A GAN is a popular machine learning
method in which the parameters of two neural networks, a generator and a
discriminator, are estimated to solve a particular minimax problem. This
minimax problem typically has a multitude of solutions and the focus of this
paper are the statistical properties of these solutions. We address two key
statistical issues for the generator and discriminator network parameters,
consistent estimation and confidence sets. We first show that the set of
solutions to the sample GAN problem is a (Hausdorff) consistent estimator of
the set of solutions to the corresponding population GAN problem. We then
devise a computationally intensive procedure to form confidence sets and show
that these sets contain the population GAN solutions with the desired coverage
probability. Small numerical experiments and a Monte Carlo study illustrate our
results and verify our theoretical findings. We also show that our results
apply in general minimax problems that may be non-convex, non-concave, and have
multiple solutions.
- Abstract(参考訳): 本稿では,GAN(Generative Adversarial Network)を統計的推論の観点から検討する。
GANは、2つのニューラルネットワーク(ジェネレータと識別器)のパラメータを推定して特定のミニマックス問題を解く、一般的な機械学習手法である。
このミニマックス問題は通常多数の解を持ち、本論文の焦点はこれらの解の統計的性質である。
本稿では,ジェネレータと識別器ネットワークパラメータ,一貫した推定と信頼セットの2つの重要な統計問題に対処する。
まず、サンプル GAN 問題に対する解の集合は、対応する集団 GAN 問題に対する解の集合の(ハウスドルフ)一貫した推定子であることを示す。
次に,信頼集合を形成するための計算集約的な手続きを考案し,これらの集合が所望のカバレッジ確率を持つ人口gan解を含むことを示す。
小さな数値実験とモンテカルロの研究は、我々の結果を示し、理論的な結果を検証する。
また、この結果は、非凸、非凸、複数の解を持つ一般的なミニマックス問題にも適用できることを示した。
関連論文リスト
- Finding Nontrivial Minimum Fixed Points in Discrete Dynamical Systems [29.7237944669855]
影響を受けるノードの最小数でシステムの非自明な固定点を求めるという新しい最適化問題を定式化する。
この計算難易度に対処するため,この問題を効率的に解決できる特別な事例をいくつか挙げる。
大規模ネットワーク上での問題を解くため,グリーディ選択法とともに汎用的なフレームワークを提案する。
論文 参考訳(メタデータ) (2023-01-06T14:46:01Z) - Robust Estimation for Nonparametric Families via Generative Adversarial
Networks [92.64483100338724]
我々は,高次元ロバストな統計問題を解くためにGAN(Generative Adversarial Networks)を設計するためのフレームワークを提供する。
我々の研究は、これらをロバスト平均推定、第二モーメント推定、ロバスト線形回帰に拡張する。
技術面では、提案したGAN損失は、スムーズで一般化されたコルモゴロフ-スミルノフ距離と見なすことができる。
論文 参考訳(メタデータ) (2022-02-02T20:11:33Z) - Distributed Sparse Regression via Penalization [5.990069843501885]
エージェントのネットワーク上の線形回帰を、(集中ノードを持たない)無向グラフとしてモデル化する。
推定問題は、局所的なLASSO損失関数の和とコンセンサス制約の2次ペナルティの最小化として定式化される。
本稿では, ペナル化問題に適用した近似勾配アルゴリズムが, 集中的な統計的誤差の順序の許容値まで線形に収束することを示す。
論文 参考訳(メタデータ) (2021-11-12T01:51:50Z) - Generalization of Neural Combinatorial Solvers Through the Lens of
Adversarial Robustness [68.97830259849086]
ほとんどのデータセットは単純なサブプロブレムのみをキャプチャし、おそらくは突発的な特徴に悩まされる。
本研究では, 局所的な一般化特性である対向ロバスト性について検討し, 厳密でモデル固有な例と突発的な特徴を明らかにする。
他のアプリケーションとは異なり、摂動モデルは知覚できないという主観的な概念に基づいて設計されているため、摂動モデルは効率的かつ健全である。
驚くべきことに、そのような摂動によって、十分に表現力のあるニューラルソルバは、教師あり学習で共通する正確さと悪質さのトレードオフの限界に悩まされない。
論文 参考訳(メタデータ) (2021-10-21T07:28:11Z) - Decentralized Personalized Federated Learning for Min-Max Problems [79.61785798152529]
本稿では,より広い範囲の最適化問題を含むサドル点問題に対して,PFLを初めて検討した。
この問題に対処するための新しいアルゴリズムを提案し、滑らかな(強く)凸-(強く)凹点問題を理論的に解析する。
両線形問題に対する数値実験と, 対向雑音を有するニューラルネットワークは, 提案手法の有効性を実証する。
論文 参考訳(メタデータ) (2021-06-14T10:36:25Z) - Learning Minimax Estimators via Online Learning [55.92459567732491]
確率分布のパラメータを推定するミニマックス推定器を設計する際の問題点を考察する。
混合ケースナッシュ平衡を求めるアルゴリズムを構築した。
論文 参考訳(メタデータ) (2020-06-19T22:49:42Z) - Erdos Goes Neural: an Unsupervised Learning Framework for Combinatorial
Optimization on Graphs [35.14404918074861]
本研究では,グラフ上での組合せ最適化問題に対する教師なし学習フレームワークを提案する。
エルドスの確率論的手法に触発され、ニューラルネットワークを用いて集合上の確率分布をパラメータ化する。
ネットワークが適切に選択された損失に最適化された場合、学習された分布は、制御された確率、低コストな積分解を含むことを示す。
論文 参考訳(メタデータ) (2020-06-18T16:13:36Z) - GANs with Conditional Independence Graphs: On Subadditivity of
Probability Divergences [70.30467057209405]
GAN(Generative Adversarial Networks)は、データセットの基盤となる分布を学習するための現代的な手法である。
GANは、基礎となるディストリビューションに関する追加情報がないモデルフリーで設計されている。
本稿では,ベイズネット/MRFの近傍に単純な識別器群を用いたモデルベースGANの設計を提案する。
論文 参考訳(メタデータ) (2020-03-02T04:31:22Z) - When Relation Networks meet GANs: Relation GANs with Triplet Loss [110.7572918636599]
GAN(Generative Adversarial Network)の学習安定性はいまだに悩みの種である
本稿では,判別器のための関係ネットワークアーキテクチャについて検討し,より優れた一般化と安定性を実現する三重項損失を設計する。
ベンチマークデータセットの実験により、提案された関係判別器と新たな損失は、可変視覚タスクに大幅な改善をもたらすことが示された。
論文 参考訳(メタデータ) (2020-02-24T11:35:28Z) - Convolutional Neural Networks as Summary Statistics for Approximate
Bayesian Computation [0.0]
本稿では,時間応答の情報的要約統計を自動学習する畳み込みニューラルネットワークアーキテクチャを提案する。
提案するネットワークは,ABC推論における前処理ステップの統計選択問題を効果的に回避できることを示す。
論文 参考訳(メタデータ) (2020-01-31T10:46:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。