論文の概要: IID-GAN: an IID Sampling Perspective for Regularizing Mode Collapse
- arxiv url: http://arxiv.org/abs/2106.00563v3
- Date: Tue, 20 Jun 2023 10:56:28 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-22 06:45:39.319802
- Title: IID-GAN: an IID Sampling Perspective for Regularizing Mode Collapse
- Title(参考訳): IID-GAN : モード崩壊の正規化のためのIIDサンプリング視点
- Authors: Yang Li, Liangliang Shi, Junchi Yan
- Abstract要約: GAN(Generative Adversarial Network)はまだモード崩壊に悩まされている。
我々は、この問題を独立かつ同一に分散されたIIDサンプリング視点で分析し、規則化しようと試みる。
本稿では,実データの逆サンプルとガウス音源との近接性を高め,対象分布から生成するIIDを正規化するための新たな損失を提案する。
- 参考スコア(独自算出の注目度): 82.49564071049366
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Despite its success, generative adversarial networks (GANs) still suffer from
mode collapse, i.e., the generator can only map latent variables to a partial
set of modes in the target distribution. In this paper, we analyze and seek to
regularize this issue with an independent and identically distributed (IID)
sampling perspective and emphasize that holding the IID property referring to
the target distribution for generation can naturally avoid mode collapse. This
is based on the basic IID assumption for real data in machine learning.
However, though the source samples {z} obey IID, the generations {G(z)} may not
necessarily be IID sampling from the target distribution. Based on this
observation, considering a necessary condition of IID generation that the
inverse samples from target data should also be IID in the source distribution,
we propose a new loss to encourage the closeness between inverse samples of
real data and the Gaussian source in latent space to regularize the generation
to be IID from the target distribution. Experiments on both synthetic and
real-world data show the effectiveness of our model.
- Abstract(参考訳): その成功にもかかわらず、gans(generative adversarial networks)は依然としてモードの崩壊に苦しんでいる。
本稿では,この問題を,独立かつ同一分布のIIDサンプリング視点で解析・正規化し,生成対象分布を参照するIID特性の保持が自然にモード崩壊を回避することを強調する。
これは機械学習の実際のデータに対する基本的なiid仮定に基づいている。
しかし、ソースサンプル {z} は IID に従うが、世代 {G(z)} は必ずしもターゲット分布から IID をサンプリングするとは限らない。
そこで本研究では,対象データからの逆サンプルもソース分布でiidであるべきというiid生成の必要条件を考慮して,実データの逆サンプルと潜在空間におけるガウス音源との密接性を促進する新たな損失を提案し,対象分布からiidとなる生成を定式化する。
合成データと実世界のデータの両方で実験を行った結果,本モデルの有効性が示された。
関連論文リスト
- FedUV: Uniformity and Variance for Heterogeneous Federated Learning [5.9330433627374815]
フェデレーション学習は、広く分散されたデータでニューラルネットワークをトレーニングするための有望なフレームワークである。
最近の研究によると、ネットワークの最終層が局所バイアスの傾向が最も大きいためである。
凍結重量が一定の特異値をもたらすという観測によって動機付けられた重みにSVDを適用して分類器の訓練力学を考察する。
論文 参考訳(メタデータ) (2024-02-27T15:53:15Z) - Time-series Generation by Contrastive Imitation [87.51882102248395]
モーメントマッチングの目的によってモチベーションされ、複合的エラーを軽減し、局所的(しかし前方的な)遷移ポリシーを最適化する。
推論において、学習されたポリシーは反復的なサンプリングのジェネレータとして機能し、学習されたエネルギーはサンプルの品質を評価するための軌道レベル尺度として機能する。
論文 参考訳(メタデータ) (2023-11-02T16:45:25Z) - Delta-AI: Local objectives for amortized inference in sparse graphical models [64.5938437823851]
スパース確率的グラフィカルモデル(PGM)における補正推論のための新しいアルゴリズムを提案する。
提案手法は, PGMにおける変数のサンプリングをエージェントが行う一連の行動とみなす場合, エージェントのポリシー学習目的において, PGMの疎結合が局所的な信用割当を可能にするという観察に基づいている。
合成PGMからサンプリングし、スパース因子構造を持つ潜在変数モデルを訓練するための$Delta$-AIの有効性について説明する。
論文 参考訳(メタデータ) (2023-10-03T20:37:03Z) - Breaking the Spurious Causality of Conditional Generation via Fairness
Intervention with Corrective Sampling [77.15766509677348]
条件生成モデルは、トレーニングデータセットから急激な相関を継承することが多い。
これは別の潜在属性に対して不均衡なラベル条件分布をもたらす。
この問題を緩和するための一般的な2段階戦略を提案する。
論文 参考訳(メタデータ) (2022-12-05T08:09:33Z) - Distribution Fitting for Combating Mode Collapse in Generative
Adversarial Networks [1.5769569085442372]
モード崩壊は、生成的敵ネットワークの重要な未解決問題である。
本稿では, ペナルティ項付きグローバル分散フィッティング(GDF)法を提案し, 生成したデータ分布を限定する。
また,実データ全体の到達不能時の状況に対処する局所分布フィッティング法(LDF)を提案する。
論文 参考訳(メタデータ) (2022-12-03T03:39:44Z) - Learning by Erasing: Conditional Entropy based Transferable Out-Of-Distribution Detection [17.31471594748061]
トレーニングとテストシナリオ間の分散シフトを処理するためには、アウト・オブ・ディストリビューション(OOD)検出が不可欠である。
既存の方法は、データセット固有の特徴表現やデータ分散をキャプチャするために、再トレーニングを必要とする。
我々は,新しいIDデータセットで再トレーニングする必要がない,DGMに基づく転送可能なOOD検出手法を提案する。
論文 参考訳(メタデータ) (2022-04-23T10:19:58Z) - Self-Conditioned Generative Adversarial Networks for Image Editing [61.50205580051405]
Generative Adversarial Networks (GAN) はバイアスの影響を受けやすい。
我々は、このバイアスが公平性だけでなく、分布のコアから逸脱する際の潜在トラバース編集手法の崩壊に重要な役割を果たしていると論じる。
論文 参考訳(メタデータ) (2022-02-08T18:08:24Z) - Gradual Domain Adaptation in the Wild:When Intermediate Distributions
are Absent [32.906658998929394]
目標が目標分布に向かってモデルをシフトさせる場合、ドメイン適応の問題に焦点をあてる。
本稿では,ソース領域とターゲット領域の例を補間することで,中間分布から仮想サンプルを作成するGIFTを提案する。
論文 参考訳(メタデータ) (2021-06-10T22:47:06Z) - Global Distance-distributions Separation for Unsupervised Person
Re-identification [93.39253443415392]
既存の教師なしのReIDアプローチは、距離ベースのマッチング/ランク付けを通じて正のサンプルと負のサンプルを正しく識別するのに失敗することが多い。
本研究では,2つの分布に対する大域的距離分布分離の制約を導入し,大域的視点から正と負のサンプルを明確に分離することを奨励する。
本研究では,本手法がベースラインを大幅に改善し,最先端の性能を実現することを示す。
論文 参考訳(メタデータ) (2020-06-01T07:05:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。