論文の概要: When Relation Networks meet GANs: Relation GANs with Triplet Loss

• arxiv url: http://arxiv.org/abs/2002.10174v3
• Date: Tue, 17 Mar 2020 03:28:57 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-29 03:48:13.788787
• Title: When Relation Networks meet GANs: Relation GANs with Triplet Loss
• Title（参考訳）: 関係ネットワークがGANと出会う時--トリプルト損失と関係GAN
• Authors: Runmin Wu, Kunyao Zhang, Lijun Wang, Yue Wang, Pingping Zhang, Huchuan Lu, Yizhou Yu
• Abstract要約: GAN(Generative Adversarial Network)の学習安定性はいまだに悩みの種である 本稿では,判別器のための関係ネットワークアーキテクチャについて検討し,より優れた一般化と安定性を実現する三重項損失を設計する。 ベンチマークデータセットの実験により、提案された関係判別器と新たな損失は、可変視覚タスクに大幅な改善をもたらすことが示された。
• 参考スコア（独自算出の注目度）: 110.7572918636599
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Though recent research has achieved remarkable progress in generating realistic images with generative adversarial networks (GANs), the lack of training stability is still a lingering concern of most GANs, especially on high-resolution inputs and complex datasets. Since the randomly generated distribution can hardly overlap with the real distribution, training GANs often suffers from the gradient vanishing problem. A number of approaches have been proposed to address this issue by constraining the discriminator's capabilities using empirical techniques, like weight clipping, gradient penalty, spectral normalization etc. In this paper, we provide a more principled approach as an alternative solution to this issue. Instead of training the discriminator to distinguish real and fake input samples, we investigate the relationship between paired samples by training the discriminator to separate paired samples from the same distribution and those from different distributions. To this end, we explore a relation network architecture for the discriminator and design a triplet loss which performs better generalization and stability. Extensive experiments on benchmark datasets show that the proposed relation discriminator and new loss can provide significant improvement on variable vision tasks including unconditional and conditional image generation and image translation.
• Abstract（参考訳）: 最近の研究は、gans(generative adversarial network)による現実的な画像の生成において顕著な進歩を遂げているが、トレーニングの安定性の欠如は、多くのgans、特に高解像度入力や複雑なデータセットにおいて依然として重要な関心事である。 ランダムに生成された分布は実際の分布とほとんど重複しないため、訓練用GANは勾配消滅問題に悩まされることが多い。 この問題に対処するために、重量クリッピング、勾配ペナルティ、スペクトル正規化などの経験的手法を用いて判別器の能力を制限する多くのアプローチが提案されている。 本稿では,この問題に対する代替案として,より原則的なアプローチを提案する。 そこで,同一分布と異なる分布のサンプルを識別するために,識別器を訓練することにより,実および偽の入力サンプルを識別する代わりに,ペアサンプル間の関係を調べる。 この目的のために,判別器の関係ネットワークアーキテクチャを探索し,一般化と安定性を向上させる三重項損失の設計を行う。 ベンチマークデータセットに関する広範囲な実験により、提案する関係判別器と新たな損失は、無条件および条件付き画像生成および画像変換を含む可変視覚タスクにおいて著しい改善をもたらすことが示された。

関連論文リスト

• Understanding normalization in contrastive representation learning and out-of-distribution detection [0.0]
  コントラッシブ・ラーニングに基づく簡易な手法を提案し, コントラッシブ・ラーニング空間における正規サンプルを識別することにより, 分布外データを含む手法を提案する。 われわれのアプローチは、OE(outlier exposure)アプローチや、完全に自己教師付き学習アプローチとして柔軟に適用できる。 対照的な学習を通じて学んだ高品質な機能は、利用可能なアウト・オブ・ディストリビューションデータセットが十分な多様性を持っていない場合でも、OEシナリオのパフォーマンスを一貫して向上させる。
  論文  参考訳（メタデータ） (2023-12-23T16:05:47Z)
• Tackling Diverse Minorities in Imbalanced Classification [80.78227787608714]
  不均衡データセットは、様々な現実世界のアプリケーションで一般的に見られ、分類器の訓練において重要な課題が提示されている。 マイノリティクラスとマイノリティクラスの両方のデータサンプルを混合することにより、反復的に合成サンプルを生成することを提案する。 提案するフレームワークの有効性を,7つの公開ベンチマークデータセットを用いて広範な実験により実証する。
  論文  参考訳（メタデータ） (2023-08-28T18:48:34Z)
• Heterogeneous Target Speech Separation [52.05046029743995]
  我々は,非相互排他的概念を用いて興味のあるソースを区別できる単一チャネルターゲットソース分離のための新しいパラダイムを提案する。 提案する異種分離フレームワークは,分散シフトが大きいデータセットをシームレスに利用することができる。
  論文  参考訳（メタデータ） (2022-04-07T17:14:20Z)
• Investigating Shifts in GAN Output-Distributions [5.076419064097734]
  本稿では,実学習データとGAN生成データの分布の可観測的変化を系統的に調査するためのループ学習手法を提案する。 全体として、これらの手法を組み合わせることで、現在のGANアルゴリズムの自然的制限を爆発的に調査することができる。
  論文  参考訳（メタデータ） (2021-12-28T09:16:55Z)
• Decentralized Local Stochastic Extra-Gradient for Variational Inequalities [125.62877849447729]
  我々は、不均一(非IID)で多くのデバイスに分散する問題データを持つ領域上での分散変分不等式(VIs)を考察する。 我々は、完全に分散化された計算の設定を網羅する計算ネットワークについて、非常に一般的な仮定を行う。 理論的には, モノトン, モノトンおよび非モノトンセッティングにおける収束速度を理論的に解析する。
  論文  参考訳（メタデータ） (2021-06-15T17:45:51Z)
• Lessons Learned from the Training of GANs on Artificial Datasets [0.0]
  GAN(Generative Adversarial Networks)は,近年,現実的な画像の合成において大きな進歩を遂げている。 GANは不適合や過度に適合する傾向があり、分析が困難で制約を受ける。 無限に多くのサンプルがあり、実際のデータ分布は単純である人工データセットでトレーニングする。 GANのトレーニング混合物はネットワークの深さや幅を増大させるよりもパフォーマンスが向上することがわかった。
  論文  参考訳（メタデータ） (2020-07-13T14:51:02Z)
• Robust Federated Learning: The Case of Affine Distribution Shifts [41.27887358989414]
  我々は,ユーザのサンプルの分布変化に対して良好な性能を実現するための,堅牢なフェデレーション学習アルゴリズムを開発した。 新しいテストユーザにおいて,アフィン分布シフトは学習者分類器の性能を著しく低下させるのに十分であることを示す。
  論文  参考訳（メタデータ） (2020-06-16T03:43:59Z)
• Learning What Makes a Difference from Counterfactual Examples and Gradient Supervision [57.14468881854616]
  ニューラルネットワークの一般化能力を改善するための補助的学習目標を提案する。 我々は、異なるラベルを持つ最小差の例のペア、すなわち反ファクトまたはコントラストの例を使用し、タスクの根底にある因果構造を示す信号を与える。 このテクニックで訓練されたモデルは、配布外テストセットのパフォーマンスを向上させる。
  論文  参考訳（メタデータ） (2020-04-20T02:47:49Z)
• Feature Quantization Improves GAN Training [126.02828112121874]
  識別器の特徴量子化(FQ)は、真と偽のデータの両方を共有離散空間に埋め込む。 本手法は,既存のGANモデルに容易に接続でき,訓練における計算オーバーヘッドがほとんどない。
  論文  参考訳（メタデータ） (2020-04-05T04:06:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。