論文の概要: Efficient Conditional GAN Transfer with Knowledge Propagation across Classes

• arxiv url: http://arxiv.org/abs/2102.06696v1
• Date: Fri, 12 Feb 2021 18:55:34 GMT
• ステータス: 処理完了
• システム内更新日: 2021-02-15 19:40:34.072856
• Title: Efficient Conditional GAN Transfer with Knowledge Propagation across Classes
• Title（参考訳）: クラス間の知識伝播による効率的な条件付きGAN転送
• Authors: Mohamad Shahbazi, Zhiwu Huang, Danda Pani Paudel, Ajad Chhatkuli, Luc Van Gool
• Abstract要約: CGANは、無条件設定と比較して新しい知識移転の機会を提供します。 新しいクラスは、関連する古いクラスから知識を借りたり、トレーニングを改善するために知識を共有したりする。 新しいGAN転送手法は、古いクラスから新しいクラスへの知識を明示的に伝達する。
• 参考スコア（独自算出の注目度）: 85.38369543858516
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generative adversarial networks (GANs) have shown impressive results in both unconditional and conditional image generation. In recent literature, it is shown that pre-trained GANs, on a different dataset, can be transferred to improve the image generation from a small target data. The same, however, has not been well-studied in the case of conditional GANs (cGANs), which provides new opportunities for knowledge transfer compared to unconditional setup. In particular, the new classes may borrow knowledge from the related old classes, or share knowledge among themselves to improve the training. This motivates us to study the problem of efficient conditional GAN transfer with knowledge propagation across classes. To address this problem, we introduce a new GAN transfer method to explicitly propagate the knowledge from the old classes to the new classes. The key idea is to enforce the popularly used conditional batch normalization (BN) to learn the class-specific information of the new classes from that of the old classes, with implicit knowledge sharing among the new ones. This allows for an efficient knowledge propagation from the old classes to the new classes, with the BN parameters increasing linearly with the number of new classes. The extensive evaluation demonstrates the clear superiority of the proposed method over state-of-the-art competitors for efficient conditional GAN transfer tasks. The code will be available at: https://github.com/mshahbazi72/cGANTransfer
• Abstract（参考訳）: GAN(Generative Adversarial Network)は,非条件画像生成と条件画像生成の両方において顕著な結果を示した。 近年の文献では、訓練済みのGANは、異なるデータセット上で、小さなターゲットデータから画像生成を改善するために転送可能であることが示されている。 しかし, 条件付きGAN(cGAN)では, 条件なしのセットアップに比べて, 知識伝達の新たな機会となることが確認されていない。 特に、新しいクラスは関連する古いクラスから知識を借りたり、トレーニングを改善するために知識を共有したりすることができる。 このことは、クラス間の知識伝播を伴う効率的な条件付きGAN転送の問題を研究する動機となっている。 この問題に対処するために,従来のクラスから新しいクラスへの知識を明示的に伝達する新しいGAN転送手法を提案する。 鍵となるアイデアは、広く使われている条件付きバッチ正規化(bn)を強制して、新しいクラスのクラス固有の情報を古いクラスから学び、新しいクラス間で暗黙の知識を共有することである。 これにより、古いクラスから新しいクラスへの効率的な知識伝達が可能になり、BNパラメータは新しいクラスの数と直線的に増加する。 提案手法は, 効率的な条件付きGAN転送タスクに対して, 最先端の競合相手よりも明らかに優れていることを示す。 コードは以下の通り。 https://github.com/mshahbazi72/cGANTransfer

関連論文リスト

• Taming the Tail in Class-Conditional GANs: Knowledge Sharing via Unconditional Training at Lower Resolutions [10.946446480162148]
  GANはより多くのサンプルを持つクラスを好む傾向があり、尾クラスの低品質で多様性の低いサンプルが生成される。 そこで我々は,より豊富な学習データを持つクラスから,テールクラスが豊富な情報から借用できる,知識共有の単純かつ効果的な方法を提案する。 いくつかのロングテールベンチマークとGANアーキテクチャの実験は、生成された画像の多様性と忠実さの両方において、既存の手法よりも大幅に改善されていることを示している。
  論文  参考訳（メタデータ） (2024-02-26T23:03:00Z)
• Learning Prompt with Distribution-Based Feature Replay for Few-Shot Class-Incremental Learning [56.29097276129473]
  分散型特徴再現(LP-DiF)を用いた学習プロンプト(Learning Prompt)という,シンプルで効果的なフレームワークを提案する。 新しいセッションでは,学習可能なプロンプトが古い知識を忘れないようにするため,擬似機能的リプレイ手法を提案する。 新しいセッションに進むと、古いクラスのディストリビューションと現在のセッションのトレーニングイメージを組み合わせて擬似フィーチャーをサンプリングして、プロンプトを最適化する。
  論文  参考訳（メタデータ） (2024-01-03T07:59:17Z)
• Bridged-GNN: Knowledge Bridge Learning for Effective Knowledge Transfer [65.42096702428347]
  グラフニューラルネットワーク(GNN)は、隣接するノードから情報を集約する。 知識ブリッジ学習(KBL)は、対象ドメインに対する知識強化後部分布を学習する。 Bridged-GNNには、Bridged-Graphを構築するためのAdaptive Knowledge Retrievalモジュールと、Graph Knowledge Transferモジュールが含まれている。
  論文  参考訳（メタデータ） (2023-08-18T12:14:51Z)
• Class-relation Knowledge Distillation for Novel Class Discovery [16.461242381109276]
  主な課題は、既知のクラスデータの知識を新しいクラスの学習に転送することである。 本稿では,既知のクラスに基づいて学習したモデルの予測クラス分布に基づいて,新しいクラスに対するクラス関係表現を提案する。 本稿では,クラス関係表現を利用して新しいクラスの学習を規則化する新しい知識蒸留フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-07-18T11:35:57Z)
• Mutual Information-guided Knowledge Transfer for Novel Class Discovery [23.772336970389834]
  本稿では,目に見えるクラスと目に見えないクラス間で意味的知識を伝達する原理と一般的な手法を提案する。 提案手法は,いくつかのベンチマークにおいて,従来のSOTAよりも有意差があることが示唆された。
  論文  参考訳（メタデータ） (2022-06-24T03:52:25Z)
• Collapse by Conditioning: Training Class-conditional GANs with Limited Data [109.30895503994687]
  非条件学習を活用することにより、観測モード崩壊を効果的に防止する条件付きGAN(cGAN)のトレーニング戦略を提案する。 我々のトレーニング戦略は、無条件のGANから始まり、徐々に条件情報をジェネレータと目的関数に注入する。 安定したトレーニングだけでなく,高品質な画像を生成するために,限られたデータでcGANを訓練する手法を提案する。
  論文  参考訳（メタデータ） (2022-01-17T18:59:23Z)
• Long-tail Recognition via Compositional Knowledge Transfer [60.03764547406601]
  末尾クラスの少数ショット問題に対処する長尾認識のための新しい戦略を導入する。 我々の目標は、情報に富んだ共通クラスから得られた知識を、意味的に類似しているがデータに富む稀なクラスに伝達することである。 実験結果から,本手法は稀なクラスにおいて,堅牢な共通クラス性能を維持しつつ,大幅な性能向上を達成できることが示唆された。
  論文  参考訳（メタデータ） (2021-12-13T15:48:59Z)
• Partial Is Better Than All: Revisiting Fine-tuning Strategy for Few-shot Learning [76.98364915566292]
  一般的なプラクティスは、まずベースセット上でモデルをトレーニングし、その後、微調整によって新しいクラスに移行することである。 本稿では,基本モデル内の特定の層を凍結あるいは微調整することにより,部分的知識の伝達を提案する。 提案手法の有効性を実証するために, CUB と mini-ImageNet の広範な実験を行った。
  論文  参考訳（メタデータ） (2021-02-08T03:27:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。