論文の概要: Score-based Conditional Generation with Fewer Labeled Data by
Self-calibrating Classifier Guidance
- arxiv url: http://arxiv.org/abs/2307.04081v2
- Date: Sat, 30 Sep 2023 09:35:46 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-03 13:41:40.064015
- Title: Score-based Conditional Generation with Fewer Labeled Data by
Self-calibrating Classifier Guidance
- Title（参考訳）: 自己校正分類器指導によるラベルデータ少ないスコアベース条件生成
- Authors: Paul Kuo-Ming Huang, Si-An Chen, Hsuan-Tien Lin
- Abstract要約: SGM(Score-based Generative Model)は、画像生成品質の高い深層生成モデルのファミリである。
分類器を正規化して非条件分布を尊重することにより、分類器誘導型SGMを改善することを提案する。
実験結果から,提案手法はラベル付きデータが少ない様々なパーセンテージで条件付き生成品質を著しく向上することが示された。
- 参考スコア（独自算出の注目度）: 16.025002076222002
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Score-based generative models (SGMs) are a popular family of deep generative
models that achieve leading image generation quality. Early studies extend SGMs
to tackle class-conditional generation by coupling an unconditional SGM with
the guidance of a trained classifier. Nevertheless, such classifier-guided SGMs
do not always achieve accurate conditional generation, especially when trained
with fewer labeled data. We argue that the problem is rooted in the
classifier's tendency to overfit without coordinating with the underlying
unconditional distribution. We propose improving classifier-guided SGMs by
letting the classifier regularize itself to respect the unconditional
distribution. Our key idea is to use principles from energy-based models to
convert the classifier as another view of the unconditional SGM. Then, existing
loss for the unconditional SGM can be leveraged to achieve regularization by
calibrating the classifier's internal unconditional scores. The regularization
scheme can be applied to not only the labeled data but also unlabeled ones to
further improve the classifier. Empirical results show that the proposed
approach significantly improves conditional generation quality across various
percentages of fewer labeled data. The results confirm the potential of the
proposed approach for generative modeling with limited labeled data.
- Abstract（参考訳）: SGM(Score-based Generative Model)は、画像生成品質の高い深層生成モデルのファミリである。
初期の研究では、未条件のSGMと訓練された分類器のガイダンスを結合することにより、SGMをクラス条件の生成に取り組むよう拡張した。
しかしながら、そのような分類器誘導型SGMは、特にラベル付きデータが少ない場合、正確な条件生成を必ずしも達成しない。
この問題は、下層の非条件分布と協調することなく、分類器が過度に適合する傾向に根ざしていると論じる。
分類器を正規化して非条件分布を尊重することにより、分類器誘導型SGMの改善を提案する。
我々のキーとなる考え方は、エネルギーモデルからの原理を使って分類器を無条件SGMの別の見方に変換することである。
そして、未条件SGMの既存の損失を利用して、分類器の内部無条件スコアを校正することで正規化を達成できる。
正規化スキームはラベル付きデータだけでなくラベルなしデータにも適用でき、さらに分類器を改善することができる。
実験結果から,提案手法はラベル付きデータが少ない様々なパーセンテージで条件生成品質を著しく向上することが示された。
その結果,限定ラベルデータを用いた生成モデルに対する提案手法の可能性が確認された。
関連論文リスト
- Exploring Beyond Logits: Hierarchical Dynamic Labeling Based on Embeddings for Semi-Supervised Classification [49.09505771145326]
モデル予測に依存しない階層型動的ラベル付け(HDL)アルゴリズムを提案し,画像埋め込みを用いてサンプルラベルを生成する。
本手法は,半教師付き学習における擬似ラベル生成のパラダイムを変える可能性がある。
論文 参考訳（メタデータ） (2024-04-26T06:00:27Z) - Generative Robust Classification [3.4773470589069477]
相対的に頑健な差別的分類(ソフトマックス)の訓練は、頑健な分類に対する主要なアプローチである。
本稿では, 対人訓練(AT)に基づく生成モデルについて検討する。
アプローチの堅牢性を向上するために、高度なデータ拡張を適用するのは簡単です。
論文 参考訳（メタデータ） (2022-12-14T15:33:11Z) - Parametric Classification for Generalized Category Discovery: A Baseline
Study [70.73212959385387]
Generalized Category Discovery (GCD)は、ラベル付きサンプルから学習した知識を用いて、ラベルなしデータセットで新しいカテゴリを発見することを目的としている。
パラメトリック分類器の故障を調査し,高品質な監視が可能であった場合の過去の設計選択の有効性を検証し,信頼性の低い疑似ラベルを重要課題として同定する。
エントロピー正規化の利点を生かし、複数のGCDベンチマークにおける最先端性能を実現し、未知のクラス数に対して強いロバスト性を示す、単純で効果的なパラメトリック分類法を提案する。
論文 参考訳（メタデータ） (2022-11-21T18:47:11Z) - NorMatch: Matching Normalizing Flows with Discriminative Classifiers for
Semi-Supervised Learning [8.749830466953584]
Semi-Supervised Learning (SSL)は、小さなラベル付きセットと大量のラベルなしデータを使ってモデルを学習することを目的としている。
この作業では、NorMatchというSSLの新しいフレームワークを紹介します。
数値的および視覚的な結果を通して、NorMatchはいくつかのデータセットで最先端のパフォーマンスを達成することを実証する。
論文 参考訳（メタデータ） (2022-11-17T15:39:18Z) - Zero-Shot Logit Adjustment [89.68803484284408]
Generalized Zero-Shot Learning (GZSL) は意味記述に基づく学習技術である。
本稿では,分類器の改良を無視しつつ,ジェネレータの効果を高める新しい世代ベース手法を提案する。
実験により,提案手法が基本生成器と組み合わせた場合の最先端化を実現し,様々なゼロショット学習フレームワークを改良できることが実証された。
論文 参考訳（メタデータ） (2022-04-25T17:54:55Z) - Dual Projection Generative Adversarial Networks for Conditional Image
Generation [26.563829113916942]
本稿では、エムデータマッチングとエムラベルマッチングのバランスをとることを学習するDual Projection GAN(P2GAN)モデルを提案する。
次に、Auxiliary Classificationを用いた改良されたcGANモデルを提案し、$f$-divergenceを最小化することで、偽条件および実条件を$P(textclass|textimage)$と直列に調整する。
論文 参考訳（メタデータ） (2021-08-20T06:10:38Z) - Score-based Generative Modeling in Latent Space [93.8985523558869]
スコアベース生成モデル(SGM)は,最近,サンプル品質と分布範囲の両面で顕著な結果を示した。
本稿では,Latent Score-based Generative Model (LSGM)を提案する。
データから潜在空間への移動により、より表現力のある生成モデルをトレーニングし、非連続データにSGMを適用し、よりスムーズなSGMをより小さな空間で学習することができる。
論文 参考訳（メタデータ） (2021-06-10T17:26:35Z) - Classify and Generate Reciprocally: Simultaneous Positive-Unlabelled
Learning and Conditional Generation with Extra Data [77.31213472792088]
クラスラベルデータの不足は、多くの機械学習問題において、ユビキタスなボトルネックとなっている。
本稿では, 正負ラベル付き(PU)分類と, 余分なラベル付きデータによる条件生成を活用することで, この問題に対処する。
本稿では,PU分類と条件生成を併用した新たなトレーニングフレームワークを提案する。
論文 参考訳（メタデータ） (2020-06-14T08:27:40Z) - Pre-training Is (Almost) All You Need: An Application to Commonsense
Reasoning [61.32992639292889]
事前学習されたトランスモデルの微調整は、一般的なNLPタスクを解決するための標準的なアプローチとなっている。
そこで本研究では,可視性ランキングタスクをフルテキスト形式でキャストする新たなスコアリング手法を提案する。
提案手法は, ランダム再起動にまたがって, より安定した学習段階を提供することを示す。
論文 参考訳（メタデータ） (2020-04-29T10:54:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。