論文の概要: Generative Max-Mahalanobis Classifiers for Image Classification, Generation and More

• arxiv url: http://arxiv.org/abs/2101.00122v3
• Date: Fri, 2 Apr 2021 22:30:49 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-17 15:09:45.030486
• Title: Generative Max-Mahalanobis Classifiers for Image Classification, Generation and More
• Title（参考訳）: 画像分類・生成のための生成最大マハラノビス分類器
• Authors: Xiulong Yang, Hui Ye, Yang Ye, Xiang Li, Shihao Ji
• Abstract要約: Max-Mahalanobis (MMC) は、画像分類と生成のために、識別、生成、共同で訓練することができる。 ジェネラティブMCC(Generative MMC)は、画像分類と生成のために、識別的、生成的、または共同でトレーニングできることを示します。
• 参考スコア（独自算出の注目度）: 6.89001867562902
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Joint Energy-based Model (JEM) of Grathwohl et al. shows that a standard softmax classifier can be reinterpreted as an energy-based model (EBM) for the joint distribution p(x,y); the resulting model can be optimized to improve calibration, robustness, and out-of-distribution detection, while generating samples rivaling the quality of recent GAN-based approaches. However, the softmax classifier that JEM exploits is inherently discriminative and its latent feature space is not well formulated as probabilistic distributions, which may hinder its potential for image generation and incur training instability. We hypothesize that generative classifiers, such as Linear Discriminant Analysis (LDA), might be more suitable for image generation since generative classifiers model the data generation process explicitly. This paper therefore investigates an LDA classifier for image classification and generation. In particular, the Max-Mahalanobis Classifier (MMC), a special case of LDA, fits our goal very well. We show that our Generative MMC (GMMC) can be trained discriminatively, generatively, or jointly for image classification and generation. Extensive experiments on multiple datasets show that GMMC achieves state-of-the-art discriminative and generative performances, while outperforming JEM in calibration, adversarial robustness, and out-of-distribution detection by a significant margin. Our source code is available at https://github.com/sndnyang/GMMC.
• Abstract（参考訳）: Grathwohlらの共同エネルギーモデル(JEM) 標準ソフトマックス分類器は、結合分布 p(x,y) のエネルギーベースモデル(EBM)として再解釈でき、その結果のモデルは、最近のGANベースのアプローチの質に匹敵するサンプルを生成しながら、キャリブレーション、ロバスト性、分布外検出を改善するために最適化できる。 しかし、JEMが活用するソフトマックス分類器は本質的に差別的であり、その潜在特徴空間は確率分布として十分に定式化されていないため、画像生成やトレーニングの不安定性を損なう可能性がある。 我々は、線形判別分析(lda)のような生成的分類器は、生成的分類器がデータ生成プロセスを明示的にモデル化するため、画像生成により適していると仮定する。 そこで本稿では,画像分類と生成のためのLDA分類器について検討する。 特に、LDAの特殊なケースであるMax-Mahalanobis Classifier (MMC)は、私たちの目標に非常に適しています。 我々の生成MC(GMMC)は、画像分類と生成のために、識別的に、生成的に、または共同的に訓練できることを示す。 複数のデータセットに対する大規模な実験により、GMMCは、キャリブレーション、対向ロバスト性、分布外検出において、JEMよりも優れた、最先端の識別的および生成的性能を達成することが示された。 ソースコードはhttps://github.com/sndnyang/gmmcで入手できます。

関連論文リスト

• Exploring Beyond Logits: Hierarchical Dynamic Labeling Based on Embeddings for Semi-Supervised Classification [49.09505771145326]
  モデル予測に依存しない階層型動的ラベル付け(HDL)アルゴリズムを提案し,画像埋め込みを用いてサンプルラベルを生成する。 本手法は,半教師付き学習における擬似ラベル生成のパラダイムを変える可能性がある。
  論文  参考訳（メタデータ） (2024-04-26T06:00:27Z)
• Latent Space Energy-based Model for Fine-grained Open Set Recognition [46.0388856095674]
  微細なオープンセット認識(FineOSR)は、未知のクラスのイメージを拒絶しながら、微妙な外観の違いを持つクラスに属する画像を認識することを目的としている。 生成モデルの一種として、エネルギーベースモデル(EBM)は、生成的タスクと識別的タスクのハイブリッドモデリングのポテンシャルである。 本稿では,OSRの精密な視覚空間におけるエネルギーに基づく事前分布を用いた低次元潜伏空間について検討する。
  論文  参考訳（メタデータ） (2023-09-19T16:00:09Z)
• One-Line-of-Code Data Mollification Improves Optimization of Likelihood-based Generative Models [17.47235124122244]
  LikelihoodベースのGMは、単一のモデル評価によって新しいデータを生成する可能性があるため、魅力的である。 彼らは通常、最先端のスコアベース拡散モデル(DM)と比較して低いサンプル品質を達成する。
  論文  参考訳（メタデータ） (2023-05-30T09:58:47Z)
• A Hybrid of Generative and Discriminative Models Based on the Gaussian-coupled Softmax Layer [5.33024001730262]
  本稿では,1つのニューラルネットワークにおける識別モデルと生成モデルのハイブリッドを学習する手法を提案する。 提案手法を半教師付き学習と信頼性校正に適用できることを実証する。
  論文  参考訳（メタデータ） (2023-05-10T05:48:22Z)
• Traditional Classification Neural Networks are Good Generators: They are Competitive with DDPMs and GANs [104.72108627191041]
  従来のニューラルネットワーク分類器は、最先端の生成モデルに匹敵する高品質な画像を生成することができることを示す。 マスクをベースとした再構成モジュールを提案し, 意味的勾配を意識し, 可視画像の合成を行う。 また,本手法は,画像テキスト基盤モデルに関して,テキスト・画像生成にも適用可能であることを示す。
  論文  参考訳（メタデータ） (2022-11-27T11:25:35Z)
• GMMSeg: Gaussian Mixture based Generative Semantic Segmentation Models [74.0430727476634]
  結合分布 p(ピクセル特徴,クラス) の高密度な生成型分類器に依存する分割モデルの新たなファミリーを提案する。 さまざまなセグメンテーションアーキテクチャとバックボーンにより、GMMSegはクローズドセットデータセットにおいて差別的よりも優れています。 GMMSegは、オープンワールドデータセットでもうまく機能する。
  論文  参考訳（メタデータ） (2022-10-05T05:20:49Z)
• Towards Bridging the Performance Gaps of Joint Energy-based Models [1.933681537640272]
  共同エネルギーベースモデル(JEM)は高い分類精度と画像生成品質を同時に達成する。 本稿では,JEMの精度ギャップと生成品質ギャップを橋渡しする様々なトレーニング手法を紹介する。 我々のSADA-JEMは、画像分類、画像生成、キャリブレーション、アウト・オブ・ディストリビューション検出、対向ロバストネスにおいて、最先端のパフォーマンスを達成し、JEMより優れています。
  論文  参考訳（メタデータ） (2022-09-16T14:19:48Z)
• Continual Learning with Fully Probabilistic Models [70.3497683558609]
  機械学習の完全確率的(または生成的)モデルに基づく継続的学習のアプローチを提案する。 生成器と分類器の両方に対してガウス混合モデル(GMM)インスタンスを用いた擬似リハーサル手法を提案する。 我々は,GMRが,クラス増分学習問題に対して,非常に競合的な時間とメモリの複雑さで,最先端のパフォーマンスを達成することを示す。
  論文  参考訳（メタデータ） (2021-04-19T12:26:26Z)
• Cauchy-Schwarz Regularized Autoencoder [68.80569889599434]
  変分オートエンコーダ(VAE)は、強力で広く使われている生成モデルのクラスである。 GMMに対して解析的に計算できるCauchy-Schwarz分散に基づく新しい制約対象を導入する。 本研究の目的は,密度推定,教師なしクラスタリング,半教師なし学習,顔分析における変分自動エンコーディングモデルの改善である。
  論文  参考訳（メタデータ） (2021-01-06T17:36:26Z)
• Shaping Deep Feature Space towards Gaussian Mixture for Visual Classification [74.48695037007306]
  視覚分類のためのディープニューラルネットワークのためのガウス混合損失関数(GM)を提案する。 分類マージンと可能性正規化により、GM損失は高い分類性能と特徴分布の正確なモデリングの両方を促進する。 提案したモデルは、追加のトレーニング可能なパラメータを使わずに、簡単かつ効率的に実装できる。
  論文  参考訳（メタデータ） (2020-11-18T03:32:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。