論文の概要: Deep Dive into Semi-Supervised ELBO for Improving Classification Performance

• arxiv url: http://arxiv.org/abs/2108.12734v1
• Date: Sun, 29 Aug 2021 02:44:03 GMT
• ステータス: 処理完了
• システム内更新日: 2021-09-01 05:47:12.972916
• Title: Deep Dive into Semi-Supervised ELBO for Improving Classification Performance
• Title（参考訳）: 準スーパービジョンELBOへのディープダイブによる分類性能の向上
• Authors: Fahim Faisal Niloy, M. Ashraful Amin, AKM Mahbubur Rahman, Amin Ahsan Ali
• Abstract要約: VAEを用いた半教師付き分類のためのELBOを分解することで、同様の知見を得ることができるかどうかを検討する。 ELBOの目的において,入力ラベルとクラスラベルの相互情報を減少させることを示す。 多様なデータセットを用いた実験により,既存のVAEに基づく半教師付きモデルの分類性能向上に本手法が有効であることが確認された。
• 参考スコア（独自算出の注目度）: 2.9210447295585724
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Decomposition of the evidence lower bound (ELBO) objective of VAE used for density estimation revealed the deficiency of VAE for representation learning and suggested ways to improve the model. In this paper, we investigate whether we can get similar insights by decomposing the ELBO for semi-supervised classification using VAE model. Specifically, we show that mutual information between input and class labels decreases during maximization of ELBO objective. We propose a method to address this issue. We also enforce cluster assumption to aid in classification. Experiments on a diverse datasets verify that our method can be used to improve the classification performance of existing VAE based semi-supervised models. Experiments also show that, this can be achieved without sacrificing the generative power of the model.
• Abstract（参考訳）: 密度推定に用いたVAEのELBO目標値の分解により, 表現学習におけるVAEの欠如が明らかとなり, モデルの改善法が提案された。 本稿では,VAEモデルを用いた半教師付き分類のためのELBOを分解することで,同様の知見が得られるかどうかを検討する。 具体的には,ELBO目標の最大化時に,入力ラベルとクラスラベルの相互情報を減少させることを示す。 我々はこの問題に対処する方法を提案する。 分類を助けるためにクラスタの仮定も実施します。 多様なデータセットを用いた実験により,既存のVAEに基づく半教師付きモデルの分類性能向上に本手法が有効であることが確認された。 実験により、これはモデルの生成力を犠牲にすることなく達成できることを示した。

関連論文リスト

• Optimal Projections for Classification with Naive Bayes [5.953513005270837]
  本研究では,クラス条件密度の因子化のための代替的基礎を得るという課題について検討する。 この問題を射影探索として定式化し, 分類を行う最適線形射影を求める。 提案手法は、他の一般的な確率的判別分析モデルよりも大幅に優れていることがわかった。
  論文  参考訳（メタデータ） (2024-09-09T14:05:30Z)
• Exploring Beyond Logits: Hierarchical Dynamic Labeling Based on Embeddings for Semi-Supervised Classification [49.09505771145326]
  モデル予測に依存しない階層型動的ラベル付け(HDL)アルゴリズムを提案し,画像埋め込みを用いてサンプルラベルを生成する。 本手法は,半教師付き学習における擬似ラベル生成のパラダイムを変える可能性がある。
  論文  参考訳（メタデータ） (2024-04-26T06:00:27Z)
• CLIMAX: An exploration of Classifier-Based Contrastive Explanations [5.381004207943597]
  我々は,ブラックボックスの分類を正当化する対照的な説明を提供する,ポストホックモデルXAI手法を提案する。 CLIMAXと呼ばれる手法は,局所的な分類法に基づく。 LIME, BayLIME, SLIMEなどのベースラインと比較して, 一貫性が向上することを示す。
  論文  参考訳（メタデータ） (2023-07-02T22:52:58Z)
• Variational Classification [51.2541371924591]
  我々は,変分オートエンコーダの訓練に用いるエビデンスローバウンド(ELBO)に類似した,モデルの訓練を目的とした変分目的を導出する。 軟質マックス層への入力を潜伏変数のサンプルとして扱うことで, 抽象化された視点から, 潜在的な矛盾が明らかとなった。 我々は、標準ソフトマックス層に見られる暗黙の仮定の代わりに、選択された潜在分布を誘導する。
  論文  参考訳（メタデータ） (2023-05-17T17:47:19Z)
• Learning Data Representations with Joint Diffusion Models [20.25147743706431]
  データの合成と分類を可能にする統合機械学習モデルは、多くの場合、それらのタスク間の不均一なパフォーマンスを提供するか、トレーニングが不安定である。 それらの目的間のパラメータ化を共用した安定な連立エンドツーエンドトレーニングを可能にする分類器を用いて,バニラ拡散モデルを拡張した。 結果として得られた共同拡散モデルは、評価された全てのベンチマークにおいて、分類と生成品質の両方の観点から、最近の最先端のハイブリッド手法よりも優れている。
  論文  参考訳（メタデータ） (2023-01-31T13:29:19Z)
• No Fear of Heterogeneity: Classifier Calibration for Federated Learning with Non-IID Data [78.69828864672978]
  実世界のフェデレーションシステムにおける分類モデルのトレーニングにおける中心的な課題は、非IIDデータによる学習である。 このアルゴリズムは, 近似されたssian混合モデルからサンプリングした仮想表現を用いて分類器を調整する。 実験の結果,CIFAR-10,CIFAR-100,CINIC-10など,一般的なフェデレーション学習ベンチマークにおけるCCVRの現状が示された。
  論文  参考訳（メタデータ） (2021-06-09T12:02:29Z)
• Cauchy-Schwarz Regularized Autoencoder [68.80569889599434]
  変分オートエンコーダ(VAE)は、強力で広く使われている生成モデルのクラスである。 GMMに対して解析的に計算できるCauchy-Schwarz分散に基づく新しい制約対象を導入する。 本研究の目的は,密度推定,教師なしクラスタリング,半教師なし学習,顔分析における変分自動エンコーディングモデルの改善である。
  論文  参考訳（メタデータ） (2021-01-06T17:36:26Z)
• ALEX: Active Learning based Enhancement of a Model's Explainability [34.26945469627691]
  アクティブラーニング(AL)アルゴリズムは、最小限のラベル付き例をブートストラップ方式で効率的な分類器を構築しようとする。 データ駆動学習の時代において、これは追求すべき重要な研究方向である。 本稿では,モデルの有効性に加えて,ブートストラップ段階におけるモデルの解釈可能性の向上も目指すAL選択関数の開発に向けた取り組みについて述べる。
  論文  参考訳（メタデータ） (2020-09-02T07:15:39Z)
• Evaluating the Disentanglement of Deep Generative Models through Manifold Topology [66.06153115971732]
  本稿では,生成モデルのみを用いた乱れの定量化手法を提案する。 複数のデータセットにまたがるいくつかの最先端モデルを実証的に評価する。
  論文  参考訳（メタデータ） (2020-06-05T20:54:11Z)
• Learnable Bernoulli Dropout for Bayesian Deep Learning [53.79615543862426]
  Learnable Bernoulli Dropout (LBD) は、他のモデルパラメータと共に最適化されたパラメータとしてドロップアウト率を考慮する新しいモデルに依存しないドロップアウトスキームである。 LBDは画像分類とセマンティックセグメンテーションにおける精度と不確実性の推定を改善する。
  論文  参考訳（メタデータ） (2020-02-12T18:57:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。