論文の概要: Mixture Model Auto-Encoders: Deep Clustering through Dictionary Learning
- arxiv url: http://arxiv.org/abs/2110.04683v1
- Date: Sun, 10 Oct 2021 02:30:31 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-16 19:11:37.053351
- Title: Mixture Model Auto-Encoders: Deep Clustering through Dictionary Learning
- Title(参考訳): 混合モデルオートエンコーダ:辞書学習による深層クラスタリング
- Authors: Alexander Lin, Andrew H. Song, Demba Ba
- Abstract要約: Mixture Model Auto-Encoders (MixMate)は、生成モデルで推論を実行することでデータをクラスタリングする新しいアーキテクチャである。
最先端のディープクラスタリングアルゴリズムと比較して,MixMateは競争性能が高いことを示す。
- 参考スコア(独自算出の注目度): 72.9458277424712
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: State-of-the-art approaches for clustering high-dimensional data utilize deep
auto-encoder architectures. Many of these networks require a large number of
parameters and suffer from a lack of interpretability, due to the black-box
nature of the auto-encoders. We introduce Mixture Model Auto-Encoders
(MixMate), a novel architecture that clusters data by performing inference on a
generative model. Derived from the perspective of sparse dictionary learning
and mixture models, MixMate comprises several auto-encoders, each tasked with
reconstructing data in a distinct cluster, while enforcing sparsity in the
latent space. Through experiments on various image datasets, we show that
MixMate achieves competitive performance compared to state-of-the-art deep
clustering algorithms, while using orders of magnitude fewer parameters.
- Abstract(参考訳): 高次元データをクラスタリングするための最先端のアプローチは、ディープオートエンコーダアーキテクチャを利用する。
これらのネットワークの多くは多数のパラメータを必要としており、オートエンコーダのブラックボックスの性質のため、解釈性の欠如に悩まされている。
生成モデル上で推論を行うことでデータをクラスタ化する,新しいアーキテクチャであるmixed model auto-encoder (mixmate)を提案する。
スパース辞書学習と混合モデルの観点から導かれたMixMateは、複数の自動エンコーダで構成され、それぞれが異なるクラスタでデータを再構成すると同時に、潜時空間の間隔を強制する。
様々な画像データセットを用いた実験により,mixmateは最先端のディープクラスタリングアルゴリズムと比較して,桁違いに少ないパラメータを用いながら,競合性能を実現していることを示した。
関連論文リスト
- Adversarial AutoMixup [50.1874436169571]
本稿では,AdAutomixupを提案する。
画像分類のための堅牢な分類器を訓練するために、挑戦的なサンプルを生成する。
本手法は, 様々な分類シナリオにおいて, 技術状況に優れる。
論文 参考訳(メタデータ) (2023-12-19T08:55:00Z) - Optimizations of Autoencoders for Analysis and Classification of
Microscopic In Situ Hybridization Images [68.8204255655161]
同様のレベルの遺伝子発現を持つ顕微鏡画像の領域を検出・分類するためのディープラーニングフレームワークを提案する。
分析するデータには教師なし学習モデルが必要です。
論文 参考訳(メタデータ) (2023-04-19T13:45:28Z) - DoubleMix: Simple Interpolation-Based Data Augmentation for Text
Classification [56.817386699291305]
本稿では,DoubleMixと呼ばれる単純なデータ拡張手法を提案する。
DoubleMixはまず、トレーニングデータごとにいくつかの摂動サンプルを生成する。
次に、摂動データと元のデータを使って、隠れたニューラルネットワークの空間で2段階のステップを実行する。
論文 参考訳(メタデータ) (2022-09-12T15:01:04Z) - ClusTR: Exploring Efficient Self-attention via Clustering for Vision
Transformers [70.76313507550684]
本稿では,密集自己注意の代替として,コンテンツに基づくスパースアテンション手法を提案する。
具体的には、合計トークン数を減少させるコンテンツベースの方法として、キーとバリュートークンをクラスタ化し、集約する。
結果として得られたクラスタ化されたTokenシーケンスは、元の信号のセマンティックな多様性を保持するが、より少ない計算コストで処理できる。
論文 参考訳(メタデータ) (2022-08-28T04:18:27Z) - Enhancing Latent Space Clustering in Multi-filter Seq2Seq Model: A
Reinforcement Learning Approach [0.0]
クラスタリングアルゴリズムを用いて潜在空間表現を解析する潜時拡張型マルチフィルタセq2seqモデル (LMS2S) を設計する。
セマンティック解析と機械翻訳の実験により,クラスタリングの品質とモデルの性能の正の相関が示された。
論文 参考訳(メタデータ) (2021-09-25T16:36:31Z) - Multi-Facet Clustering Variational Autoencoders [9.150555507030083]
画像などの高次元データは通常、クラスタリング可能な複数の興味深い特徴を特徴付ける。
MFCVAE(Multi-Facet Clustering Variational Autoencoders)を導入する。
MFCVAEは複数のクラスタリングを同時に学習し、完全に教師なしでエンドツーエンドで訓練されている。
論文 参考訳(メタデータ) (2021-06-09T17:36:38Z) - Event-Driven News Stream Clustering using Entity-Aware Contextual
Embeddings [14.225334321146779]
本稿では,非パラメトリックストリーミングk-meansアルゴリズムの変種であるオンラインニュースストリームクラスタリング手法を提案する。
我々のモデルはスパースと密集した文書表現の組み合わせを使用し、これらの複数の表現に沿って文書とクラスタの類似性を集約する。
事前学習したトランスフォーマモデルにおいて,適切な微調整目標と外部知識を用いることにより,文脈埋め込みの有効性が大幅に向上することを示す。
論文 参考訳(メタデータ) (2021-01-26T19:58:30Z) - Joint Optimization of an Autoencoder for Clustering and Embedding [22.16059261437617]
本稿では,自動エンコーダとクラスタリングを同時に学習する代替手法を提案する。
この単純なニューラルネットワークはクラスタリングモジュールと呼ばれ、ディープオートエンコーダに統合され、ディープクラスタリングモデルとなる。
論文 参考訳(メタデータ) (2020-12-07T14:38:10Z) - Mixed data Deep Gaussian Mixture Model: A clustering model for mixed
datasets [0.0]
我々はMixed Deep Gaussian Mixture Model (MDGMM)と呼ばれるモデルに基づくクラスタリング手法を提案する。
このアーキテクチャは柔軟性があり、連続データや非連続データにも適用できる。
我々のモデルはデータの連続的な低次元表現を提供し、混合データセットを視覚化するのに有用なツールである。
論文 参考訳(メタデータ) (2020-10-13T19:52:46Z) - Learning Autoencoders with Relational Regularization [89.53065887608088]
データ分散のオートエンコーダを学習するための新しいフレームワークを提案する。
エンフレレーショナル正規化によるモデルと対象分布の差を最小限にする
我々はこのフレームワークを2つのスケーラブルアルゴリズムで実装し、確率的および決定論的オートエンコーダの両方に適用する。
論文 参考訳(メタデータ) (2020-02-07T17:27:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。