論文の概要: DeepCluE: Enhanced Image Clustering via Multi-layer Ensembles in Deep
Neural Networks
- arxiv url: http://arxiv.org/abs/2206.00359v1
- Date: Wed, 1 Jun 2022 09:51:38 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-02 22:26:55.182084
- Title: DeepCluE: Enhanced Image Clustering via Multi-layer Ensembles in Deep
Neural Networks
- Title(参考訳): DeepCluE: ディープニューラルネットワークにおける多層アンサンブルによる画像クラスタリング
- Authors: Dong Huang, Ding-Hua Chen, Xiangji Chen, Chang-Dong Wang, Jian-Huang
Lai
- Abstract要約: 本稿では,深層クラスタリングとアンサンブルクラスタリングのギャップを埋める,深層クラスタリング(DeepCluE)アプローチを提案する。
我々は、重み共有畳み込みニューラルネットワークをバックボーンとして利用し、インスタンスレベルのコントラスト学習とクラスタレベルのコントラスト学習の両方でトレーニングする。
トレーニングされたネットワークから複数の特徴表現層を抽出し、そこでは多様なベースクラスタリングを生成できる。
- 参考スコア(独自算出の注目度): 52.00792661612913
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep clustering has recently emerged as a promising technique for complex
image clustering. Despite the significant progress, previous deep clustering
works mostly tend to construct the final clustering by utilizing a single layer
of representation, e.g., by performing $K$-means on the last fully-connected
layer or by associating some clustering loss to a specific layer. However, few
of them have considered the possibilities and potential benefits of jointly
leveraging multi-layer representations for enhancing the deep clustering
performance. In light of this, this paper presents a Deep Clustering via
Ensembles (DeepCluE) approach, which bridges the gap between deep clustering
and ensemble clustering by harnessing the power of multiple layers in deep
neural networks. Particularly, we utilize a weight-sharing convolutional neural
network as the backbone, which is trained with both the instance-level
contrastive learning (via an instance projector) and the cluster-level
contrastive learning (via a cluster projector) in an unsupervised manner.
Thereafter, multiple layers of feature representations are extracted from the
trained network, upon which a set of diversified base clusterings can be
generated via a highly efficient clusterer. Then, the reliability of the
clusters in multiple base clusterings is automatically estimated by exploiting
an entropy-based criterion, based on which the multiple base clusterings are
further formulated into a weighted-cluster bipartite graph. By partitioning
this bipartite graph via transfer cut, the final image clustering result can
therefore be obtained. Experimental results on six image datasets confirm the
advantages of our DeepCluE approach over the state-of-the-art deep clustering
approaches.
- Abstract(参考訳): 深層クラスタリングは最近、複雑な画像クラスタリングの有望なテクニックとして登場している。
大幅な進歩にもかかわらず、以前のディープクラスタリングの作業は、例えば最後の完全接続層で$K$-meansを実行したり、クラスタリング損失を特定の層に関連付けることで、最終的なクラスタリングを構築する傾向にある。
しかし、深層クラスタリング性能を向上させるために多層表現を共同で活用する可能性や潜在的な利点を考慮しているものはほとんどない。
そこで本研究では,ニューラルネットワークにおける複数のレイヤのパワーを活用することで,ディープクラスタリングとアンサンブルクラスタリングのギャップを橋渡しする,アンサンブル(deepclue)アプローチによるディープクラスタリングを提案する。
特に,重み共有畳み込みニューラルネットワークをバックボーンとして使用し,インスタンスレベルのコントラスト学習(インスタンスプロジェクタによる)とクラスタレベルのコントラスト学習(クラスタプロジェクタによる)の両方を教師なしの方法でトレーニングする。
その後、トレーニングネットワークから複数の特徴表現層を抽出し、高度に効率的なクラスタリングにより、多様化したベースクラスタリングを生成できる。
そして、複数のベースクラスタリングをさらに重み付けクラスタ二部グラフに定式化することにより、エントロピーに基づく基準を利用して、複数のベースクラスタリングにおけるクラスタの信頼性を自動的に推定する。
この2部グラフを転送カットで分割することで、最終的な画像クラスタリング結果が得られる。
6つの画像データセットの実験結果は、最先端のディープクラスタリングアプローチに対するDeepCluEアプローチの利点を確認します。
関連論文リスト
- Reinforcement Graph Clustering with Unknown Cluster Number [91.4861135742095]
本稿では,Reinforcement Graph Clusteringと呼ばれる新しいディープグラフクラスタリング手法を提案する。
提案手法では,クラスタ数決定と教師なし表現学習を統一的なフレームワークに統合する。
フィードバック動作を行うために、クラスタリング指向の報酬関数を提案し、同一クラスタの凝集を高め、異なるクラスタを分離する。
論文 参考訳(メタデータ) (2023-08-13T18:12:28Z) - Deep Temporal Contrastive Clustering [21.660509622172274]
本稿では,時間差の深いクラスタリング手法を提案する。
対照的な学習パラダイムを、ディープ時系列クラスタリング研究に取り入れている。
様々な時系列データセットの実験は、最先端技術に対する我々のアプローチの優位性を実証している。
論文 参考訳(メタデータ) (2022-12-29T16:43:34Z) - Deep Clustering: A Comprehensive Survey [53.387957674512585]
クラスタリング分析は、機械学習とデータマイニングにおいて必須の役割を果たす。
ディープ・クラスタリングは、ディープ・ニューラルネットワークを使ってクラスタリングフレンドリーな表現を学習することができるが、幅広いクラスタリングタスクに広く適用されている。
ディープクラスタリングに関する既存の調査は、主にシングルビューフィールドとネットワークアーキテクチャに焦点を当てており、クラスタリングの複雑なアプリケーションシナリオを無視している。
論文 参考訳(メタデータ) (2022-10-09T02:31:32Z) - Deep Image Clustering with Contrastive Learning and Multi-scale Graph
Convolutional Networks [58.868899595936476]
コントラスト学習とマルチスケールグラフ畳み込みネットワーク(IcicleGCN)を用いた画像クラスタリング手法を提案する。
複数の画像データセットの実験は、最先端のIcicleGCNよりも優れたクラスタリング性能を示している。
論文 参考訳(メタデータ) (2022-07-14T19:16:56Z) - Learning Statistical Representation with Joint Deep Embedded Clustering [2.1267423178232407]
StatDECは、共同統計表現学習とクラスタリングのための教師なしのフレームワークである。
実験により,これらの表現を用いることで,様々な画像データセットにまたがる不均衡な画像クラスタリングの結果を大幅に改善できることが示された。
論文 参考訳(メタデータ) (2021-09-11T09:26:52Z) - Attention-driven Graph Clustering Network [49.040136530379094]
我々は、注意駆動グラフクラスタリングネットワーク(AGCN)という新しいディープクラスタリング手法を提案する。
AGCNは、ノード属性特徴とトポロジグラフ特徴を動的に融合するために、不均一な融合モジュールを利用する。
AGCNは、教師なしの方法で特徴学習とクラスタ割り当てを共同で行うことができる。
論文 参考訳(メタデータ) (2021-08-12T02:30:38Z) - Scalable Hierarchical Agglomerative Clustering [65.66407726145619]
既存のスケーラブルな階層的クラスタリング手法は、スピードの質を犠牲にする。
我々は、品質を犠牲にせず、数十億のデータポイントまでスケールする、スケーラブルで集約的な階層的クラスタリング法を提案する。
論文 参考訳(メタデータ) (2020-10-22T15:58:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。