論文の概要: Towards Efficient and Effective Deep Clustering with Dynamic Grouping
and Prototype Aggregation
- arxiv url: http://arxiv.org/abs/2401.13581v1
- Date: Wed, 24 Jan 2024 16:45:42 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-25 14:08:01.874114
- Title: Towards Efficient and Effective Deep Clustering with Dynamic Grouping
and Prototype Aggregation
- Title(参考訳): 動的グルーピングとプロトタイプアグリゲーションを用いた効率的かつ効果的な深層クラスタリング
- Authors: Haixin Zhang and Dong Huang
- Abstract要約: 本稿ではDigProと呼ばれる動的グループ化とプロトタイプアグリゲーションを備えた新しいエンドツーエンドのディープクラスタリングフレームワークを提案する。
具体的には、動的グルーピングがインスタンスレベルからグループレベルへのコントラスト学習を拡張し、グループをタイムリーに更新するのに効率的かつ効率的である。
期待最大化フレームワークにより、DigProはクラスタ内接続のコンパクトな接続、よく分離されたクラスタ、そしてセルフ教師付きトレーニング中の効率的なグループ更新を同時に活用する。
- 参考スコア(独自算出の注目度): 4.550555443103878
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Previous contrastive deep clustering methods mostly focus on instance-level
information while overlooking the member relationship within groups/clusters,
which may significantly undermine their representation learning and clustering
capability. Recently, some group-contrastive methods have been developed,
which, however, typically rely on the samples of the entire dataset to obtain
pseudo labels and lack the ability to efficiently update the group assignments
in a batch-wise manner. To tackle these critical issues, we present a novel
end-to-end deep clustering framework with dynamic grouping and prototype
aggregation, termed as DigPro. Specifically, the proposed dynamic grouping
extends contrastive learning from instance-level to group-level, which is
effective and efficient for timely updating groups. Meanwhile, we perform
contrastive learning on prototypes in a spherical feature space, termed as
prototype aggregation, which aims to maximize the inter-cluster distance.
Notably, with an expectation-maximization framework, DigPro simultaneously
takes advantage of compact intra-cluster connections, well-separated clusters,
and efficient group updating during the self-supervised training. Extensive
experiments on six image benchmarks demonstrate the superior performance of our
approach over the state-of-the-art. Code is available at
https://github.com/Regan-Zhang/DigPro.
- Abstract(参考訳): 従来の対照的なディープクラスタリング手法は、主にインスタンスレベルの情報に焦点を合わせ、グループ/クラスタ内のメンバー関係を見渡しながら、その表現学習とクラスタリング能力を大幅に損なう可能性がある。
近年,グループ結合型手法が開発されているが,通常はデータセット全体のサンプルに頼って擬似ラベルを取得し,グループ割り当てをバッチ的に効率的に更新する能力が欠如している。
これらの重要な問題に対処するため、動的グループ化とプロトタイプアグリゲーションを備えた新しいエンドツーエンドのディープクラスタリングフレームワークDigProを提案する。
具体的には、動的グルーピングは、時間的にグループを更新する上で効率的かつ効率的なインスタンスレベルからグループレベルへのコントラスト学習を拡張する。
一方,クラスタ間距離を最大化することを目的とした,プロトタイプアグリゲーションと呼ばれる球状特徴空間におけるプロトタイプの対比学習を行う。
特に、期待最大化フレームワークでは、DigProはクラスタ内接続のコンパクトな接続、よく分離されたクラスタ、そしてセルフ教師付きトレーニング中の効率的なグループ更新を同時に活用する。
6つのイメージベンチマークに関する広範な実験は、最先端のアプローチよりも優れたパフォーマンスを示している。
コードはhttps://github.com/Regan-Zhang/DigProで入手できる。
関連論文リスト
- Adaptive Self-supervised Robust Clustering for Unstructured Data with Unknown Cluster Number [12.926206811876174]
適応型自己教師型ロバストクラスタリング(Adaptive Self-supervised Robust Clustering, ASRC)と呼ばれる非構造化データに適した,新たな自己教師型ディープクラスタリング手法を提案する。
ASRCはグラフ構造とエッジ重みを適応的に学習し、局所構造情報と大域構造情報の両方をキャプチャする。
ASRCは、クラスタ数の事前知識に依存するメソッドよりも優れており、非構造化データのクラスタリングの課題に対処する上での有効性を強調している。
論文 参考訳(メタデータ) (2024-07-29T15:51:09Z) - Reinforcement Graph Clustering with Unknown Cluster Number [91.4861135742095]
本稿では,Reinforcement Graph Clusteringと呼ばれる新しいディープグラフクラスタリング手法を提案する。
提案手法では,クラスタ数決定と教師なし表現学習を統一的なフレームワークに統合する。
フィードバック動作を行うために、クラスタリング指向の報酬関数を提案し、同一クラスタの凝集を高め、異なるクラスタを分離する。
論文 参考訳(メタデータ) (2023-08-13T18:12:28Z) - Unified Multi-View Orthonormal Non-Negative Graph Based Clustering
Framework [74.25493157757943]
我々は,非負の特徴特性を活用し,多視点情報を統合された共同学習フレームワークに組み込む,新しいクラスタリングモデルを定式化する。
また、深層機能に基づいたクラスタリングデータに対するマルチモデル非負グラフベースのアプローチを初めて検討する。
論文 参考訳(メタデータ) (2022-11-03T08:18:27Z) - A Deep Dive into Deep Cluster [0.2578242050187029]
DeepClusterは、ビジュアル表現のシンプルでスケーラブルな教師なし事前トレーニングである。
本稿では,DeepClusterの収束と性能が,畳み込み層のランダムフィルタの品質と選択されたクラスタ数の相互作用に依存することを示す。
論文 参考訳(メタデータ) (2022-07-24T22:55:09Z) - DeepCluE: Enhanced Image Clustering via Multi-layer Ensembles in Deep
Neural Networks [53.88811980967342]
本稿では,Ensembles (DeepCluE) を用いたDeep Clusteringを提案する。
ディープニューラルネットワークにおける複数のレイヤのパワーを活用することで、ディープクラスタリングとアンサンブルクラスタリングのギャップを埋める。
6つの画像データセットの実験結果から、最先端のディープクラスタリングアプローチに対するDeepCluEの利点が確認されている。
論文 参考訳(メタデータ) (2022-06-01T09:51:38Z) - Learning the Precise Feature for Cluster Assignment [39.320210567860485]
表現学習とクラスタリングを1つのパイプラインに初めて統合するフレームワークを提案する。
提案フレームワークは,近年開発された生成モデルを用いて,本質的な特徴を学習する能力を活用している。
実験の結果,提案手法の性能は,最先端の手法よりも優れているか,少なくとも同等であることがわかった。
論文 参考訳(メタデータ) (2021-06-11T04:08:54Z) - Very Compact Clusters with Structural Regularization via Similarity and
Connectivity [3.779514860341336]
本稿では,汎用データセットのためのエンドツーエンドのディープクラスタリングアルゴリズムであるVery Compact Clusters (VCC)を提案する。
提案手法は,最先端のクラスタリング手法よりも優れたクラスタリング性能を実現する。
論文 参考訳(メタデータ) (2021-06-09T23:22:03Z) - You Never Cluster Alone [150.94921340034688]
我々は、主流のコントラスト学習パラダイムをクラスタレベルのスキームに拡張し、同じクラスタに属するすべてのデータが統一された表現に寄与する。
分類変数の集合をクラスタ化代入信頼度として定義し、インスタンスレベルの学習トラックとクラスタレベルの学習トラックを関連付ける。
代入変数を再パラメータ化することで、TCCはエンドツーエンドでトレーニングされる。
論文 参考訳(メタデータ) (2021-06-03T14:59:59Z) - Graph Contrastive Clustering [131.67881457114316]
本稿では,クラスタリングタスクに適用可能な新しいグラフコントラスト学習フレームワークを提案し,gcc(graph constrastive clustering)法を考案した。
特に、グラフラプラシアンに基づくコントラスト損失は、より識別的かつクラスタリングフレンドリーな特徴を学ぶために提案されている。
一方で、よりコンパクトなクラスタリング割り当てを学ぶために、グラフベースのコントラスト学習戦略が提案されている。
論文 参考訳(メタデータ) (2021-04-03T15:32:49Z) - Contrastive Clustering [57.71729650297379]
本稿では,インスタンスレベルのコントラスト学習を明示的に行うContrastive Clustering (CC)を提案する。
特にCCは、CIFAR-10(CIFAR-100)データセット上で0.705(0.431)のNMIを達成しており、最高のベースラインと比較して最大19%(39%)のパフォーマンス向上を実現している。
論文 参考訳(メタデータ) (2020-09-21T08:54:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。