論文の概要: Strongly Augmented Contrastive Clustering

• arxiv url: http://arxiv.org/abs/2206.00380v1
• Date: Wed, 1 Jun 2022 10:30:59 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-02 21:11:41.203231
• Title: Strongly Augmented Contrastive Clustering
• Title（参考訳）: コントラストクラスタリングの強化
• Authors: Xiaozhi Deng, Dong Huang, Ding-Hua Chen, Chang-Dong Wang, Jian-Huang Lai
• Abstract要約: 強拡張コントラストクラスタリング(SACC)と呼ばれるエンドツーエンドのディープクラスタリング手法を提案する。 重みを三重に分割したバックボーンネットワークを利用して、強みの強いビューと弱みの2つのビューを組み込む。 バックボーンによって生成された表現に基づいて、弱弱視対と強弱視対を同時にインスタンスレベルのコントラスト学習に活用する。
• 参考スコア（独自算出の注目度）: 52.00792661612913
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep clustering has attracted increasing attention in recent years due to its capability of joint representation learning and clustering via deep neural networks. In its latest developments, the contrastive learning has emerged as an effective technique to substantially enhance the deep clustering performance. However, the existing contrastive learning based deep clustering algorithms mostly focus on some carefully-designed augmentations (often with limited transformations to preserve the structure), referred to as weak augmentations, but cannot go beyond the weak augmentations to explore the more opportunities in stronger augmentations (with more aggressive transformations or even severe distortions). In this paper, we present an end-to-end deep clustering approach termed strongly augmented contrastive clustering (SACC), which extends the conventional two-augmentation-view paradigm to multiple views and jointly leverages strong and weak augmentations for strengthened deep clustering. Particularly, we utilize a backbone network with triply-shared weights, where a strongly augmented view and two weakly augmented views are incorporated. Based on the representations produced by the backbone, the weak-weak view pair and the strong-weak view pairs are simultaneously exploited for the instance-level contrastive learning (via an instance projector) and the cluster-level contrastive learning (via a cluster projector), which, together with the backbone, can be jointly optimized in a purely unsupervised manner. Experimental results on five challenging image datasets have shown the superior performance of the proposed SACC approach over the state-of-the-art.
• Abstract（参考訳）: ディープクラスタリングは、ディープニューラルネットワークによる共同表現学習とクラスタリングの能力により、近年注目を集めている。 最新の開発において、対照的な学習は、深層クラスタリングのパフォーマンスを著しく向上させる効果的な技術として出現した。 しかし、既存のコントラスト学習に基づくディープクラスタリングアルゴリズムは、主に、弱い拡張と呼ばれる、慎重に設計された拡張(しばしば構造を保存するための限定的な変換)に焦点を当てるが、弱い拡張を超えて、より強力な拡張(より積極的な変換やより厳しい歪み)の機会を探ることはできない。 本稿では,従来の2-augmentation-viewパラダイムを複数視点に拡張し,強みと弱みを併用し,強みと弱みを併用した,強み付きコントラストクラスタリング (strong augmented contrastive clustering, sacc) と呼ばれるエンド・ツー・エンドのディープクラスタリング手法を提案する。 特に,3重みを重み付けしたバックボーンネットワークを用いて,強い拡張ビューと弱い2つの拡張ビューが組み込まれている。 バックボーンによって生成された表現に基づいて、弱弱視対と強弱視対を(インスタンスプロジェクタを介して)インスタンスレベルのコントラスト学習と(クラスタプロジェクタを介して)クラスタレベルのコントラスト学習に同時に利用し、バックボーンとともに、純粋に教師なしの方法で共同最適化することができる。 5つの挑戦的な画像データセットの実験結果は、最先端のsacアプローチよりも優れた性能を示している。

関連論文リスト

• Dual Adversarial Perturbators Generate rich Views for Recommendation [16.284670207195056]
  AvoGCLは、グラフ構造に逆行訓練を適用し、摂動を埋め込むことでカリキュラム学習をエミュレートする。 3つの実世界のデータセットの実験では、AvoGCLが最先端の競合より大幅に優れていることが示されている。
  論文  参考訳（メタデータ） (2024-08-26T15:19:35Z)
• Structure-enhanced Contrastive Learning for Graph Clustering [4.6746630466993055]
  ネットワーク構造を利用した構造強化コントラスト学習(SECL)を導入している。 SECLは、クロスビューコントラスト学習機構を使用して、精巧なデータ拡張なしにノード埋め込みを強化する。 6つのデータセットに対する大規模な実験により、SECLが現在の最先端手法よりも優れていることが確認された。
  論文  参考訳（メタデータ） (2024-08-19T08:39:08Z)
• Hierarchical Contrastive Learning Enhanced Heterogeneous Graph Neural Network [59.860534520941485]
  ヘテロジニアスグラフニューラルネットワーク(HGNN)は、異種情報ネットワーク(HIN)を扱う能力に優れていた。 近年,自己指導型学習は最もエキサイティングな学習パラダイムの1つとなり,ラベルがない場合に大きな可能性を示す。 本稿では,自己教師型HGNNの問題点を考察し,HGNNのための新しいコントラスト学習機構であるHeCoを提案する。
  論文  参考訳（メタデータ） (2023-04-24T16:17:21Z)
• Deep Temporal Contrastive Clustering [21.660509622172274]
  本稿では,時間差の深いクラスタリング手法を提案する。 対照的な学習パラダイムを、ディープ時系列クラスタリング研究に取り入れている。 様々な時系列データセットの実験は、最先端技術に対する我々のアプローチの優位性を実証している。
  論文  参考訳（メタデータ） (2022-12-29T16:43:34Z)
• Hierarchical Consistent Contrastive Learning for Skeleton-Based Action Recognition with Growing Augmentations [33.68311764817763]
  骨格に基づく行動認識のための一般的な階層的一貫したコントラスト学習フレームワーク(HiCLR)を提案する。 具体的には、まず段階的に増大する拡張ポリシーを設計し、複数の順序の正のペアを生成する。 そこで,方向クラスタリング操作による階層的整合性を実現するために,非対称な損失を提案する。
  論文  参考訳（メタデータ） (2022-11-24T08:09:50Z)
• Vision Transformer for Contrastive Clustering [48.476602271481674]
  Vision Transformer(ViT)は、畳み込みニューラルネットワーク(CNN)に対してその優位性を示している。 本稿では、VTCC(Vision Transformer for Contrastive Clustering)と呼ばれるエンドツーエンドのディープ・クラスタリング手法を提案する。
  論文  参考訳（メタデータ） (2022-06-26T17:00:35Z)
• DeepCluE: Enhanced Image Clustering via Multi-layer Ensembles in Deep Neural Networks [53.88811980967342]
  本稿では,Ensembles (DeepCluE) を用いたDeep Clusteringを提案する。 ディープニューラルネットワークにおける複数のレイヤのパワーを活用することで、ディープクラスタリングとアンサンブルクラスタリングのギャップを埋める。 6つの画像データセットの実験結果から、最先端のディープクラスタリングアプローチに対するDeepCluEの利点が確認されている。
  論文  参考訳（メタデータ） (2022-06-01T09:51:38Z)
• Large-Scale Hyperspectral Image Clustering Using Contrastive Learning [18.473767002905433]
  SSCC(Spectral-Spatial Contrastive Clustering)という,スケーラブルなオンラインクラスタリングモデルを提案する。 我々は、スペクトル空間拡張プールから二重コントラスト学習を行うために、クラスタ番号の次元を持つ投影ヘッドからなる対称双対ニューラルネットワークを利用する。 結果として得られたアプローチは、バッチワイズ最適化によってエンドツーエンドでトレーニングされ、大規模なデータで堅牢になり、見当たらないデータに対して優れた一般化能力が得られる。
  論文  参考訳（メタデータ） (2021-11-15T17:50:06Z)
• Graph Contrastive Clustering [131.67881457114316]
  本稿では,クラスタリングタスクに適用可能な新しいグラフコントラスト学習フレームワークを提案し,gcc(graph constrastive clustering)法を考案した。 特に、グラフラプラシアンに基づくコントラスト損失は、より識別的かつクラスタリングフレンドリーな特徴を学ぶために提案されている。 一方で、よりコンパクトなクラスタリング割り当てを学ぶために、グラフベースのコントラスト学習戦略が提案されている。
  論文  参考訳（メタデータ） (2021-04-03T15:32:49Z)
• Deep Clustering by Semantic Contrastive Learning [67.28140787010447]
  Semantic Contrastive Learning (SCL) と呼ばれる新しい変種を紹介します。 従来のコントラスト学習とディープクラスタリングの両方の特徴を探求する。 コントラスト学習と深層クラスタリングの強みを統一的なアプローチで増幅することができる。
  論文  参考訳（メタデータ） (2021-03-03T20:20:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。