論文の概要: Preventing Dimensional Collapse of Incomplete Multi-View Clustering via
Direct Contrastive Learning
- arxiv url: http://arxiv.org/abs/2303.12241v1
- Date: Wed, 22 Mar 2023 00:21:50 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-23 15:47:21.238246
- Title: Preventing Dimensional Collapse of Incomplete Multi-View Clustering via
Direct Contrastive Learning
- Title(参考訳): 直接コントラスト学習による不完全多視点クラスタリングの次元崩壊防止
- Authors: Kaiwu Zhang, Shiqiang Du, Baokai Liu, and Shengxia Gao
- Abstract要約: 我々は、新しい不完全なマルチビューコントラストクラスタリングフレームワークを提案する。
プロジェクションヘッドに頼ることなく、次元の崩壊を効果的に回避する。
5つのパブリックデータセット上で、最先端のクラスタリング結果を達成する。
- 参考スコア(独自算出の注目度): 0.14999444543328289
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Incomplete multi-view clustering (IMVC) is an unsupervised approach, among
which IMVC via contrastive learning has received attention due to its excellent
performance. The previous methods have the following problems: 1) Over-reliance
on additional projection heads when solving the dimensional collapse problem in
which latent features are only valid in lower-dimensional subspaces during
clustering. However, many parameters in the projection heads are unnecessary.
2) The recovered view contain inconsistent private information and useless
private information will mislead the learning of common semantics due to
consistent learning and reconstruction learning on the same feature. To address
the above issues, we propose a novel incomplete multi-view contrastive
clustering framework. This framework directly optimizes the latent feature
subspace, utilizes the learned feature vectors and their sub-vectors for
reconstruction learning and consistency learning, thereby effectively avoiding
dimensional collapse without relying on projection heads. Since reconstruction
loss and contrastive loss are performed on different features, the adverse
effect of useless private information is reduced. For the incomplete data, the
missing information is recovered by the cross-view prediction mechanism and the
inconsistent information from different views is discarded by the minimum
conditional entropy to further avoid the influence of private information.
Extensive experimental results of the method on 5 public datasets show that the
method achieves state-of-the-art clustering results.
- Abstract(参考訳): 不完全なマルチビュークラスタリング(IMVC)は教師なしの手法であり、その優れた性能から対照的な学習によるIMVCが注目されている。
従来の方法には次のような問題がある。
1) クラスタリング中の低次元部分空間でのみ潜在特徴が有効である次元崩壊問題を解く場合の投影ヘッドの過剰依存性。
しかし、プロジェクションヘッドの多くのパラメータは不要である。
2) 回収されたビューには, 一貫性のない個人情報が含まれ, 役に立たないプライベート情報は, 一貫性のある学習と再構成学習により, 共通意味論の学習を誤解させる。
上記の問題に対処するため、我々は新しい不完全なマルチビューコントラストクラスタリングフレームワークを提案する。
このフレームワークは潜在機能部分空間を直接最適化し、学習した特徴ベクトルとその部分ベクトルを再構成学習と一貫性学習に利用し、投影ヘッドに頼ることなく効果的に次元崩壊を回避する。
異なる特徴に対して復元損失とコントラスト損失を行うため、無駄なプライベート情報の悪影響を低減させる。
不完全データについては、クロスビュー予測機構により不足情報を復元し、異なるビューからの矛盾情報を最小条件エントロピーにより破棄し、プライベート情報の影響をさらに回避する。
5つの公開データセットに対する手法の大規模な実験結果から,本手法が最先端のクラスタリング結果を実現することを示す。
関連論文リスト
- Regularized Contrastive Partial Multi-view Outlier Detection [76.77036536484114]
RCPMOD(Regularized Contrastive partial Multi-view Outlier Detection)と呼ばれる新しい手法を提案する。
このフレームワークでは、コントラスト学習を利用して、ビュー一貫性のある情報を学び、一貫性の度合いでアウトレイラを識別する。
4つのベンチマークデータセットによる実験結果から,提案手法が最先端の競合より優れていることが示された。
論文 参考訳(メタデータ) (2024-08-02T14:34:27Z) - Distributional Reduction: Unifying Dimensionality Reduction and Clustering with Gromov-Wasserstein [56.62376364594194]
教師なし学習は、潜在的に大きな高次元データセットの基盤構造を捉えることを目的としている。
本研究では、最適輸送のレンズの下でこれらのアプローチを再検討し、Gromov-Wasserstein問題と関係を示す。
これにより、分散還元と呼ばれる新しい一般的なフレームワークが公開され、DRとクラスタリングを特別なケースとして回復し、単一の最適化問題内でそれらに共同で対処することができる。
論文 参考訳(メタデータ) (2024-02-03T19:00:19Z) - PointMoment:Mixed-Moment-based Self-Supervised Representation Learning
for 3D Point Clouds [11.980787751027872]
我々は,ポイントクラウドによる自己教師型表現学習のための新しいフレームワークであるPointMomentを提案する。
我々のフレームワークは、非対称ネットワークアーキテクチャや勾配停止など特別な技術を必要としない。
論文 参考訳(メタデータ) (2023-12-06T08:49:55Z) - Hierarchical Mutual Information Analysis: Towards Multi-view Clustering
in The Wild [9.380271109354474]
この研究は、データリカバリとアライメントを階層的に一貫した方法で融合し、異なるビュー間の相互情報を最大化するディープMVCフレームワークを提案する。
私たちの知る限りでは、これは欠落したデータ問題と不整合データ問題に異なる学習パラダイムで別々に対処する最初の試みになるかもしれません。
論文 参考訳(メタデータ) (2023-10-28T06:43:57Z) - Contrastive Continual Multi-view Clustering with Filtered Structural
Fusion [57.193645780552565]
ビューが事前に収集されるアプリケーションでは、マルチビュークラスタリングが成功します。
データビューがシーケンシャルに収集されるシナリオ、すなわちリアルタイムデータを見落としている。
いくつかの方法が提案されているが、安定塑性ジレンマに閉じ込められている。
フィルタ構造融合を用いたコントラスト連続多視点クラスタリングを提案する。
論文 参考訳(メタデータ) (2023-09-26T14:18:29Z) - Multi-View Class Incremental Learning [57.14644913531313]
マルチビュー学習(MVL)は、下流タスクのパフォーマンスを改善するためにデータセットの複数の視点から情報を統合することで大きな成功を収めている。
本稿では,複数視点クラスインクリメンタルラーニング(MVCIL)と呼ばれる新しいパラダイムについて考察する。
論文 参考訳(メタデータ) (2023-06-16T08:13:41Z) - Multi-view Feature Extraction based on Triple Contrastive Heads [1.4467794332678539]
三重コントラストヘッドに基づく新しい多視点特徴抽出法を提案する。
提案手法は,マルチビュー特徴抽出に強力な利点をもたらす。
論文 参考訳(メタデータ) (2023-03-22T14:56:51Z) - Generalized One-Class Learning Using Pairs of Complementary Classifiers [41.64645294104883]
1クラス学習は、単一のクラスでのみアノテーションが利用できるデータにモデルを適合させる古典的な問題である。
本稿では,一級学習の新たな目的を探求し,これを一般化一級識別サブスペース(GODS)と呼ぶ。
論文 参考訳(メタデータ) (2021-06-24T18:52:05Z) - Generative Partial Visual-Tactile Fused Object Clustering [81.17645983141773]
オブジェクトクラスタリングのためのGenerative Partial Visual-Tactile Fused(GPVTF)フレームワークを提案する。
条件付きクロスモーダルクラスタリング生成逆ネットワークを開発し、一方のモダリティ条件を他方のモダリティ上で合成する。
最後に、擬似ラベルに基づく2つのKL分割損失を用いて、対応するモダリティ固有エンコーダを更新する。
論文 参考訳(メタデータ) (2020-12-28T02:37:03Z) - V3H: View Variation and View Heredity for Incomplete Multi-view
Clustering [65.29597317608844]
不完全なマルチビュークラスタリングは、これらの不完全なビューを統合する効果的な方法である。
本稿では,この制限を克服するために,新しいビューバージョニング・ビュー・ジェレダリティ・アプローチ(V3H)を提案する。
V3Hは、不完全なマルチビューデータから一貫した情報とユニークな情報を同時に学習するためのクラスタリングアルゴリズムに遺伝学を導入する最初の研究である可能性がある。
論文 参考訳(メタデータ) (2020-11-23T03:24:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。