論文の概要: MiCE: Mixture of Contrastive Experts for Unsupervised Image Clustering
- arxiv url: http://arxiv.org/abs/2105.01899v1
- Date: Wed, 5 May 2021 07:17:57 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-06 19:00:16.532320
- Title: MiCE: Mixture of Contrastive Experts for Unsupervised Image Clustering
- Title(参考訳): MiCE: 教師なし画像クラスタリングのためのコントラストエキスパートの混在
- Authors: Tsung Wei Tsai, Chongxuan Li, Jun Zhu
- Abstract要約: 本稿では,コントラスト学習で学習した識別表現と潜在混合モデルで取得した意味構造を利用する,統一確率的クラスタリングフレームワークを提案する。
専門家の混合によって動機付けられたマウスは、ラベルのないデータセットを潜在意味論に従ってサブセットに分割するゲーティング関数と、それらに割り当てられた異なるサブセットを対比学習方法で識別する複数の専門家を用いる。
- 参考スコア(独自算出の注目度): 39.46459858177353
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present Mixture of Contrastive Experts (MiCE), a unified probabilistic
clustering framework that simultaneously exploits the discriminative
representations learned by contrastive learning and the semantic structures
captured by a latent mixture model. Motivated by the mixture of experts, MiCE
employs a gating function to partition an unlabeled dataset into subsets
according to the latent semantics and multiple experts to discriminate distinct
subsets of instances assigned to them in a contrastive learning manner. To
solve the nontrivial inference and learning problems caused by the latent
variables, we further develop a scalable variant of the
Expectation-Maximization (EM) algorithm for MiCE and provide proof of the
convergence. Empirically, we evaluate the clustering performance of MiCE on
four widely adopted natural image datasets. MiCE achieves significantly better
results than various previous methods and a strong contrastive learning
baseline.
- Abstract(参考訳): 比較学習によって学習された識別的表現と、潜在混合モデルによって得られた意味構造を同時に活用する統合確率的クラスタリングフレームワークであるMiCE(Missture of Contrastive Experts)を提案する。
専門家の混合によって動機付けられたマウスは、ラベルのないデータセットを潜在意味論に従ってサブセットに分割するゲーティング関数と、それらに割り当てられた異なるサブセットを対比学習方法で識別する複数の専門家を用いる。
潜在変数による非自明な推論と学習問題を解決するために,マウスに対する期待最大化(em)アルゴリズムのスケーラブルな変種を開発し,収束の証明を提供する。
実験により,広く採用されている4つの自然画像データセット上でのMICEのクラスタリング性能を評価する。
MiCEは、様々な従来の手法や強力なコントラスト学習ベースラインよりもはるかに優れた結果が得られる。
関連論文リスト
- On Discriminative Probabilistic Modeling for Self-Supervised Representation Learning [85.75164588939185]
複数モーダルな)自己教師付き表現学習のための連続領域における識別確率モデル問題について検討する。
我々は、自己教師付き表現学習における現在のInfoNCEに基づくコントラスト損失の制限を明らかにするために一般化誤差解析を行う。
論文 参考訳(メタデータ) (2024-10-11T18:02:46Z) - Modeling and predicting students' engagement behaviors using mixture Markov models [0.0]
本稿では,モデルに基づくクラスタリングを用いてK混合マルコフモデルを生成し,学習者の学習行動パターンを含むトレースをグループ化する。
予測最大化(EM)アルゴリズムの3つの変種を用いた2つの実データセットの実験的検討を行った。
提案したK-EMは、他の手法と比較して非常に有望な結果を示し、大きな性能差を達成している。
論文 参考訳(メタデータ) (2024-02-10T19:03:06Z) - ProbMCL: Simple Probabilistic Contrastive Learning for Multi-label Visual Classification [16.415582577355536]
マルチラベル画像分類は、コンピュータビジョンや医用画像など、多くの領域において難しい課題である。
最近の進歩は、グラフベースとトランスフォーマーベースのメソッドを導入し、パフォーマンスを改善し、ラベルの依存関係をキャプチャしている。
本稿では,これらの課題に対処する新しいフレームワークである確率的多ラベルコントラスト学習(ProbMCL)を提案する。
論文 参考訳(メタデータ) (2024-01-02T22:15:20Z) - Mutual Information Divergence: A Unified Metric for Multimodal
Generative Models [19.520177195241704]
我々は,MID(Multual Information Divergence)を用いて作成したCLIP特徴を統一計量として用いた負のガウス交叉情報を提案する。
我々は、テキスト・ツー・イメージ生成や画像キャプションタスクにおいて、慎重に生成された、あるいは人手による判断を用いて、競合する指標と比較した。
提案したMIDは、ベンチマーク、サンプルパーシモニー、および悪用されたCLIPモデルに対するロバスト性によって、競合する手法よりも大幅に優れている。
論文 参考訳(メタデータ) (2022-05-25T09:34:37Z) - Trusted Multi-View Classification with Dynamic Evidential Fusion [73.35990456162745]
信頼型マルチビュー分類(TMC)と呼ばれる新しいマルチビュー分類アルゴリズムを提案する。
TMCは、様々な視点をエビデンスレベルで動的に統合することで、マルチビュー学習のための新しいパラダイムを提供する。
理論的および実験的結果は、精度、堅牢性、信頼性において提案されたモデルの有効性を検証した。
論文 参考訳(メタデータ) (2022-04-25T03:48:49Z) - Learning Multimodal VAEs through Mutual Supervision [72.77685889312889]
MEMEは、相互監督を通じて暗黙的にモダリティ間の情報を結合する。
我々は、MEMEが、部分的および完全観察スキームの双方で標準メトリクスのベースラインを上回ることを実証する。
論文 参考訳(メタデータ) (2021-06-23T17:54:35Z) - Orthogonal Ensemble Networks for Biomedical Image Segmentation [10.011414604407681]
モデル多様性を明示する新しいフレームワークであるOrthogonal Ensemble Networks (OEN)を紹介する。
提案手法を2つの課題脳病変セグメンテーションタスクでベンチマークする。
実験結果から,本手法はより頑健でよく校正されたアンサンブルモデルを生成することが示された。
論文 参考訳(メタデータ) (2021-05-22T23:44:55Z) - Trusted Multi-View Classification [76.73585034192894]
本稿では,信頼された多視点分類と呼ばれる新しい多視点分類手法を提案する。
さまざまなビューをエビデンスレベルで動的に統合することで、マルチビュー学習のための新しいパラダイムを提供する。
提案アルゴリズムは,分類信頼性とロバスト性の両方を促進するために,複数のビューを併用する。
論文 参考訳(メタデータ) (2021-02-03T13:30:26Z) - XEM: An Explainable-by-Design Ensemble Method for Multivariate Time
Series Classification [61.33695273474151]
マルチ変数時系列分類のためのeXplainable-by-design Ensemble法であるXEMを提案する。
XEMは、明示的なブースティング・バッグ・アプローチと暗黙的なディペンション・アンド・コンカ・アプローチを組み合わせた新しいハイブリッド・アンサンブル法に依存している。
評価の結果、XEM は、パブリック UEA データセット上で最先端の MTS 分類器よりも優れていることがわかった。
論文 参考訳(メタデータ) (2020-05-07T17:50:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。