論文の概要: Rethinking Clustering-Based Pseudo-Labeling for Unsupervised Meta-Learning

• arxiv url: http://arxiv.org/abs/2209.13635v1
• Date: Tue, 27 Sep 2022 19:04:36 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-29 16:21:04.821782
• Title: Rethinking Clustering-Based Pseudo-Labeling for Unsupervised Meta-Learning
• Title（参考訳）: 教師なしメタラーニングのためのクラスタリングに基づく擬似ラベル再考
• Authors: Xingping Dong, Jianbing Shen, and Ling Shao
• Abstract要約: 教師なしメタラーニングのメソッドであるCACTUsは、擬似ラベル付きクラスタリングベースのアプローチである。 このアプローチはモデルに依存しないため、教師付きアルゴリズムと組み合わせてラベルのないデータから学習することができる。 このことの核となる理由は、埋め込み空間においてクラスタリングに優しい性質が欠如していることである。
• 参考スコア（独自算出の注目度）: 146.11600461034746
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: The pioneering method for unsupervised meta-learning, CACTUs, is a clustering-based approach with pseudo-labeling. This approach is model-agnostic and can be combined with supervised algorithms to learn from unlabeled data. However, it often suffers from label inconsistency or limited diversity, which leads to poor performance. In this work, we prove that the core reason for this is lack of a clustering-friendly property in the embedding space. We address this by minimizing the inter- to intra-class similarity ratio to provide clustering-friendly embedding features, and validate our approach through comprehensive experiments. Note that, despite only utilizing a simple clustering algorithm (k-means) in our embedding space to obtain the pseudo-labels, we achieve significant improvement. Moreover, we adopt a progressive evaluation mechanism to obtain more diverse samples in order to further alleviate the limited diversity problem. Finally, our approach is also model-agnostic and can easily be integrated into existing supervised methods. To demonstrate its generalization ability, we integrate it into two representative algorithms: MAML and EP. The results on three main few-shot benchmarks clearly show that the proposed method achieves significant improvement compared to state-of-the-art models. Notably, our approach also outperforms the corresponding supervised method in two tasks.
• Abstract（参考訳）: 教師なしメタラーニングの先駆的手法であるCACTUsは、擬似ラベル付きクラスタリングベースのアプローチである。 このアプローチはモデルに依存しず、教師付きアルゴリズムと組み合わせてラベルなしのデータから学ぶことができる。 しかし、しばしばラベルの不整合や限られた多様性に悩まされ、パフォーマンスが低下する。 本研究は, 組込み空間におけるクラスタリングに親しみやすい性質が欠如していることを証明する。 クラスタリングに親しみやすい埋め込み機能を実現するために,クラス間の類似度比を最小化し,包括的な実験を通じてアプローチを検証する。 埋め込み空間において擬似ラベルを得るために単純なクラスタリングアルゴリズム(k-means)しか利用していないことに注意。 さらに,より多様なサンプルを得るための段階的評価機構を採用し,限られた多様性問題を緩和する。 最後に、このアプローチはモデルに依存しず、既存の教師付きメソッドに簡単に統合できます。 一般化能力を示すために、MAMLとEPの2つの代表アルゴリズムに統合する。 3つのベンチマーク結果から,提案手法が最先端モデルと比較して著しく改善できることが明らかとなった。 特に、このアプローチは2つのタスクで対応する教師付きメソッドよりも優れています。

関連論文リスト

• Dual-Decoupling Learning and Metric-Adaptive Thresholding for Semi-Supervised Multi-Label Learning [81.83013974171364]
  半教師付きマルチラベル学習(SSMLL)は、正確なマルチラベルアノテーションを収集するコストを削減するために、ラベルのないデータを活用する強力なフレームワークである。 半教師付き学習とは異なり、インスタンスに含まれる複数のセマンティクスのため、SSMLLの擬似ラベルとして最も確率の高いラベルを選択することはできない。 本稿では,高品質な擬似ラベルを生成するための二重パースペクティブ手法を提案する。
  論文  参考訳（メタデータ） (2024-07-26T09:33:53Z)
• GCC: Generative Calibration Clustering [55.44944397168619]
  本稿では,特徴学習と拡張をクラスタリングに組み込む新しいGCC法を提案する。 まず,実検体と実検体間の固有関係を識別する識別的特徴アライメント機構を開発する。 第二に、より信頼性の高いクラスタ割り当てを生成するための自己教師付きメトリック学習を設計する。
  論文  参考訳（メタデータ） (2024-04-14T01:51:11Z)
• New Intent Discovery with Attracting and Dispersing Prototype [32.607743914487614]
  New Intent Discovery (NID)は、ラベル付きと大規模にラベル付けされていないデータの助けを借りて、新しい意図のカテゴリを認識し、推論することを目的としている。 本稿では,ロバスト・適応型学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-03-25T16:31:55Z)
• One-Step Multi-View Clustering Based on Transition Probability [61.841829428397034]
  遷移確率に基づくワンステップマルチビュークラスタリング(OSMVC-TP)を導入する。 本手法は,アンカーポイントからカテゴリへの遷移確率を直接学習し,サンプルからカテゴリへの遷移確率を計算する。 異なる視点でラベルの整合性を維持するために、ソフトラベルからなるテンソルにシャッテン p-ノルムの制約を適用する。
  論文  参考訳（メタデータ） (2024-03-03T09:43:23Z)
• Anchor-free Clustering based on Anchor Graph Factorization [17.218481911995365]
  Anchor Graph Factorization(AFCAGF)に基づくAnchor-free Clusteringと呼ばれる新しい手法を提案する。 AFCAGFはアンカーグラフの学習において革新的であり、サンプル間のペア距離の計算のみを必要とする。 我々は,クラスタセンターとFKMのサンプル間のメンバシップ行列の概念を,複数のアンカーポイントとサンプルを含むアンカーグラフに進化させた。
  論文  参考訳（メタデータ） (2024-02-24T02:16:42Z)
• Efficient Bilateral Cross-Modality Cluster Matching for Unsupervised Visible-Infrared Person ReID [56.573905143954015]
  本稿では, クラスタ間マッチングによるモダリティギャップを低減するための, クラスタマッチングに基づく新たな学習フレームワークを提案する。 このような監視信号の下では、クラスタレベルで特徴を協調的に整列させるために、モダリティ・特定・モダリティ・非依存(MSMA)コントラスト学習フレームワークが提案されている。 公開SYSU-MM01とRegDBデータセットの実験により,提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2023-05-22T03:27:46Z)
• Neighbour Consistency Guided Pseudo-Label Refinement for Unsupervised Person Re-Identification [80.98291772215154]
  教師なしの人物再識別(ReID)は、アノテーションを使わずに人物検索のための識別的アイデンティティの特徴を学習することを目的としている。 近年の進歩はクラスタリングに基づく擬似ラベルを活用することで実現されている。 本稿では, Pseudo Label Refinement フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-11-30T09:39:57Z)
• Learning the Precise Feature for Cluster Assignment [39.320210567860485]
  表現学習とクラスタリングを1つのパイプラインに初めて統合するフレームワークを提案する。 提案フレームワークは,近年開発された生成モデルを用いて,本質的な特徴を学習する能力を活用している。 実験の結果,提案手法の性能は,最先端の手法よりも優れているか,少なくとも同等であることがわかった。
  論文  参考訳（メタデータ） (2021-06-11T04:08:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。