論文の概要: Learning Weakly-Supervised Contrastive Representations

• arxiv url: http://arxiv.org/abs/2202.06670v1
• Date: Mon, 14 Feb 2022 12:57:31 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-15 23:20:16.167289
• Title: Learning Weakly-Supervised Contrastive Representations
• Title（参考訳）: 弱教師付きコントラスト表現の学習
• Authors: Yao-Hung Hubert Tsai, Tianqin Li, Weixin Liu, Peiyuan Liao, Ruslan Salakhutdinov, Louis-Philippe Morency
• Abstract要約: 弱教師付きコントラスト学習手法を2段階提案する。 第1段階は、その補助情報に従ってデータをクラスタ化することである。 2つ目のステージは、同じクラスタ内で同様の表現を学習し、異なるクラスタからのデータに対して異なる表現を学習することである。
• 参考スコア（独自算出の注目度）: 104.42824068960668
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We argue that a form of the valuable information provided by the auxiliary information is its implied data clustering information. For instance, considering hashtags as auxiliary information, we can hypothesize that an Instagram image will be semantically more similar with the same hashtags. With this intuition, we present a two-stage weakly-supervised contrastive learning approach. The first stage is to cluster data according to its auxiliary information. The second stage is to learn similar representations within the same cluster and dissimilar representations for data from different clusters. Our empirical experiments suggest the following three contributions. First, compared to conventional self-supervised representations, the auxiliary-information-infused representations bring the performance closer to the supervised representations, which use direct downstream labels as supervision signals. Second, our approach performs the best in most cases, when comparing our approach with other baseline representation learning methods that also leverage auxiliary data information. Third, we show that our approach also works well with unsupervised constructed clusters (e.g., no auxiliary information), resulting in a strong unsupervised representation learning approach.
• Abstract（参考訳）: 補助情報によって提供される貴重な情報の形式は、その暗黙のデータクラスタリング情報であると主張する。 例えば、ハッシュタグを補助情報として考えると、Instagramのイメージが同じハッシュタグと意味的に似ていると仮定できる。 この直観により,2段階の弱教師付きコントラスト学習手法を提案する。 第1段階では、補助情報に従ってデータをクラスタ化する。 第2段階は、同じクラスタ内で類似した表現を学習し、異なるクラスタからのデータの類似表現を異にすることです。 我々の実験は以下の3つの貢献を示唆している。 まず,従来の自己監督表現と比較して,補助情報操作表現は,直接下流ラベルを監督信号として使用する監視表現に近い性能をもたらす。 第2に、補助データ情報も活用する他のベースライン表現学習手法と比較した場合、ほとんどの場合、我々のアプローチが最善である。 第3に, 提案手法は非教師なしクラスタ(例えば, 補助情報を持たない)とうまく連携し, 強力な教師なし表現学習手法をもたらすことを示す。

関連論文リスト

• Consistency Based Weakly Self-Supervised Learning for Human Activity Recognition with Wearables [1.565361244756411]
  センサデータから人間の活動を認識するための弱自己教師型アプローチについて述べる。 提案手法は, クラスタリングアルゴリズムが, 基礎となる人間の行動を特定し, 分類する上で, 同等のパフォーマンスを達成するのに有効であることを示す。
  論文  参考訳（メタデータ） (2024-07-29T06:29:21Z)
• ACTIVE:Augmentation-Free Graph Contrastive Learning for Partial Multi-View Clustering [52.491074276133325]
  部分的マルチビュークラスタリングの問題を解決するために,拡張自由グラフコントラスト学習フレームワークを提案する。 提案手法は、インスタンスレベルのコントラスト学習と欠落データ推論をクラスタレベルに高め、個々の欠落データがクラスタリングに与える影響を効果的に軽減する。
  論文  参考訳（メタデータ） (2022-03-01T02:32:25Z)
• Unsupervised Representation Learning for 3D Point Cloud Data [66.92077180228634]
  我々は、教師なしのポイントクラウド学習に対して、シンプルで効果的なアプローチを提案する。 特に、原点雲の優れたコントラストバージョンを生成する非常に有用な変換を同定する。 本研究では,3次元オブジェクト分類,形状部分分割,シーン分割の3つの下流タスクについて実験を行った。
  論文  参考訳（メタデータ） (2021-10-13T10:52:45Z)
• Clustering by Maximizing Mutual Information Across Views [62.21716612888669]
  本稿では,共同表現学習とクラスタリングを組み合わせた画像クラスタリングのための新しいフレームワークを提案する。 提案手法は,様々な画像データセットにおける最先端の単一ステージクラスタリング手法よりも優れていた。
  論文  参考訳（メタデータ） (2021-07-24T15:36:49Z)
• Integrating Auxiliary Information in Self-supervised Learning [94.11964997622435]
  まず、補助情報がデータ構造に関する有用な情報をもたらす可能性があることを観察する。 補助情報に基づいてデータクラスタを構築する。 我々はCl-InfoNCEがデータクラスタリング情報を活用するためのより良いアプローチであることを示した。
  論文  参考訳（メタデータ） (2021-06-05T11:01:15Z)
• Self-supervised Co-training for Video Representation Learning [103.69904379356413]
  実例に基づく情報ノイズコントラスト推定訓練に意味クラス正の付加を施すことの利点について検討する。 本稿では,インフォネッションNCEの損失を改善するための,自己指導型協調学習手法を提案する。 本研究では,2つの下流タスク(行動認識とビデオ検索)における学習表現の質を評価する。
  論文  参考訳（メタデータ） (2020-10-19T17:59:01Z)
• Learning Robust Representations via Multi-View Information Bottleneck [41.65544605954621]
  元の定式化は、過剰な情報を識別するためにラベル付きデータを必要とする。 この機能は、同一のエンティティの2つのビューが提供されるが、ラベルが不明なマルチビューアントラクサ設定に拡張する。 理論的解析により、MIR-FlickrデータセットのSketchyデータセットとラベル限定バージョンで最先端の結果を生成する新しいマルチビューモデルが定義される。
  論文  参考訳（メタデータ） (2020-02-17T16:01:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。