論文の概要: Self-Supervised Metric Learning in Multi-View Data: A Downstream Task Perspective

• arxiv url: http://arxiv.org/abs/2106.07138v1
• Date: Mon, 14 Jun 2021 02:34:33 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-15 16:15:25.772126
• Title: Self-Supervised Metric Learning in Multi-View Data: A Downstream Task Perspective
• Title（参考訳）: マルチビューデータにおける自己教師付きメトリック学習:下流タスクの視点から
• Authors: Shulei Wang
• Abstract要約: マルチビューデータの文脈において,自己教師付きメトリック学習が下流タスクにどのような効果をもたらすかを検討する。 本稿では, 下流タスクにおいて, 目標距離がいくつかの望ましい特性を満たすことを示す。 本分析では,4つの下流タスクにおいて,自己教師付きメトリック学習による改善を特徴付ける。
• 参考スコア（独自算出の注目度）: 2.01243755755303
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Self-supervised metric learning has been a successful approach for learning a distance from an unlabeled dataset. The resulting distance is broadly useful for improving various distance-based downstream tasks, even when no information from downstream tasks is utilized in the metric learning stage. To gain insights into this approach, we develop a statistical framework to theoretically study how self-supervised metric learning can benefit downstream tasks in the context of multi-view data. Under this framework, we show that the target distance of metric learning satisfies several desired properties for the downstream tasks. On the other hand, our investigation suggests the target distance can be further improved by moderating each direction's weights. In addition, our analysis precisely characterizes the improvement by self-supervised metric learning on four commonly used downstream tasks: sample identification, two-sample testing, $k$-means clustering, and $k$-nearest neighbor classification. As a by-product, we propose a simple spectral method for self-supervised metric learning, which is computationally efficient and minimax optimal for estimating target distance. Finally, numerical experiments are presented to support the theoretical results in the paper.
• Abstract（参考訳）: 自己教師付きメトリック学習は、ラベルのないデータセットから距離を学習するアプローチとして成功している。 得られた距離は、計量学習段階において下流タスクからの情報が使われなくても、様々な距離ベースの下流タスクを改善するのに広く有用である。 本研究では,マルチビューデータの文脈において,自己教師付きメトリック学習が下流課題にどのように役立つかを理論的に研究するための統計的枠組みを考案する。 この枠組みの下では、メトリック学習の目標距離が下流タスクに必要ないくつかの特性を満たすことを示す。 一方,本研究では,各方向の重みを緩和することにより,目標距離をさらに改善できることを示す。 さらに,本分析では,サンプル識別,2サンプルテスト,$k$-meansクラスタリング,$k$-nearest近隣分類の4つのダウンストリームタスクに対して,自己教師付きメトリック学習による改善を正確に特徴付ける。 副産物として,目標距離の推定に最適で計算効率のよい自己教師付き距離学習のための簡易スペクトル法を提案する。 最後に,論文の理論的結果を支持する数値実験を行った。

関連論文リスト

• Anchor-aware Deep Metric Learning for Audio-visual Retrieval [11.675472891647255]
  Metric Learningは、基礎となるデータ構造を捕捉し、オーディオ・ビジュアル・クロスモーダル検索(AV-CMR)のようなタスクの性能を向上させることを目的としている。 近年の研究では、トレーニング中に埋め込み空間から影響のあるデータポイントを選択するためのサンプリング手法が採用されている。 しかし、トレーニングデータポイントの不足のため、モデルトレーニングはスペースを完全に探索することができない。 本稿では,この課題に対処するために,AADML(Anchor-aware Deep Metric Learning)手法を提案する。
  論文  参考訳（メタデータ） (2024-04-21T22:44:44Z)
• Piecewise-Linear Manifolds for Deep Metric Learning [8.670873561640903]
  教師なしの深度学習は、ラベルなしデータのみを使用して意味表現空間を学習することに焦点を当てる。 本稿では,各低次元線形片が点の小さな近傍でデータ多様体を近似して高次元データ多様体をモデル化することを提案する。 我々は、この類似度推定が、現在の最先端技術の類似度推定よりも基礎的真理と相関していることを実証的に示す。
  論文  参考訳（メタデータ） (2024-03-22T06:22:20Z)
• Few-shot Metric Learning: Online Adaptation of Embedding for Retrieval [37.601607544184915]
  メトリック学習は、典型的には、類似した物体を近くの点にマッピングする効果的な埋め込み関数を学習することによって距離メトリックを構築することを目的としている。 近年のディープ・メトリック・ラーニングの進歩にもかかわらず、学習されたメートル法が大きな領域ギャップを持つ未確認のクラスに一般化することは依然として困難である。 本稿では,少数の注釈付きデータのみを用いて,組込み関数を対象領域に適応させることを目的とした,数ショットメトリック学習の新たな課題を提案する。
  論文  参考訳（メタデータ） (2022-11-14T05:10:17Z)
• Composite Learning for Robust and Effective Dense Predictions [81.2055761433725]
  マルチタスク学習は、目標タスクを補助タスクと協調的に最適化することで、より優れたモデル一般化を約束する。 自己監督型(補助的)タスクと密接な予測(目標)タスクを共同でトレーニングすることで、目標タスクの性能を継続的に向上し、補助タスクのラベル付けの必要性を排除できることが判明した。
  論文  参考訳（メタデータ） (2022-10-13T17:59:16Z)
• Finding Significant Features for Few-Shot Learning using Dimensionality Reduction [0.0]
  このモジュールは、計量学習法により与えられる類似度関数を、分類のためのより識別的な特徴を持つようにすることで、精度の向上を支援する。 提案手法は,MiniImageNetデータセットにおけるメトリック学習ベースラインの精度を約2%向上させる。
  論文  参考訳（メタデータ） (2021-07-06T16:36:57Z)
• ReMP: Rectified Metric Propagation for Few-Shot Learning [67.96021109377809]
  修正されたメートル法空間は、トレーニングからテストまでのメートル法一貫性を維持するために学習される。 多くの分析結果から、目的の単純な修正がかなりの性能向上をもたらすことが示唆された。 提案したReMPは効率的で効率的であり、様々な標準的な数発の学習データセットで芸術の状態を上回ります。
  論文  参考訳（メタデータ） (2020-12-02T00:07:53Z)
• Proxy Network for Few Shot Learning [9.529264466445236]
  本稿では,メタラーニングのアーキテクチャの下で,プロキシネットワークと呼ばれる数ショットの学習アルゴリズムを提案する。 CUB と mini-ImageNet のデータセットを 1-shot-5-way と 5-shot-5-way のシナリオで実験する。
  論文  参考訳（メタデータ） (2020-09-09T13:28:07Z)
• Provably Robust Metric Learning [98.50580215125142]
  既存のメトリクス学習アルゴリズムは、ユークリッド距離よりもロバストなメトリクスをもたらすことを示す。 対向摂動に対して頑健なマハラノビス距離を求めるための新しい距離学習アルゴリズムを提案する。 実験結果から,提案アルゴリズムは証明済みの堅牢な誤りと経験的堅牢な誤りの両方を改善した。
  論文  参考訳（メタデータ） (2020-06-12T09:17:08Z)
• Multi-Task Learning for Dense Prediction Tasks: A Survey [87.66280582034838]
  マルチタスク学習(MTL)技術は、性能、計算、メモリフットプリントに関する有望な結果を示している。 我々は、コンピュータビジョンにおけるMLLのための最先端のディープラーニングアプローチについて、よく理解された視点を提供する。
  論文  参考訳（メタデータ） (2020-04-28T09:15:50Z)
• Meta-Learned Confidence for Few-shot Learning [60.6086305523402]
  数ショットのメトリックベースのアプローチのための一般的なトランスダクティブ推論手法は、最も確実なクエリ例の平均で、各クラスのプロトタイプを更新することである。 本稿では,各クエリの信頼度をメタラーニングして,ラベルのないクエリに最適な重みを割り当てる手法を提案する。 4つのベンチマークデータセットに対してメタ学習の信頼度で、少数ショットの学習モデルを検証した。
  論文  参考訳（メタデータ） (2020-02-27T10:22:17Z)
• CONSAC: Robust Multi-Model Fitting by Conditional Sample Consensus [62.86856923633923]
  我々は,同じ形状の複数のパラメトリックモデルを雑音測定に適合させる頑健な推定器を提案する。 複数のモデル検出のための手作り検索戦略を利用する従来の研究とは対照的に,データから検索戦略を学習する。 探索の自己教師付き学習において,提案したアルゴリズムをマルチホログラフィー推定で評価し,最先端手法よりも優れた精度を示す。
  論文  参考訳（メタデータ） (2020-01-08T17:37:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。