論文の概要: Deep Metric Learning-Based Semi-Supervised Regression With Alternate
Learning
- arxiv url: http://arxiv.org/abs/2202.11388v1
- Date: Wed, 23 Feb 2022 10:04:15 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-24 22:50:21.734526
- Title: Deep Metric Learning-Based Semi-Supervised Regression With Alternate
Learning
- Title(参考訳): 交替学習を用いた深度学習に基づく半教師付き回帰
- Authors: Adina Zell, Gencer Sumbul, Beg\"um Demir
- Abstract要約: 本稿では,パラメータ推定問題に対するDML-S2R法を提案する。
DML-S2R法は, 対象値の付加サンプルを収集することなく, ラベル付きサンプルが不足している問題を緩和することを目的としている。
実験の結果,DML-S2Rは最先端の半教師付き回帰法と比較された。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper introduces a novel deep metric learning-based semi-supervised
regression (DML-S2R) method for parameter estimation problems. The proposed
DML-S2R method aims to mitigate the problems of insufficient amount of labeled
samples without collecting any additional samples with target values. To this
end, the proposed DML-S2R method is made up of two main steps: i) pairwise
similarity modeling with scarce labeled data; and ii) triplet-based metric
learning with abundant unlabeled data. The first step aims to model pairwise
sample similarities by using a small number of labeled samples. This is
achieved by estimating the target value differences of labeled samples with a
Siamese neural network (SNN). The second step aims to learn a triplet-based
metric space (in which similar samples are close to each other and dissimilar
samples are far apart from each other) when the number of labeled samples is
insufficient. This is achieved by employing the SNN of the first step for
triplet-based deep metric learning that exploits not only labeled samples but
also unlabeled samples. For the end-to-end training of DML-S2R, we investigate
an alternate learning strategy for the two steps. Due to this strategy, the
encoded information in each step becomes a guidance for learning the other
step. The experimental results confirm the success of DML-S2R compared to the
state-of-the-art semi-supervised regression methods. The code of the proposed
method is publicly available at https://git.tu-berlin.de/rsim/DML-S2R.
- Abstract(参考訳): 本稿では,パラメータ推定問題に対する新しい深層メトリック学習に基づく半教師付き回帰法(dml-s2r)を提案する。
DML-S2R法は, 対象値の付加サンプルを収集することなく, ラベル付きサンプルが不足している問題を緩和することを目的としている。
この目的のために提案するdml-s2r法は主に2つのステップからなる。
一 ラベル付きデータが少ない一対の類似性モデリング
二 豊富なラベルのないデータを有する三重項に基づく計量学習
最初のステップは、少数のラベル付きサンプルを使用してペアワイズサンプルの類似性をモデル化することである。
これは、ラベル付きサンプルの目標値差をSNN(Siamese Neural Network)で推定することで達成される。
第2のステップは、ラベル付きサンプルの数が不十分な場合に、三重項ベースの距離空間(類似したサンプルが互いに近く、異質なサンプルが互いに遠く離れている)を学ぶことである。
これは、ラベル付きサンプルだけでなくラベルなしサンプルも活用するトリプルトベースのディープメトリック学習に、最初のステップのsnを使用することで実現されている。
DML-S2Rのエンド・ツー・エンドトレーニングにおいて,この2つのステップの学習戦略について検討する。
この戦略により、各ステップのエンコードされた情報は、他のステップを学ぶためのガイダンスとなる。
実験の結果,DML-S2Rは最先端の半教師付き回帰法と比較された。
提案手法のコードはhttps://git.tu-berlin.de/rsim/DML-S2Rで公開されている。
関連論文リスト
- A semi-supervised learning using over-parameterized regression [0.0]
半教師付き学習(SSL)は機械学習において重要なテーマである。
本稿では,未ラベルサンプルに関する情報をカーネル関数に組み込む手法を提案する。
論文 参考訳(メタデータ) (2024-09-06T03:05:35Z) - Decoupled Prototype Learning for Reliable Test-Time Adaptation [50.779896759106784]
テスト時間適応(TTA)は、推論中にトレーニング済みのソースモデルをターゲットドメインに継続的に適応させるタスクである。
1つの一般的なアプローチは、推定擬似ラベルによるクロスエントロピー損失を伴う微調整モデルである。
本研究は, 各試料の分類誤差を最小化することで, クロスエントロピー損失の脆弱性がラベルノイズを引き起こすことを明らかにした。
本稿では,プロトタイプ中心の損失計算を特徴とする新しいDPL法を提案する。
論文 参考訳(メタデータ) (2024-01-15T03:33:39Z) - Generative Semi-supervised Learning with Meta-Optimized Synthetic
Samples [5.384630221560811]
半教師付き学習(SSL)はラベル付きデータセットとラベルなしデータセットを使用して、深い分類モデルをトレーニングするための有望なアプローチである。
本稿では,SSLモデルをラベルなしのデータセットなしでトレーニングすることは可能か,という研究課題について検討する。
多様な領域に数百万のサンプルを含むデータセットに基づいて学習した生成基盤モデルから生成された合成データセットを用いたSSL手法を提案する。
論文 参考訳(メタデータ) (2023-09-28T03:47:26Z) - Label-Noise Learning with Intrinsically Long-Tailed Data [65.41318436799993]
本稿では,本質的な長期データを用いたラベルノイズ学習のための学習フレームワークを提案する。
具体的には, 2段階の2次元試料選択法(TABASCO)を提案する。
論文 参考訳(メタデータ) (2022-08-21T07:47:05Z) - Adaptive neighborhood Metric learning [184.95321334661898]
適応的近傍距離距離学習(ANML)という新しい距離距離距離距離距離距離学習アルゴリズムを提案する。
ANMLは線形埋め込みと深層埋め込みの両方を学ぶのに使うことができる。
本手法で提案するemphlog-exp平均関数は,深層学習手法をレビューするための新たな視点を与える。
論文 参考訳(メタデータ) (2022-01-20T17:26:37Z) - Exploring Adversarial Robustness of Deep Metric Learning [25.12224002984514]
DMLはディープニューラルネットワークアーキテクチャを使用して、入力のセマンティック埋め込みを学習する。
私たちは、ミニバッチのサンプルに依存しているメトリック損失の主な課題に取り組みます。
3つの一般的なDMLデータセットの実験を使用して、逆転精度の5-76倍の増加を実証する。
論文 参考訳(メタデータ) (2021-02-14T23:18:12Z) - Attentional-Biased Stochastic Gradient Descent [74.49926199036481]
深層学習におけるデータ不均衡やラベルノイズ問題に対処するための証明可能な手法(ABSGD)を提案する。
本手法は運動量SGDの簡易な修正であり,各試料に個別の重み付けを行う。
ABSGDは追加コストなしで他の堅牢な損失と組み合わせられるほど柔軟である。
論文 参考訳(メタデータ) (2020-12-13T03:41:52Z) - Deep Metric Learning Meets Deep Clustering: An Novel Unsupervised
Approach for Feature Embedding [32.8693763689033]
Unsupervised Deep Distance Metric Learning (UDML)は、ラベルのないデータセットから埋め込み空間のサンプル類似性を学ぶことを目的としている。
従来のUDML法は通常、正と負のサンプルの採掘を必要とする三重項損失または対損失を用いる。
しかし、ラベル情報が入手できないため、教師なしの設定ではこれは難しい。
本稿では,その課題を克服する新しいUDML手法を提案する。
論文 参考訳(メタデータ) (2020-09-09T04:02:04Z) - Multi-Task Curriculum Framework for Open-Set Semi-Supervised Learning [54.85397562961903]
ラベル付きデータに制限がある場合に、ラベルなしデータを利用して強力なモデルをトレーニングする半教師付き学習(SSL)が提案されている。
我々は、Open-set SSLと呼ばれるより複雑な新しいシナリオに対処する。
提案手法は,OOD試料の効果を除去し,最先端の結果を得る。
論文 参考訳(メタデータ) (2020-07-22T10:33:55Z) - MetricUNet: Synergistic Image- and Voxel-Level Learning for Precise CT
Prostate Segmentation via Online Sampling [66.01558025094333]
本稿では,前立腺領域を高速に局在させる第1段階と,前立腺領域を正確に区分する第2段階の2段階のフレームワークを提案する。
マルチタスクネットワークにおけるボクセルワイドサンプリングによる新しいオンラインメトリック学習モジュールを提案する。
本手法は,従来のクロスエントロピー学習法やDice損失学習法と比較して,より代表的なボクセルレベルの特徴を効果的に学習することができる。
論文 参考訳(メタデータ) (2020-05-15T10:37:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。