論文の概要: Unsupervised Transfer Learning with Self-Supervised Remedy

• arxiv url: http://arxiv.org/abs/2006.04737v1
• Date: Mon, 8 Jun 2020 16:42:17 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-24 02:10:39.422734
• Title: Unsupervised Transfer Learning with Self-Supervised Remedy
• Title（参考訳）: 自己教師付き治療による教師なし転校学習
• Authors: Jiabo Huang and Shaogang Gong
• Abstract要約: 手動ラベルのない新しいドメインにディープネットワークを一般化することは、ディープラーニングにとって難しい。 事前学習された知識は、学習されたドメインや新しいドメインについて強い仮定をしなければ、うまく伝達しない。 本研究は,ラベル付き関連ドメインからの知識伝達により,新規ドメインにおける未ラベル対象データの識別潜在空間を学習することを目的とする。
• 参考スコア（独自算出の注目度）: 60.315835711438936
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Generalising deep networks to novel domains without manual labels is challenging to deep learning. This problem is intrinsically difficult due to unpredictable changing nature of imagery data distributions in novel domains. Pre-learned knowledge does not transfer well without making strong assumptions about the learned and the novel domains. Different methods have been studied to address the underlying problem based on different assumptions, e.g. from domain adaptation to zero-shot and few-shot learning. In this work, we address this problem by transfer clustering that aims to learn a discriminative latent space of the unlabelled target data in a novel domain by knowledge transfer from labelled related domains. Specifically, we want to leverage relative (pairwise) imagery information, which is freely available and intrinsic to a target domain, to model the target domain image distribution characteristics as well as the prior-knowledge learned from related labelled domains to enable more discriminative clustering of unlabelled target data. Our method mitigates nontransferrable prior-knowledge by self-supervision, benefiting from both transfer and self-supervised learning. Extensive experiments on four datasets for image clustering tasks reveal the superiority of our model over the state-of-the-art transfer clustering techniques. We further demonstrate its competitive transferability on four zero-shot learning benchmarks.
• Abstract（参考訳）: 手動ラベルのない新しいドメインにディープネットワークを一般化することは、ディープラーニングにとって難しい。 この問題は、新しい領域における画像データ分布の予測不能な変化により本質的に困難である。 事前学習された知識は、学習された領域と新しい領域について強い仮定をせずにはうまく移動できない。 ドメイン適応からゼロショット学習、少数ショット学習まで、さまざまな仮定に基づく根本的な問題に対処するために異なる方法が研究されている。 本研究では,ラベルなし対象データの識別的潜在空間をラベル付き関連領域からの知識転送によって学習することを目的とした転送クラスタリングによってこの問題に対処する。 具体的には,対象領域に内在する相対的(好適な)画像情報を利用して,対象領域の画像分布特性と関連するラベル付き領域から学習した事前知識をモデル化し,ラベル付き対象データのより識別的なクラスタリングを実現する。 本手法は,移動学習と自己指導学習の両方の利点を生かして,自己超越によって伝達不能な事前知識を緩和する。 画像クラスタリングタスクのための4つのデータセットに関する広範な実験は、最先端の転送クラスタリング技術よりも、モデルが優れていることを示している。 さらに,4つのゼロショット学習ベンチマークにおいて,その競合性を示す。

関連論文リスト

• CDFSL-V: Cross-Domain Few-Shot Learning for Videos [58.37446811360741]
  ビデオのアクション認識は、いくつかのラベル付き例でのみ、新しいカテゴリを認識するための効果的なアプローチである。 既存のビデオアクション認識の方法は、同じドメインからの大きなラベル付きデータセットに依存している。 本稿では,自己教師付き学習とカリキュラム学習を活用した,クロスドメインな数ショットビデオ行動認識手法を提案する。
  論文  参考訳（メタデータ） (2023-09-07T19:44:27Z)
• Deep face recognition with clustering based domain adaptation [57.29464116557734]
  そこで本研究では,ターゲットドメインとソースがクラスを共有しない顔認識タスクを対象とした,クラスタリングに基づく新しいドメイン適応手法を提案する。 本手法は,特徴領域をグローバルに整列させ,その一方で,対象クラスタを局所的に識別することで,識別対象特徴を効果的に学習する。
  論文  参考訳（メタデータ） (2022-05-27T12:29:11Z)
• Domain Adaptive Semantic Segmentation without Source Data [50.18389578589789]
  モデルがソースドメイン上で事前学習されていることを前提として、ソースデータのないドメイン適応セマンティックセマンティックセマンティックセマンティクスについて検討する。 本稿では,この課題に対して,肯定的学習と否定的学習という2つの要素を用いた効果的な枠組みを提案する。 私たちのフレームワークは、パフォーマンスをさらに向上するために、他のメソッドに簡単に実装および組み込むことができます。
  論文  参考訳（メタデータ） (2021-10-13T04:12:27Z)
• Bridge to Target Domain by Prototypical Contrastive Learning and Label Confusion: Re-explore Zero-Shot Learning for Slot Filling [18.19818129121059]
  クロスドメインスロットフィリングは、ターゲットドメインでデータ不足が発生した場合のデータ依存を軽減する。 ゼロショットスロットフィリングのための動的ラベル混乱戦略を用いた,プロトタイプ型コントラスト学習に基づく新しい手法を提案する。 本モデルでは,未確認スロットの大幅な改善に加えて,スロット充足タスクに新たな最先端技術を設定する。
  論文  参考訳（メタデータ） (2021-10-07T15:50:56Z)
• Contrastive Learning and Self-Training for Unsupervised Domain Adaptation in Semantic Segmentation [71.77083272602525]
  UDAはラベル付きソースドメインからラベルなしターゲットドメインへの効率的な知識伝達を試みている。 本稿では,領域にまたがるカテゴリ別センタロイドを適応させるコントラスト学習手法を提案する。 提案手法を自己学習で拡張し,メモリ効率の良い時間アンサンブルを用いて一貫性と信頼性の高い擬似ラベルを生成する。
  論文  参考訳（メタデータ） (2021-05-05T11:55:53Z)
• Detecting Bias in Transfer Learning Approaches for Text Classification [3.968023038444605]
  教師付き学習環境では、ラベルは常に分類タスクに必要である。 本研究では,不均衡なクラスのバイアスを検出するために,既存の移動学習手法の評価を行う。
  論文  参考訳（メタデータ） (2021-02-03T15:48:21Z)
• A Review of Single-Source Deep Unsupervised Visual Domain Adaptation [81.07994783143533]
  大規模ラベル付きトレーニングデータセットにより、ディープニューラルネットワークは、幅広いベンチマークビジョンタスクを拡張できるようになった。 多くのアプリケーションにおいて、大量のラベル付きデータを取得するのは非常に高価で時間を要する。 限られたラベル付きトレーニングデータに対処するため、大規模ラベル付きソースドメインでトレーニングされたモデルを、疎ラベルまたは未ラベルのターゲットドメインに直接適用しようと試みている人も多い。
  論文  参考訳（メタデータ） (2020-09-01T00:06:50Z)
• CSCL: Critical Semantic-Consistent Learning for Unsupervised Domain Adaptation [42.226842513334184]
  本稿では,ドメインワイド分布とカテゴリワイド分布の相違を緩和する,新しいクリティカルセマンティック・一貫性学習モデルを提案する。 具体的には、伝達不能な知識を無視しながら、伝達可能なドメインに関する知識を強調するために、クリティカルトランスファーベースの敵対的フレームワークを設計する。
  論文  参考訳（メタデータ） (2020-08-24T14:12:04Z)
• Physically-Constrained Transfer Learning through Shared Abundance Space for Hyperspectral Image Classification [14.840925517957258]
  本稿では、ソースとターゲットドメイン間のギャップを埋める新しい転送学習手法を提案する。 提案手法は,共有空間を経由した物理制約付き移動学習と呼ばれる。
  論文  参考訳（メタデータ） (2020-08-19T17:41:37Z)
• Unsupervised Cross-domain Image Classification by Distance Metric Guided Feature Alignment [11.74643883335152]
  教師なしドメイン適応は、ソースドメインからターゲットドメインに知識を転送する有望な道である。 本稿では,距離メトリックガイド機能アライメント(MetFA)を提案する。 我々のモデルは、クラス分布アライメントを統合して、ソースドメインからターゲットドメインにセマンティック知識を転送します。
  論文  参考訳（メタデータ） (2020-08-19T13:36:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。