論文の概要: Towards Uncovering the Intrinsic Data Structures for Unsupervised Domain
Adaptation using Structurally Regularized Deep Clustering
- arxiv url: http://arxiv.org/abs/2012.04280v2
- Date: Thu, 8 Apr 2021 03:38:39 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-16 17:34:43.676054
- Title: Towards Uncovering the Intrinsic Data Structures for Unsupervised Domain
Adaptation using Structurally Regularized Deep Clustering
- Title(参考訳): 構造規則化深層クラスタリングを用いた教師なしドメイン適応のための固有データ構造発見に向けて
- Authors: Hui Tang, Xiatian Zhu, Ke Chen, Kui Jia, C. L. Philip Chen
- Abstract要約: Unsupervised Domain Adapt (UDA) は、ターゲットドメイン上のラベルなしデータの予測を行う分類モデルを学ぶことである。
本稿では,対象データの正規化判別クラスタリングと生成クラスタリングを統合する構造的正規化深層クラスタリングのハイブリッドモデルを提案する。
提案するH-SRDCは, インダクティブ設定とトランスダクティブ設定の両方において, 既存の手法よりも優れている。
- 参考スコア(独自算出の注目度): 119.88565565454378
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Unsupervised domain adaptation (UDA) is to learn classification models that
make predictions for unlabeled data on a target domain, given labeled data on a
source domain whose distribution diverges from the target one. Mainstream UDA
methods strive to learn domain-aligned features such that classifiers trained
on the source features can be readily applied to the target ones. Although
impressive results have been achieved, these methods have a potential risk of
damaging the intrinsic data structures of target discrimination, raising an
issue of generalization particularly for UDA tasks in an inductive setting. To
address this issue, we are motivated by a UDA assumption of structural
similarity across domains, and propose to directly uncover the intrinsic target
discrimination via constrained clustering, where we constrain the clustering
solutions using structural source regularization that hinges on the very same
assumption. Technically, we propose a hybrid model of Structurally Regularized
Deep Clustering, which integrates the regularized discriminative clustering of
target data with a generative one, and we thus term our method as H-SRDC. Our
hybrid model is based on a deep clustering framework that minimizes the
Kullback-Leibler divergence between the distribution of network prediction and
an auxiliary one, where we impose structural regularization by learning
domain-shared classifier and cluster centroids. By enriching the structural
similarity assumption, we are able to extend H-SRDC for a pixel-level UDA task
of semantic segmentation. We conduct extensive experiments on seven UDA
benchmarks of image classification and semantic segmentation. With no explicit
feature alignment, our proposed H-SRDC outperforms all the existing methods
under both the inductive and transductive settings. We make our implementation
codes publicly available at https://github.com/huitangtang/H-SRDC.
- Abstract(参考訳): 教師なし領域適応 (unsupervised domain adaptation, uda) とは、分布が対象領域と異なるソース領域のラベル付きデータに対して、対象領域上のラベルなしデータの予測を行う分類モデルを学ぶことである。
メインストリームのUDAメソッドは、ソース機能で訓練された分類器をターゲットの機能に簡単に適用できるように、ドメイン整合性のある特徴を学習しようとする。
優れた結果が得られたが、これらの手法は本質的なデータ構造を標的識別に損なう可能性があり、特にUDAタスクの帰納的環境における一般化の問題を提起する。
この問題に対処するため、我々は、ドメイン間の構造的類似性に関するudaの仮定に動機づけられ、制約付きクラスタリングによって内在的ターゲットの識別を直接解明することを提案し、そこでは、非常に同じ仮定にかかっている構造的ソース正規化を用いてクラスタリングソリューションを制約する。
技術的には、対象データの正規化識別クラスタリングと生成データを統合する構造規則化深層クラスタリングのハイブリッドモデルを提案し、本手法をH-SRDCと呼ぶ。
このハイブリッドモデルは,ネットワーク予測の分布と補助的分布との間のkullback-leiblerの発散を最小限に抑え,ドメイン共有型分類器とクラスタセンタロイドを学習することで構造的正規化を課す深層クラスタリングフレームワークに基づいている。
構造的類似性の仮定を豊かにすることにより、セマンティックセグメンテーションの画素レベルのUDAタスクに対してH-SRDCを拡張することができる。
画像分類とセマンティックセグメンテーションの7つのUDAベンチマークについて広範な実験を行った。
明示的な特徴アライメントを持たず,提案したH-SRDCはインダクティブ設定とトランスダクティブ設定の両方で既存の手法よりも優れている。
実装コードはhttps://github.com/huitangtang/H-SRDC.comで公開しています。
関連論文リスト
- Unsupervised Domain Adaptation via Distilled Discriminative Clustering [45.39542287480395]
対象データの識別クラスタリングとしてドメイン適応問題を再検討する。
本稿では,ラベル付き情報源データよりも並列に教師付き学習目標を用いて,ネットワークを協調的に訓練することを提案する。
5つの人気のあるベンチマークデータセットに対して、慎重にアブレーション研究と広範な実験を行う。
論文 参考訳(メタデータ) (2023-02-23T13:03:48Z) - Divide and Contrast: Source-free Domain Adaptation via Adaptive
Contrastive Learning [122.62311703151215]
Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。
DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。
さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
論文 参考訳(メタデータ) (2022-11-12T09:21:49Z) - Polycentric Clustering and Structural Regularization for Source-free
Unsupervised Domain Adaptation [20.952542421577487]
Source-Free Domain Adaptation (SFDA)は、訓練済みのソースモデルから学習した知識を未確認のターゲットドメインに転送することで、ドメイン適応問題を解決することを目的としている。
既存のほとんどのメソッドは、機能プロトタイプを生成することによって、ターゲットデータに擬似ラベルを割り当てる。
本稿では,PCSRと命名された新しいフレームワークを,クラス内多中心クラスタリングおよび構造規則化戦略を通じてSFDAに取り組むために提案する。
論文 参考訳(メタデータ) (2022-10-14T02:20:48Z) - Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。
SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
論文 参考訳(メタデータ) (2021-12-12T06:11:16Z) - Instance Level Affinity-Based Transfer for Unsupervised Domain
Adaptation [74.71931918541748]
ILA-DAと呼ばれる適応中のソースからターゲットへの転送に対するインスタンス親和性に基づく基準を提案する。
まず、ソースとターゲットをまたいだ類似および異種サンプルを抽出し、マルチサンプルのコントラスト損失を利用してドメインアライメントプロセスを駆動する信頼性が高く効率的な手法を提案する。
ILA-DAの有効性は、様々なベンチマークデータセットに対する一般的なドメイン適応手法よりも精度が一貫した改善を観察することによって検証する。
論文 参考訳(メタデータ) (2021-04-03T01:33:14Z) - Exploring Category-Agnostic Clusters for Open-Set Domain Adaptation [138.29273453811945]
本稿では、カテゴリ非依存クラスタ(SE-CC)を対象ドメインのカテゴリ非依存クラスタと組み合わせた、新たなアーキテクチャを提案する。
クラスタリングは、対象ドメイン特有の基盤となるデータ空間構造を明らかにするカテゴリ非依存クラスタを得るために、ラベルなしのターゲットサンプルすべてにわたって実行される。
論文 参考訳(メタデータ) (2020-06-11T16:19:02Z) - Domain Adaptation by Class Centroid Matching and Local Manifold
Self-Learning [8.316259570013813]
本稿では,対象領域のデータ分散構造を徹底的に探索できる新しい領域適応手法を提案する。
対象領域内の同一クラスタ内のサンプルを個人ではなく全体とみなし、クラスセントロイドマッチングにより擬似ラベルを対象クラスタに割り当てる。
提案手法の目的関数を理論的収束保証を用いて解くために,効率的な反復最適化アルゴリズムを設計した。
論文 参考訳(メタデータ) (2020-03-20T16:59:27Z) - Unsupervised Domain Adaptation via Structurally Regularized Deep
Clustering [35.008158504090176]
教師なし領域適応(Unsupervised domain adapt, UDA)とは、対象ドメイン上のラベルなしデータの予測であり、対象ドメインから分布がシフトするソースドメイン上のラベル付きデータである。
対象データの識別クラスタリングにより,本質的な対象識別を直接発見することを提案する。
我々は,提案手法をSRDC (Structurely Regularized Deep Clustering) と呼ぶ。
論文 参考訳(メタデータ) (2020-03-19T07:26:41Z) - Contradictory Structure Learning for Semi-supervised Domain Adaptation [67.89665267469053]
現在の逆順応法は、クロスドメインの特徴を整列させようとする。
1)条件分布ミスマッチ、2)決定境界のソース領域へのバイアス。
本稿では,対向構造の学習を統一することで,半教師付きドメイン適応のための新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2020-02-06T22:58:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。