論文の概要: Contrastive Domain Adaptation
- arxiv url: http://arxiv.org/abs/2103.15566v1
- Date: Fri, 26 Mar 2021 13:55:19 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-30 15:20:24.260948
- Title: Contrastive Domain Adaptation
- Title(参考訳): コントラスト的ドメイン適応
- Authors: Mamatha Thota and Georgios Leontidis
- Abstract要約: コントラスト学習を新しいドメイン適応設定に拡張することを提案する。
比較学習は、教師なしの環境で正と負の2組のサンプルを比較して比較することで学習する。
ドメイン適応問題に対処する上で有効な,最近提案されたコントラスト学習フレームワークのバリエーションを開発した。
- 参考スコア(独自算出の注目度): 4.822598110892847
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recently, contrastive self-supervised learning has become a key component for
learning visual representations across many computer vision tasks and
benchmarks. However, contrastive learning in the context of domain adaptation
remains largely underexplored. In this paper, we propose to extend contrastive
learning to a new domain adaptation setting, a particular situation occurring
where the similarity is learned and deployed on samples following different
probability distributions without access to labels. Contrastive learning learns
by comparing and contrasting positive and negative pairs of samples in an
unsupervised setting without access to source and target labels. We have
developed a variation of a recently proposed contrastive learning framework
that helps tackle the domain adaptation problem, further identifying and
removing possible negatives similar to the anchor to mitigate the effects of
false negatives. Extensive experiments demonstrate that the proposed method
adapts well, and improves the performance on the downstream domain adaptation
task.
- Abstract(参考訳): 近年,多くのコンピュータビジョンタスクやベンチマークで視覚表現を学習する上で,コントラスト型自己教師学習が重要な要素となっている。
しかし、ドメイン適応の文脈における対照的な学習はほとんど未熟である。
本稿では,ラベルを使わずに,異なる確率分布に従うサンプルに対して,類似性を学習し,展開する特定の状況である,新しいドメイン適応設定へのコントラスト学習の拡張を提案する。
対照的な学習は、ソースとターゲットのラベルにアクセスせずに教師なしの設定でサンプルの正のペアと負のペアを比較して比較することで学習する。
我々は、最近提案された、ドメイン適応問題に取り組むのに役立つコントラスト学習フレームワークのバリエーションを開発し、偽陰性の影響を軽減するためにアンカーに似た可能な負を識別し除去した。
実験により,提案手法がうまく適応し,下流領域適応タスクの性能が向上することを示した。
関連論文リスト
- Time-Series Contrastive Learning against False Negatives and Class
Imbalance [19.049773287966072]
我々は理論分析を行い、それらが基本的な問題、つまりInfoNCEの損失に基づくフレームワークに固有の偽陰性とクラス不均衡を見落としていることを発見した。
インスタンス識別タスクに携わるモデルに対して,SimCLRフレームワークに根ざした直感的な修正を導入する。
半教師付き一貫性分類を行い、マイノリティクラスの代表的能力を高める。
論文 参考訳(メタデータ) (2023-12-19T08:38:03Z) - Learning Transferable Adversarial Robust Representations via Multi-view
Consistency [57.73073964318167]
デュアルエンコーダを用いたメタ逆多視点表現学習フレームワークを提案する。
未確認領域からの少数ショット学習タスクにおけるフレームワークの有効性を実証する。
論文 参考訳(メタデータ) (2022-10-19T11:48:01Z) - Contrast and Mix: Temporal Contrastive Video Domain Adaptation with
Background Mixing [55.73722120043086]
Contrast and Mix(CoMix)は、教師なしビデオドメイン適応のための識別的不変な特徴表現を学習することを目的とした、新しいコントラスト学習フレームワークである。
まず,2つの異なる速度でラベル付きビデオの符号化表現の類似性を最大化することにより,時間的コントラスト学習を用いてドメインギャップをブリッジする。
第2に,両ドメイン間で共有されるアクションセマンティクスを活用するために,アンカー毎の肯定的な追加を可能にするバックグラウンドミキシングを用いることにより,時間的コントラスト損失の新たな拡張を提案する。
論文 参考訳(メタデータ) (2021-10-28T14:03:29Z) - Dense Contrastive Visual-Linguistic Pretraining [53.61233531733243]
画像とテキストを共同で表現するマルチモーダル表現学習手法が提案されている。
これらの手法は,大規模マルチモーダル事前学習から高レベルな意味情報を取得することにより,優れた性能を実現する。
そこで本稿では,非バイアスのDense Contrastive Visual-Linguistic Pretrainingを提案する。
論文 参考訳(メタデータ) (2021-09-24T07:20:13Z) - Incremental False Negative Detection for Contrastive Learning [95.68120675114878]
本稿では,自己指導型コントラスト学習のための新たな偽陰性検出手法を提案する。
対照的な学習では、検出された偽陰性を明示的に除去する2つの戦略について議論する。
提案手法は,制限された計算内での複数のベンチマークにおいて,他の自己教師付きコントラスト学習フレームワークよりも優れる。
論文 参考訳(メタデータ) (2021-06-07T15:29:14Z) - Domain Adaptation for Semantic Segmentation via Patch-Wise Contrastive
Learning [62.7588467386166]
ドメイン間で構造的に類似するラベルパッチの機能を調整することで、ドメインギャップを埋めるためにコントラスト学習を利用する。
私たちのアプローチは、常に2つの困難なドメイン適応セグメンテーションタスクにおいて、最先端の非監視および半監督メソッドを上回ります。
論文 参考訳(メタデータ) (2021-04-22T13:39:12Z) - Selective Pseudo-Labeling with Reinforcement Learning for
Semi-Supervised Domain Adaptation [116.48885692054724]
半教師付きドメイン適応のための強化学習に基づく選択擬似ラベル法を提案する。
高精度かつ代表的な擬似ラベルインスタンスを選択するための深層Q-ラーニングモデルを開発する。
提案手法は, SSDAのベンチマークデータセットを用いて評価し, 全ての比較手法よりも優れた性能を示す。
論文 参考訳(メタデータ) (2020-12-07T03:37:38Z) - On Mutual Information in Contrastive Learning for Visual Representations [19.136685699971864]
視覚における「対照的」学習アルゴリズムは、伝達タスクにおいて非常によく機能する表現を学ぶために示されている。
このアルゴリズムの族は、画像の2つ以上の「ビュー」間の相互情報の低境界を最大化する。
負のサンプルとビューの選択は、これらのアルゴリズムの成功に不可欠である。
論文 参考訳(メタデータ) (2020-05-27T04:21:53Z) - Discriminative Active Learning for Domain Adaptation [16.004653151961303]
我々は、データアノテーションの労力を減らすために、ドメイン適応のための差別的なアクティブな学習手法を導入する。
具体的には,ニューラルネットワークの3段階能動対向トレーニングを提案する。
4つのベンチマークデータセットを用いた既存領域適応手法との比較実験により,提案手法の有効性が示された。
論文 参考訳(メタデータ) (2020-05-24T04:20:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。