論文の概要: BP-Triplet Net for Unsupervised Domain Adaptation: A Bayesian
Perspective
- arxiv url: http://arxiv.org/abs/2202.09541v1
- Date: Sat, 19 Feb 2022 07:12:57 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-26 13:17:39.483705
- Title: BP-Triplet Net for Unsupervised Domain Adaptation: A Bayesian
Perspective
- Title(参考訳): 非教師付きドメイン適応のためのBP-Triplet Net:ベイズ的視点
- Authors: Shanshan Wang, Lei Zhang, Pichao Wang
- Abstract要約: ディープ・メトリック・ラーニング(DML)手法の1つであるトリプルト・ロス(英語版)は、同じクラスの例が異なるクラスの例よりも近い埋め込みを学習することである。
ベイズ学習の観点から,教師なしドメイン適応(UDA)に有効なBP-Triplet Lossを提案する。
- 参考スコア(独自算出の注目度): 18.718713363976835
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Triplet loss, one of the deep metric learning (DML) methods, is to learn the
embeddings where examples from the same class are closer than examples from
different classes. Motivated by DML, we propose an effective BP-Triplet Loss
for unsupervised domain adaption (UDA) from the perspective of Bayesian
learning and we name the model as BP-Triplet Net. In previous metric learning
based methods for UDA, sample pairs across domains are treated equally, which
is not appropriate due to the domain bias. In our work, considering the
different importance of pair-wise samples for both feature learning and domain
alignment, we deduce our BP-Triplet loss for effective UDA from the perspective
of Bayesian learning. Our BP-Triplet loss adjusts the weights of pair-wise
samples in intra domain and inter domain. Especially, it can self attend to the
hard pairs (including hard positive pair and hard negative pair). Together with
the commonly used adversarial loss for domain alignment, the quality of target
pseudo labels is progressively improved. Our method achieved low joint error of
the ideal source and target hypothesis. The expected target error can then be
upper bounded following Ben-David s theorem. Comprehensive evaluations on five
benchmark datasets, handwritten digits, Office31, ImageCLEF-DA, Office-Home and
VisDA-2017 demonstrate the effectiveness of the proposed approach for UDA.
- Abstract(参考訳): ディープメトリック学習(dml)メソッドの1つであるトリプレット損失は、同じクラスの例が異なるクラスの例よりも近い組込みを学ぶことである。
DMLをモチベーションとして,ベイズ学習の観点から教師なしドメイン適応(UDA)に有効なBP-Triplet Lossを提案し,そのモデルをBP-Triplet Netと命名した。
従来のUDAの計量学習に基づく手法では、ドメイン間のサンプルペアは等しく扱われるが、ドメインバイアスのため適切ではない。
本研究では,特徴学習とドメインアライメントの両面でのペアワイズサンプルの重要性を考慮し,ベイズ学習の観点から有効なUDAのためのBP-Triplet損失を推定する。
BP-Triplet損失は、ドメイン内およびドメイン間におけるペアワイズサンプルの重量を調整する。
特に、硬い対(硬い正の対と硬い負の対を含む)に自己参加することができる。
ドメインアライメントのための一般的に使用される対向損失とともに、ターゲットの擬似ラベルの品質が徐々に向上する。
本手法は理想源と目標仮説の結合誤差を低くした。
予測対象誤差は、ベンダビッドの定理に従って上界となる。
5つのベンチマークデータセット、手書き桁、Office31、ImageCLEF-DA、Office-Home、VisDA-2017の総合評価は、提案されたUDAアプローチの有効性を示している。
関連論文リスト
- Unsupervised Domain Adaptation Via Data Pruning [0.0]
非教師なし領域適応(UDA)の観点から問題を考える。
本稿では,UDAのトレーニング例を取り除き,トレーニング分布を対象データと整合させる手法であるAdaPruneを提案する。
UDAの手法として、AdaPruneは関連する技術より優れており、CoRALなどの他のUDAアルゴリズムと相補的であることを示す。
論文 参考訳(メタデータ) (2024-09-18T15:48:59Z) - Incorporating Pre-training Data Matters in Unsupervised Domain
Adaptation [13.509286043322442]
非教師付きドメイン適応(UDA)とソースフリーなUDA(SFUDA)メソッドは、ソースとターゲットの2つのドメインに関わる問題を定式化する。
我々は、ImageNet、ソース、ターゲットドメイン間の相関について検討する。
本稿では,訓練前のデータセットのセマンティック構造を微調整時に保持する新しいフレームワークTriDAを提案する。
論文 参考訳(メタデータ) (2023-08-06T12:23:40Z) - Revisiting Domain-Adaptive 3D Object Detection by Reliable, Diverse and
Class-balanced Pseudo-Labeling [38.07637524378327]
ドメイン適応型3Dオブジェクト検出において,疑似ラベリング技術を用いた教師なしドメイン適応(DA)が重要なアプローチとして浮上している。
既存のDAメソッドは、マルチクラスのトレーニング環境に適用した場合、パフォーマンスが大幅に低下する。
本稿では,すべてのクラスを一度に検出する学習に適した新しいReDBフレームワークを提案する。
論文 参考訳(メタデータ) (2023-07-16T04:34:11Z) - AdaTriplet-RA: Domain Matching via Adaptive Triplet and Reinforced
Attention for Unsupervised Domain Adaptation [15.905869933337101]
教師なしドメイン適応(Unsupervised Domain Adaption、UDA)は、ソースドメインのデータとアノテーションが利用できるが、トレーニング中にラベル付けされていないターゲットデータにのみアクセスできるトランスファー学習タスクである。
本稿では、ドメイン間サンプルマッチング方式を用いて、教師なしドメイン適応タスクを改善することを提案する。
ドメイン間サンプルに合わせるために,広く利用され,堅牢なTriplet損失を適用した。
トレーニング中に発生する不正確な擬似ラベルの破滅的効果を低減するため,信頼度の高い擬似ラベルを自動的に選択し,段階的に改良する新しい不確実性測定法を提案する。
論文 参考訳(メタデータ) (2022-11-16T13:04:24Z) - Divide and Contrast: Source-free Domain Adaptation via Adaptive
Contrastive Learning [122.62311703151215]
Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。
DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。
さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
論文 参考訳(メタデータ) (2022-11-12T09:21:49Z) - Divide to Adapt: Mitigating Confirmation Bias for Domain Adaptation of
Black-Box Predictors [94.78389703894042]
ドメイン適応(Domain Adaptation of Black-box Predictor、DABP)は、ソースドメインでトレーニングされたブラックボックス予測器によって管理されるラベルなしのターゲットドメイン上のモデルを学習することを目的としている。
ソースドメインデータと予測パラメータの両方にアクセスする必要はないため、標準ドメイン適応におけるデータのプライバシとポータビリティの問題に対処する。
本稿では,知識蒸留と雑音ラベル学習を一貫した枠組みに組み込む新しい手法BETAを提案する。
論文 参考訳(メタデータ) (2022-05-28T16:00:44Z) - Unsupervised Domain Adaptation for Monocular 3D Object Detection via
Self-Training [57.25828870799331]
我々は、Mono3D上での教師なしドメイン適応のための新しい自己学習フレームワークSTMono3Dを提案する。
対象ドメイン上で適応的な擬似ラベルを生成するための教師学生パラダイムを開発する。
STMono3Dは、評価されたすべてのデータセットで顕著なパフォーマンスを達成し、KITTI 3Dオブジェクト検出データセットの完全な教師付き結果を超えています。
論文 参考訳(メタデータ) (2022-04-25T12:23:07Z) - Semi-Supervised Domain Adaptation with Prototypical Alignment and
Consistency Learning [86.6929930921905]
本稿では,いくつかの対象サンプルがラベル付けされていれば,ドメインシフトに対処するのにどの程度役立つか検討する。
ランドマークの可能性を最大限に追求するために、ランドマークから各クラスのターゲットプロトタイプを計算するプロトタイプアライメント(PA)モジュールを組み込んでいます。
具体的には,ラベル付き画像に深刻な摂動を生じさせ,PAを非自明にし,モデル一般化性を促進する。
論文 参考訳(メタデータ) (2021-04-19T08:46:08Z) - UDALM: Unsupervised Domain Adaptation through Language Modeling [79.73916345178415]
複合分類とマスキング言語モデル損失を用いた微調整手順であるUDALMについて紹介します。
本実験では, 混合損失スケールと利用可能な目標データの量で訓練されたモデルの性能を, 停止基準として有効に用いることを示した。
この方法は、amazon reviewsセンチメントデータセットの12のドメインペアで評価され、9.1.74%の精度が得られ、最先端よりも1.11%の絶対的な改善が得られます。
論文 参考訳(メタデータ) (2021-04-14T19:05:01Z) - Deep Co-Training with Task Decomposition for Semi-Supervised Domain
Adaptation [80.55236691733506]
半教師付きドメイン適応(SSDA)は、ラベル付きソースドメインからトレーニングされたモデルを、異なるが関連するターゲットドメインに適応させることを目的としている。
本稿では,SSDAタスクを対象ドメイン内の半教師付き学習(SSL)タスクと,ドメイン間の非教師付きドメイン適応(UDA)タスクの2つのサブタスクに明示的に分解することを提案する。
論文 参考訳(メタデータ) (2020-07-24T17:57:54Z) - Metric-Learning-Assisted Domain Adaptation [18.62119154143642]
多くの既存ドメインアライメント手法は、ソースとターゲットの分布のアライメントとともに、低いソースリスクが低いターゲットリスクを意味すると仮定している。
本稿では,特徴整合性向上を支援するために,新しい三重項損失を用いたメタラーニング支援ドメイン適応法(MLA-DA)を提案する。
論文 参考訳(メタデータ) (2020-04-23T04:20:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。