論文の概要: Tune it the Right Way: Unsupervised Validation of Domain Adaptation via
Soft Neighborhood Density
- arxiv url: http://arxiv.org/abs/2108.10860v1
- Date: Tue, 24 Aug 2021 17:41:45 GMT
- ステータス: 処理完了
- システム内更新日: 2021-08-25 14:15:51.422019
- Title: Tune it the Right Way: Unsupervised Validation of Domain Adaptation via
Soft Neighborhood Density
- Title(参考訳): 正しい方法でチューニングする:ソフト近傍密度によるドメイン適応の教師なし検証
- Authors: Kuniaki Saito, Donghyun Kim, Piotr Teterwak, Stan Sclaroff, Trevor
Darrell, and Kate Saenko
- Abstract要約: 本稿では,点間の類似度分布のエントロピーを計算し,ソフト近傍の密度を測定する教師なし検証基準を提案する。
私たちの基準は、競合する検証方法よりもシンプルですが、より効果的です。
- 参考スコア(独自算出の注目度): 125.64297244986552
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Unsupervised domain adaptation (UDA) methods can dramatically improve
generalization on unlabeled target domains. However, optimal hyper-parameter
selection is critical to achieving high accuracy and avoiding negative
transfer. Supervised hyper-parameter validation is not possible without labeled
target data, which raises the question: How can we validate unsupervised
adaptation techniques in a realistic way? We first empirically analyze existing
criteria and demonstrate that they are not very effective for tuning
hyper-parameters. Intuitively, a well-trained source classifier should embed
target samples of the same class nearby, forming dense neighborhoods in feature
space. Based on this assumption, we propose a novel unsupervised validation
criterion that measures the density of soft neighborhoods by computing the
entropy of the similarity distribution between points. Our criterion is simpler
than competing validation methods, yet more effective; it can tune
hyper-parameters and the number of training iterations in both image
classification and semantic segmentation models. The code used for the paper
will be available at \url{https://github.com/VisionLearningGroup/SND}.
- Abstract(参考訳): unsupervised domain adaptation (uda) メソッドはラベルなしのターゲットドメインの一般化を劇的に改善することができる。
しかし, 最適ハイパーパラメータ選択は, 高精度化と負の伝達回避に不可欠である。
教師なし適応手法を現実的に検証するにはどうすればいいのか?
まず、既存の基準を実証的に分析し、ハイパーパラメータのチューニングにあまり効果がないことを示す。
直感的には、訓練されたソース分類器は、近くにある同じクラスのターゲットサンプルを埋め込んで、特徴空間に密集した近傍を形成するべきである。
この仮定に基づいて,点間の類似度分布のエントロピーを計算し,ソフトな近傍の密度を測定する,教師なし検証基準を提案する。
画像分類とセマンティックセグメンテーションモデルの両方において、ハイパーパラメータとトレーニングイテレーションの数をチューニングすることが可能です。
この論文で使われたコードは、 \url{https://github.com/VisionLearningGroup/SND} で入手できる。
関連論文リスト
- Bi-discriminator Domain Adversarial Neural Networks with Class-Level
Gradient Alignment [87.8301166955305]
そこで本研究では,クラスレベルのアライメントアライメントを有するバイディミネータドメイン対向ニューラルネットワークを提案する。
BACGは、領域分布の整合性を改善するために勾配信号と二階確率推定を利用する。
さらに、対照的な学習にインスパイアされ、トレーニングプロセスを大幅に短縮できるメモリバンクベースの変種であるFast-BACGを開発した。
論文 参考訳(メタデータ) (2023-10-21T09:53:17Z) - Better Practices for Domain Adaptation [62.70267990659201]
ドメイン適応(DA)は、ラベルを使わずに、モデルを配置データに適用するためのフレームワークを提供することを目的としている。
DAの明確な検証プロトコルは、文献の悪い実践につながっている。
ドメイン適応手法の3つの分野にまたがる課題を示す。
論文 参考訳(メタデータ) (2023-09-07T17:44:18Z) - A Study of Unsupervised Evaluation Metrics for Practical and Automatic
Domain Adaptation [15.728090002818963]
教師なしドメイン適応(UDA)メソッドは、ラベルなしでターゲットドメインへのモデル転送を容易にする。
本稿では,対象の検証ラベルにアクセスすることなく,移動モデルの品質を評価できる評価指標を見つけることを目的とする。
論文 参考訳(メタデータ) (2023-08-01T05:01:05Z) - Digging Into Uncertainty-based Pseudo-label for Robust Stereo Matching [39.959000340261625]
本稿では,ロバストなステレオマッチングのための不確実性推定法を提案する。
事前学習されたモデルを新しい領域に適応させるために,不確実性に基づく擬似ラベルを提案する。
本手法は,ロバスト・ビジョン・チャレンジ2020のステレオタスクにおいて,強いクロスドメイン,適応,共同一般化を示す。
論文 参考訳(メタデータ) (2023-07-31T09:11:31Z) - Dual Moving Average Pseudo-Labeling for Source-Free Inductive Domain
Adaptation [45.024029784248825]
教師なしドメイン適応は、ソースからターゲットドメインに知識を適用することによって、ディープラーニングにおけるデータアノテーションへの依存を減らす。
プライバシと効率上の懸念に対して、ソースフリーなドメイン適応は、トレーニング済みのソースモデルをラベルなしのターゲットドメインに適応することにより、教師なしのドメイン適応を拡張します。
本稿では,DMAPL (Dual moving Average Pseudo-Labeling) という半教師付きファインチューニング手法を提案する。
論文 参考訳(メタデータ) (2022-12-15T23:20:13Z) - Divide and Contrast: Source-free Domain Adaptation via Adaptive
Contrastive Learning [122.62311703151215]
Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。
DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。
さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
論文 参考訳(メタデータ) (2022-11-12T09:21:49Z) - Robust Target Training for Multi-Source Domain Adaptation [110.77704026569499]
両レベル最適化に基づく新しいMSDAのためのロバスト目標訓練法(BORT$2$)を提案する。
提案手法は,大規模なDomainNetデータセットを含む3つのMSDAベンチマークにおいて,アートパフォーマンスの状態を達成している。
論文 参考訳(メタデータ) (2022-10-04T15:20:01Z) - Low-confidence Samples Matter for Domain Adaptation [47.552605279925736]
ドメイン適応(DA)は、知識をラベルの豊富なソースドメインから関連するがラベルの少ないターゲットドメインに転送することを目的としている。
低信頼度サンプルの処理による新しいコントラスト学習法を提案する。
提案手法を教師なしと半教師付きの両方のDA設定で評価する。
論文 参考訳(メタデータ) (2022-02-06T15:45:45Z) - On Universal Black-Box Domain Adaptation [53.7611757926922]
実践的な展開という観点から,ドメイン適応の最小限の制約条件について検討する。
ソースモデルのインターフェースのみがターゲットドメインで利用可能であり、2つのドメイン間のラベル空間関係が異なることや未知であることが許されている。
対象試料の局所近傍における予測の整合性によって正規化された自己訓練フレームワークに統一することを提案する。
論文 参考訳(メタデータ) (2021-04-10T02:21:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。