論文の概要: Bridging the Theoretical Bound and Deep Algorithms for Open Set Domain
Adaptation
- arxiv url: http://arxiv.org/abs/2006.13022v1
- Date: Tue, 23 Jun 2020 14:01:06 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-17 21:42:33.457195
- Title: Bridging the Theoretical Bound and Deep Algorithms for Open Set Domain
Adaptation
- Title(参考訳): 開集合領域適応のための理論的境界と深部アルゴリズムのブリッジング
- Authors: Li Zhong, Zhen Fang, Feng Liu, Bo Yuan, Guangquan Zhang, Jie Lu
- Abstract要約: 教師なしオープンセットドメイン適応(UOSDA)では、ターゲットドメインはソースドメインで観測されていない未知のクラスを含む。
提案手法は,ソースドメインリスク,$epsilon$-openset difference(Delta_epsilon$),ドメイン間の分布差,定数の4つの条件を含む。
具体的には、ソースドメインリスクと$Delta_epsilon$は勾配降下によって最小化され、分散の相違は、新しいオープンセット条件付き対向訓練戦略によって最小化される。
- 参考スコア(独自算出の注目度): 40.95099721257058
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: In the unsupervised open set domain adaptation (UOSDA), the target domain
contains unknown classes that are not observed in the source domain.
Researchers in this area aim to train a classifier to accurately: 1) recognize
unknown target data (data with unknown classes) and, 2) classify other target
data. To achieve this aim, a previous study has proven an upper bound of the
target-domain risk, and the open set difference, as an important term in the
upper bound, is used to measure the risk on unknown target data. By minimizing
the upper bound, a shallow classifier can be trained to achieve the aim.
However, if the classifier is very flexible (e.g., deep neural networks
(DNNs)), the open set difference will converge to a negative value when
minimizing the upper bound, which causes an issue where most target data are
recognized as unknown data. To address this issue, we propose a new upper bound
of target-domain risk for UOSDA, which includes four terms: source-domain risk,
$\epsilon$-open set difference ($\Delta_\epsilon$), a distributional
discrepancy between domains, and a constant. Compared to the open set
difference, $\Delta_\epsilon$ is more robust against the issue when it is being
minimized, and thus we are able to use very flexible classifiers (i.e., DNNs).
Then, we propose a new principle-guided deep UOSDA method that trains DNNs via
minimizing the new upper bound. Specifically, source-domain risk and
$\Delta_\epsilon$ are minimized by gradient descent, and the distributional
discrepancy is minimized via a novel open-set conditional adversarial training
strategy. Finally, compared to existing shallow and deep UOSDA methods, our
method shows the state-of-the-art performance on several benchmark datasets,
including digit recognition (MNIST, SVHN, USPS), object recognition (Office-31,
Office-Home), and face recognition (PIE).
- Abstract(参考訳): 教師なしオープンセットドメイン適応(UOSDA)では、ターゲットドメインはソースドメインで観測されていない未知のクラスを含む。
この領域の研究者は、分類器を正確に訓練することを目指している。
1)未知のターゲットデータ(未知のクラスを含むデータ)を認識し、
2)他のターゲットデータを分類する。
この目的を達成するために, 前回の研究では, 対象領域のリスクの上限が証明されており, 上限における重要な用語である開集合差は, 未知のターゲットデータに対するリスクを測定するために用いられる。
上限を最小化することで、浅い分類器を訓練して目標を達成することができる。
しかし、分類器が非常に柔軟であれば(例えばディープニューラルネットワーク(DNN))、開集合差は上限を最小化する際に負の値に収束し、ほとんどのターゲットデータが未知のデータとして認識される問題を引き起こす。
そこで,本稿では,uosdaの新たなターゲットドメインリスク上限を提案する。ソースドメインリスク,$\epsilon$-open set difference (\delta_\epsilon$),ドメイン間の分散的不一致,定数の4つの用語を含む。
開集合の違いと比較して、$\Delta_\epsilon$ は最小化されるときにこの問題に対してより堅牢であり、非常に柔軟な分類器(DNN)を使うことができる。
そこで本研究では,新しい上限を最小化することでdnnを訓練する新しい原理誘導深層uosda法を提案する。
具体的には、ソースドメインリスクと$\Delta_\epsilon$は勾配降下によって最小化され、分散の相違は、新しいオープンセット条件付き対角訓練戦略によって最小化される。
最後に,従来の浅層および深部UOSDA法と比較して,数値認識(MNIST,SVHN,USPS),オブジェクト認識(Office-31,Office-Home),顔認識(PIE)など,いくつかのベンチマークデータセット上での最先端性能を示す。
関連論文リスト
- Open-Set Domain Adaptation for Semantic Segmentation [6.3951361316638815]
対象ドメインが未知のクラスを含むセマンティック(OSDA-SS)を初めて導入する。
これらの問題に対処するため,BUS を作成したBundary and Unknown Shape-Aware Open-set Domain adaptationを提案する。
我々のBUSは、新しい拡張浸食に基づくコントラスト損失を用いて、未知のクラスと未知のクラスの境界を正確に識別することができる。
論文 参考訳(メタデータ) (2024-05-30T09:55:19Z) - Activate and Reject: Towards Safe Domain Generalization under Category
Shift [71.95548187205736]
カテゴリーシフト(DGCS)下における領域一般化の実践的問題について検討する。
未知のクラスサンプルを同時に検出し、ターゲットドメイン内の既知のクラスサンプルを分類することを目的としている。
従来のDGと比較すると,1)ソースクラスのみを用いたトレーニングにおいて,未知の概念を学習する方法,2)ソーストレーニングされたモデルを未知の環境に適応する方法,の2つの新しい課題に直面している。
論文 参考訳(メタデータ) (2023-10-07T07:53:12Z) - Upcycling Models under Domain and Category Shift [95.22147885947732]
グローバルかつ局所的なクラスタリング学習技術(GLC)を導入する。
我々は、異なる対象クラス間での区別を実現するために、新しい1-vs-allグローバルクラスタリングアルゴリズムを設計する。
注目すべきは、最も困難なオープンパーティルセットDAシナリオにおいて、GLCは、VisDAベンチマークでUMADを14.8%上回っていることである。
論文 参考訳(メタデータ) (2023-03-13T13:44:04Z) - IT-RUDA: Information Theory Assisted Robust Unsupervised Domain
Adaptation [7.225445443960775]
トレイン(ソース)とテスト(ターゲット)データセット間の分散シフトは、マシンラーニングアプリケーションで発生する一般的な問題である。
UDA技術はラベル豊富なソースドメインからラベルのないターゲットドメインへの知識伝達を行う。
ソースまたはターゲットデータセットのいずれかに存在するアウトリーチは、実際にUDAを使用する場合、さらなる課題をもたらす可能性がある。
論文 参考訳(メタデータ) (2022-10-24T04:33:52Z) - Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - Certainty Volume Prediction for Unsupervised Domain Adaptation [35.984559137218504]
教師なしドメイン適応(Unsupervised domain adapt, UDA)は、ラベルなしのターゲットドメインデータを分類する問題を扱う。
特徴空間における多変量ガウス分布としての不確かさをモデル化する新しい不確実性対応領域適応構成を提案する。
提案したパイプラインを、挑戦的なUDAデータセットに基づいて評価し、最先端の結果を得る。
論文 参考訳(メタデータ) (2021-11-03T11:22:55Z) - Conditional Extreme Value Theory for Open Set Video Domain Adaptation [17.474956295874797]
本稿では,ソースとターゲットデータ間の領域差を軽減するために,オープンセットの映像領域適応手法を提案する。
負の伝達問題を緩和するために、サンプルエントロピーからしきい値までの距離によって計算された重みを、対向学習に活用する。
提案手法は,小規模と大規模の両方のクロスドメインビデオデータセットに対して徹底的に評価されている。
論文 参考訳(メタデータ) (2021-09-01T10:51:50Z) - OVANet: One-vs-All Network for Universal Domain Adaptation [78.86047802107025]
既存のメソッドは、検証または未知のサンプルの事前定義された比率に基づいて未知のサンプルを拒否するしきい値を手動で設定します。
本稿では,ソースサンプルを用いて閾値を学習し,対象領域に適応する手法を提案する。
私たちの考えは、ソースドメインの最小クラス間距離は、ターゲットの既知のか未知かを決定するための良いしきい値であるべきです。
論文 参考訳(メタデータ) (2021-04-07T18:36:31Z) - Inferring Latent Domains for Unsupervised Deep Domain Adaptation [54.963823285456925]
Unsupervised Domain Adaptation (UDA)は、ラベル付きデータが利用できないターゲットドメインでモデルを学習する問題を指す。
本稿では,視覚データセット中の潜在ドメインを自動的に発見することにより,udaの問題に対処する新しい深層アーキテクチャを提案する。
提案手法を公開ベンチマークで評価し,最先端のドメイン適応手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2021-03-25T14:33:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。