Towards Accurate Model Selection in Deep Unsupervised Domain Adaptation
Abstractの概要
本論文は、ターゲットラベルが利用できず、一般的に使用される検証戦略が偏っていたり、不安定であったり、ラベル付きターゲットデータに依存したりする深層教師なしドメイン適応（UDA）におけるモデル選択の課題に取り組んでいる。著者らは、元の入力空間ではなく、学習された特徴空間において重要度重み付けを実行することでターゲットリスクを推定する、Deep Embedded Validation（DEV）を提案している。適応された特徴量はドメイン間の差異を縮小するため、これにより不偏性を保ちつつ分散のバウンドをより厳密にでき、さらに制御変量を用いて分散を低減可能であると理論的に主張している。本手法は、ラベルなしターゲットドメイン下で深層UDAモデルを比較するための、標準化された非侵襲的な検証手順として位置づけられている。
新規性
本研究の特筆すべき貢献は、元の入力空間のみで重要度の重みを推定するのではなく、適応された深層表現をドメイン適応の検証手順に直接組み入れた点である。DEVは、特徴空間の密度比推定と制御変量を組み合わせることで、上限があり経験的にもより低い分散を持つ、不偏なターゲットリスク推定量を導き出している。
成果
複数のベンチマークにおいて、DEVはターゲットラベルを利用することなく、ターゲットリスクの上限に常に近い性能を持つモデルを選択した。MCDを用いたVisDAにおいてDEVは平均精度72.42%（ターゲットリスクは72.55%）を達成し、CDANを用いたOffice-31では87.75%（同88.16%）、GTAを用いたDigitsでは94.22%（同94.50%）、PADAを用いた部分ドメイン適応では93.15%（同93.34%）を達成した。トイ実験およびVisDAのアブレーション実験からも、IWCVより低い分散が示され、制御変量によるさらなる性能向上が確認されている。
論文の注目点
- DEVは、生パッチの入力空間よりもドメイン間の差異が小さい適応された特徴空間においてターゲットリスクを推定し、重要度重み付け検証の安定性を向上させる。
- 本手法は、識別的密度比推定量と重要度重みに基づく制御変量を用いて、不偏性を保ちながら分散を低減する。
- 経験的に、DEVはモデル選択においてSource RiskやIWCVを一貫して上回り、標準および部分ドメイン適応設定全体においてターゲットリスクの上限に近いモデルを選択する。