論文の概要: Visualizing Transferred Knowledge: An Interpretive Model of Unsupervised
Domain Adaptation
- arxiv url: http://arxiv.org/abs/2303.02302v1
- Date: Sat, 4 Mar 2023 03:02:12 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-07 20:34:41.070461
- Title: Visualizing Transferred Knowledge: An Interpretive Model of Unsupervised
Domain Adaptation
- Title(参考訳): 伝達知識の可視化:教師なしドメイン適応の解釈モデル
- Authors: Wenxiao Xiao, Zhengming Ding and Hongfu Liu
- Abstract要約: 教師なしのドメイン適応問題は、ラベル付きソースドメインからラベルなしターゲットドメインに知識を転送することができる。
本稿では、翻訳された知識の謎を視覚的に明らかにする最初の試みとして、教師なしドメイン適応の解釈モデルを提案する。
提案手法は,ベースモデルの予測を直感的に説明し,画像パッチをソースドメインとターゲットドメインの両方で同一のセマンティクスとマッチングすることで伝達知識を公開する。
- 参考スコア(独自算出の注目度): 70.85686267987744
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many research efforts have been committed to unsupervised domain adaptation
(DA) problems that transfer knowledge learned from a labeled source domain to
an unlabeled target domain. Various DA methods have achieved remarkable results
recently in terms of predicting ability, which implies the effectiveness of the
aforementioned knowledge transferring. However, state-of-the-art methods rarely
probe deeper into the transferred mechanism, leaving the true essence of such
knowledge obscure. Recognizing its importance in the adaptation process, we
propose an interpretive model of unsupervised domain adaptation, as the first
attempt to visually unveil the mystery of transferred knowledge. Adapting the
existing concept of the prototype from visual image interpretation to the DA
task, our model similarly extracts shared information from the domain-invariant
representations as prototype vectors. Furthermore, we extend the current
prototype method with our novel prediction calibration and knowledge fidelity
preservation modules, to orientate the learned prototypes to the actual
transferred knowledge. By visualizing these prototypes, our method not only
provides an intuitive explanation for the base model's predictions but also
unveils transfer knowledge by matching the image patches with the same
semantics across both source and target domains. Comprehensive experiments and
in-depth explorations demonstrate the efficacy of our method in understanding
the transferred mechanism and its potential in downstream tasks including model
diagnosis.
- Abstract(参考訳): ラベル付きソースドメインからラベル付きターゲットドメインに学習した知識を転送する、教師なしドメイン適応(DA)問題に多くの研究努力が注がれている。
近年,様々なDA手法が予測能力において顕著な成果を上げており,上記の知識伝達の有効性が示唆されている。
しかし、最先端の手法が伝達機構を深く探究することは滅多になく、そのような知識の真の本質は明らかでない。
適応過程におけるその重要性を認識し,伝達知識の謎を視覚的に明らかにする最初の試みとして,教師なしドメイン適応の解釈モデルを提案する。
既存のプロトタイプの概念を視覚的イメージ解釈からDAタスクに適応させることで,ドメイン不変表現から共有情報をプロトタイプベクトルとして抽出する。
さらに,新しい予測校正と知識忠実度保存モジュールを用いて,現在のプロトタイプ手法を拡張し,学習したプロトタイプを実際の伝達知識に指向させる。
これらのプロトタイプを視覚化することにより,ベースモデルの予測を直感的に説明できるだけでなく,画像パッチとソース領域とターゲット領域の両方にまたがる同じ意味を一致させることにより,伝達知識を提示する。
モデル診断を含む下流作業における伝達機構とその可能性を理解する上で,本手法が有効であることを示す。
関連論文リスト
- Adapting to Distribution Shift by Visual Domain Prompt Generation [34.19066857066073]
いくつかのラベルのないデータを使って、テスト時にモデルを適応し、分散シフトに対処する。
ソースドメインから移行可能な知識を学ぶための知識銀行を構築します。
提案手法は,WILDSやDomainNetを含む5つの大規模ベンチマークにおいて,従来よりも優れている。
論文 参考訳(メタデータ) (2024-05-05T02:44:04Z) - Learning Causal Domain-Invariant Temporal Dynamics for Few-Shot Action Recognition [12.522600594024112]
少ないショットアクション認識は、トレーニング済みのモデルを新しいデータに迅速に適応することを目的としている。
主な課題は、事前訓練されたモデルから学んだ伝達可能な知識の特定と活用である。
知識伝達のためのCDTD(Causal Domain-Invariant Temporal Dynamics)を提案する。
論文 参考訳(メタデータ) (2024-02-20T04:09:58Z) - A Recent Survey of Heterogeneous Transfer Learning [15.830786437956144]
異種移動学習は 様々なタスクにおいて 重要な戦略となっている。
データベースとモデルベースの両方のアプローチを網羅した60以上のHTLメソッドの広範なレビューを提供する。
自然言語処理,コンピュータビジョン,マルチモーダル学習,バイオメディシンの応用について検討する。
論文 参考訳(メタデータ) (2023-10-12T16:19:58Z) - Learning Transferable Conceptual Prototypes for Interpretable
Unsupervised Domain Adaptation [79.22678026708134]
本稿では,Transferable Prototype Learning (TCPL) という,本質的に解釈可能な手法を提案する。
この目的を達成するために、ソースドメインからターゲットドメインにカテゴリの基本概念を転送する階層的なプロトタイプモジュールを設計し、基礎となる推論プロセスを説明するためにドメイン共有プロトタイプを学習する。
総合的な実験により,提案手法は有効かつ直感的な説明を提供するだけでなく,従来の最先端技術よりも優れていることが示された。
論文 参考訳(メタデータ) (2023-10-12T06:36:41Z) - Variational Transfer Learning using Cross-Domain Latent Modulation [1.9662978733004601]
本稿では,効率的な転送学習を実現するために,新しいドメイン間遅延変調機構を変分オートエンコーダフレームワークに導入する。
ソース領域とターゲット領域の深部表現は、まず統一推論モデルにより抽出され、勾配逆数を用いて整列される。
学習した深層表現は、一貫性の制約が適用される代替ドメインの潜在エンコーディングにクロスモデレートされる。
論文 参考訳(メタデータ) (2022-05-31T03:47:08Z) - Adaptive Trajectory Prediction via Transferable GNN [74.09424229172781]
本稿では,トランジタブルグラフニューラルネットワーク(Transferable Graph Neural Network, T-GNN)フレームワークを提案する。
具体的には、ドメイン固有知識が減少する構造運動知識を探索するために、ドメイン不変GNNを提案する。
さらに,注目に基づく適応的知識学習モジュールを提案し,知識伝達のための詳細な個別レベルの特徴表現について検討した。
論文 参考訳(メタデータ) (2022-03-09T21:08:47Z) - TraND: Transferable Neighborhood Discovery for Unsupervised Cross-domain
Gait Recognition [77.77786072373942]
本稿では、教師なしクロスドメイン歩行認識のための領域ギャップを橋渡しするTransferable Neighborhood Discovery (TraND) フレームワークを提案する。
我々は、潜在空間におけるラベルなしサンプルの自信ある近傍を自動的に発見するために、エンドツーエンドのトレーニング可能なアプローチを設計する。
提案手法は,CASIA-BとOU-LPの2つの公開データセットに対して,最先端の結果を得る。
論文 参考訳(メタデータ) (2021-02-09T03:07:07Z) - Source Data-absent Unsupervised Domain Adaptation through Hypothesis
Transfer and Labeling Transfer [137.36099660616975]
Unsupervised Adapt Adaptation (UDA) は、関連性のある異なるラベル付きソースドメインから新しいラベルなしターゲットドメインへの知識の転送を目標としている。
既存のudaメソッドの多くはソースデータへのアクセスを必要としており、プライバシ上の懸念からデータが機密で共有できない場合は適用できない。
本稿では、ソースデータにアクセスする代わりに、トレーニング済みの分類モデルのみを用いて現実的な設定に取り組むことを目的とする。
論文 参考訳(メタデータ) (2020-12-14T07:28:50Z) - Unsupervised Transfer Learning for Spatiotemporal Predictive Networks [90.67309545798224]
我々は、教師なし学習されたモデルの動物園から別のネットワークへ知識を伝達する方法を研究する。
私たちのモチベーションは、モデルは異なるソースからの複雑なダイナミクスを理解することが期待されていることです。
提案手法は,時間的予測のための3つのベンチマークで大幅に改善され,重要度が低いベンチマークであっても,ターゲットのメリットが得られた。
論文 参考訳(メタデータ) (2020-09-24T15:40:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。