論文の概要: Noise May Contain Transferable Knowledge: Understanding Semi-supervised Heterogeneous Domain Adaptation from an Empirical Perspective

• arxiv url: http://arxiv.org/abs/2502.13573v1
• Date: Wed, 19 Feb 2025 09:27:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-20 13:59:25.234289
• Title: Noise May Contain Transferable Knowledge: Understanding Semi-supervised Heterogeneous Domain Adaptation from an Empirical Perspective
• Title（参考訳）: 伝達可能な知識を含む騒音:経験的視点から半教師付き不均一領域適応を理解する
• Authors: Yuan Yao, Xiaopu Zhang, Yu Zhang, Jian Jin, Qiang Yang,
• Abstract要約: 半教師付きヘテロジニアスドメイン適応(SHDA)は、異なる特徴表現と分布を持つ領域間の学習に対処する。 約330のSHDAタスクに対して,2つの教師付き学習手法と7つの代表的SHDA手法を用いて広範な実験を行った。 SHDAにおける転送可能な知識は主に、ソースドメインの転送可能性と識別性に起因する。
• 参考スコア（独自算出の注目度）: 16.414320476939306
• License:
• Abstract: Semi-supervised heterogeneous domain adaptation (SHDA) addresses learning across domains with distinct feature representations and distributions, where source samples are labeled while most target samples are unlabeled, with only a small fraction labeled. Moreover, there is no one-to-one correspondence between source and target samples. Although various SHDA methods have been developed to tackle this problem, the nature of the knowledge transferred across heterogeneous domains remains unclear. This paper delves into this question from an empirical perspective. We conduct extensive experiments on about 330 SHDA tasks, employing two supervised learning methods and seven representative SHDA methods. Surprisingly, our observations indicate that both the category and feature information of source samples do not significantly impact the performance of the target domain. Additionally, noise drawn from simple distributions, when used as source samples, may contain transferable knowledge. Based on this insight, we perform a series of experiments to uncover the underlying principles of transferable knowledge in SHDA. Specifically, we design a unified Knowledge Transfer Framework (KTF) for SHDA. Based on the KTF, we find that the transferable knowledge in SHDA primarily stems from the transferability and discriminability of the source domain. Consequently, ensuring those properties in source samples, regardless of their origin (e.g., image, text, noise), can enhance the effectiveness of knowledge transfer in SHDA tasks. The codes and datasets are available at https://github.com/yyyaoyuan/SHDA.
• Abstract（参考訳）: 半教師付きヘテロジニアスドメイン適応(SHDA)は、異なる特徴表現と分布を持つドメイン間の学習に対処する。 さらに、ソースとターゲットのサンプルの間に1対1の対応は存在しない。 この問題に対処するために様々なSHDA法が開発されているが、異種領域間で伝達される知識の性質は明らかになっていない。 この論文は、実証的な観点からこの疑問を掘り下げている。 約330のSHDAタスクに対して,2つの教師付き学習手法と7つの代表的SHDA手法を用いて広範な実験を行った。 意外なことに,本研究では,ソースサンプルのカテゴリ情報と特徴情報の両方が対象領域の性能に大きく影響しないことが示唆された。 さらに、ソースサンプルとして使用される単純な分布から引き出されたノイズは、伝達可能な知識を含む可能性がある。 この知見に基づいて、SHDAにおける伝達可能な知識の基礎原理を明らかにするための一連の実験を行う。 具体的には、SHDAのための統合知識伝達フレームワーク(KTF)を設計する。 KTFに基づいて、SHDAの転送可能な知識は主に、ソースドメインの転送可能性と識別性に起因する。 したがって、ソースサンプルにおけるそれらの特性(画像、テキスト、ノイズなど)が、SHDAタスクにおける知識伝達の有効性を高めることができる。 コードとデータセットはhttps://github.com/yyyaoyuan/SHDA.comで公開されている。

関連論文リスト

• Semi Supervised Heterogeneous Domain Adaptation via Disentanglement and Pseudo-Labelling [4.33404822906643]
  半教師付きドメイン適応法は、ソースラベル付きドメインからの情報を利用して、少ないラベル付きターゲットドメインを一般化する。 このような設定は半教師付き不均質ドメイン適応(SSHDA)と表記される。 SHEDD(Semi-supervised Heterogeneous Domain Adaptation via Disentanglement)は,対象ドメインの学習に適したエンドツーエンドのニューラルネットワークフレームワークである。
  論文  参考訳（メタデータ） (2024-06-20T08:02:49Z)
• Confidence-based Visual Dispersal for Few-shot Unsupervised Domain Adaptation [39.112032738643656]
  教師なしのドメイン適応は、完全にラベル付けされたソースドメインからラベル付けされていないターゲットドメインに知識を転送することを目的としています。 FUDAのための信頼度に基づく視覚分散変換学習法(C-VisDiT)を提案する。 我々はOffice-31、Office-Home、VisDA-C、DomainNetのベンチマークデータセットを広範囲に実験し、提案したC-VisDiTが最先端のFUDA手法よりも優れていることを示した。
  論文  参考訳（メタデータ） (2023-09-27T11:16:51Z)
• Exploring Incompatible Knowledge Transfer in Few-shot Image Generation [107.81232567861117]
  少ないショット画像生成は、いくつかの参照サンプルを使用して、ターゲットドメインから多彩で高忠実な画像を生成することを学習する。 既存のF SIGメソッドは、ソースジェネレータから事前の知識を選択し、保存し、転送し、ターゲットジェネレータを学習する。 本稿では,知識保存を補完する操作であり,軽量プルーニング方式で実装した知識トランケーションを提案する。
  論文  参考訳（メタデータ） (2023-04-15T14:57:15Z)
• Divide and Contrast: Source-free Domain Adaptation via Adaptive Contrastive Learning [122.62311703151215]
  Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。 DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。 さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
  論文  参考訳（メタデータ） (2022-11-12T09:21:49Z)
• Identifiable Latent Causal Content for Domain Adaptation under Latent Covariate Shift [82.14087963690561]
  マルチソースドメイン適応(MSDA)は、ラベル付き対象ドメインのラベル予測関数を学習する際の課題に対処する。 本稿では,潜在コンテンツ変数と潜時スタイル変数とともに,ドメイン間の潜時雑音を導入し,複雑な因果生成モデルを提案する。 提案手法は、シミュレーションと実世界の両方のデータセットに対して、例外的な性能と有効性を示す。
  論文  参考訳（メタデータ） (2022-08-30T11:25:15Z)
• Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
  ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。 近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。 本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
  論文  参考訳（メタデータ） (2022-04-24T12:22:19Z)
• UMAD: Universal Model Adaptation under Domain and Category Shift [138.12678159620248]
  Universal Model Adaptation (UMAD)フレームワークは、ソースデータにアクセスせずに両方のUDAシナリオを処理する。 未知のサンプルと未知のサンプルを識別するのに役立つ情報整合性スコアを開発した。 オープンセットおよびオープンパーティルセット UDA シナリオの実験では、UMAD が最先端のデータ依存手法に匹敵する性能を示した。
  論文  参考訳（メタデータ） (2021-12-16T01:22:59Z)
• A Framework for Supervised Heterogeneous Transfer Learning using Dynamic Distribution Adaptation and Manifold Regularization [3.476077954140922]
  我々は、ラベル付きトレーニングレコードがほとんどないターゲットドメインの分類器を構築する TLF というフレームワークを提案する。 我々は、構造リスク関数、領域間の結合分布、および境界分布に基づく多様体の整合性を同時に最適化することにより、分布のばらつきを処理する。 TLFを利用可能な7つの自然データセット上で評価し、TLFの性能と11の最先端技術の性能を比較した。
  論文  参考訳（メタデータ） (2021-08-27T14:00:09Z)
• Multi-source Domain Adaptation for Visual Sentiment Classification [92.53780541232773]
  マルチソース・ドメイン適応(MDA)手法をMSGAN(Multi-source Sentiment Generative Adversarial Network)と呼ぶ。 複数のソースドメインからのデータを扱うために、MSGANはソースドメインとターゲットドメインの両方のデータが同じ分布を共有する、統一された感情潜在空間を見つけることを学ぶ。 4つのベンチマークデータセットで実施された大規模な実験により、MSGANは視覚的感情分類のための最先端のMDAアプローチよりも大幅に優れていることが示された。
  論文  参考訳（メタデータ） (2020-01-12T08:37:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。