論文の概要: Federated Semi-Supervised Domain Adaptation via Knowledge Transfer
- arxiv url: http://arxiv.org/abs/2207.10727v1
- Date: Thu, 21 Jul 2022 19:36:10 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-25 13:18:43.058537
- Title: Federated Semi-Supervised Domain Adaptation via Knowledge Transfer
- Title(参考訳): 知識伝達による半監督ドメイン適応
- Authors: Madhureeta Das, Xianhao Chen, Xiaoyong Yuan, Lan Zhang
- Abstract要約: 本稿では,複数の分散および機密データセットに対して半教師付きドメイン適応(SSDA)を実現するための革新的なアプローチを提案する。
Federated Semi-Supervised Domain Adaptation (FSSDA)は、戦略的に設計された知識蒸留技術に基づいて、SSDAとフェデレートラーニングを統合している。
FSSDA設計の有効性と効率を実証するために大規模な実験を行った。
- 参考スコア(独自算出の注目度): 6.7543356061346485
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Given the rapidly changing machine learning environments and expensive data
labeling, semi-supervised domain adaptation (SSDA) is imperative when the
labeled data from the source domain is statistically different from the
partially labeled data from the target domain. Most prior SSDA research is
centrally performed, requiring access to both source and target data. However,
data in many fields nowadays is generated by distributed end devices. Due to
privacy concerns, the data might be locally stored and cannot be shared,
resulting in the ineffectiveness of existing SSDA research. This paper proposes
an innovative approach to achieve SSDA over multiple distributed and
confidential datasets, named by Federated Semi-Supervised Domain Adaptation
(FSSDA). FSSDA integrates SSDA with federated learning based on strategically
designed knowledge distillation techniques, whose efficiency is improved by
performing source and target training in parallel. Moreover, FSSDA controls the
amount of knowledge transferred across domains by properly selecting a key
parameter, i.e., the imitation parameter. Further, the proposed FSSDA can be
effectively generalized to multi-source domain adaptation scenarios. Extensive
experiments are conducted to demonstrate the effectiveness and efficiency of
FSSDA design.
- Abstract(参考訳): 急速に変化する機械学習環境と高価なデータラベリングを考えると、ソースドメインからのラベル付きデータがターゲットドメインからの部分的にラベル付けされたデータと統計的に異なる場合、半教師付きドメイン適応(SSDA)が必須となる。
ほとんどの以前のSSDA研究は、ソースデータとターゲットデータの両方にアクセスする必要がある。
しかし、現在では分散エンドデバイスによって多くの分野のデータが生成される。
プライバシー上の懸念から、データはローカルに保存されて共有できない可能性があるため、既存のSSDA研究では効果がない。
本稿では,Federated Semi-Supervised Domain Adaptation (FSSDA) という,複数の分散および機密データセット上でSSDAを実現するための革新的なアプローチを提案する。
FSSDAは、SSDAと戦略的に設計された知識蒸留技術に基づく連合学習を統合し、ソースとターゲットの訓練を並行して行うことで効率を向上する。
さらに、FSSDAは、鍵パラメータ、すなわち模倣パラメータを適切に選択することにより、ドメイン間で転送される知識量を制御する。
さらに、提案したFSSDAは、マルチソースドメイン適応シナリオに効果的に一般化することができる。
FSSDA設計の有効性と効率を実証するために大規模な実験を行った。
関連論文リスト
- Semi-Supervised Transfer Boosting (SS-TrBoosting) [13.324712107139355]
半教師付きドメイン適応(SSDA)は、少ないラベル付きターゲットデータを用いて、ターゲットドメインの高性能モデルを訓練することを目的としている。
我々は、新しい微調整フレームワーク、半教師あり転送促進(SS-TrBoosting)を提案する。
より効率的なデータ伝送とデータプライバシ保護のために,SS-TrBoostingを半教師なしソースフリードメイン適応(SS-SFDA)に拡張するためのソースデータ生成手法を提案する。
論文 参考訳(メタデータ) (2024-12-04T10:57:55Z) - Unveiling the Superior Paradigm: A Comparative Study of Source-Free Domain Adaptation and Unsupervised Domain Adaptation [52.36436121884317]
Source-Free Domain Adaptation (SFDA) は、現実のシナリオにおいて、Unsupervised Domain Adaptation (UDA) よりも一般的に優れていることを示す。
SFDAは、時間効率、ストレージ要件、対象とする学習目標、負の移動リスクの低減、過度な適合に対する堅牢性の向上といった利点を提供している。
利用可能なソースデータをマルチSFDA手法に効果的に統合する新しい重み推定法を提案する。
論文 参考訳(メタデータ) (2024-11-24T13:49:29Z) - AdaEmbed: Semi-supervised Domain Adaptation in the Embedding Space [11.558794436129192]
半教師付きドメイン適応(SSDA)はコンピュータビジョンにおいて重要なハードルとなる。
AdaEmbedは、共有埋め込み空間を学習することにより、ラベル付きソースドメインからラベルなしターゲットドメインへの知識の転送を容易にする。
提案手法の有効性は,DomainNet,Office-Home,VisDA-Cといったベンチマークデータセットの広範な実験によって検証される。
論文 参考訳(メタデータ) (2024-01-23T01:10:25Z) - CoSDA: Continual Source-Free Domain Adaptation [78.47274343972904]
ソースデータにアクセスせずに、ソースフリードメイン適応(SFDA)は、ソースドメインのトレーニングされたモデルからターゲットドメインに知識を転送する。
最近では、ソースドメインのデータプライバシ保護の必要性から、SFDAの人気が高まっている。
教師-学生モデルペアを2倍高速に最適化し,整合性学習機能を備えた,CoSDAという連続的ソースフリードメイン適応手法を提案する。
論文 参考訳(メタデータ) (2023-04-13T15:53:23Z) - Deep Unsupervised Domain Adaptation: A Review of Recent Advances and
Perspectives [16.68091981866261]
対象領域のデータの性能低下に対応するために、教師なし領域適応(UDA)を提案する。
UDAは、自然言語処理、ビデオ解析、自然言語処理、時系列データ分析、医用画像解析など、有望な成果を上げている。
論文 参考訳(メタデータ) (2022-08-15T20:05:07Z) - Balancing Discriminability and Transferability for Source-Free Domain
Adaptation [55.143687986324935]
従来のドメイン適応(DA)技術は、ドメイン不変表現を学習することでドメイン転送性を改善することを目的としている。
ラベル付けされたソースとラベル付けされていないターゲットへの同時アクセス要件は、ソースフリーなDA設定に適さない。
そこで本研究では,原文と翻訳サンプルの混在が識別可能性と伝達可能性のトレードオフを促進することを示す新しい知見を導出する。
論文 参考訳(メタデータ) (2022-06-16T09:06:22Z) - Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - Automatic Online Multi-Source Domain Adaptation [15.475463516901936]
本稿では,マルチソースストリーミングプロセスにおけるオンラインドメイン適応手法,すなわち自動オンラインマルチソースドメイン適応(AOMSDA)を提案する。
AOMSDAは8例中5例で勝っていることが示された。
論文 参考訳(メタデータ) (2021-09-05T05:07:16Z) - Secure Domain Adaptation with Multiple Sources [13.693640425403636]
マルチソース非教師付きドメイン適応(MUDA)は、最近検討された学習フレームワークである。
目標は、アノテートされたデータで複数のソースドメインから知識を転送することで、ターゲットドメインにおけるラベル付きデータの不足に対処することである。
ソースデータは分散されているため、ソースドメインのデータのプライバシは自然な関心事になり得る。
MUDAのプライバシー問題に対処するために、埋め込みスペースにおけるドメインアライメントというアイデアの恩恵を受けます。
論文 参考訳(メタデータ) (2021-06-23T02:26:36Z) - Instance Level Affinity-Based Transfer for Unsupervised Domain
Adaptation [74.71931918541748]
ILA-DAと呼ばれる適応中のソースからターゲットへの転送に対するインスタンス親和性に基づく基準を提案する。
まず、ソースとターゲットをまたいだ類似および異種サンプルを抽出し、マルチサンプルのコントラスト損失を利用してドメインアライメントプロセスを駆動する信頼性が高く効率的な手法を提案する。
ILA-DAの有効性は、様々なベンチマークデータセットに対する一般的なドメイン適応手法よりも精度が一貫した改善を観察することによって検証する。
論文 参考訳(メタデータ) (2021-04-03T01:33:14Z) - Multi-source Domain Adaptation for Visual Sentiment Classification [92.53780541232773]
マルチソース・ドメイン適応(MDA)手法をMSGAN(Multi-source Sentiment Generative Adversarial Network)と呼ぶ。
複数のソースドメインからのデータを扱うために、MSGANはソースドメインとターゲットドメインの両方のデータが同じ分布を共有する、統一された感情潜在空間を見つけることを学ぶ。
4つのベンチマークデータセットで実施された大規模な実験により、MSGANは視覚的感情分類のための最先端のMDAアプローチよりも大幅に優れていることが示された。
論文 参考訳(メタデータ) (2020-01-12T08:37:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。