論文の概要: One-shot federated unsupervised domain adaptation with Smoothed Knowledge Distillation and teacher refinement

• arxiv url: http://arxiv.org/abs/2610.30646v1
• Date: Thu, 22 Oct 2026 03:06:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.197324
• Title: One-shot federated unsupervised domain adaptation with Smoothed Knowledge Distillation and teacher refinement
• Title（参考訳）: Smoothed Knowledge Distillation and Teacher refinement を用いたワンショット非教師ドメイン適応
• Abstract要約: フェデレートされた非教師なしドメイン適応(FUDA)は、未ラベルのターゲットドメインにモデルを適用するという課題に対処する。 SKD(Smoothed Knowledge Distillation)とExponential moving average-based Teacher Refinement(ETR)を組み合わせたワンショットFUDAフレームワークであるSKD-ETRを提案する。 SKD-ETRは、ソースモデルのアンサンブルによって生成された滑らかな擬似ラベルを用いて、ターゲットドメイン上の学生モデルを訓練する。 ETRは指数移動平均(EMA)を用いて生徒に向かってパラメータを補間することで各情報源モデルを洗練する
• 参考スコア（独自算出の注目度）: 22.166354842758764
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Federated unsupervised domain adaptation (FUDA) addresses the challenge of adapting models to an unlabeled target domain using decentralized source domains while preserving data privacy. However, existing FUDA methods typically require multiple communication rounds, rely on complex aggregation strategies, and often struggle with noisy pseudo labels and inconsistent source knowledge. To address these challenges, we propose SKD-ETR, a novel one-shot FUDA framework that combines Smoothed Knowledge Distillation (SKD) and Exponential moving average-based Teacher Refinement (ETR). SKD trains a student model on the target domain using smoothed soft pseudo labels generated by the ensemble of source models. This reduces overconfidence, mitigates noise, and improves robustness. ETR further refines each source model by interpolating its parameters toward the student via exponential moving average (EMA), thereby transferring target-domain knowledge back to the teachers. This bidirectional refinement enhances pseudo-label quality and student generalization without additional communication overhead. SKD-ETR eliminates complex aggregation by initializing the student model randomly and performing a single-round distillation process. Extensive experiments on OfficeHome, Office-Caltech, and DomainNet demonstrate that SKD-ETR achieves competitive performance while being communication- and computation-efficient, and robust under noisy supervision. The code for this paper is available at https://github.com/A-Abedi/SKD_ETR.
• Abstract（参考訳）: フェデレートされたアン教師なしドメイン適応(FUDA)は、データプライバシを保持しながら、分散されたソースドメインを使用してラベルなしのターゲットドメインにモデルを適用するという課題に対処する。 しかし、既存のFUDA法は一般に複数の通信ラウンドを必要とし、複雑な集約戦略に依存し、しばしばノイズの多い擬似ラベルや一貫性のない情報源の知識に悩まされる。 これらの課題に対処するために,SKD-ETRを提案する。これは,Smoothed Knowledge Distillation (SKD)とExponential moving average-based Teacher Refinement (ETR)を組み合わせた,ワンショットのFUDAフレームワークである。 SKDは、ソースモデルのアンサンブルによって生成された滑らかな擬似ラベルを使用して、ターゲットドメイン上の学生モデルを訓練する。 これにより、過信を減らし、騒音を軽減し、堅牢性を向上させる。 ETRはさらに、指数移動平均(EMA)を介して生徒に向かってパラメータを補間することで、各情報源モデルを洗練し、教師にターゲットドメインの知識を伝達する。 この双方向改良により、通信オーバーヘッドを増大させることなく、擬似ラベルの品質と学生の一般化が向上する。 SKD-ETRは、学生モデルをランダムに初期化し、単一ラウンド蒸留プロセスを実行することで複雑な凝集を除去する。 OfficeHome、Office-Caltech、DomainNetの大規模な実験では、SKD-ETRは通信効率と計算効率が良く、ノイズの多い監視下で堅牢で競争力のある性能を実現している。 本論文のコードはhttps://github.com/A-Abedi/SKD_ETR.comで公開されている。

関連論文リスト

• Multi-Prompt Progressive Alignment for Multi-Source Unsupervised Domain Adaptation [73.40696661117408]
  未ラベルの下流タスクにCLIPを適用するためのプログレッシブアライメント戦略を提案する。 私たちはアプローチをMP2Aと名付け、ImageCLEF、Office-Home、そして最も難しいDomainNetという3つの人気のあるUDAベンチマークでテストします。 実験によると、MP2Aは最新のCLIPベースのMS-UDAアプローチと比較して最先端のパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2025-07-31T09:42:42Z)
• TITAN: Query-Token based Domain Adaptive Adversarial Learning [0.0]
  我々は、適応中にソースデータが利用できなくなり、未ラベルのターゲットドメインに適応しなければならない場合、ソースフリー領域適応オブジェクト検出(SF-DAOD)問題に焦点を当てる。 この問題に対するほとんどのアプローチは、学生教育者(ST)フレームワークを用いた自己教師型アプローチを採用しており、疑似ラベルはソース事前学習モデルを介して生成され、さらなる微調整が行われる。 学生モデルの性能は,教師モデルが崩壊し,主に擬似ラベルの高雑音が原因で著しく低下することが多い。 信頼性の高い擬似ラベルを得るために,我々は提案する。
  論文  参考訳（メタデータ） (2025-06-26T17:12:58Z)
• One-Shot Federated Unsupervised Domain Adaptation with Scaled Entropy Attention and Multi-Source Smoothed Pseudo Labeling [21.59850502993888]
  Federated Learning(FL)は、プライバシ保護による協調学習のための有望なアプローチである。 本稿では,これらの制約に対処する一発のフェデレーション・アントラクテッド・ドメイン適応(FUDA)手法を提案する。 具体的には,モデルアグリゲーションのためのSEA(Scaled Entropy Attention)と,ターゲット領域適応のためのMSPL(Multi-Source Pseudo Labeling)を紹介する。
  論文  参考訳（メタデータ） (2025-03-13T03:59:51Z)
• DRIVE: Dual-Robustness via Information Variability and Entropic Consistency in Source-Free Unsupervised Domain Adaptation [10.127634263641877]
  ラベル付きデータなしで機械学習モデルを新しいドメインに適応させることは、医療画像、自律運転、リモートセンシングといったアプリケーションにおいて重要な課題である。 Source-Free Unsupervised Domain Adaptation (SFUDA)と呼ばれるこのタスクでは、未ラベルのターゲットデータのみを使用して、トレーニング済みのモデルをターゲットドメインに適応させる。 既存のSFUDAメソッドは、しばしば単一モデルアーキテクチャに依存し、ターゲットドメインにおける不確実性と可変性に悩まされる。 本稿では、2重モデルアーキテクチャを利用した新しいSFUDAフレームワークDRIVEを提案する。
  論文  参考訳（メタデータ） (2024-11-24T20:35:04Z)
• Source-Free Domain Adaptation for YOLO Object Detection [12.998403995812298]
  本稿では、現実世界の視覚システム、特に単発検出器のYOLOファミリーに対するドメイン適応技術に焦点を当てる。 提案手法は,教師が学習対象の領域に固有の拡張を施した画像を受け取るためのフレームワークである。 ラベルのない平均教師アーキテクチャを用いた自己学習の課題は、ノイズやドリフトする擬似ラベルによる精度の急激な低下である。
  論文  参考訳（メタデータ） (2024-09-25T01:22:10Z)
• Uncertainty-Aware Source-Free Adaptive Image Super-Resolution with Wavelet Augmentation Transformer [60.31021888394358]
  Unsupervised Domain Adaptation (UDA)は、現実世界の超解像(SR)における領域ギャップ問題に効果的に対処できる 本稿では,画像SR(SODA-SR)のためのSOurce-free Domain Adaptationフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-03-31T03:14:44Z)
• Divide and Contrast: Source-free Domain Adaptation via Adaptive Contrastive Learning [122.62311703151215]
  Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。 DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。 さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
  論文  参考訳（メタデータ） (2022-11-12T09:21:49Z)
• Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
  半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。 SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
  論文  参考訳（メタデータ） (2021-12-12T06:11:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。