論文の概要: LFM: Leveraging Foundation Models for Source-Free Universal Domain Adaptation
- arxiv url: http://arxiv.org/abs/2607.17653v1
- Date: Mon, 20 Jul 2026 08:06:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-21 18:48:37.54336
- Title: LFM: Leveraging Foundation Models for Source-Free Universal Domain Adaptation
- Title(参考訳): LFM: ソースフリーのユニバーサルドメイン適応のためのファンデーションモデルを活用する
- Authors: Jing Li, Pan Liu, Meng Zhao, Wanli Xue, Yanhong Yang, Xu Cheng, Fan Shi, Jianhua Zhang, Qinghua Hu, Shengyong Chen,
- Abstract要約: ソースフリーユニバーサルドメイン適応(SF-UniDA)は、訓練済みのソースモデルをラベルなしのターゲットドメインに適応させる。
SF-UniDAの基礎モデル(LFM)を利用するフレームワークを提案する。
- 参考スコア(独自算出の注目度): 73.21089889761498
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Source-free universal domain adaptation (SF-UniDA) adapts a pre-trained source model to an unlabeled target domain under both covariate and label shifts, without access to source data. However, existing SF-UniDA methods rely on inefficient techniques such as threshold tuning and clustering. Foundation models (FMs), known for their generalization and zero-shot capabilities, remain underexplored in SF-UniDA. In this paper, we propose a framework that leverages foundation models (LFM) for SF-UniDA. We use a vision-language model (VLM) to compute similarities between target samples and text labels, including those for unknown classes generated by prompting a large language model. The label shift type is determined by analyzing the coefficient of variation of a similarity-based sample-level score. Unknown samples are identified using a binary Gaussian mixture model fitted to another similarity-based metric. Under a consensus strategy, the pseudo-labels generated by the VLM are refined by the target model initialized with the pre-trained source model, integrating knowledge from both the source domain and foundation models. Finally, these refined pseudo-labels are used to train the target model. Extensive experiments across all possible label shifts and multiple benchmarks demonstrate the effectiveness and superiority of our proposed LFM framework. Our code is available at https://github.com/iamjingli/LFM.
- Abstract(参考訳): ソースフリーユニバーサルドメイン適応(SF-UniDA)は、ソースデータにアクセスすることなく、共変量およびラベルシフトの両方の下で、未ラベルのターゲットドメインに事前訓練されたソースモデルを適用する。
しかし、既存のSF-UniDA法は閾値チューニングやクラスタリングのような非効率な手法に依存している。
ファウンデーションモデル(FM)は、その一般化とゼロショット能力で知られており、SF-UniDAでは未発見のままである。
本稿では,SF-UniDAの基盤モデル(LFM)を活用するフレームワークを提案する。
我々は、視覚言語モデル(VLM)を用いて、ターゲットサンプルとテキストラベルの類似性を計算する。
類似度に基づくサンプルレベルスコアの変動係数を分析してラベルシフトタイプを決定する。
未知のサンプルは、別の類似度に基づく計量に適合した二進ガウス混合モデルを用いて同定される。
コンセンサス戦略では、VLMによって生成された擬似ラベルは、事前訓練されたソースモデルで初期化されたターゲットモデルによって洗練され、ソースドメインとファンデーションモデルの両方からの知識が統合される。
最後に、これらの洗練された擬似ラベルを使用してターゲットモデルをトレーニングする。
全ての可能なラベルシフトと複数のベンチマークにわたる大規模な実験は、提案した LFM フレームワークの有効性と優位性を示している。
私たちのコードはhttps://github.com/iamjingli/LFM.comで公開されています。
関連論文リスト
- GMM-COMET: Continual Source-Free Universal Domain Adaptation via a Mean Teacher and Gaussian Mixture Model-Based Pseudo-Labeling [3.1744658275045103]
教師なしのドメイン適応は、トレーニングとテストデータの間のドメインシフトが、現実世界のアプリケーションにおけるニューラルネットワークのパフォーマンスを損なう問題に対処する。
ソースフリーユニバーサルドメイン適応(SF-UniDA)として知られるこの設定は、最近注目を集めている。
連続的なSF-UniDAに関する最初の研究を行い、モデルが複数の異なる未ラベル対象領域のストリームに逐次適応する必要があることを示す。
論文 参考訳(メタデータ) (2026-01-16T10:23:19Z) - Similarity-Based Domain Adaptation with LLMs [13.692329347889212]
教師なしのドメイン適応は、様々なソースドメインからの豊富なラベル付きデータを活用し、ラベルなしのターゲットデータに一般化する。
本稿では,Large Language Models(LLM)の印象的な一般化機能をターゲットデータアノテーションに活用する,シンプルなフレームワークを提案する。
我々のフレームワークは,SOTA法と比較して2.44%の精度向上を実現している。
論文 参考訳(メタデータ) (2025-03-07T09:51:07Z) - ProtoGMM: Multi-prototype Gaussian-Mixture-based Domain Adaptation Model for Semantic Segmentation [0.8213829427624407]
ドメイン適応型セマンティックセグメンテーションは、ラベルのないターゲットドメインに対して正確で高密度な予測を生成することを目的としている。
本稿では,GMMを比較学習に組み込んだProtoGMMモデルを提案する。
クラス間のセマンティックな類似性の向上,クラス間の類似性の低下,およびソースドメインとターゲットドメイン間のドメインアライメントを実現するために,マルチプロトタイプコントラスト学習を採用する。
論文 参考訳(メタデータ) (2024-06-27T14:50:50Z) - Exploiting Label Skews in Federated Learning with Model Concatenation [39.38427550571378]
Federated Learning(FL)は、生データを交換することなく、さまざまなデータオーナでディープラーニングを実行するための、有望なソリューションとして登場した。
非IID型では、ラベルスキューは困難であり、画像分類やその他のタスクで一般的である。
我々は,これらの局所モデルをグローバルモデルの基礎として分解する,シンプルで効果的なアプローチであるFedConcatを提案する。
論文 参考訳(メタデータ) (2023-12-11T10:44:52Z) - COCA: Classifier-Oriented Calibration via Textual Prototype for
Source-Free Universal Domain Adaptation [58.53682309436275]
ユニバーサルドメイン適応(UniDA)は、データソース間のドメインとカテゴリのシフトに対処することを目的としている。
SF-UniDAメソッドは、ターゲットドメインへの適応を実行する際に、ソースサンプルに直接アクセスする必要がなくなる。
既存のSF-UniDAメソッドは、ソースモデルをトレーニングするために大量のラベル付きソースサンプルを必要とする。
本稿では,この問題に対処するための新しいCOCA法を提案する。
論文 参考訳(メタデータ) (2023-08-21T03:50:19Z) - Consistency Regularization for Generalizable Source-free Domain
Adaptation [62.654883736925456]
ソースフリードメイン適応(source-free domain adapt, SFDA)は、ソースデータセットにアクセスすることなく、十分にトレーニングされたソースモデルを未学習のターゲットドメインに適応することを目的としている。
既存のSFDAメソッドは、ターゲットのトレーニングセット上で適用されたモデルを評価し、目に見えないが同一の分散テストセットからデータを無視する。
より一般化可能なSFDA法を開発するための整合正則化フレームワークを提案する。
論文 参考訳(メタデータ) (2023-08-03T07:45:53Z) - Divide and Contrast: Source-free Domain Adaptation via Adaptive
Contrastive Learning [122.62311703151215]
Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。
DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。
さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
論文 参考訳(メタデータ) (2022-11-12T09:21:49Z) - BMD: A General Class-balanced Multicentric Dynamic Prototype Strategy
for Source-free Domain Adaptation [74.93176783541332]
Source-free Domain Adaptation (SFDA)は、トレーニング済みのソースモデルを、十分にラベル付けされたソースデータにアクセスすることなく、未ラベルのターゲットドメインに適応することを目的としている。
ソースデータの欠如を補うため、既存のほとんどのメソッドは、機能プロトタイプベースの擬似ラベル戦略を導入した。
SFDAタスクのための汎用クラスベース多中心動的プロトタイプ戦略を提案する。
論文 参考訳(メタデータ) (2022-04-06T13:23:02Z) - Do We Really Need to Access the Source Data? Source Hypothesis Transfer
for Unsupervised Domain Adaptation [102.67010690592011]
Unsupervised adaptUDA (UDA) は、ラベル付きソースデータセットから学んだ知識を活用して、新しいラベル付きドメインで同様のタスクを解決することを目的としている。
従来のUDAメソッドは、モデルに適応するためには、通常、ソースデータにアクセスする必要がある。
この作業は、訓練済みのソースモデルのみが利用できる実践的な環境に取り組み、ソースデータなしでそのようなモデルを効果的に活用してUDA問題を解決する方法に取り組みます。
論文 参考訳(メタデータ) (2020-02-20T03:13:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。