論文の概要: Revisiting CLIP for SF-OSDA: Unleashing Zero-Shot Potential with Adaptive Threshold and Training-Free Feature Filtering
- arxiv url: http://arxiv.org/abs/2504.14224v1
- Date: Sat, 19 Apr 2025 08:12:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-30 04:06:29.422463
- Title: Revisiting CLIP for SF-OSDA: Unleashing Zero-Shot Potential with Adaptive Threshold and Training-Free Feature Filtering
- Title(参考訳): SF-OSDAにおけるCLIPの再検討: 適応的閾値とトレーニング不要な特徴フィルタリングによるゼロショット電位の解放
- Authors: Yongguang Li, Jindong Li, Qi Wang, Qianli Xing, Runliang Niu, Shengsheng Wang, Menglin Yang,
- Abstract要約: 適応しきい値処理戦略と未知のクラス機能フィルタリングモジュールという,2つの重要なコンポーネントを統合した新しいSF-OSDAアプローチであるCLIPXpertを提案する。
実験により、ソースフリーでトレーニング不要な手法は、DomainNetデータセット上で、最先端のトレーニング済みアプローチであるUOTAを1.92%上回る結果となった。
- 参考スコア(独自算出の注目度): 8.875465803682808
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Source-Free Unsupervised Open-Set Domain Adaptation (SF-OSDA) methods using CLIP face significant issues: (1) while heavily dependent on domain-specific threshold selection, existing methods employ simple fixed thresholds, underutilizing CLIP's zero-shot potential in SF-OSDA scenarios; and (2) overlook intrinsic class tendencies while employing complex training to enforce feature separation, incurring deployment costs and feature shifts that compromise CLIP's generalization ability. To address these issues, we propose CLIPXpert, a novel SF-OSDA approach that integrates two key components: an adaptive thresholding strategy and an unknown class feature filtering module. Specifically, the Box-Cox GMM-Based Adaptive Thresholding (BGAT) module dynamically determines the optimal threshold by estimating sample score distributions, balancing known class recognition and unknown class sample detection. Additionally, the Singular Value Decomposition (SVD)-Based Unknown-Class Feature Filtering (SUFF) module reduces the tendency of unknown class samples towards known classes, improving the separation between known and unknown classes. Experiments show that our source-free and training-free method outperforms state-of-the-art trained approach UOTA by 1.92% on the DomainNet dataset, achieves SOTA-comparable performance on datasets such as Office-Home, and surpasses other SF-OSDA methods. This not only validates the effectiveness of our proposed method but also highlights CLIP's strong zero-shot potential for SF-OSDA tasks.
- Abstract(参考訳): ソースフリーなOpen-Set Domain Adaptation (SF-OSDA) メソッドは、ドメイン固有のしきい値選択に大きく依存するが、既存のメソッドは単純な固定しきい値を使用し、SF-OSDAシナリオでCLIPのゼロショットポテンシャルを活用。
このような問題に対処するために,適応しきい値処理戦略と未知のクラス特徴フィルタリングモジュールという,SF-OSDAの新たなアプローチであるCLIPXpertを提案する。
具体的には、Box-Cox GMM-Based Adaptive Thresholding (BGAT)モジュールは、サンプルスコア分布を推定し、既知のクラス認識と未知のクラスサンプル検出のバランスをとることで、最適な閾値を動的に決定する。
さらに、Singular Value Decomposition (SVD)ベースのUnknown-Class Feature Filtering (SUFF)モジュールは、未知のクラスサンプルの既知のクラスへの傾向を減らし、未知のクラスと未知のクラスの分離を改善する。
実験により、我々のソースフリーでトレーニングフリーな手法は、DomainNetデータセットで1.92%の最先端のトレーニング済みアプローチ UOTA を上回り、Office-HomeなどのデータセットでSOTA互換のパフォーマンスを達成し、他のSF-OSDAメソッドを上回ります。
これは,提案手法の有効性を検証するだけでなく,SF-OSDAタスクに対するCLIPの強いゼロショットの可能性も強調する。
関連論文リスト
- Recall and Refine: A Simple but Effective Source-free Open-set Domain Adaptation Framework [9.03028904066824]
Open-set Domain Adaptation (OSDA)は、ラベル付きソースドメインからラベルなしターゲットドメインへのモデルを適応することを目的としている。
リコール・アンド・リファイン(RRDA)はSF-OSDAフレームワークで,対象とする未知のクラスに対する特徴を明示的に学習することで,制約に対処する。
論文 参考訳(メタデータ) (2024-11-19T15:18:50Z) - Uncertainty-guided Open-Set Source-Free Unsupervised Domain Adaptation with Target-private Class Segregation [22.474866164542302]
UDAアプローチはソースとターゲットドメインが同じラベル空間を共有していると一般的に仮定する。
本稿では、SF-OSDA(Source-Free Open-set Domain Adaptation)設定の課題について考察する。
本稿では,サンプルを複数の未知のクラスに分離することで,ターゲット・プライベートカテゴリの粒度を利用したSF-OSDAの新しい手法を提案する。
論文 参考訳(メタデータ) (2024-04-16T13:52:00Z) - A Hard-to-Beat Baseline for Training-free CLIP-based Adaptation [121.0693322732454]
対照的に、CLIP(Contrastive Language- Image Pretraining)はその目覚ましいゼロショット能力で人気を集めている。
近年の研究では、下流タスクにおけるCLIPの性能を高めるための効率的な微調整手法の開発に焦点が当てられている。
従来のアルゴリズムであるガウス判別分析(GDA)を再検討し,CLIPの下流分類に適用する。
論文 参考訳(メタデータ) (2024-02-06T15:45:27Z) - Activate and Reject: Towards Safe Domain Generalization under Category
Shift [71.95548187205736]
カテゴリーシフト(DGCS)下における領域一般化の実践的問題について検討する。
未知のクラスサンプルを同時に検出し、ターゲットドメイン内の既知のクラスサンプルを分類することを目的としている。
従来のDGと比較すると,1)ソースクラスのみを用いたトレーニングにおいて,未知の概念を学習する方法,2)ソーストレーニングされたモデルを未知の環境に適応する方法,の2つの新しい課題に直面している。
論文 参考訳(メタデータ) (2023-10-07T07:53:12Z) - Self-Paced Learning for Open-Set Domain Adaptation [50.620824701934]
従来のドメイン適応手法は、ソースとターゲットドメインのクラスが同一であると仮定する。
オープンセットドメイン適応(OSDA)は、この制限に対処する。
そこで,本研究では,共通クラスと未知クラスを識別するための自己評価学習に基づく新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2023-03-10T14:11:09Z) - Divide and Contrast: Source-free Domain Adaptation via Adaptive
Contrastive Learning [122.62311703151215]
Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。
DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。
さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
論文 参考訳(メタデータ) (2022-11-12T09:21:49Z) - Towards Accurate Open-Set Recognition via Background-Class
Regularization [36.96359929574601]
オープンセット認識(OSR)では、分類器は、高いクローズドセット分類精度を維持しつつ、未知のクラスサンプルを拒否できるべきである。
以前の研究では、潜在的特徴空間を制限し、オフライン分析によって制限された空間の外にあるデータを拒否しようとした。
標準分類器アーキテクチャにおいてOSRを実行するための単純な推論プロセス(オフライン解析なしで)を提案する。
提案手法は,高い閉集合分類精度を維持しつつ,堅牢なOSR結果を提供することを示す。
論文 参考訳(メタデータ) (2022-07-21T03:55:36Z) - Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。
SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
論文 参考訳(メタデータ) (2021-12-12T06:11:16Z) - No Fear of Heterogeneity: Classifier Calibration for Federated Learning
with Non-IID Data [78.69828864672978]
実世界のフェデレーションシステムにおける分類モデルのトレーニングにおける中心的な課題は、非IIDデータによる学習である。
このアルゴリズムは, 近似されたssian混合モデルからサンプリングした仮想表現を用いて分類器を調整する。
実験の結果,CIFAR-10,CIFAR-100,CINIC-10など,一般的なフェデレーション学習ベンチマークにおけるCCVRの現状が示された。
論文 参考訳(メタデータ) (2021-06-09T12:02:29Z) - Source-Free Open Compound Domain Adaptation in Semantic Segmentation [99.82890571842603]
SF-OCDAでは、ターゲットモデルを学習するために、ソース事前訓練されたモデルとターゲットデータのみが利用可能である。
そこで我々は,Cross-Patch Style Swap (CPSS)を提案する。
提案手法は,C-Drivingデータセット上で最先端の結果を生成する。
論文 参考訳(メタデータ) (2021-06-07T08:38:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。