論文の概要: Progressive Subset Selection and Cascaded Consistency for Unsupervised Vision-Language Model Adaptation
- arxiv url: http://arxiv.org/abs/2610.27515v1
- Date: Tue, 20 Oct 2026 02:30:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.5887
- Title: Progressive Subset Selection and Cascaded Consistency for Unsupervised Vision-Language Model Adaptation
- Title(参考訳): 教師なし視覚言語モデル適応のためのプログレッシブサブセット選択とカスケード整合性
- Abstract要約: PVLM(Pretrained Vision-Language Models)は、強いゼロショット認識を実現するが、ターゲットドメインシフト時の性能劣化に悩まされることが多い。
本稿では,プログレッシブマージンに基づくサブセット選択とカスケード一貫性学習を組み合わせた,教師なしPVLM適応のためのシンプルなフレームワークを提案する。
- 参考スコア(独自算出の注目度): 10.687946118442847
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Pretrained Vision-Language Models (PVLMs) achieve strong zero-shot recognition but often suffer performance degradation under target-domain shift. Unsupervised adaptation provides a practical way to improve target-domain performance without labeled data, but it remains challenging because pseudo-labels generated by the model can be unreliable and no labeled validation set is available for model selection or early stopping. We propose a simple framework for unsupervised PVLM adaptation that combines progressive margin-based subset selection with cascaded consistency learning. The subset selection strategy constructs a class-balanced pseudo-labeled set using prediction margins and gradually expands it during training, enabling adaptation to start from reliable supervision anchors before incorporating broader target-domain data. Cascaded consistency learning further exploits unlabeled samples by using temporally smoothed teacher predictions on weakly augmented views to supervise student predictions on strongly augmented views, with confidence filtering to reduce the influence of uncertain pseudo-labels. To preserve the pretrained embedding structure, the framework updates only normalization parameters in the visual encoder and class prototypes initialized from text prompts. Experiments across multiple recognition benchmarks with both CLIP and SigLIP backbones show consistent improvements over zero-shot baselines and competitive performance against recent unsupervised PVLM adaptation methods. These results suggest that progressive pseudo-label selection and teacher-guided consistency provide an effective and lightweight strategy for adapting PVLM classifiers without labeled target data.
- Abstract(参考訳): PVLM(Pretrained Vision-Language Models)は、強いゼロショット認識を実現するが、ターゲットドメインシフト時の性能劣化に悩まされることが多い。
非教師なし適応は、ラベル付きデータなしでターゲットドメインのパフォーマンスを改善する実用的な方法を提供するが、モデルによって生成された擬似ラベルは信頼性が低く、ラベル付き検証セットがモデル選択や早期停止に利用できないため、依然として困難である。
本稿では,プログレッシブマージンに基づくサブセット選択とカスケード一貫性学習を組み合わせた,教師なしPVLM適応のためのシンプルなフレームワークを提案する。
サブセット選択戦略は、予測マージンを用いてクラスバランスの擬似ラベルセットを構築し、トレーニング中に徐々に拡張し、より広範なターゲットドメインデータを組み込む前に、信頼性の高いアンカーからの適応を可能にする。
ケースケード整合性学習は、時間的スムーズな教師予測を用いて、弱い拡張的な視点で生徒の予測を監督し、不確実な擬似ラベルの影響を減らし、未学習のサンプルをさらに活用する。
事前訓練された埋め込み構造を維持するため、フレームワークはテキストプロンプトから初期化されたビジュアルエンコーダとクラスプロトタイプの正規化パラメータのみを更新する。
CLIPとSigLIPのバックボーンを併用した複数の認識ベンチマークによる実験は、ゼロショットベースラインよりも一貫した改善と、最近の教師なしPVLM適応手法に対する競合性能を示している。
これらの結果は,プログレッシブな擬似ラベル選択と教師指導の整合性は,ラベル付き対象データなしでPVLM分類器を適応するための効果的かつ軽量な戦略をもたらすことを示唆している。
関連論文リスト
- Dual-Teacher Distillation with Subnetwork Rectification for Black-Box Domain Adaptation [69.7036779439312]
ブラックボックスドメイン適応は、非常に実用的で非常に困難な設定である。
ブラックボックスソースモデルに埋め込まれた特定の知識を活用するサブネットワーク整合モデル(DDSR)を用いた二重蒸留法を提案する。
我々の手法は、ソースデータやモデルの使用を含む、最先端の手法に対する一貫した改善を実証する。
論文 参考訳(メタデータ) (2026-03-24T07:54:19Z) - Prototype-Guided Pseudo-Labeling with Neighborhood-Aware Consistency for Unsupervised Adaptation [12.829638461740759]
CLIPのような視覚言語モデルに対する教師なし適応では、ゼロショット予測からの擬似ラベルは大きなノイズを示すことが多い。
本稿では,プロトタイプの整合性と近傍の整合性を統合することで,CLIPの適応性能を向上させる適応型擬似ラベルフレームワークを提案する。
提案手法は、教師なし適応シナリオにおける最先端性能を実現し、計算効率を維持しつつ、より正確な擬似ラベルを提供する。
論文 参考訳(メタデータ) (2025-07-22T19:08:24Z) - Feedback-Driven Pseudo-Label Reliability Assessment: Redefining Thresholding for Semi-Supervised Semantic Segmentation [5.7977777220041204]
擬似スーパービジョンの一般的な実践は、事前に定義された信頼しきい値やエントロピーに基づいて擬似ラベルをフィルタリングすることである。
疑似ラベル選択のための動的フィードバック駆動しきい値決定手法であるEnsemble-of-Confidence Reinforcement (ENCORE)を提案する。
提案手法は,既存の擬似スーパービジョンフレームワークにシームレスに統合され,セグメンテーション性能が大幅に向上する。
論文 参考訳(メタデータ) (2025-05-12T15:58:08Z) - Co-STAR: Collaborative Curriculum Self-Training with Adaptive Regularization for Source-Free Video Domain Adaptation [5.784455448946001]
Co-STARはカリキュラム学習と、ソース学習された教師と対照的な視覚言語モデル(CLIP)の協調的自己学習を統合している
カリキュラム学習アプローチでは,教師とCLIPの双方向予測アライメントを測定し,信頼性と不確実性の予測のバランスをとる信頼性に基づく重み関数を用いる。
さらに適応性を向上させるために,適応型カリキュラム正規化を提案し,その信頼性スコアと予測安定性に基づいて,確率的,適応的な方法でサンプルの学習優先度を変更する。
論文 参考訳(メタデータ) (2025-04-15T23:47:35Z) - ACTRESS: Active Retraining for Semi-supervised Visual Grounding [52.08834188447851]
前回の研究であるRefTeacherは、疑似自信と注意に基づく監督を提供するために教師学生の枠組みを採用することで、この課題に取り組むための最初の試みである。
このアプローチは、Transformerベースのパイプラインに従う現在の最先端のビジュアルグラウンドモデルと互換性がない。
本稿では, ACTRESS を略したセミスーパービジョン視覚グラウンドのためのアクティブ・リトレーニング手法を提案する。
論文 参考訳(メタデータ) (2024-07-03T16:33:31Z) - MAPS: A Noise-Robust Progressive Learning Approach for Source-Free
Domain Adaptive Keypoint Detection [76.97324120775475]
クロスドメインキーポイント検出方法は、常に適応中にソースデータにアクセスする必要がある。
本稿では、ターゲット領域に十分に訓練されたソースモデルのみを提供する、ソースフリーなドメイン適応キーポイント検出について考察する。
論文 参考訳(メタデータ) (2023-02-09T12:06:08Z) - Rethinking Precision of Pseudo Label: Test-Time Adaptation via
Complementary Learning [10.396596055773012]
本稿では,テスト時間適応性を高めるための新しい補完学習手法を提案する。
テスト時適応タスクでは、ソースドメインからの情報は通常利用できない。
我々は,相補ラベルのリスク関数がバニラ損失式と一致することを強調した。
論文 参考訳(メタデータ) (2023-01-15T03:36:33Z) - Two-phase Pseudo Label Densification for Self-training based Domain
Adaptation [93.03265290594278]
TPLDと呼ばれる,新規な二相擬似ラベル高密度化フレームワークを提案する。
第1フェーズでは,スライディングウインドウ投票を用いて,画像内の内在的空間相関を利用して,自信のある予測を広める。
第2フェーズでは,信頼度に基づく容易な分類を行う。
トレーニングプロセスの容易化と騒音予測の回避を目的として,ブートストラップ機構の導入を行った。
論文 参考訳(メタデータ) (2020-12-09T02:35:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。