論文の概要: Unsupervised Long-Tailed Adaptation of Vision-Language Models

• arxiv url: http://arxiv.org/abs/2610.07903v1
• Date: Tue, 06 Oct 2026 07:49:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.874763
• Title: Unsupervised Long-Tailed Adaptation of Vision-Language Models
• Title（参考訳）: ビジョンランゲージモデルの教師なし長期適応
• Abstract要約: 我々はunsupervised Long-Tailed Adaptation (ULTA)と呼ばれる新しいシナリオを定式化する。 このシナリオでは、既存の手法は対照的な現象を示す: ヘッドクラスのパフォーマンスは急激に低下する。 構造アライメントを用いたMargin-Aware Refinement(MARS)という新しいモデルを提案する。
• 参考スコア（独自算出の注目度）: 31.17046861182675
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Adapting vision-language models to downstream tasks has achieved remarkable success by leveraging pseudo-labels generated from unlabeled data. Existing methods typically assume a uniform unlabeled data distribution, and thus the resulting pseudo-label distribution is likewise uniform. However, real-world data distributions are often long-tailed. To tackle this, we formalize a new scenario termed Unsupervised Long-Tailed Adaptation (ULTA). Under this scenario, existing methods exhibit a contrasting phenomenon: head-class performance drops sharply, which is distinct from supervised long-tailed learning where tail classes suffer the most. In particular, we uncover that the distributional mismatch not only erodes head-class boundaries, but also pushes head samples into confusable classes, reinforcing the model's inherent bias. To address these issues, we propose a novel model called Margin-Aware Refinement with Structural alignment (MARS). Specifically, we mitigate head-class boundary erosion via Boundary-Preserving Alignment, which takes the zero-shot VLM as a fixed visual reference to suppress probability increases that lack visual support in the training targets. Building upon this, we introduce Margin-aware Self-Refinement, which employs a dynamic adjustment strategy to refine tail and confusable classes while preventing prediction bias. Extensive experiments on nine benchmark datasets demonstrate that MARS outperforms state-of-the-art methods, achieving an average accuracy improvement of 4.71 percentage points.
• Abstract（参考訳）: 下流タスクに視覚言語モデルを適用することは、ラベルのないデータから生成された擬似ラベルを活用することで、驚くべき成功を収めた。 既存の手法は通常、一様でないデータ分布を仮定するので、結果として生じる擬似ラベル分布も同様に均一である。 しかし、実世界のデータ配信は、しばしば長い目で見られている。 これを解決するために、unsupervised Long-Tailed Adaptation (ULTA)と呼ばれる新しいシナリオを定式化した。 このシナリオでは、既存の手法は対照的な現象を示す: 頭級のパフォーマンスが急激に低下し、尾級が最も苦しむ教師付き長い尾型学習とは異なる。 特に、分布ミスマッチがヘッドクラスの境界を侵食するだけでなく、ヘッドサンプルを不完全なクラスに押し込み、モデル固有のバイアスを補強することを明らかにする。 これらの問題に対処するために,構造アライメントを用いたMargin-Aware Refinement(MARS)という新しいモデルを提案する。 具体的には、ゼロショットVLMを固定的な視覚参照とし、トレーニング対象の視覚的サポートを欠く確率の増大を抑制するため、境界保存アライメントによるヘッドクラスの境界侵食を緩和する。 これに基づいて,予測バイアスを防止しつつ,尾部を洗練させ,クラスを混乱させる動的調整戦略を取り入れたMargin-Aware Self-Refinementを導入する。 9つのベンチマークデータセットの大規模な実験により、MARSは最先端の手法より優れ、平均精度は4.71ポイント向上した。

関連論文リスト

• Long-Tailed Learning for Generalized Category Discovery [0.0]
  本稿では,長期分布における一般化されたカテゴリ発見を行う新しいフレームワークを提案する。 まず,学習可能な分布を用いて擬似ラベルを生成する自己誘導ラベリング手法を提案する。 次に、識別的表現を導出する表現バランスプロセスを導入する。
  論文  参考訳（メタデータ） (2025-06-08T02:01:49Z)
• Continuous Contrastive Learning for Long-Tailed Semi-Supervised Recognition [50.61991746981703]
  現在の最先端のLTSSLアプローチは、大規模な未ラベルデータに対して高品質な擬似ラベルに依存している。 本稿では,長期学習における様々な提案を統一する新しい確率的枠組みを提案する。 我々は、信頼度とスムーズな擬似ラベルを用いて、我々のフレームワークをラベルなしデータに拡張する、連続的コントラスト学習手法であるCCLを導入する。
  論文  参考訳（メタデータ） (2024-10-08T15:06:10Z)
• Towards the Mitigation of Confirmation Bias in Semi-supervised Learning: a Debiased Training Perspective [6.164100243945264]
  半教師付き学習(SSL)は、モデルが特定のクラスを不均等に好むという、一般的に確認バイアスを示す。 SSLのデバイアスドトレーニングのための統合フレームワークであるTaMatchを紹介します。 TaMatchは,様々な課題の画像分類タスクにおいて,既存の最先端手法よりも大幅に優れていることを示す。
  論文  参考訳（メタデータ） (2024-09-26T21:50:30Z)
• The Decaying Missing-at-Random Framework: Model Doubly Robust Causal Inference with Partially Labeled Data [8.916614661563893]
  因果推論を両立させるために,MARフレームワークの欠落と関連するアプローチを導入する。 これはラベル付け機構における選択バイアスとラベル付きグループとラベルなしグループの極端な不均衡に同時に対処する。 因果関係の堅牢性を確保するため,平均治療効果に対するバイアス低減SS推定器を提案する。
  論文  参考訳（メタデータ） (2023-05-22T07:37:12Z)
• Adjusting Logit in Gaussian Form for Long-Tailed Visual Recognition [37.62659619941791]
  特徴レベルの観点から、長い尾の視覚認識の問題について検討する。 2つの新しいロジット調整法が提案され,計算オーバーヘッドの緩やかなモデル性能が向上した。 ベンチマークデータセットを用いて行った実験は,提案手法の最先端手法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2023-05-18T02:06:06Z)
• Constructing Balance from Imbalance for Long-tailed Image Recognition [50.6210415377178]
  多数派(頭)クラスと少数派(尾)クラスの不均衡は、データ駆動のディープニューラルネットワークを著しく歪ませる。 従来の手法では、データ分散、特徴空間、モデル設計の観点からデータ不均衡に対処していた。 ラベル空間を段階的に調整し,ヘッドクラスとテールクラスを分割することで,簡潔なパラダイムを提案する。 提案モデルでは,特徴評価手法も提供し,長期的特徴学習の道を開く。
  論文  参考訳（メタデータ） (2022-08-04T10:22:24Z)
• Relieving Long-tailed Instance Segmentation via Pairwise Class Balance [85.53585498649252]
  長い尾のインスタンスセグメンテーションは、クラス間のトレーニングサンプルの極端な不均衡のために難しいタスクである。 尾のついたものに対して、(大多数のサンプルを含む)ヘッドクラスの深刻なバイアスを引き起こす。 そこで本研究では,学習中の予測嗜好を蓄積するために,学習中に更新される混乱行列上に構築された新しいPairwise Class Balance(PCB)手法を提案する。
  論文  参考訳（メタデータ） (2022-01-08T07:48:36Z)
• General Greedy De-bias Learning [163.65789778416172]
  本稿では,関数空間における勾配降下のような偏りのあるモデルとベースモデルを優雅に訓練する一般グリーディ・デバイアス学習フレームワーク(GGD)を提案する。 GGDは、事前知識を持つタスク固有バイアスモデルと、事前知識を持たない自己アンサンブルバイアスモデルの両方の設定の下で、より堅牢なベースモデルを学ぶことができる。
  論文  参考訳（メタデータ） (2021-12-20T14:47:32Z)
• Towards Calibrated Model for Long-Tailed Visual Recognition from Prior Perspective [17.733087434470907]
  実世界のデータは、深刻な階級不均衡問題に直面し、長い尾の分布を示す。 本稿では,このジレンマを緩和する2つの新しい手法を提案する。 まず、UniMix(UniMix)と呼ばれるバランス指向データ拡張を推定し、長期のシナリオでミキサアップを促進する。 第二に、ベイズ理論に動機づけられたベイズバイアス(ベイアズ)は、標準的なクロスエントロピー損失の修正としてそれを補償する。
  論文  参考訳（メタデータ） (2021-11-06T12:53:34Z)
• Solving Long-tailed Recognition with Deep Realistic Taxonomic Classifier [68.38233199030908]
  ロングテール認識は、現実世界のシナリオにおける自然な非一様分散データに取り組む。 モダンは人口密度の高いクラスではうまく機能するが、そのパフォーマンスはテールクラスでは著しく低下する。 Deep-RTCは、リアリズムと階層的予測を組み合わせたロングテール問題の新しい解法として提案されている。
  論文  参考訳（メタデータ） (2020-07-20T05:57:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。