論文の概要: Cluster-Aware Neural Collapse Prompt Tuning for Long-Tailed Generalization of Vision-Language Models

• arxiv url: http://arxiv.org/abs/2605.11939v1
• Date: Tue, 12 May 2026 10:50:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 21:48:56.806044
• Title: Cluster-Aware Neural Collapse Prompt Tuning for Long-Tailed Generalization of Vision-Language Models
• Title（参考訳）: クラスタ・アウェア・ニューラル・ラプス・プロンプト・チューニングによる視覚言語モデルの長期一般化
• Authors: Boyang Guo, Liang Li, Lin Peng, Yuhan Gao, Xichun Sheng, Chenggang Yan,
• Abstract要約: クラスタ認識型ニューラル崩壊プロンプトチューニング(CPT)を提案する。 CPTは、一般化を犠牲にすることなく、プロンプト調整された視覚言語モデルにおけるテールクラスの識別性を向上する。 11の多様なデータセットの実験では、CPTがSOTA法より優れていることが示されている。
• 参考スコア（独自算出の注目度）: 20.68004586002534
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Prompt learning has emerged as an efficient alternative to fine-tuning pre-trained vision-language models (VLMs). Despite its promise, current methods still struggle to maintain tail-class discriminability when adapting to class-imbalanced datasets. In this work, we propose cluster-aware neural collapse prompt tuning (CPT), which enhances the discriminability of tail classes in prompt-tuned VLMs without sacrificing their overall generalization. First, we design a cluster-invariant space by mining semantic assignments from the pre-trained VLM and mapping them to prompt-tuned features. This computes cluster-level boundaries and restricts the constraints to local neighborhoods, which reduces interference with the global semantic structure of the pre-trained VLM. Second, we introduce neural-collapse-driven discriminability optimization with three losses: textual Equiangular Tight Frame (ETF) separation loss, class-wise convergence loss, and rotation stabilization loss. These losses work together to shape intra-cluster geometry for better inter-class separation and intra-class alignment. Extensive experiments on 11 diverse datasets demonstrate that CPT outperforms SOTA methods, with stronger performance on long-tail classes and good generalization to unseen classes.
• Abstract（参考訳）: プロンプト学習は、微調整された事前学習された視覚言語モデル(VLM)の効率的な代替手段として登場した。 その約束にもかかわらず、現在の手法は、クラス不均衡なデータセットに適応する際、テールクラスの識別性を維持するのに依然として苦労している。 本研究では,クラスタ認識型ニューラル・クラッシュ・プロンプト・チューニング(CPT)を提案する。 まず、事前訓練されたVLMから意味的代入をマイニングし、それらをプロンプトした特徴にマッピングすることで、クラスタ不変空間を設計する。 これにより、クラスタレベルの境界を計算し、制約を局所的に制限することで、事前訓練されたVLMのグローバルな意味構造に対する干渉を減らすことができる。 第2に, テキスト等角フレーム(ETF)分離損失, クラスワイド収束損失, 回転安定化損失の3つの損失を伴って, ニューラルネットワークによる識別性最適化を導入する。 これらの損失は、クラス間の分離とクラス内のアライメントを改善するためにクラスタ内幾何学を形成するために協力する。 11種類の多種多様なデータセットに対する大規模な実験により、CPTはSOTA法よりも優れており、長い尾クラスの性能が強く、目に見えないクラスによく一般化されていることが示された。

関連論文リスト

• Silhouette Loss: Differentiable Global Structure Learning for Deep Representations [0.0]
  我々は、クラスタリング解析から古典的なシルエット係数に着想を得た、新しい微分可能な目標であるソフトシルエットロスを紹介する。 我々の定式化は、各サンプルをバッチ内の全クラスに対して評価し、バッチレベルのグローバル構造の概念を提供する。 クロスエントロピーとシームレスに結合することができ、教師付きコントラスト学習を補完する。
  論文  参考訳（メタデータ） (2026-03-27T12:11:47Z)
• Towards Fine-Grained Adaptation of CLIP via a Self-Trained Alignment Score [11.74414842618874]
  適応中の微粒な相互モーダル相互作用をモデル化すると、より正確でクラス別な擬似ラベルが得られることを示す。 局所化画像特徴と記述言語埋め込みとを動的に整合させる革新的なアプローチであるFAIR(ファインフルアライメント・アンド・インタラクション・リファインメント)を導入する。 当社のアプローチであるFAIRは、きめ細かな教師なし適応において大幅なパフォーマンス向上を実現し、2.78%という顕著な全体的な向上を実現しています。
  論文  参考訳（メタデータ） (2025-07-13T12:38:38Z)
• Unbiased Max-Min Embedding Classification for Transductive Few-Shot Learning: Clustering and Classification Are All You Need [83.10178754323955]
  わずかなショットラーニングにより、モデルがいくつかのラベル付き例から一般化できる。 本稿では,Unbiased Max-Min Embedding Classification (UMMEC)法を提案する。 本手法は最小ラベル付きデータを用いて分類性能を著しく向上させ, 注釈付きLの最先端化を推し進める。
  論文  参考訳（メタデータ） (2025-03-28T07:23:07Z)
• Enhancing Robustness of Vision-Language Models through Orthogonality Learning and Self-Regularization [77.62516752323207]
  そこで本研究では,事前訓練した重みを効率よく微調整する直交微調整法を導入し,頑健さと一般化の強化を実現した。 自己正規化戦略は、OrthSRと呼ばれるVLMのゼロショット一般化の観点から安定性を維持するためにさらに活用される。 筆者らはCLIPとCoOpを再検討し,少数の画像のクラスフィシエーションシナリオにおけるモデルの改善を効果的に行う。
  論文  参考訳（メタデータ） (2024-07-11T10:35:53Z)
• Class-Imbalanced Semi-Supervised Learning for Large-Scale Point Cloud Semantic Segmentation via Decoupling Optimization [64.36097398869774]
  半教師付き学習(SSL)は大規模3Dシーン理解のための活発な研究課題である。 既存のSSLベースのメソッドは、クラス不均衡とポイントクラウドデータのロングテール分布による厳しいトレーニングバイアスに悩まされている。 本稿では,特徴表現学習と分類器を別の最適化方法で切り離してバイアス決定境界を効果的にシフトする,新しいデカップリング最適化フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-01-13T04:16:40Z)
• Self-Supervised Class Incremental Learning [51.62542103481908]
  既存のクラスインクリメンタルラーニング(CIL)手法は、データラベルに敏感な教師付き分類フレームワークに基づいている。 新しいクラスデータに基づいて更新する場合、それらは破滅的な忘れがちである。 本稿では,SSCILにおける自己指導型表現学習のパフォーマンスを初めて考察する。
  論文  参考訳（メタデータ） (2021-11-18T06:58:19Z)
• Unleashing the Power of Contrastive Self-Supervised Visual Models via Contrast-Regularized Fine-Tuning [94.35586521144117]
  コントラスト学習を微調整に適用することでさらにメリットが得られるか検討する。 本研究では,コントラスト正規化調律(core-tuning)を提案する。
  論文  参考訳（メタデータ） (2021-02-12T16:31:24Z)
• Generalized Zero-Shot Learning Via Over-Complete Distribution [79.5140590952889]
  そこで本稿では,CVAE (Conditional Variational Autoencoder) を用いたOCD(Over-Complete Distribution) の生成を提案する。 フレームワークの有効性は,Zero-Shot LearningプロトコルとGeneralized Zero-Shot Learningプロトコルの両方を用いて評価する。
  論文  参考訳（メタデータ） (2020-04-01T19:05:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。