論文の概要: Unsupervised Transfer Clustering for Mitigating Cold Start in Active Prompt Learning
- arxiv url: http://arxiv.org/abs/2609.05636v1
- Date: Fri, 04 Sep 2026 18:14:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-12 13:04:44.206514
- Title: Unsupervised Transfer Clustering for Mitigating Cold Start in Active Prompt Learning
- Title（参考訳）: アクティブプロンプト学習における冷間開始の緩和のための教師なし転送クラスタリング
- Abstract要約: VLM(Vision-Language Models)は、視覚的およびテキスト的表現を整列させることで、印象的なゼロショット分類性能を達成することができる。
新しいタスクには手作りのプロンプトがまだ必要だ。
Active Prompt Learning(APL)は、Active Learning(AL)とPrompt Learning(PL)を1つのフレームワークに統合する。
- 参考スコア（独自算出の注目度）: 1.5539424546888112
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Vision-Language Models (VLMs) are able to achieve impressive zero-shot classification performance by aligning visual and textual representations, but each new task still demands handcrafted prompts. Active Prompt Learning (APL) combines Active Learning (AL) and Prompt Learning (PL) into a single framework, allowing for the usage of the VLM prior knowledge for iteratively querying the most informative images to be labeled. However, the cold-start problem is still relevant for APL methods, where the performance of the initial query can be worse than random sampling. While recent state-of-the-art APL methods mitigate with balanced sampling and multimodal features, they rely on rigid, distance-based clustering to group these features. This simplistic approach can struggle to capture the complex, high-dimensional semantic distributions inherent to VLMs, leading to suboptimal query representativeness. Unsupervised transfer can be applied to these features as a possible alternative, since it is capable of inferring the underlying human labeling of a task without any form of supervision. This way, samples can be grouped in semantically coherent clusters. This paper proposes Unsupervised Transfer Clustering with Selective Querying (UTC+SQ), a framework that enhances a recent APL approach by leveraging state-of-the-art unsupervised transfer model. These models generate high-fidelity pseudo-labels that establish semantically meaningful clusters, allowing for the selection of more relevant samples. Experimental evaluations demonstrate that shifting from distance-based to projection-based clustering improves the representativeness of the queried subset, achieving accuracy gains in 6 of the 8 datasets tested.
- Abstract（参考訳）: VLM(Vision-Language Models)は、視覚的およびテキスト的表現を整列させることで、印象的なゼロショット分類性能を達成することができるが、新しいタスクは手作りのプロンプトを必要とする。
Active Prompt Learning (APL) はActive Learning (AL) と Prompt Learning (PL) を1つのフレームワークに統合し、VLMの事前知識を使用してラベル付けする最も情報性の高いイメージを反復的にクエリすることができる。
しかし、コールドスタート問題はまだAPL法に関係しており、初期クエリの性能はランダムサンプリングよりも悪い可能性がある。
近年の最先端のAPL手法はサンプリングとマルチモーダルの特徴のバランスを緩和するが、これらの特徴をグループ化するためには厳密な距離ベースのクラスタリングに依存している。
この単純化されたアプローチは、VLM固有の複雑で高次元のセマンティックな分布を捉えるのに苦労する可能性がある。
教師なしの移動は、監督形態を使わずにタスクの下位の人間のラベル付けを推測できるため、これらの特徴を代替可能なものとして適用することができる。
このように、サンプルは意味的にコヒーレントなクラスタにグループ化することができる。
本稿では,最新の APL アプローチを強化するフレームワークである Unsupervised Transfer Clustering with Selective Querying (UTC+SQ) を提案する。
これらのモデルは、意味的に意味のあるクラスタを確立するための高忠実な擬似ラベルを生成し、より関連するサンプルの選択を可能にする。
実験により,距離に基づくクラスタリングから投影型クラスタリングへのシフトにより,クエリされたサブセットの表現性が向上し,テスト対象8データセットのうち6データセットの精度向上が達成された。
関連論文リスト
- From Sparse to Dense: Multi-View GRPO for Flow Models via Augmented Condition Space [78.36537400975298]
グループ相対政策最適化(GRPO)は、テキスト・ツー・イメージ(T2I)フローモデルにおいて、優先順位調整のための強力なフレームワークとして登場した。
条件空間を拡大することで関係探索を強化する新しい手法であるMulti-View GRPOを提案する。
MV-GRPOは最先端手法よりも優れたアライメント性能を実現する。
論文 参考訳（メタデータ） (2026-03-13T04:35:13Z) - GALACTIC: Global and Local Agnostic Counterfactuals for Time-series Clustering [9.33534873952683]
本稿では,非教師付き時系列クラスタリングのための局所的およびグローバル的対実的説明性を橋渡しする,最初の統一フレームワークであるGALACTICを紹介する。
インスタンスレベル(ローカル)では、GALACTICはクラスタ認識最適化の目的を通じて摂動を生成する。
クラスタレベル(グローバル)では、認知負荷を軽減し、解釈可能性を高めるため、代表的なCE選択問題を定式化する。
論文 参考訳（メタデータ） (2026-03-05T15:59:33Z) - ESMC: MLLM-Based Embedding Selection for Explainable Multiple Clustering [79.69917150582633]
MLLM(Multi-modal large language model)は、ユーザ主導のクラスタリングを実現するために利用することができる。
本手法はまず,MLLMのテキストトークンの隠蔽状態が対応する特徴と強く関連していることを明らかにする。
また、擬似ラベル学習を付加した軽量クラスタリングヘッドを採用し、クラスタリング精度を大幅に向上させた。
論文 参考訳（メタデータ） (2025-11-30T04:36:51Z) - Clustering by Attention: Leveraging Prior Fitted Transformers for Data Partitioning [3.4530027457862005]
メタラーニングに基づく新しいクラスタリング手法を提案する。
我々は,クラスタリングを行うために事前学習したPFN(Predior-Data Fitted Transformer Network)を用いている。
我々の手法は最先端のクラスタリング技術よりも優れていることを示す。
論文 参考訳（メタデータ） (2025-07-27T17:53:19Z) - Words Matter: Leveraging Individual Text Embeddings for Code Generation in CLIP Test-Time Adaptation [21.20806568508201]
テスト時推論において視覚言語モデル(VLM)が遭遇する分布ドリフトを軽減するために,クラステキスト情報を活用する方法を示す。
本稿では,ラベル割り当て問題の固定セントロイドとしてジェネリッククラステキスト埋め込みを利用して,テスト時間サンプルの擬似ラベルを生成することを提案する。
多様な複雑性を示す複数の人気のあるテスト時間適応ベンチマークの実験は、CLIP-OTの優位性を実証的に示している。
論文 参考訳（メタデータ） (2024-11-26T00:15:37Z) - In-context Demonstration Matters: On Prompt Optimization for Pseudo-Supervision Refinement [71.60563181678323]
大規模言語モデル(LLM)は様々なタスクで大きな成功を収めており、生成品質をさらに向上させるためには微調整が必要である場合もある。
これらの課題に対処する直接的な解決策は、教師なしの下流タスクから高信頼のデータを生成することである。
本稿では,プロンプトと全体的な擬似スーパービジョンを両立させる新しい手法,擬似教師付きデモアライメント・アライメント・アライメント・プロンプト・最適化(PAPO)アルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-10-04T03:39:28Z) - Unsupervised Multimodal Clustering for Semantics Discovery in Multimodal Utterances [24.142013877384603]
本稿では,新しい教師なしマルチモーダルクラスタリング手法 (UMC) を提案する。
UMCは、マルチモーダルデータのための拡張ビューを構築するためのユニークなアプローチを導入し、事前トレーニングを実行するために使用される。
我々は、最先端の手法よりもクラスタリングメトリクスの2-6%のスコアが顕著に改善され、この領域で最初の成功例となった。
論文 参考訳（メタデータ） (2024-05-21T13:24:07Z) - GCC: Generative Calibration Clustering [55.44944397168619]
本稿では,特徴学習と拡張をクラスタリングに組み込む新しいGCC法を提案する。
まず,実検体と実検体間の固有関係を識別する識別的特徴アライメント機構を開発する。
第二に、より信頼性の高いクラスタ割り当てを生成するための自己教師付きメトリック学習を設計する。
論文 参考訳（メタデータ） (2024-04-14T01:51:11Z) - Generalized Category Discovery with Large Language Models in the Loop [10.440661581492723]
トレーニングループにLarge Language Modelを導入する,エンドツーエンドのアクティブラーニングフレームワークであるLoopを提案する。
ループはSOTAモデルよりも大きなマージンで優れており、検出されたクラスタの正確なカテゴリ名を生成する。
論文 参考訳（メタデータ） (2023-12-18T02:55:14Z) - You Never Cluster Alone [150.94921340034688]
我々は、主流のコントラスト学習パラダイムをクラスタレベルのスキームに拡張し、同じクラスタに属するすべてのデータが統一された表現に寄与する。
分類変数の集合をクラスタ化代入信頼度として定義し、インスタンスレベルの学習トラックとクラスタレベルの学習トラックを関連付ける。
代入変数を再パラメータ化することで、TCCはエンドツーエンドでトレーニングされる。
論文 参考訳（メタデータ） (2021-06-03T14:59:59Z) - Progressive Cluster Purification for Unsupervised Feature Learning [48.87365358296371]
教師なしの特徴学習では、サンプル特異性に基づく手法はクラス間の情報を無視する。
本稿では,プログレッシブクラスタ形成時にクラス不整合サンプルを除外するクラスタリングに基づく新しい手法を提案する。
我々の手法は、プログレッシブ・クラスタ・パーフィケーション(PCP)と呼ばれ、訓練中に徐々にクラスタ数を減らし、プログレッシブ・クラスタリングを実装している。
論文 参考訳（メタデータ） (2020-07-06T08:11:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。