論文の概要: PETR: Prompt Ensembling with Training-free Routing for Vision-Language Models
- arxiv url: http://arxiv.org/abs/2609.23600v1
- Date: Sun, 20 Sep 2026 12:36:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-22 20:29:00.867306
- Title: PETR: Prompt Ensembling with Training-free Routing for Vision-Language Models
- Title(参考訳): PETR:ビジョンランゲージモデルのためのトレーニング不要ルーティングを組み込んだプロンプト
- Abstract要約: トレーニングフリールーティング(PETR)を用いた即時アンサンブルを提案する。
異なるデータと目的から2つの補完的プロンプトを学習し、目に見えないクラス差別と目に見えないクラス一般化を強調する。
トレーニング中、両方のプロンプトは共有冷凍CLIPバックボーンを使用して微調整される。
推定時に、各テストサンプルとデータとの類似性を判定し、サンプルを最も適切なプロンプトブランチにルーティングする。
- 参考スコア(独自算出の注目度): 24.597178363518818
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Prompt learning efficiently adapts vision-language models (VLMs) to downstream tasks, but gains on seen classes often come at the expense of generalization to unseen classes. To address this limitation, we propose prompt ensembling with training-free routing (PETR), whose key innovation is a carefully designed dual-prompt architecture: two complementary prompts are learned from different data and objectives to emphasize seen class discrimination and unseen-class generalization, respectively. During training, both prompts are fine-tuned using a shared frozen CLIP backbone, and statistical information is collected from the training set logits. At inference time, we determine the similarity of each test sample to seen data, and route the sample to the most appropriate prompt branch. To the best of our knowledge, this is the first prompt tuning framework that performs training-free adaptive routing based on statistical similarity. This design provides an interpretable routing signal and avoids common MoE-style routing pathologies, such as router training instability and load imbalance. Extensive experiments on 11 benchmark datasets demonstrate that our framework consistently outperforms previous methods on both seen and unseen classes, achieving new state-of-the-art results.
- Abstract(参考訳): プロンプト学習は、視覚言語モデル(VLM)を下流のタスクに効果的に適応させるが、目に見えないクラスへの一般化を犠牲にすることも多い。
この制限に対処するため,2つの補完的プロンプトを異なるデータと目的から学習し,目に見えないクラス識別と未確認クラス一般化をそれぞれ重視する。
トレーニング中、両方のプロンプトは共有冷凍CLIPバックボーンを使用して微調整され、トレーニングセットのログから統計情報が収集される。
推定時に、各テストサンプルとデータとの類似性を判定し、サンプルを最も適切なプロンプトブランチにルーティングする。
我々の知る限り、これは統計的類似性に基づいてトレーニング不要適応ルーティングを実行する最初のプロンプトチューニングフレームワークである。
この設計は、解釈可能なルーティング信号を提供し、ルータのトレーニング不安定性や負荷不均衡など、一般的なMoEスタイルのルーティングパスを回避する。
11のベンチマークデータセットに対する大規模な実験により、我々のフレームワークは、目に見えないクラスと見えないクラスの両方で、常に従来のメソッドより優れており、新しい最先端の結果が得られています。
関連論文リスト
- LLM Routing with Dueling Feedback [49.67815163970033]
ユーザの満足度,モデルの専門性,推論コストのバランスを保ちながら,クエリ毎に最適なモデルを選択するという課題について検討する。
絶対的なスコアではなく、ペアの選好フィードバックから学習することで、ルーティングをコンテキストデュエルの帯域として定式化する。
分類的重み付けを用いた対照的な微調整を用いて,オフラインデータからモデル埋め込みを導出する表現学習手法であるカテゴリーキャリブレーション・ファインタニング(CCFT)を導入する。
論文 参考訳(メタデータ) (2025-10-01T12:52:25Z) - A Systematic Examination of Preference Learning through the Lens of Instruction-Following [83.71180850955679]
新たな合成データ生成パイプラインを用いて48,000の命令追従プロンプトを生成する。
合成プロンプトでは、リジェクションサンプリング(RS)とモンテカルロ木探索(MCTS)の2つの選好データセットキュレーション手法を用いる。
実験により、MCTSが生成した選好ペアにおける共有プレフィックスは、限界はあるが一貫した改善をもたらすことが明らかになった。
高コントラストの選好ペアは一般的に低コントラストのペアよりも優れているが、両者を組み合わせることで最高のパフォーマンスが得られることが多い。
論文 参考訳(メタデータ) (2024-12-18T15:38:39Z) - One Train for Two Tasks: An Encrypted Traffic Classification Framework
Using Supervised Contrastive Learning [18.63871240173137]
CLE-TFE(Contrastive Learning Enhanced Temporal Fusion)と呼ばれる効果的なモデルを提案する。
特に、教師付きコントラスト学習を利用して、パケットレベルおよびフローレベル表現を強化する。
また、パケットレベルとフローレベルの分類タスクを1つのトレーニングで同時に行うクロスレベルマルチタスク学習を提案する。
論文 参考訳(メタデータ) (2024-02-12T09:10:09Z) - Self-regulating Prompts: Foundational Model Adaptation without
Forgetting [112.66832145320434]
本稿では,PromptSRCと呼ばれる自己正規化フレームワークを提案する。
PromptSRCはタスク固有の汎用表現とタスクに依存しない汎用表現の両方に最適化するプロンプトを導く。
論文 参考訳(メタデータ) (2023-07-13T17:59:35Z) - Contrastive Instruction-Trajectory Learning for Vision-Language
Navigation [66.16980504844233]
視覚言語ナビゲーション(VLN)タスクでは、エージェントが自然言語の指示でターゲットに到達する必要がある。
先行研究は、命令-軌道対間の類似点と相違点を識別できず、サブ命令の時間的連続性を無視する。
本稿では、類似したデータサンプル間の分散と、異なるデータサンプル間の分散を探索し、ロバストなナビゲーションのための独特な表現を学習するContrastive Instruction-Trajectory Learningフレームワークを提案する。
論文 参考訳(メタデータ) (2021-12-08T06:32:52Z) - Adaptive Prototypical Networks with Label Words and Joint Representation
Learning for Few-Shot Relation Classification [17.237331828747006]
本研究は,少ショット関係分類(FSRC)に焦点を当てる。
クラスプロトタイプの表現にラベル単語を追加するための適応的混合機構を提案する。
FewRelでは、異なる数ショット(FS)設定で実験が行われた。
論文 参考訳(メタデータ) (2021-01-10T11:25:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。