論文の概要: What Does Prompt Learning Change? -A Natural-Language Concept Analysis of Vision-Language Models

• arxiv url: http://arxiv.org/abs/2608.24142v1
• Date: Tue, 25 Aug 2026 07:06:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-26 14:09:34.852241
• Title: What Does Prompt Learning Change? -A Natural-Language Concept Analysis of Vision-Language Models
• Title（参考訳）: プロンプト学習はどのような変化をもたらすか -視覚言語モデルにおける自然言語概念分析-
• Abstract要約: PromptSpLiCEは、固定された自然言語辞書から概念の疎結合として、各クラス条件のテキスト埋め込みを表現する。 代表的なプロンプト学習手法であるCoOp上でのPromptSpLiCEを11の画像分類データセットで評価した。
• 参考スコア（独自算出の注目度）: 12.961180148172199
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Prompt learning adapts vision-language models such as CLIP by optimizing continuous prompt vectors, but the learned prompts are difficult to interpret in natural language. We present PromptSpLiCE, a post-hoc method that expresses each class-conditioned text embedding as a sparse combination of concepts from a fixed natural-language dictionary. Using the same dictionary before and after prompt learning allows us to compare changes in their concept profiles. We evaluate PromptSpLiCE on CoOp, a representative prompt-learning method, across 11 image-classification datasets. The concept profiles change substantially: on average, only 1.6 of the initial top-10 concepts remain in the top 10 after learning. Across datasets, profile change is positively associated with accuracy gain. We also derive a local gradient expression that provides geometric intuition for why image-aligned concept directions distinct from the current prompt can have greater loss sensitivity.
• Abstract（参考訳）: プロンプト学習は連続的なプロンプトベクトルを最適化することでCLIPのような視覚言語モデルに適応するが、学習したプロンプトは自然言語で解釈することが難しい。 本稿では,固定された自然言語辞書から概念の疎結合として,各クラス条件のテキスト埋め込みを表現するポストホック手法であるPromptSpLiCEを提案する。 学習前後で同じ辞書を使用すれば,概念プロファイルの変化を比較することができる。 代表的なプロンプト学習手法であるCoOp上でのPromptSpLiCEを11の画像分類データセットで評価した。 概念プロファイルは大きく変わる。学習後にトップ10のコンセプトのうち、平均して1.6しかトップ10に残っていない。 データセット全体において、プロファイルの変更は精度向上と肯定的に関連付けられている。 また,現状のプロンプトとイメージアラインメントの概念方向を区別する幾何学的直観を与える局所勾配式を導出する。

関連論文リスト

• Modular Prompt Learning Improves Vision-Language Models [49.132774679968456]
  挿入されたプロンプトに含まれる情報の保存を促進するために,モジュール型プロンプト学習(MPL)を提案する。 提案手法は,ベース・ツー・ニューな一般化タスクにおいて平均0.7%の性能向上を実現している。 個々のデータセットにおける最大の改善は10.7%である。
  論文  参考訳（メタデータ） (2025-02-19T22:00:20Z)
• Self-Evolution Learning for Discriminative Language Model Pretraining [103.57103957631067]
  自己進化学習(Self-Evolution Learning、SE)は、単純で効果的なトークンマスキングと学習方法である。 SEは情報的だが未探索のトークンを学習することに集中し、新しいToken固有のラベル平滑化アプローチを導入してトレーニングを適応的に調整する。
  論文  参考訳（メタデータ） (2023-05-24T16:00:54Z)
• Bayesian Prompt Learning for Image-Language Model Generalization [64.50204877434878]
  我々はベイズ法の正規化能力を用いて、変分推論問題としてプロンプト学習をフレーム化する。 提案手法は,プロンプト空間を正規化し,目に見えないプロンプトへの過剰適合を低減し,目に見えないプロンプトのプロンプト一般化を改善する。 ベイジアン・プロンプト学習がプロンプト空間の適切なカバレッジを提供する15のベンチマークを実証的に示す。
  論文  参考訳（メタデータ） (2022-10-05T17:05:56Z)
• LASP: Text-to-Text Optimization for Language-Aware Soft Prompting of Vision & Language Models [67.19124099815645]
  ベースクラスオーバーフィットを軽減するために,Language-Aware Soft Prompting (LASP) 学習手法を提案する。 LASPは本質的に、トレーニング中に仮想クラス、すなわちビジュアルサンプルが使用できないクラス名を含むことができる。 LASPは、手作りのプロンプトとCLIPによる11のテストデータセットのうち8つの新しいクラスの精度が初めて一致し、上回っている。
  論文  参考訳（メタデータ） (2022-10-03T17:56:35Z)
• Personalized Prompt Learning for Explainable Recommendation [46.69922623691051]
  本稿では,正規化としての逐次チューニングとレコメンデーションという2つのトレーニング戦略を提案する。 当社の継続的プロンプト学習アプローチは、説明可能な推奨の3つのデータセットの強いベースラインを一貫して上回ります。
  論文  参考訳（メタデータ） (2022-02-15T12:53:52Z)
• CLIP-Adapter: Better Vision-Language Models with Feature Adapters [84.88106370842883]
  即時チューニング以外に、より良い視覚言語モデルを実現するための代替経路があることが示される。 CLIP-Adapterは新たなボトルネックレイヤを採用して、新機能を学び、残留スタイルの機能ブレンディングを実行する。 様々な視覚的分類タスクの実験および広範囲なアブレーション研究は、我々のアプローチの有効性を実証している。
  論文  参考訳（メタデータ） (2021-10-09T11:39:30Z)
• Learning to Prompt for Vision-Language Models [82.25005817904027]
  視覚言語による事前学習が表現学習の有望な代替手段として登場した。 画像と離散ラベルを使って、視覚的な概念と見なされる一連の重みを学習する伝統から、2つの異なるエンコーダのための画像と生のテキストの整列へと移行する。 このようなパラダイムは、より広範な監視源の恩恵を受け、下流タスクへのゼロショット転送を可能にします。
  論文  参考訳（メタデータ） (2021-09-02T17:57:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。