論文の概要: ES-VP : Energy-Shaped Dynamic Visual Prompting for Efficient Model Adaptation

• arxiv url: http://arxiv.org/abs/2608.21194v1
• Date: Fri, 21 Aug 2026 15:03:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-24 14:49:32.615281
• Title: ES-VP : Energy-Shaped Dynamic Visual Prompting for Efficient Model Adaptation
• Title（参考訳）: ES-VP : 効率的なモデル適応のためのエネルギー形動的視覚プロンプト
• Abstract要約: Energy-Shaped Visual Prompting (ES-VP)は、画像固有のプロンプトを生成する新しいアプローチである。 ES-VPは、事前学習されたモデルを適応的なプロンプト生成に利用し、パラメータ効率と一般化の両立を保証する。
• 参考スコア（独自算出の注目度）: 39.09241645535107
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Visual prompting (VP) has emerged as a parameter-efficient method for adapting pre-trained models to downstream tasks. However, existing approaches encounter a trade-off between flexibility and efficiency. Some methods apply a fixed prompt to all images, ignoring individual image characteristics, while others introduce auxiliary networks to generate diverse prompts. Although the latter can improve performance, it also significantly increases parameter usage and the potential for overfitting to specific datasets. Furthermore, the auxiliary networks, combined with inherent biases in pre-trained models, limit scalability and generalization. In this paper, we propose Energy-Shaped Visual Prompting (ES-VP), a novel approach that generates image-specific prompts using low-rank initialization and energy-guided dynamic adaptation, achieving superior performance with fewer parameters compared to single-prompt methods. ES-VP directly utilizes the pre-trained model for adaptive prompt generation, ensuring both parameter efficiency and improved generalization. Extensive experiments conducted on five architectures across fifteen datasets demonstrate that ES-VP consistently outperforms current state-of-the-art (SOTA) single and diverse VP methods. For instance, using the CLIP architecture across four datasets, ES-VP outperforms the SOTA method DAM-VP by an average of 2.6\% in accuracy while utilizing 590$\times$ fewer VP parameters, thereby establishing a new benchmark for efficient and generalizable model adaptation.
• Abstract（参考訳）: ビジュアルプロンプト(VP)は、トレーニング済みモデルを下流タスクに適応するためのパラメータ効率のよい方法として登場した。 しかし、既存のアプローチは柔軟性と効率のトレードオフに直面している。 画像の特徴を無視して、すべての画像に一定のプロンプトを適用する方法や、多様なプロンプトを生成する補助ネットワークを導入する方法がある。 後者はパフォーマンスを向上させることができるが、パラメータの使用量や特定のデータセットに過度に適合する可能性も大幅に向上する。 さらに、補助ネットワークは、事前訓練されたモデルの固有のバイアスと組み合わせて、スケーラビリティと一般化を制限する。 本稿では,低ランク初期化とエネルギー誘導動的適応を用いて画像固有のプロンプトを生成する新しい手法であるEnergy-Shaped Visual Prompting (ES-VP)を提案する。 ES-VPは、事前学習されたモデルを適応的なプロンプト生成に利用し、パラメータ効率と一般化の両立を保証する。 15のデータセットにまたがる5つのアーキテクチャで実施された大規模な実験では、ES-VPが現在のSOTA(State-of-the-art)メソッドと多種多様なVPメソッドを一貫して上回っていることが示されている。 例えば、ES-VPは4つのデータセットにわたるCLIPアーキテクチャを使用して、平均2.6\%の精度でSOTAメソッドDAM-VPを上回り、590$\times$より少ないVPパラメータを使用し、効率よく一般化可能なモデル適応のための新しいベンチマークを確立する。

関連論文リスト

• Visual prompting reimagined: The power of the Activation Prompts [72.85146015928626]
  本稿では,入力レベルのVPの範囲を広げる,アクティベーションプロンプト(AP)の概念を導入する。 APは畳み込みニューラルネットワークと視覚変換器の正規化チューニングと密接に関連している。 畳み込みニューラルネットワークと視覚変換器の正規化チューニングとAPは密接に関連していることを示す。
  論文  参考訳（メタデータ） (2026-04-07T20:28:24Z)
• Enhancing Visual Prompting through Expanded Transformation Space and Overfitting Mitigation [0.9137554315375919]
  ビジュアルプロンプト(VP)は、トレーニング済みの視覚モデルを下流タスクに適応させるための、パラメータ効率の良い微調整手法として期待されている。 本稿では,ACAVP(Affine, Color, Additive Visual Prompting)を提案する。 ACAVPはVP法間で最先端の精度を達成し、平均精度で線形探索を超越し、分布シフトに優れたロバスト性を示す。
  論文  参考訳（メタデータ） (2025-10-09T06:08:15Z)
• Visual Fourier Prompt Tuning [63.66866445034855]
  本稿では,大規模なトランスフォーマーモデルに適用するための汎用的で効果的な方法として,Visual Fourier Prompt Tuning (VFPT)法を提案する。 提案手法では,高速フーリエ変換を即時埋め込みに取り入れ,空間領域情報と周波数領域情報の両方を調和的に検討する。 提案手法は,2つのベンチマークにおいて,現状のベースラインよりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-11-02T18:18:35Z)
• CVPT: Cross Visual Prompt Tuning [15.642102189777072]
  Cross Visual Prompt Tuning (CVPT) は、プロンプトと画像トークン間のインタラクションをモデル化するクロスアテンションモジュールである。 CVPTは平均精度を4%以上向上し、性能と効率の両面で主要なアダプタベースの手法に匹敵する。 我々の研究は、視覚的な微調整において、プロンプトベースの手法が例外的な結果が得られることを確認している。
  論文  参考訳（メタデータ） (2024-08-27T11:07:19Z)
• Dyn-Adapter: Towards Disentangled Representation for Efficient Visual Recognition [22.615830919860777]
  本稿では動的アダプタ(Dyn-Adapter)という,効率的な視覚認識パラダイムを提案する。 適応的なトレーニング戦略とともに,複数レベルの特徴抽出のための早期のバランスの取れた動的アーキテクチャを考案する。 予測中のFLOPを50%削減し,高い認識精度を維持した。
  論文  参考訳（メタデータ） (2024-07-19T13:33:38Z)
• Parameter-Efficient Fine-Tuning With Adapters [5.948206235442328]
  本研究では,UniPELTフレームワークをベースとした新しい適応手法を提案する。 提案手法では, ベースモデルパラメータの最小限の再学習を行うことなく, 事前学習したモデルを新しいタスクに効率的に転送できるアダプタを用いる。
  論文  参考訳（メタデータ） (2024-05-09T01:40:38Z)
• Dynamic Tuning Towards Parameter and Inference Efficiency for ViT Adaptation [67.13876021157887]
  動的チューニング(DyT)は、ViT適応のためのパラメータと推論効率を改善するための新しいアプローチである。 DyTは既存のPEFT法に比べて性能が優れており、VTAB-1KベンチマークではFLOPの71%しか呼び出されていない。
  論文  参考訳（メタデータ） (2024-03-18T14:05:52Z)
• E^2VPT: An Effective and Efficient Approach for Visual Prompt Tuning [55.50908600818483]
  新しいタスクのための微調整された大規模な事前学習型ビジョンモデルは、パラメーター集約化が進んでいる。 本稿では,大規模なトランスフォーマーモデル適応のための効果的かつ効率的なビジュアルプロンプトチューニング(E2VPT)手法を提案する。 提案手法は2つのベンチマークにおいて,最先端のベースラインを上回っている。
  論文  参考訳（メタデータ） (2023-07-25T19:03:21Z)
• Visual Prompt Tuning [74.5309408185523]
  本稿では,視覚における大規模トランスフォーマーモデルの完全微調整の代替として,視覚プロンプトチューニング(VPT)を提案する。 VPTは、モデルのバックボーンを凍結させながら、入力空間でトレーニング可能なパラメータの少量(モデルパラメータの1%未満)しか導入しない。
  論文  参考訳（メタデータ） (2022-03-23T01:17:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。