論文の概要: Visual prompting reimagined: The power of the Activation Prompts

• arxiv url: http://arxiv.org/abs/2604.06440v1
• Date: Tue, 07 Apr 2026 20:28:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-09 17:30:51.229662
• Title: Visual prompting reimagined: The power of the Activation Prompts
• Title（参考訳）: 視覚的プロンプト : アクティベーション・プロンプトの力
• Authors: Yihua Zhang, Hongkang Li, Yuguang Yao, Aochuan Chen, Shuai Zhang, Pin-Yu Chen, Meng Wang, Sijia Liu,
• Abstract要約: 本稿では,入力レベルのVPの範囲を広げる,アクティベーションプロンプト(AP)の概念を導入する。 APは畳み込みニューラルネットワークと視覚変換器の正規化チューニングと密接に関連している。 畳み込みニューラルネットワークと視覚変換器の正規化チューニングとAPは密接に関連していることを示す。
• 参考スコア（独自算出の注目度）: 72.85146015928626
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Visual prompting (VP) has emerged as a popular method to repurpose pretrained vision models for adaptation to downstream tasks. Unlike conventional model fine-tuning techniques, VP introduces a universal perturbation directly into the input data to facilitate task-specific fine-tuning rather than modifying model parameters. However, there exists a noticeable performance gap between VP and conventional fine-tuning methods, highlighting an unexplored realm in theory and practice to understand and advance the input-level VP to reduce its current performance gap. Towards this end, we introduce a generalized concept, termed activation prompt (AP), which extends the scope of the input-level VP by enabling universal perturbations to be applied to activation maps within the intermediate layers of the model. By using AP to revisit the problem of VP and employing it as an analytical tool, we demonstrate the intrinsic limitations of VP in both performance and efficiency, revealing why input-level prompting may lack effectiveness compared to AP, which exhibits a model-dependent layer preference. We show that AP is closely related to normalization tuning in convolutional neural networks and vision transformers, although each model type has distinct layer preferences for prompting. We also theoretically elucidate the rationale behind such a preference by analyzing global features across layers. Through extensive experiments across 29 datasets and various model architectures, we provide a comprehensive performance analysis of AP, comparing it with VP and parameter-efficient fine-tuning baselines. Our results demonstrate AP's superiority in both accuracy and efficiency, considering factors such as time, parameters, memory usage, and throughput.
• Abstract（参考訳）: ビジュアルプロンプト(VP)は、下流タスクへの適応のために訓練済みの視覚モデルを再利用するための一般的な方法として登場した。 従来のモデルファインチューニング技術とは異なり、VPはモデルパラメータを変更するのではなく、タスク固有の微調整を容易にするために、入力データに直接普遍的な摂動を導入する。 しかし、VPと従来の微調整手法の間には顕著なパフォーマンスギャップがあり、理論と実践において未探索の領域を強調し、入力レベルのVPを理解して前進させ、現在のパフォーマンスギャップを減らす。 この目的のために、モデル中間層内のアクティベーションマップに普遍的な摂動を適用できるようにすることにより、入力レベルのVPの範囲を広げる一般化された概念であるアクティベーションプロンプト(AP)を導入する。 本稿では,VPの問題を再考し,それを分析ツールとして活用することにより,VPの本質的な性能と効率の限界を実証し,モデル依存層優先を示すAPと比較して入力レベルのプロンプトが有効性に欠ける理由を明らかにした。 畳み込みニューラルネットワークや視覚変換器において,APは正規化チューニングと密接に関連していることを示す。 また,このような選好の背景にある理論的根拠を,層間におけるグローバルな特徴を分析することによって解明する。 29のデータセットと様々なモデルアーキテクチャにわたる広範な実験を通じて、我々はAPの総合的なパフォーマンス分析を行い、VPとパラメータ効率の良い微調整ベースラインと比較した。 以上の結果から,時間,パラメータ,メモリ使用量,スループットなどの要因を考慮し,APの精度と効率の両面で優位性を示す。

関連論文リスト

• APEX: Probing Neural Networks via Activation Perturbation [10.517751599566548]
  本稿では,ニューラルネットワークの推論時間探索パラダイムとして Activation Perturbation for Exploration (APEX) を導入する。 APEXは入力とモデルパラメータの両方を固定しながら、隠れたアクティベーションを摂動する。 この結果から,APEXは入力空間からのみアクセス可能な範囲を超えて,ニューラルネットワークを探索し,理解するための効果的な視点を提供することが示された。
  論文  参考訳（メタデータ） (2026-02-03T14:36:36Z)
• Enhancing Visual Prompting through Expanded Transformation Space and Overfitting Mitigation [0.9137554315375919]
  ビジュアルプロンプト(VP)は、トレーニング済みの視覚モデルを下流タスクに適応させるための、パラメータ効率の良い微調整手法として期待されている。 本稿では,ACAVP(Affine, Color, Additive Visual Prompting)を提案する。 ACAVPはVP法間で最先端の精度を達成し、平均精度で線形探索を超越し、分布シフトに優れたロバスト性を示す。
  論文  参考訳（メタデータ） (2025-10-09T06:08:15Z)
• HCVP: Leveraging Hierarchical Contrastive Visual Prompt for Domain Generalization [69.33162366130887]
  ドメイン一般化(DG)は、不変の機能を学ぶことによって、目に見えないシナリオに優れた機械学習モデルを作成するための取り組みである。 モデルにドメインレベルとタスク固有の特性を補足する新しい手法を提案する。 このアプローチは、特定の特徴から不変な特徴をより効果的に分離し、一般化を促進することを目的としている。
  論文  参考訳（メタデータ） (2024-01-18T04:23:21Z)
• Uncovering the Hidden Cost of Model Compression [43.62624133952414]
  視覚プロンプティングは、コンピュータビジョンにおける伝達学習の重要な方法として登場した。 モデル圧縮は視覚的プロンプトベース転送の性能に有害である。 しかし、量子化によってモデルが圧縮されるとき、キャリブレーションに対する負の効果は存在しない。
  論文  参考訳（メタデータ） (2023-08-29T01:47:49Z)
• FedPerfix: Towards Partial Model Personalization of Vision Transformers in Federated Learning [9.950367271170592]
  視覚変換器モデル(ViT)のパーソナライズ方法について検討する。 自己注意層と分類ヘッドがViTの最も敏感な部分であるという知見に基づいて、FedPerfixと呼ばれる新しいアプローチを提案する。 CIFAR-100、OrganAMNIST、Office-Homeのデータセットに対する提案手法の評価を行い、いくつかの先進的なPFL手法と比較してその効果を実証した。
  論文  参考訳（メタデータ） (2023-08-17T19:22:30Z)
• Approximated Prompt Tuning for Vision-Language Pre-trained Models [54.326232586461614]
  視覚言語による事前学習モデルでは、事前学習タスクと下流タスクのギャップを埋めるために、しばしば多くの学習可能なトークンを必要とする。 本稿では,効率的なVL転送学習を実現するために,APT(Approximated Prompt Tuning)アプローチを提案する。
  論文  参考訳（メタデータ） (2023-06-27T05:43:47Z)
• Trading Information between Latents in Hierarchical Variational Autoencoders [8.122270502556374]
  変分オートエンコーダ(VAE)はもともと確率的生成モデルとして動機付けられ、ベイズ推定を近似的に行う。 $beta$-VAEsの提案はこの解釈を破り、VAEを生成モデリング以上のアプリケーションドメインに一般化する。 推論モデルの一般的なクラスを特定し、各レイヤからのコントリビューションにレートを分割し、独立に調整することができる。
  論文  参考訳（メタデータ） (2023-02-09T18:56:11Z)
• Adversarial Feature Augmentation and Normalization for Visual Recognition [109.6834687220478]
  最近のコンピュータビジョンの進歩は、分類モデルの一般化能力を改善するために、逆データ拡張を利用する。 本稿では,中間的特徴埋め込みにおける敵対的拡張を提唱する効率的かつ効率的な代替手法を提案する。 代表的なバックボーンネットワークを用いて,多様な視覚認識タスクにまたがる提案手法を検証する。
  論文  参考訳（メタデータ） (2021-03-22T20:36:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。