論文の概要: You Only Reprogram Once: Rethinking Prolonged Training for Visual Reprogramming

• arxiv url: http://arxiv.org/abs/2609.36661v1
• Date: Tue, 29 Sep 2026 04:03:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.171923
• Title: You Only Reprogram Once: Rethinking Prolonged Training for Visual Reprogramming
• Title（参考訳）: 一度だけプログラムをリプログラミングする: 視覚的リプログラミングのための長期トレーニングを再考する
• Abstract要約: ビジュアルリプログラミングは、事前訓練されたモデルに適応するためのパラメータ効率のよい手法であるが、そのトレーニングは計算コストがかかる。 凍結応答空間から下流の予測器を構成するYou Only Re program Once (YORO)を紹介した。 3つのフルデータ設定で、最強の勾配のないマッピングよりも平均精度を18.4-24.4%向上させる。
• 参考スコア（独自算出の注目度）: 3.596937797664118
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Visual reprogramming is a parameter-efficient method for adapting pretrained models, yet its training can remain computationally expensive: even with a frozen backbone, visual prompts are often optimized through the full model for hundreds of epochs. Before changing what the pretrained model sees, we ask whether we are fully using what it already tells us. We find that modeling the full source response can already yield strong downstream predictions without prompt optimization. Motivated by this observation, we introduce You Only Reprogram Once (YORO), which constructs a downstream predictor from the frozen response space in a single forward-only traversal. Its Bayesian Discriminant Mapping (BDM) derives a covariance-aware affine mapping from streaming class statistics, requiring no backpropagation, optimizer updates, or repeated visits to the training set. When further input adaptation helps, YORO-FP optionally refines the visual prompt for 20 epochs. BDM also extends naturally to CLIP by treating attribute-prompt similarities as source responses. Across three full-data settings, YORO improves average accuracy over the strongest prior gradient-free mapping by 18.4--24.4\%. On 16-shot CLIP, it raises the four-backbone average from 71.4\% to 77.2\%. YORO-FP provides further gains on selected tasks, while validation often retains the one-pass predictor. These results suggest a different default for visual reprogramming: read out the frozen response first, and optimize the input only when needed.
• Abstract（参考訳）: ビジュアルリプログラミングは、事前訓練されたモデルに適応するためのパラメータ効率のよい手法であるが、そのトレーニングは計算に費用がかかる - 凍結したバックボーンでも、視覚的なプロンプトは数百のエポックに対してフルモデルを通じて最適化されることが多い。 事前訓練されたモデルが見ているものを変更する前に、私たちはそれがすでに言っているものを完全に使っているかどうか尋ねます。 完全なソース応答のモデリングは、即座に最適化することなく、下流の強い予測が得られることがわかりました。 そこで本研究では, 凍結応答空間から下流の予測器を構成するYORO(You Only Re program Once)を, 前方のみのトラバーサルで導入する。 ベイズ差別化マッピング(BDM)は、ストリーミングクラス統計から共分散を意識したアフィンマッピングを導き、バックプロパゲーション、オプティマイザ更新、トレーニングセットへの繰り返し訪問を必要としない。 追加の入力適応が役立つと、YORO-FPは20時間分の視覚プロンプトを任意に洗練する。 BDMはまた、属性プロンプト類似性をソース応答として扱うことにより、CLIPに自然に拡張する。 3つのフルデータ設定で、YOROは最強の勾配のないマッピングよりも平均精度を18.4-24.4\%向上させる。 16ショットのCLIPでは、4つのバックボーン平均が71.4\%から77.2\%に上昇する。 YORO-FPは、選択したタスクに対してさらなるゲインを提供するが、バリデーションは、しばしばワンパス予測器を保持する。 凍結したレスポンスを最初に読み出し、必要な時にのみ入力を最適化する。

関連論文リスト

• Recover to Predict: Progressive Retrospective Learning for Variable-Length Trajectory Prediction [34.346912198889505]
  軌道予測は自律運転において重要であり、密集した動的交通における安全かつ効率的な計画を可能にする。 既存の手法の多くは、固定長観測下での予測精度を最適化している。 一般的な戦略は、不完全な観察から完全な観察から直接特徴をマッピングすることである。 しかし、このワンショットマッピングは、重要な情報ギャップのため、短い軌跡の正確な表現を学ぶのに苦労している。 本稿では,不完全な観察から特徴を徐々に整列させるプログレッシブ・レトロスペクティブ・フレームワーク(PRF)を提案する。
  論文  参考訳（メタデータ） (2026-03-11T09:51:22Z)
• Learning effective pruning at initialization from iterative pruning [15.842658282636876]
  本稿では、トレーニングコストを削減するために、エンドツーエンドのニューラルネットワークに基づくPaI手法を提案する。 提案手法は, 既存手法よりも高スパース性設定で優れる。 ニューラルネットワークを用いた最初のPaI手法として、このアプローチに影響を与える要因を検証するために広範な実験を行う。
  論文  参考訳（メタデータ） (2024-08-27T03:17:52Z)
• Revisiting the Power of Prompt for Visual Tuning [50.11465784194896]
  本研究では,プロンプトとパッチトークンの相互関係について検討した。 プロンプトトークンはパッチトークンと高い相互情報を共有する傾向にあるという観測から着想を得て,下流トークンのプロトタイプを用いた初期化プロンプトを提案する。 本手法は, 自己指導型プレトレーニングの適応性を著しく向上させ, 少なくとも10%から30%のタスク性能向上を実現した。
  論文  参考訳（メタデータ） (2024-02-04T07:49:02Z)
• Decoder Tuning: Efficient Language Understanding as Decoding [84.68266271483022]
  本稿では,タスク固有のデコーダネットワークを出力側で最適化するデコーダチューニング(DecT)を提案する。 勾配ベースの最適化により、DecTは数秒以内にトレーニングでき、サンプル毎に1つのPクエリしか必要としない。 我々は、広範囲にわたる自然言語理解実験を行い、DecTが200ドル以上のスピードアップで最先端のアルゴリズムを大幅に上回っていることを示す。
  論文  参考訳（メタデータ） (2022-12-16T11:15:39Z)
• Test-Time Prompt Tuning for Zero-Shot Generalization in Vision-Language Models [107.05966685291067]
  テスト時間プロンプトチューニング (TPT) を提案し, 適応的なプロンプトを1つのテストサンプルで学習する。 TPTはCLIPのゼロショットトップ1の精度を平均3.6%改善する。 クロスデータセットの一般化を目に見えないカテゴリで評価する際、PTは追加のトレーニングデータを使用する最先端のアプローチと同等に機能する。
  論文  参考訳（メタデータ） (2022-09-15T17:55:11Z)
• Self-Supervised Pre-Training for Transformer-Based Person Re-Identification [54.55281692768765]
  トランスフォーマーに基づく教師付き事前訓練は、人物再識別(ReID)において大きなパフォーマンスを達成する ImageNetとReIDデータセットのドメインギャップのため、通常、パフォーマンスを高めるために、より大きなトレーニング済みデータセットが必要です。 この研究は、データとモデル構造の観点から、事前トレーニングデータセットとReIDデータセットのギャップを軽減することを目的としている。
  論文  参考訳（メタデータ） (2021-11-23T18:59:08Z)
• Deep Feedback Inverse Problem Solver [141.26041463617963]
  逆問題に対する効率的で効果的で汎用的なアプローチを提案する。 我々は、フォワードプロセスが提供するフィードバック信号を活用し、反復的な更新モデルを学ぶ。 私たちのアプローチは前もってのプロセスに制限がなく、事前の知識も必要ありません。
  論文  参考訳（メタデータ） (2021-01-19T16:49:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。