論文の概要: Test-Time Prompt-Agnostic Decomposition
- arxiv url: http://arxiv.org/abs/2610.35090v1
- Date: Mon, 26 Oct 2026 09:31:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.813623
- Title: Test-Time Prompt-Agnostic Decomposition
- Title(参考訳): 試験時間プロンプト非依存分解
- Abstract要約: Test-Time Prompt Tuning (TPT)は、軽量なプロンプトトークンのみを更新することで、ターゲットの分散シフトを未確認にするために、トレーニング済みの大きなモデルを適用する。
テスト時間ステップ全体で、現在のステップで更新されたプロンプトは、対応する予測と更新のために再利用される。
本稿では,動的システムから観測された即時更新トラジェクトリを特徴付けるテスト時間プロンプト非依存分解(mathtTPD$)を提案する。
- 参考スコア(独自算出の注目度): 13.70382158470772
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Test-Time Prompt Tuning (TPT) adapts large pretrained models to unseen target distribution shifts by updating only lightweight prompt tokens. Existing TPT methods are effective, but they mainly optimize each prompt update locally. Across test-time steps, prompts updated at the current step are reused for the corresponding predictions and updates, so noisy or biased unlabeled objectives can accumulate and destabilize the prompt-update trajectory. We identify two failure modes: magnitude expansion, where updates move the prompt too far, and directional drift, where consecutive updates point in inconsistent directions. To analyze and control these failures, we propose Test-Time Prompt-Agnostic Decomposition ($\mathtt{TPD}$), which characterizes observed prompt-update trajectories from a dynamical-systems view and decomposes base prompt updates into magnitude and direction. $\mathtt{TPD}$ computes a spectral radius to measure update expansion and decomposes update directions into persistent, oscillatory, and residual components. Building on this decomposition, Adaptive Koopman Control ($\mathtt{AKC}$) regulates update magnitude by shrinking updates under expansive recent dynamics, while Hankel Update Router ($\mathtt{HUR}$) refines update direction by preserving persistent components and suppressing oscillatory and residual components. Together, $\mathtt{AKC}$ and $\mathtt{HUR}$ produce a stabilized prompt update. As a prompt-agnostic framework, $\mathtt{TPD}$ can be plugged into visual and text TPT methods without modifying the backbone, prompt architecture, or adaptation loss. Experiments on 15 datasets show that $\mathtt{TPD}$ consistently improves 10 baselines, with accuracy gains of $3$--$8\%$ for visual prompts and over $2\%$ for text prompts.
- Abstract(参考訳): Test-Time Prompt Tuning (TPT)は、軽量なプロンプトトークンのみを更新することで、ターゲットの分散シフトを未確認にするために、トレーニング済みの大きなモデルを適用する。
既存のTPTメソッドは有効であるが、主に各プロンプト更新をローカルに最適化する。
テスト時間ステップ全体で、現在のステップで更新されたプロンプトは、対応する予測と更新のために再利用される。
我々は、2つの障害モードを識別する: マグニチュード展開、更新がプロンプトを過度に移動させる、方向のドリフト、連続した更新が矛盾する方向を示す。
これらの障害を分析し,制御するために,動的システムの観点から観測された即時更新軌跡を特徴付けるTest-Time Prompt-Agnostic Decomposition(\mathtt{TPD}$)を提案する。
$\mathtt{TPD}$は、更新拡張を測定するためにスペクトル半径を計算し、更新方向を永続的、振動的、残留成分に分解する。
この分解に基づいて、Adaptive Koopman Control ($\mathtt{AKC}$)は、最近のダイナミクスの下で更新を縮小することで更新の規模を規制し、Hankel Update Router ($\mathtt{HUR}$)は、永続的なコンポーネントを保持し、振動および残留コンポーネントを抑制することで更新の方向を洗練する。
共に$\matht{AKC}$と$\mathtt{HUR}$は安定化されたプロンプト更新を生成する。
プロンプトに依存しないフレームワークとして、$\mathtt{TPD}$は、バックボーン、プロンプトアーキテクチャ、適応損失を変更することなく、ビジュアルおよびテキストTPTメソッドにプラグインすることができる。
15データセットの実験によると、$\mathtt{TPD}$は10ベースラインを一貫して改善し、ビジュアルプロンプトは$3$--$8\%、テキストプロンプトは$2\%以上である。
関連論文リスト
- Self-Generated Feedback Destabilizes Test-Time Training: A Causal Decomposition of Long-Horizon Adaptation [55.54635884641362]
テストタイムトレーニングは、モデルが推論中に重みに情報を格納することを可能にする。
各更新では、次のトレーニング例を生成するモデルも変更される。
生成されたテキストの更新を保持する128Kのトーケンストリームは、独立した人文テキストの予測を悪化させる。
論文 参考訳(メタデータ) (2026-10-04T09:21:14Z) - Learning When to Update: A Near-Optimal Timing Bandit Approach [28.861414052560107]
動的環境で動作するシステムは、パフォーマンスを維持するためにタイムリーな更新を必要とする。
機械学習モデルやデジタルツインのようなリソース集約システムでは、戦略的タイミング更新が不可欠である。
我々は,この問題を,各アームが固定更新コストと未知の劣化コストで候補更新間隔を表すような,新たな帯域幅問題として定式化する。
論文 参考訳(メタデータ) (2026-09-29T16:18:20Z) - RECAST: Recent & Context-Aware Sampling for Test-Time Adaptation in Streaming Biosignals [4.510104714573981]
生体信号のストリーミングは被験者によって異なり、時間とともにドリフトする。
テスト時間適応(TTA)は、入ってくるサンプルのモデルを更新することで、オンラインのパーソナライズを可能にする。
バッファリングされたTTAフレームワークのための軽量サンプリングモジュールである textbfRECAST (Recent & Context-Aware Sampling for TTA) を提案する。
論文 参考訳(メタデータ) (2026-08-28T12:35:06Z) - ReflexTrack: A Feedback-Driven Agent for Training-Free Referring Video Object Segmentation [63.38679125666075]
オブジェクトセグメンテーション(RVOS)を参照するには、ビデオを通して自然言語で指定されたターゲットをセグメンテーションする必要がある。
近年のエージェントアプローチでは,タスク固有のトレーニングなしでRVOSを実行するために,マルチモーダルな大規模言語モデルと迅速なセグメンテーションモデルを組み合わせている。
トレーニング不要でフィードバック駆動型エージェントであるReflexTrackを導入し、空間的および時間的両方のレベルでループを閉じる。
論文 参考訳(メタデータ) (2026-07-27T07:39:20Z) - PromptDyG: Test-Time Prompt Adaptation on Dynamic Graphs [97.88691137307723]
PromptDyGは、教師なしテストタイムのPrompt適応を動的グラフ学習に活用する新しいフレームワークである。
理論的には、この教師なしのプロンプト適応は、正対と負対のより大きな類似性マージンを保証し、より正確な動的予測を促進することが示される。
論文 参考訳(メタデータ) (2026-06-22T06:54:02Z) - A Decision-Theoretic View of Test-Time Training: When, How Far, and Which Directions to Adapt [0.0]
テストタイムトレーニングは、パラメータ更新を通じて各プロンプトに事前訓練されたモデルを適用する。
我々はTTTをカーネルシステムにおける暗黙のベイズ推論として扱う。
TTTは、更新がプロンプトの信号-雑音比とスペクトル的に一致した場合、予測誤差を低減する。
論文 参考訳(メタデータ) (2026-06-14T03:16:40Z) - DynT2I-Eval: A Dynamic Evaluation Framework for Text-to-Image Models [78.62380562116135]
テキスト・トゥ・イメージ(T2I)モデルのための完全に自動化された動的評価フレームワークであるDynT2I-Evalを提案する。
長い形式の記述から構造化された視覚意味空間を構築し、プロンプトを制御可能な次元に分解する。
DynT2I-Evalは、テキストアライメント、知覚品質、美学のモデル性能を評価する。
論文 参考訳(メタデータ) (2026-05-07T12:53:51Z) - Visual Prompt-Agnostic Evolution [14.918966632639235]
Visual Prompt Tuning (VPT)は、少数の学習可能なプロンプトトークンを挿入することで、凍結したビジョントランスフォーマー(ViT)を下流タスクに適応させる。
既存のVPT変種は、勾配振動を特徴とする不安定なトレーニングダイナミクスに悩まされることが多い。
本稿では,プロンプト・アグノスティック・エボリューション(mathtPAE$)を提案する。
論文 参考訳(メタデータ) (2026-01-28T04:06:44Z) - Test time training enhances in-context learning of nonlinear functions [51.56484100374058]
テストタイムトレーニング(TTT)は、各予測に先立って指定されたパラメータを明示的に更新することで、モデル性能を向上させる。
本研究では,TTTとテキスト内学習(ICL)の組み合わせについて検討する。
論文 参考訳(メタデータ) (2025-09-30T03:56:44Z) - Test-Time Adaptation with Binary Feedback [50.20923012663613]
BiTTAは、不確実なサンプルに対するバイナリフィードバック誘導適応と、確実な予測に対する合意に基づく自己適応のバランスをとる、新しいデュアルパス最適化フレームワークである。
実験の結果、BiTTAは最先端のベースラインよりも13.3%の精度向上を実現している。
論文 参考訳(メタデータ) (2025-05-24T05:24:10Z) - t-Soft Update of Target Network for Deep Reinforcement Learning [8.071506311915396]
本稿では,深部強化学習(DRL)のためのターゲットネットワークの頑健な更新ルールを提案する。
指数移動平均と正規分布の類似性からt-soft更新法を導出した。
DRLのPyBulletロボットシミュレーションでは、t-soft更新によるオンラインアクター批判アルゴリズムが、得られたリターンおよび/またはそのばらつきの点で従来の手法よりも優れていた。
論文 参考訳(メタデータ) (2020-08-25T07:41:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。