論文の概要: EVA-0: Test-Time Model Evolution with Only Two Forward Passes per Sample
- arxiv url: http://arxiv.org/abs/2605.18867v1
- Date: Fri, 15 May 2026 09:26:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-20 15:03:08.752747
- Title: EVA-0: Test-Time Model Evolution with Only Two Forward Passes per Sample
- Title（参考訳）: EVA-0: サンプル毎に2つの前方パスしか持たないテスト時間モデル進化
- Authors: Guohao Chen, Shuaicheng Niu, Geng Li, Yunbei Zhang, Shilin Shan, Chunyan Miao, Jianfei Yang,
- Abstract要約: 厳格な2方向予算の下でテスト時間モデルの進化について検討する。
ゼロオーダーテストタイム最適化における3つの重要な障害を明らかにする。
最小零階適応フレームワーク EVA-0 を提案する。
- 参考スコア（独自算出の注目度）: 55.284129005947484
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Test-time model evolution offers a promising way for deployed models to improve from unlabeled test-time experience, yet most existing methods depend on backpropagation (BP), which incurs substantial memory overhead and makes them difficult to deploy on edge devices, quantized models, specialized accelerators, or black-box models. In this work, we study test-time model evolution under a strict two-forward budget, a setting that pushes adaptation toward highly efficient real-world deployment. We reveal three key obstacles in zeroth-order test-time optimization: susceptibility to shortcut solutions, uncontrolled weight drift, and ineffective update direction estimation. To overcome them, we propose EVA-0, a minimal zeroth-order adaptation framework that: 1) keeps the loss scale-invariant to prevent shortcut solutions; 2) devises an anchor-guided optimization strategy to alleviate weight drift; 3) uses sample-wise symmetric two-sided perturbation for update direction estimation and inference. EVA-0 requires no BP and performs both inference and adaptation within only two forward passes per sample. Results on ImageNet-C & ViT-Base show that EVA-0 outperforms both BP-based DeYO and BP-free FOA, while achieving a 14x speed-up over FOA. Code will be released.
- Abstract（参考訳）: テストタイムモデルの進化は、デプロイされたモデルをラベルのないテストタイムエクスペリエンスから改善するための有望な方法を提供するが、既存のほとんどのメソッドはバックプロパゲーション(BP)に依存している。
本研究では,高度に効率的な実世界の展開に向けて適応を推し進める,厳格な2方向予算の下で,テスト時間モデルの進化について検討する。
ゼロ階試験時間最適化における3つの重要な障害を明らかにする: 解のショートカットへの感受性、制御不能なウェイトドリフト、および非効率な更新方向推定である。
そこで我々は,最小零階適応フレームワーク EVA-0 を提案する。
1) ロススケール不変性を維持して,ショートカットソリューションを防止する。
2)重量のドリフトを軽減するためのアンカー誘導最適化戦略を考案する。
3) 試料対称二面摂動を更新方向推定と推定に用いた。
EVA-0はBPを必要とせず、サンプル毎に2つの前方通過で推論と適応を行う。
ImageNet-C & ViT-Baseの結果、EVA-0はBPベースのDeYOとBPフリーのFOAの両方より優れ、FOAよりも14倍のスピードアップを達成した。
コードはリリースされる。
関連論文リスト
- Continual Visual Anomaly Detection on the Edge: Benchmark and Efficient Solutions [11.262875405161417]
視覚異常検出(VAD)は、産業検査や医療を含む多くのアプリケーションにとって重要な課題である。
本ベンチマークは, 協調効率および適応性制約下での最適バックボーン法とVOD法の選択に関するガイダンスを提供する。
本稿では,3つの軽量バックボーンアーキテクチャにまたがる7つのVADモデルの評価を行い,連続学習シナリオにおけるエッジ上でのVADの総合ベンチマークを提案する。
論文 参考訳（メタデータ） (2026-04-07T20:19:34Z) - ZOTTA: Test-Time Adaptation with Gradient-Free Zeroth-Order Optimization [29.670784134543027]
テストタイム適応は、分散シフトの下でモデルの堅牢性を改善することを目的としている。
既存の手法の多くはバックプロパゲーション(BP)に依存しており、計算コストが高く、微分不可能なモデルと互換性がない。
完全BPフリーなTTAフレームワークであるZOTTAを提案する。
論文 参考訳（メタデータ） (2026-03-15T07:21:01Z) - Enhancing Test Time Adaptation with Few-shot Guidance [62.49199492255226]
深層ニューラルネットワークは、トレーニング(ソース)とテスト(ターゲット)データのドメインシフトに直面しながら、大きなパフォーマンス低下に直面することが多い。
TTA(Test Time Adaptation)法は,事前学習したソースモデルを用いて,配信外ストリーミングターゲットデータを処理する手法として提案されている。
本稿では,Few-Shot Test Time Adaptation (FS-TTA) を開発した。
論文 参考訳（メタデータ） (2024-09-02T15:50:48Z) - Test-Time Model Adaptation with Only Forward Passes [68.11784295706995]
テストタイム適応は、トレーニング済みのモデルを、潜在的に分布シフトのある未確認テストサンプルに適応させるのに有効であることが証明されている。
テスト時間フォワード最適化適応法(FOA)を提案する。
FOAは量子化された8ビットのViTで動作し、32ビットのViTで勾配ベースのTENTより優れ、ImageNet-Cで最大24倍のメモリ削減を実現する。
論文 参考訳（メタデータ） (2024-04-02T05:34:33Z) - REALM: Robust Entropy Adaptive Loss Minimization for Improved
Single-Sample Test-Time Adaptation [5.749155230209001]
フルテスト時間適応(F-TTA)は、列車とテストデータの分散シフトによる性能損失を軽減することができる。
本稿では,F-TTAの雑音に対する堅牢性向上のための一般的な枠組みについて述べる。
論文 参考訳（メタデータ） (2023-09-07T18:44:58Z) - Sample-Efficient Optimisation with Probabilistic Transformer Surrogates [66.98962321504085]
本稿では,ベイズ最適化における最先端確率変換器の適用可能性について検討する。
トレーニング手順と損失定義から生じる2つの欠点を観察し、ブラックボックス最適化のプロキシとして直接デプロイすることを妨げる。
1)非一様分散点を前処理するBO調整トレーニング,2)予測性能を向上させるために最適な定常点をフィルタする新しい近似後正則整定器トレードオフ精度と入力感度を導入する。
論文 参考訳（メタデータ） (2022-05-27T11:13:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。