論文の概要: SPeaR: Test-Time Adaptation with Steering Primitives for Realigning Representations
- arxiv url: http://arxiv.org/abs/2609.24111v1
- Date: Mon, 21 Sep 2026 04:50:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-22 20:29:01.072138
- Title: SPeaR: Test-Time Adaptation with Steering Primitives for Realigning Representations
- Title(参考訳): SPeaR: 表現認識のためのステアリングプリミティブによるテスト時間適応
- Abstract要約: テスト時間適応(TTA)は、未ラベルのテストデータのみを使用して分散シフトに対処する。
ステージバウンダリに軽量な学習可能なモジュールを挿入し,テストストリームから直接最適化するSPeaRを紹介する。
我々は、初期の表現を操ることが最も効果的な戦略であり、同じプリミティブなトランスファーが畳み込みアーキテクチャやトランスフォーマーアーキテクチャにまたがっていることを示す。
- 参考スコア(独自算出の注目度): 36.19851838462589
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Test-time adaptation (TTA) addresses distribution shift using only unlabeled test data. Existing methods typically adapt pretrained models by updating their parameters, limiting both what is adapted and where adaptation can occur within the network. We instead keep the pretrained network frozen and steer its intermediate representations. We introduce SPeaR (Steering Primitive for Realigning Representations), which inserts lightweight learnable modules at stage boundaries and optimizes them directly from the test stream, requiring neither source data nor supervised warm-up. Each primitive is optimized using a gated objective that reduces uncertainty only when adaptation is beneficial, along with a diversity regularizer to prevent collapse, and a multi-depth anchor to stabilize adaptation. We show that steering early representations is the most effective strategy, and that the same primitive transfers across convolutional and Transformer architectures. Across CIFAR-10-C, CIFAR-100-C, and ImageNet-C, SPeaR consistently matches or outperforms methods that adapt orders of magnitude more parameters, remains robust across a wide range of batch sizes, and preserves source-domain performance during continual adaptation.
- Abstract(参考訳): テスト時間適応(TTA)は、未ラベルのテストデータのみを使用して分散シフトに対処する。
既存の手法は通常、パラメータを更新することで事前訓練されたモデルに適応し、適応するものとネットワーク内で適応できるものの両方を制限する。
その代わりに、トレーニング済みのネットワークを凍結し、その中間表現をステアリングします。
我々はSPeaR(Steering Primitive for Realigning Representations)を導入し、ステージバウンダリに軽量の学習可能なモジュールを挿入し、テストストリームから直接最適化する。
各プリミティブは、適応が有益である場合にのみ不確実性を減少させるゲート対象と、崩壊を防ぐための多様性正規化器と、適応を安定化させるマルチディープスアンカーを用いて最適化される。
初期の表現を操ることは最も効果的な戦略であり、同じプリミティブなトランスファーが畳み込みアーキテクチャやトランスフォーマーアーキテクチャにまたがっていることを示す。
CIFAR-10-C、CIFAR-100-C、ImageNet-C全体において、SPeaRは、桁違いに多くのパラメータを順応するメソッドに一貫して適合または性能を向上し、幅広いバッチサイズにわたって堅牢であり、連続的な適応中にソースドメインのパフォーマンスを維持する。
関連論文リスト
- ReHARK: Refined Hybrid Adaptive RBF Kernels for Robust One-Shot Vision-Language Adaptation [3.8707695363745214]
ReHARKは、グローバルな近位正規化を通じて、少数ショット適応を再解釈する、トレーニング不要のフレームワークである。
ワンショット適応のための新しい最先端技術がReHARKによって確立され、平均精度は65.83%である。
論文 参考訳(メタデータ) (2026-03-12T04:59:09Z) - FOZO: Forward-Only Zeroth-Order Prompt Optimization for Test-Time Adaptation [9.28697795097814]
ディープラーニングモデルが現実のデータ分散シフトを処理するために、テスト時間適応は不可欠である。
バックプロパゲーションベースのメソッドは、ローエンドのデプロイメントデバイスには適していない。
本稿では,TTAの新規かつ実用的なバックプロパゲーションフリーパラダイムであるフォワード・オン・ゼロ階最適化(FOZO)を提案する。
論文 参考訳(メタデータ) (2026-03-05T02:12:48Z) - Test Time Adaptation Using Adaptive Quantile Recalibration [19.97106215064574]
ドメイン適応は、現実世界のシナリオにおけるディープラーニングモデルの一般化性を高めるための重要な戦略である。
バッチ正規化統計更新に基づく最近のテスト時間適応手法は、教師なし適応を可能にする。
本稿では、チャネルワイズで量子を整列させることにより、事前アクティベーション分布を変更するテスト時間適応手法であるAdaptive Quantile Recalibration (AQR)を提案する。
論文 参考訳(メタデータ) (2025-11-05T03:12:30Z) - Continual Adaptation: Environment-Conditional Parameter Generation for Object Detection in Dynamic Scenarios [54.58186816693791]
環境は時間と空間によって常に変化し、クローズドセットの仮定に基づいて訓練された物体検出器にとって重要な課題となる。
そこで本研究では,微調整過程をパラメータ生成に変換する機構を提案する。
特に,2経路LoRAベースのドメイン認識アダプタを最初に設計し,特徴をドメイン不変およびドメイン固有コンポーネントに分解する。
論文 参考訳(メタデータ) (2025-06-30T17:14:12Z) - Enhancing Test Time Adaptation with Few-shot Guidance [62.49199492255226]
深層ニューラルネットワークは、トレーニング(ソース)とテスト(ターゲット)データのドメインシフトに直面しながら、大きなパフォーマンス低下に直面することが多い。
TTA(Test Time Adaptation)法は,事前学習したソースモデルを用いて,配信外ストリーミングターゲットデータを処理する手法として提案されている。
本稿では,Few-Shot Test Time Adaptation (FS-TTA) を開発した。
論文 参考訳(メタデータ) (2024-09-02T15:50:48Z) - Test-Time Model Adaptation with Only Forward Passes [68.11784295706995]
テストタイム適応は、トレーニング済みのモデルを、潜在的に分布シフトのある未確認テストサンプルに適応させるのに有効であることが証明されている。
テスト時間フォワード最適化適応法(FOA)を提案する。
FOAは量子化された8ビットのViTで動作し、32ビットのViTで勾配ベースのTENTより優れ、ImageNet-Cで最大24倍のメモリ削減を実現する。
論文 参考訳(メタデータ) (2024-04-02T05:34:33Z) - Towards Continual Learning Desiderata via HSIC-Bottleneck
Orthogonalization and Equiangular Embedding [55.107555305760954]
本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。
提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
論文 参考訳(メタデータ) (2024-01-17T09:01:29Z) - AR-TTA: A Simple Method for Real-World Continual Test-Time Adaptation [1.4530711901349282]
本稿では,自律運転のためのデータセット,すなわちCLAD-CとShiFTを用いたテスト時間適応手法の検証を提案する。
現在のテスト時間適応手法は、ドメインシフトの様々な程度を効果的に扱うのに苦労している。
モデル安定性を高めるために、小さなメモリバッファを組み込むことで、確立された自己学習フレームワークを強化する。
論文 参考訳(メタデータ) (2023-09-18T19:34:23Z) - CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。
本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
論文 参考訳(メタデータ) (2022-06-01T03:02:07Z) - Test-Time Adaptation to Distribution Shift by Confidence Maximization
and Input Transformation [44.494319305269535]
ニューラルネットワークは、トレインタイムのデータ分散下ではありそうもないデータに対して、低いパフォーマンスを示すことが多い。
本稿では,対象分布からのラベル付きデータのみを必要とする完全テスト時間適応設定に焦点をあてる。
本稿では,初期収束とエントロピー最小化の不安定性の両方に対処することにより,テスト時間適応を改善する新しい損失を提案する。
論文 参考訳(メタデータ) (2021-06-28T22:06:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。