論文の概要: On-demand Test-time Adaptation for Edge Devices
- arxiv url: http://arxiv.org/abs/2505.00986v1
- Date: Fri, 02 May 2025 04:19:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-05 17:21:19.901158
- Title: On-demand Test-time Adaptation for Edge Devices
- Title(参考訳): エッジデバイスにおけるオンデマンドテスト時間適応
- Authors: Xiao Ma, Young D. Kwon, Dong Ma,
- Abstract要約: 連続テスト時間適応(CTTA)は、入ってくるすべてのデータにデプロイされたモデルを継続的に適応させる。
私たちは、重要なドメインシフトが検出された場合にのみ適応をトリガーする新しいパラダイム、オンデマンドTTAを導入します。
我々は、エッジデバイスに正確かつ効率的に適応するためのオンデマンドTTAフレームワークOD-TTAを提案する。
- 参考スコア(独自算出の注目度): 11.622761370078667
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Continual Test-time adaptation (CTTA) continuously adapts the deployed model on every incoming batch of data. While achieving optimal accuracy, existing CTTA approaches present poor real-world applicability on resource-constrained edge devices, due to the substantial memory overhead and energy consumption. In this work, we first introduce a novel paradigm -- on-demand TTA -- which triggers adaptation only when a significant domain shift is detected. Then, we present OD-TTA, an on-demand TTA framework for accurate and efficient adaptation on edge devices. OD-TTA comprises three innovative techniques: 1) a lightweight domain shift detection mechanism to activate TTA only when it is needed, drastically reducing the overall computation overhead, 2) a source domain selection module that chooses an appropriate source model for adaptation, ensuring high and robust accuracy, 3) a decoupled Batch Normalization (BN) update scheme to enable memory-efficient adaptation with small batch sizes. Extensive experiments show that OD-TTA achieves comparable and even better performance while reducing the energy and computation overhead remarkably, making TTA a practical reality.
- Abstract(参考訳): 連続テスト時間適応(CTTA)は、入ってくるすべてのデータにデプロイされたモデルを継続的に適応させる。
最適な精度を実現する一方で、既存のCTTAアプローチでは、メモリオーバーヘッドとエネルギー消費がかなり大きいため、リソース制限されたエッジデバイスへの現実の応用性が低い。
本稿では、まず、重要なドメインシフトが検出された場合にのみ適応をトリガーする、オンデマンドTTAという新しいパラダイムを紹介します。
次に,エッジデバイスへの適応を高精度かつ効率的にするためのオンデマンドTTAフレームワークOD-TTAを提案する。
OD-TTAは3つの革新的な技術から構成される。
1) 必要なときにのみTTAを起動する軽量な領域シフト検出機構により、全体的な計算オーバーヘッドを大幅に削減する。
2)適応に適したソースモデルを選択し、高精度かつ堅牢な精度を確保するソースドメイン選択モジュール。
3) 分割バッチ正規化(BN)更新方式により,小さなバッチサイズでメモリ効率を向上する。
大規模な実験により、OD-TTAは、エネルギーと計算オーバーヘッドを著しく削減し、同等で、さらに優れた性能を達成することが示され、TTAは現実的な現実となった。
関連論文リスト
- LeanTTA: A Backpropagation-Free and Stateless Approach to Quantized Test-Time Adaptation on Edge Devices [13.355021314836852]
本稿では、エッジデバイスに適した量子化テスト時間適応のための、バックプロパゲーションフリーでステートレスな新しいフレームワークであるLeanTTAを紹介する。
バックプロパゲーションなしで正規化統計を動的に更新することで計算コストを最小化する。
我々は,センサのモダリティにまたがる枠組みを検証し,最先端のTTA手法よりも大幅に改善したことを示す。
論文 参考訳(メタデータ) (2025-03-20T06:27:09Z) - Improving Batch Normalization with TTA for Robust Object Detection in Self-Driving [26.038699227233227]
本稿では、自律運転における物体検出のためのTTAによるバッチ正規化を改善するための2つの新しいロバスト手法を提案する。
本稿では,一般探索エントロピー最小化法(GSEM)に基づく学習可能なBN層を提案する。
本稿では,モデルが最適解を反復的に探索することを奨励する,セマンティック一貫性に基づく2段階適応戦略を提案する。
論文 参考訳(メタデータ) (2024-11-28T01:59:34Z) - Feature Augmentation based Test-Time Adaptation [14.643393485770723]
テスト時適応(TTA)により、ソースデータにアクセスすることなく、モデルは見えないドメインに適応できる。
最近のTTA法では、入力データを信頼性のためにフィルタリングすることで、効率的なデータサイズをさらに小さくし、適応ポテンシャルを制限することでこれを制限している。
本稿では,FATA(Feature Augmentation based Test-time Adaptation)を提案する。
論文 参考訳(メタデータ) (2024-10-18T05:11:07Z) - REP: Resource-Efficient Prompting for Rehearsal-Free Continual Learning [23.92661395403251]
近年のリハーサルフリーな手法は,視覚関連連続学習(CL)とドリフトデータに優れ,資源効率に欠ける。
本稿では,Resource-Efficient Prompting(REP)を提案する。
提案手法は高速なプロンプト選択を用いて、注意深く設定されたモデルを用いて入力データを洗練する。
論文 参考訳(メタデータ) (2024-06-07T09:17:33Z) - Active Test-Time Adaptation: Theoretical Analyses and An Algorithm [51.84691955495693]
テスト時間適応(TTA)は、教師なし設定でストリーミングテストデータの分散シフトに対処する。
完全TTA設定内に能動学習を統合する能動テスト時間適応(ATTA)の新たな問題設定を提案する。
論文 参考訳(メタデータ) (2024-04-07T22:31:34Z) - Test-Time Model Adaptation with Only Forward Passes [68.11784295706995]
テストタイム適応は、トレーニング済みのモデルを、潜在的に分布シフトのある未確認テストサンプルに適応させるのに有効であることが証明されている。
テスト時間フォワード最適化適応法(FOA)を提案する。
FOAは量子化された8ビットのViTで動作し、32ビットのViTで勾配ベースのTENTより優れ、ImageNet-Cで最大24倍のメモリ削減を実現する。
論文 参考訳(メタデータ) (2024-04-02T05:34:33Z) - Optimization-Free Test-Time Adaptation for Cross-Person Activity
Recognition [30.350005654271868]
Test-Time Adaptationは、テストストリームを使用して、リアルタイムの推論で予測を調整することを目的としている。
計算コストが高いため、リソース制約のあるエッジデバイス上での動作が困難になる。
センサベースHARのための最適化自由テスト時間適応フレームワークを提案する。
論文 参考訳(メタデータ) (2023-10-28T02:20:33Z) - Hyper-Decision Transformer for Efficient Online Policy Adaptation [66.91294935068957]
我々は,ごく少数のデモから新しいタスクを一般化できるHyper-Decision Transformer (HDT) と呼ばれる新しいフレームワークを提案する。
1つの専門家によるデモンストレーションと、DTパラメータの0.5%のみ微調整を行うことで、HDTはDTモデル全体を微調整するよりも、目に見えないタスクに迅速に適応できることがわかった。
論文 参考訳(メタデータ) (2023-04-17T17:59:32Z) - Test-time Adaptation in the Dynamic World with Compound Domain Knowledge
Management [75.86903206636741]
テスト時間適応(TTA)により、モデルは新しい環境に適応し、テスト時間中にパフォーマンスを向上させることができる。
TTAのいくつかの研究は、継続的に変化する環境において、有望な適応性能を示している。
本稿ではまず,複合ドメイン知識管理を用いた堅牢なTTAフレームワークを提案する。
次に、ソースと現在のターゲットドメイン間のドメイン類似性を用いて適応率を変調する新しい正規化を考案する。
論文 参考訳(メタデータ) (2022-12-16T09:02:01Z) - Visual Prompt Tuning for Test-time Domain Adaptation [48.16620171809511]
本稿では,2つの重要な要素を持つデータ効率・プロンプト・チューニング(DePT)と呼ばれる簡単なレシピを提案する。
このようなパラメータ効率の良い微調整は,学習対象の雑音に過度に適応することなく,モデル表現を対象領域に効率よく適応させることができる。
パラメータがはるかに少ないため、DePTは主要な適応ベンチマークにおける最先端のパフォーマンスだけでなく、優れたデータ効率を示す。
論文 参考訳(メタデータ) (2022-10-10T16:45:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。