論文の概要: Efficient Edge Test-Time Adaptation via Latent Feature Coordinate Correction
- arxiv url: http://arxiv.org/abs/2510.11068v1
- Date: Mon, 13 Oct 2025 07:08:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-14 18:06:30.234877
- Title: Efficient Edge Test-Time Adaptation via Latent Feature Coordinate Correction
- Title(参考訳): 潜在特徴座標補正によるエッジテスト時間適応の効率化
- Authors: Xinyu Luo, Jie Liu, Kecheng Chen, Junyi Yang, Bo Ding, Arindam Basu, Haoliang Li,
- Abstract要約: エッジデバイス(TED)に適した新しいテスト時間適応(TTA)手法を提案する。
TEDは共分散行列適応進化戦略(CMA-ES)を用いて、ラテントの主部分空間においてフォワードのみの座標最適化を用いる
TEDは最先端のパフォーマンスを実現し、$textitreduceの計算複雑性を最大63倍に向上させ、現実のエッジアプリケーションに実用的でスケーラブルなソリューションを提供する。
- 参考スコア(独自算出の注目度): 43.48832321879385
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Edge devices face significant challenges due to limited computational resources and distribution shifts, making efficient and adaptable machine learning essential. Existing test-time adaptation (TTA) methods often rely on gradient-based optimization or batch processing, which are inherently unsuitable for resource-constrained edge scenarios due to their reliance on backpropagation and high computational demands. Gradient-free alternatives address these issues but often suffer from limited learning capacity, lack flexibility, or impose architectural constraints. To overcome these limitations, we propose a novel single-instance TTA method tailored for edge devices (TED), which employs forward-only coordinate optimization in the principal subspace of latent using the covariance matrix adaptation evolution strategy (CMA-ES). By updating a compact low-dimensional vector, TED not only enhances output confidence but also aligns the latent representation closer to the source latent distribution within the latent principal subspace. This is achieved without backpropagation, keeping the model parameters frozen, and enabling efficient, forgetting-free adaptation with minimal memory and computational overhead. Experiments on image classification and keyword spotting tasks across the ImageNet and Google Speech Commands series datasets demonstrate that TED achieves state-of-the-art performance while $\textit{reducing computational complexity by up to 63 times}$, offering a practical and scalable solution for real-world edge applications. Furthermore, we successfully $\textit{deployed TED on the ZYNQ-7020 platform}$, demonstrating its feasibility and effectiveness for resource-constrained edge devices in real-world deployments.
- Abstract(参考訳): エッジデバイスは、限られた計算リソースと分散シフトのために重大な課題に直面し、効率的で適応可能な機械学習が不可欠である。
既存のテスト時間適応(TTA)手法は、バックプロパゲーションや高い計算要求に依存するため、リソース制約のあるエッジシナリオには本質的に適さない勾配ベースの最適化やバッチ処理に依存していることが多い。
グラディエントフリーの代替案はこれらの問題に対処するが、学習能力の制限、柔軟性の欠如、アーキテクチャ上の制約に悩まされることが多い。
これらの制約を克服するため、共分散行列適応進化戦略(CMA-ES)を用いて、ラテントの主部分空間における前方のみの座標最適化を利用する、エッジデバイス(TED)に適した新しい単一インスタンスTTA手法を提案する。
コンパクトな低次元ベクトルを更新することにより、TEDは出力の信頼性を高めるだけでなく、潜時表現を潜時主部分空間内の原潜時分布に近づける。
これはバックプロパゲーションなしで実現され、モデルパラメータを凍結させ、最小限のメモリと計算オーバーヘッドで効率よく、忘れない適応を可能にする。
ImageNetとGoogle Speech Commandsシリーズのデータセットにおける画像分類とキーワードスポッティングタスクの実験は、TEDが最先端のパフォーマンスを実現し、$\textit{reducing complexity complexity by 63 times}$で、現実世界のエッジアプリケーションに実用的でスケーラブルなソリューションを提供することを示した。
さらに、ZYNQ-7020プラットフォーム上での“\textit{deployed TED on the ZYNQ-7020 platform}$”を成功させました。
関連論文リスト
- EdgeInfinite-Instruct: Bridging SFT-Based Optimization and NPU-Level Efficiency for Edge Devices [3.5487823143282657]
本稿では,要約や質問応答といった長文タスクに適したS-SFT(Seegmented Supervised Fine-Tuning)戦略を提案する。
長文ベンチマークと実世界のモバイルタスクを用いた実験により,NPU加速エッジデバイス上での効率を維持しつつ,ドメイン固有性能を向上させることができた。
論文 参考訳(メタデータ) (2025-08-01T07:03:16Z) - Domain Borders Are There to Be Crossed With Federated Few-Shot Adaptation [0.6554326244334866]
産業環境における現実世界のクライアント適応に適した,効率的でスケーラブルなフェデレート学習フレームワークを提案する。
リソース制約のあるデバイス上でのクライアント適応時のバックボーンと分類器を凍結することにより、ドメイン適応線形層が対象のドメイン適応を処理することができる。
本フレームワークは,資源制約のある環境下での散発的モデル更新に対応し,実用的かつシームレスなデプロイメントを実現する。
論文 参考訳(メタデータ) (2025-07-14T11:18:33Z) - LeanTTA: A Backpropagation-Free and Stateless Approach to Quantized Test-Time Adaptation on Edge Devices [13.355021314836852]
本稿では、エッジデバイスに適した量子化テスト時間適応のための、バックプロパゲーションフリーでステートレスな新しいフレームワークであるLeanTTAを紹介する。
バックプロパゲーションなしで正規化統計を動的に更新することで計算コストを最小化する。
我々は,センサのモダリティにまたがる枠組みを検証し,最先端のTTA手法よりも大幅に改善したことを示す。
論文 参考訳(メタデータ) (2025-03-20T06:27:09Z) - Efficient Domain Adaptation of Multimodal Embeddings using Constrastive Learning [0.08192907805418582]
現在のアプローチでは、タスク固有の適応なしに事前訓練されたモデルを使用する際にサブパー結果を得るか、あるいは微調整のためにかなりの計算資源を必要とする。
本稿では,高コストな微調整処理を必要とせず,基礎的なマルチモーダルな埋め込みを下流タスクに適用するための新しい手法を提案する。
論文 参考訳(メタデータ) (2025-02-04T06:30:12Z) - Energy-efficient Task Adaptation for NLP Edge Inference Leveraging
Heterogeneous Memory Architectures [68.91874045918112]
Adapter-ALBERTは、様々なタスクにわたる最大データ再利用のための効率的なモデル最適化である。
検証されたNLPエッジアクセラレータ上でシミュレーションを行うことにより、モデルを不均一なオンチップメモリアーキテクチャにマッピングする利点を実証する。
論文 参考訳(メタデータ) (2023-03-25T14:40:59Z) - Iterative Soft Shrinkage Learning for Efficient Image Super-Resolution [91.3781512926942]
画像超解像(SR)は、CNNからトランスフォーマーアーキテクチャへの広範なニューラルネットワーク設計を目撃している。
本研究は,市販のネットワーク設計を生かし,基礎となる計算オーバーヘッドを低減するため,超高解像度イテレーションにおけるネットワークプルーニングの可能性について検討する。
本研究では, ランダムネットワークのスパース構造を最適化し, 重要でない重みを小さめに微調整することにより, 反復型軟収縮率(ISS-P)法を提案する。
論文 参考訳(メタデータ) (2023-03-16T21:06:13Z) - Adaptive Subcarrier, Parameter, and Power Allocation for Partitioned
Edge Learning Over Broadband Channels [69.18343801164741]
パーティショニングエッジ学習(PARTEL)は、無線ネットワークにおいてよく知られた分散学習手法であるパラメータサーバトレーニングを実装している。
本稿では、いくつかの補助変数を導入してParticleELを用いてトレーニングできるディープニューラルネットワーク(DNN)モデルについて考察する。
論文 参考訳(メタデータ) (2020-10-08T15:27:50Z) - Deep Adaptive Inference Networks for Single Image Super-Resolution [72.7304455761067]
シングルイメージ超解像(SISR)は、ディープ畳み込みニューラルネットワーク(CNN)の展開により、近年大きく進歩している。
本稿では,深部SISR(AdaDSR)の適応型推論ネットワークを活用することで,この問題に対処する。
我々のAdaDSRは、SISRモデルをバックボーンとし、画像の特徴とリソース制約を入力として取り、ローカルネットワーク深さのマップを予測する軽量アダプタモジュールを備える。
論文 参考訳(メタデータ) (2020-04-08T10:08:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。