論文の概要: EvoLP: Self-Evolving Latency Predictor for Model Compression in Real-Time Edge Systems

• arxiv url: http://arxiv.org/abs/2607.09063v1
• Date: Fri, 10 Jul 2026 03:16:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-13 14:47:12.770658
• Title: EvoLP: Self-Evolving Latency Predictor for Model Compression in Real-Time Edge Systems
• Title（参考訳）: EvoLP: リアルタイムエッジシステムにおけるモデル圧縮のための自己進化型レイテンシ予測器
• Abstract要約: エッジデバイスは、組み込みシステムにディープラーニングアプリケーションをデプロイするためにますます利用されています。 このレターでは、エッジデバイス上でのモデルの推論遅延を正確に予測するために、EvoLPという、新しくて効率的なフレームワークを提示する。
• 参考スコア（独自算出の注目度）: 12.681921492194986
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Edge devices are increasingly utilized for deploying deep learning applications on embedded systems. The real-time nature of many applications and the limited resources of edge devices necessitate latency-targeted neural network compression. However, measuring latency on real devices is challenging and expensive. Therefore, this letter presents a novel and efficient framework, named EvoLP, to accurately predict the inference latency of models on edge devices. This predictor can evolve to achieve higher latency prediction precision during the network compression process. Experimental results demonstrate that EvoLP outperforms previous state-of-the-art approaches by being evaluated on three edge devices and four model variants. Moreover, when incorporated into a model compression framework, it effectively guides the compression process for higher model accuracy while satisfying strict latency constraints. We open source EvoLP at https://github.com/ntuliuteam/EvoLP.
• Abstract（参考訳）: エッジデバイスは、組み込みシステムにディープラーニングアプリケーションをデプロイするためにますます利用されています。 多くのアプリケーションとエッジデバイスの限られたリソースのリアルタイム性は、レイテンシをターゲットとしたニューラルネットワーク圧縮を必要とする。 しかし、実際のデバイスでのレイテンシの測定は困難でコストがかかる。 そこで本稿では,エッジデバイス上でのモデルの推論遅延を正確に予測する,EvoLPという新しい効率的なフレームワークを提案する。 この予測器は、ネットワーク圧縮プロセス中に高い遅延予測精度を達成するために進化することができる。 実験により,EvoLPは3つのエッジデバイスと4つのモデル変種で評価することにより,従来の最先端手法よりも優れた性能を示した。 さらに、モデル圧縮フレームワークに組み込まれた場合、厳密な遅延制約を満たすとともに、モデル精度を高めるための圧縮プロセスを効果的にガイドする。 我々はEvoLPをhttps://github.com/ntuliuteam/EvoLPでオープンソース化しました。

関連論文リスト

• Towards Generative Predictive Display for Vision-Based Teleoperation: A Zero-Shot Benchmark of Off-the-Shelf Video Models [0.0]
  本稿では,ショートホライズン予測表示のためのオフ・ザ・シェルフ生成ビデオモデルのベンチマークを示す。 性能は、予測精度、ロールアウト毎のレイテンシ、ピークGPUメモリ使用量、時間的エラー進化を用いて評価される。 発見は、汎用な生成ビデオ合成と遠隔操作における予測表示の要件とのギャップを浮き彫りにする。
  論文  参考訳（メタデータ） (2026-05-10T17:36:22Z)
• PACE: Post-Causal Entropy Modeling for Learned LiDAR Point Cloud Compression [43.524231862354405]
  LiDARポイントクラウド圧縮は、高解像度センサーから大量のデータを処理するために自律システムにとって不可欠である。 PACEは、祖先のコンテキストアグリゲーションを非因果バックボーンとして再構成し、因果関係を軽量でステージスケーラ可能な予測器に変換する新しいフレームワークである。 実験により、PACEは圧縮効率を新たな最先端に設定し、顕著なBD-BR節約を実現し、自動回帰モードで復号遅延を90%以上削減した。
  論文  参考訳（メタデータ） (2026-05-02T08:36:11Z)
• A Comparative Study of CNN Optimization Methods for Edge AI: Exploring the Role of Early Exits [0.08209843760716957]
  本稿では,静的圧縮と動的早期退避機構の統一的な展開指向比較について述べる。 以上の結果から,静的および動的手法によって,エッジデプロイメントのトレードオフが根本的に異なることが明らかとなった。 それらの組み合わせは非常に効果的で、推論遅延とメモリ使用量を最小限の精度で削減できる。
  論文  参考訳（メタデータ） (2026-04-16T08:50:49Z)
• On Latency Predictors for Neural Architecture Search [8.564763702766776]
  本稿では,ハードウェア・デバイス・セットの自動分割による遅延予測タスクの包括的スイートについて紹介する。 次に,(1)予測器アーキテクチャ,(2)NNサンプル選択方法,(3)ハードウェアデバイス表現,(4)NN動作符号化方式を総合的に研究するために,一般遅延予測器を設計する。 本稿では,本研究の結論に基づいて,エンドツーエンドの遅延予測学習戦略を提案する。
  論文  参考訳（メタデータ） (2024-03-04T19:59:32Z)
• Overload: Latency Attacks on Object Detection for Edge Devices [47.9744734181236]
  本稿では,ディープラーニングアプリケーションに対する遅延攻撃について検討する。 誤分類に対する一般的な敵攻撃とは異なり、遅延攻撃の目標は推論時間を増やすことである。 このような攻撃がどのように動作するかを示すために、オブジェクト検出を使用します。
  論文  参考訳（メタデータ） (2023-04-11T17:24:31Z)
• Design and Prototyping Distributed CNN Inference Acceleration in Edge Computing [85.74517957717363]
  HALPはエッジコンピューティングにおけるエッジデバイス(ED)間のシームレスなコラボレーションを設計することで推論を加速する。 実験により、分散推論HALPはVGG-16に対して1.7倍の推論加速を達成することが示された。 分散推論HALPを用いたモデル選択は,サービスの信頼性を著しく向上させることができる。
  論文  参考訳（メタデータ） (2022-11-24T19:48:30Z)
• Fluid Batching: Exit-Aware Preemptive Serving of Early-Exit Neural Networks on Edge NPUs [74.83613252825754]
  スマートエコシステム(smart ecosystems)"は、スタンドアロンではなく、センセーションが同時に行われるように形成されています。 これはデバイス上の推論パラダイムを、エッジにニューラル処理ユニット(NPU)をデプロイする方向にシフトしている。 そこで本研究では,実行時のプリエンプションが到着・終了プロセスによってもたらされる動的性を考慮に入れた,新しい早期終了スケジューリングを提案する。
  論文  参考訳（メタデータ） (2022-09-27T15:04:01Z)
• DUET: A Tuning-Free Device-Cloud Collaborative Parameters Generation Framework for Efficient Device Model Generalization [66.27399823422665]
  デバイスモデル一般化(Device Model Generalization, DMG)は、デバイス上での機械学習アプリケーションにおいて、実用的ながら実証されていない研究トピックである。 本稿では,Device-cloUdコラボレーティブパラメトリクスフレームワークDUETを提案する。
  論文  参考訳（メタデータ） (2022-09-12T13:26:26Z)
• Resource-Constrained Edge AI with Early Exit Prediction [5.060405696893342]
  デバイスエッジコ推論システムにおいて,デバイス上での計算オーバーヘッドを低減するための早期出口予測機構を提案する。 具体的には,Exit Predictorと呼ばれる低複雑さモジュールを設計し,初期出口の計算をバイパスする「ハード」なサンプルを導出する。 通信帯域の変動を考慮すると、レイテンシを考慮したエッジ推論の早期終了予測機構を拡張する。
  論文  参考訳（メタデータ） (2022-06-15T03:14:21Z)
• MAPLE-X: Latency Prediction with Explicit Microprocessor Prior Knowledge [87.41163540910854]
  ディープニューラルネットワーク(DNN)レイテンシのキャラクタリゼーションは、時間を要するプロセスである。 ハードウェアデバイスの事前知識とDNNアーキテクチャのレイテンシを具体化し,MAPLEを拡張したMAPLE-Xを提案する。
  論文  参考訳（メタデータ） (2022-05-25T11:08:20Z)
• Real-Time GPU-Accelerated Machine Learning Based Multiuser Detection for 5G and Beyond [70.81551587109833]
  非線形ビームフォーミングフィルタは、大規模な接続を伴う定常シナリオにおいて、線形アプローチを著しく上回る。 主な課題の1つは、これらのアルゴリズムのリアルタイム実装である。 本稿では,大規模並列化によるAPSMに基づくアルゴリズムの高速化について検討する。
  論文  参考訳（メタデータ） (2022-01-13T15:20:45Z)
• LCS: Learning Compressible Subspaces for Adaptive Network Compression at Inference Time [57.52251547365967]
  本稿では,ニューラルネットワークの「圧縮可能な部分空間」を訓練する手法を提案する。 構造的・非構造的空間に対する推定時間における微粒な精度・効率のトレードオフを任意に達成するための結果を示す。 我々のアルゴリズムは、可変ビット幅での量子化にまで拡張し、個別に訓練されたネットワークと同等の精度を実現する。
  論文  参考訳（メタデータ） (2021-10-08T17:03:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。