論文の概要: EdgeCompress: Coupling Multidimensional Model Compression and Dynamic Inference for EdgeAI
- arxiv url: http://arxiv.org/abs/2607.06982v1
- Date: Wed, 08 Jul 2026 04:03:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-09 22:50:30.279298
- Title: EdgeCompress: Coupling Multidimensional Model Compression and Dynamic Inference for EdgeAI
- Title（参考訳）: EdgeCompress: EdgeAIの多次元モデル圧縮と動的推論の結合
- Abstract要約: 畳み込みニューラルネットワーク(CNN)は、画像分類タスクにおいて奨励的な結果を示してきた。
しかし、CNNの計算コストの禁止は、リソース制約された組み込みデバイスへのCNNの展開を妨げる。
我々は,CNNの計算オーバーヘッドを低減するために,包括的圧縮フレームワークであるEdgeCompressを提案する。
- 参考スコア（独自算出の注目度）: 14.758436987654504
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Convolutional neural networks (CNNs) have demonstrated encouraging results in image classification tasks. However, the prohibitive computational cost of CNNs hinders the deployment of CNNs onto resource-constrained embedded devices. To address this issue, we propose EdgeCompress, a comprehensive compression framework to reduce the computational overhead of CNNs. In EdgeCompress, we first introduce dynamic image cropping (DIC), where we design a lightweight foreground predictor to accurately crop the most informative foreground object of input images for inference, which avoids redundant computation on background regions. Subsequently, we present compound shrinking (CS) to collaboratively compress the three dimensions (depth, width, and resolution) of CNNs according to their contribution to accuracy and model computation. DIC and CS together constitute a multidimensional CNN compression framework, which is able to comprehensively reduce the computational redundancy in both input images and neural network architectures, thereby improving the inference efficiency of CNNs. Further, we present a dynamic inference framework to efficiently process input images with different recognition difficulties, where we cascade multiple models with different complexities from our compression framework and dynamically adopt different models for different input images, which further compresses the computational redundancy and improves the inference efficiency of CNNs, facilitating the deployment of advanced CNNs onto embedded hardware. Experiments on ImageNet-1K demonstrate that EdgeCompress reduces the computation of ResNet-50 by 48.8% while improving the top-1 accuracy by 0.8%. Meanwhile, we improve the accuracy by 4.1% with similar computation compared to HRank, the state-of-the-art compression framework. The source code and models are available at https://github.com/ntuliuteam/edge-compress
- Abstract（参考訳）: 畳み込みニューラルネットワーク(CNN)は、画像分類タスクにおいて奨励的な結果を示してきた。
しかし、CNNの計算コストの禁止は、リソース制約された組み込みデバイスへのCNNの展開を妨げる。
この問題に対処するため,我々は,CNNの計算オーバーヘッドを低減するための総合圧縮フレームワークであるEdgeCompressを提案する。
EdgeCompressでは、まず動的画像トリミング(DIC)を導入し、入力画像の最も情報性の高い前景オブジェクトを正確にトリミングする軽量な前景予測器を設計し、背景領域の冗長な計算を避ける。
次に,CNNの3次元(深度,幅,解像度)を,精度およびモデル計算への寄与に応じて協調的に圧縮する化合物収縮(CS)を提案する。
DICとCSは、多次元CNN圧縮フレームワークを構成し、入力画像とニューラルネットワークアーキテクチャの両方の計算冗長性を包括的に低減し、CNNの推論効率を向上させる。
さらに、異なる認識困難を伴う入力画像の効率的な処理を行う動的推論フレームワークを提案する。このフレームワークでは、圧縮フレームワークと異なる複雑さを持つ複数のモデルをカスケードし、異なる入力画像に対して異なるモデルを動的に適用し、さらに計算冗長性を圧縮し、CNNの推論効率を向上し、高度なCNNを組込みハードウェアに展開することを容易にする。
ImageNet-1Kの実験では、EdgeCompressはResNet-50の計算を48.8%削減し、トップ1の精度は0.8%向上した。
一方,最先端圧縮フレームワークであるHRankと比較して,計算精度は4.1%向上した。
ソースコードとモデルはhttps://github.com/ntuliuteam/edge-compressで公開されている。
関連論文リスト
- Smart Scissor: Coupling Spatial Redundancy Reduction and CNN Compression for Embedded Hardware [14.758436987654504]
入力画像の解像度のスケールダウンは、畳み込みニューラルネットワーク(CNN)の計算オーバーヘッドを大幅に削減する。
画像から前景オブジェクトを正確に抽出することで空間的冗長性を低減できる動的画像トリミングフレームワークを提案する。
ImageNet-1Kの実験では、トップ1の精度を0.3%改善しつつ、ResNet50の計算コストを41.5%削減した。
論文 参考訳（メタデータ） (2026-07-08T02:12:54Z) - Dynamic Semantic Compression for CNN Inference in Multi-access Edge
Computing: A Graph Reinforcement Learning-based Autoencoder [82.8833476520429]
部分オフロードにおける効果的な意味抽出と圧縮のための新しい意味圧縮手法であるオートエンコーダベースのCNNアーキテクチャ(AECNN)を提案する。
セマンティックエンコーダでは、CNNのチャネルアテンション機構に基づく特徴圧縮モジュールを導入し、最も情報性の高い特徴を選択して中間データを圧縮する。
セマンティックデコーダでは、受信した圧縮データから学習して中間データを再構築し、精度を向上させる軽量デコーダを設計する。
論文 参考訳（メタデータ） (2024-01-19T15:19:47Z) - Distance Weighted Trans Network for Image Completion [52.318730994423106]
本稿では,DWT(Distance-based Weighted Transformer)を利用した画像コンポーネント間の関係をよりよく理解するためのアーキテクチャを提案する。
CNNは、粗い事前の局所的なテクスチャ情報を強化するために使用される。
DWTブロックは、特定の粗いテクスチャやコヒーレントな視覚構造を復元するために使用される。
論文 参考訳（メタデータ） (2023-10-11T12:46:11Z) - Attention-based Feature Compression for CNN Inference Offloading in Edge
Computing [93.67044879636093]
本稿では,デバイスエッジ共振器におけるCNN推論の計算負荷について検討する。
エンドデバイスにおける効率的な特徴抽出のための新しいオートエンコーダベースのCNNアーキテクチャ(AECNN)を提案する。
実験の結果、AECNNは中間データを約4%の精度で256倍圧縮できることがわかった。
論文 参考訳（メタデータ） (2022-11-24T18:10:01Z) - OSLO: On-the-Sphere Learning for Omnidirectional images and its
application to 360-degree image compression [59.58879331876508]
全方向画像の表現モデルの学習について検討し、全方向画像の深層学習モデルで使用される数学的ツールを再定義するために、HEALPixの球面一様サンプリングの特性を利用することを提案する。
提案したオン・ザ・スフィア・ソリューションは、等方形画像に適用された類似の学習モデルと比較して、13.7%のビットレートを節約できる圧縮ゲインを向上させる。
論文 参考訳（メタデータ） (2021-07-19T22:14:30Z) - Joint Matrix Decomposition for Deep Convolutional Neural Networks
Compression [5.083621265568845]
多数のパラメータを持つディープ畳み込みニューラルネットワーク(CNN)は膨大な計算資源を必要とする。
そのため,近年CNNの圧縮に分解法が用いられている。
我々は,CNNを圧縮し,関節行列分解による性能劣化を軽減することを提案する。
論文 参考訳（メタデータ） (2021-07-09T12:32:10Z) - Content-Aware Convolutional Neural Networks [98.97634685964819]
畳み込みニューラルネットワーク(CNN)は、畳み込み層の強力な特徴学習能力によって大きな成功を収めている。
本研究では,スムーズなウィンドウを自動的に検出し,元の大規模カーネルを置き換えるために1x1畳み込みカーネルを適用するContent-aware Convolution (CAC)を提案する。
論文 参考訳（メタデータ） (2021-06-30T03:54:35Z) - Towards Compact CNNs via Collaborative Compression [166.86915086497433]
チャネルプルーニングとテンソル分解を結合してCNNモデルを圧縮する協調圧縮方式を提案する。
52.9%のFLOPを削減し、ResNet-50で48.4%のパラメータを削除しました。
論文 参考訳（メタデータ） (2021-05-24T12:07:38Z) - Efficient CNN-LSTM based Image Captioning using Neural Network
Compression [0.0]
CNN-LSTMベースの画像キャプションモデルの非従来のエンドツーエンド圧縮パイプラインを紹介します。
次に、異なる圧縮アーキテクチャがモデルに与える影響を検討し、73.1%のモデルサイズ削減を実現する圧縮アーキテクチャを設計する。
論文 参考訳（メタデータ） (2020-12-17T16:25:09Z) - Compression strategies and space-conscious representations for deep
neural networks [0.3670422696827526]
近年のディープラーニングの進歩により、いくつかの実世界のアプリケーションで最先端のパフォーマンスを備えた強力な畳み込みニューラルネットワーク(CNN)が利用可能になった。
CNNには数百万のパラメータがあり、リソース制限のあるプラットフォームではデプロイできない。
本稿では,重み付けと量子化によるCNNの損失圧縮の影響について検討する。
論文 参考訳（メタデータ） (2020-07-15T19:41:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。