論文の概要: Fast Exploration of Weight Sharing Opportunities for CNN Compression
- arxiv url: http://arxiv.org/abs/2102.01345v1
- Date: Tue, 2 Feb 2021 06:45:56 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-03 16:57:14.979798
- Title: Fast Exploration of Weight Sharing Opportunities for CNN Compression
- Title(参考訳): CNN圧縮のための重量共有機会の高速探索
- Authors: Etienne Dupuis, David Novo, Ian O'Connor, Alberto Bosio
- Abstract要約: 畳み込みニューラルネットワーク(CNN)に関わる計算負荷は、一般的に低消費電力の組み込みデバイスには届かない。
提案手法は, 出力の質を犠牲にすることなく, 探索時間を劇的に短縮する最適化探索法である。
- 参考スコア(独自算出の注目度): 0.2580765958706854
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The computational workload involved in Convolutional Neural Networks (CNNs)
is typically out of reach for low-power embedded devices. There are a large
number of approximation techniques to address this problem. These methods have
hyper-parameters that need to be optimized for each CNNs using design space
exploration (DSE). The goal of this work is to demonstrate that the DSE phase
time can easily explode for state of the art CNN. We thus propose the use of an
optimized exploration process to drastically reduce the exploration time
without sacrificing the quality of the output.
- Abstract(参考訳): Convolutional Neural Networks(CNN)に関わる計算負荷は、通常、低消費電力の組み込みデバイスでは到達できない。
この問題に対処するために、多くの近似技術があります。
これらの手法は、設計空間探索(DSE)を用いて、各CNNに最適化する必要があるハイパーパラメータを持つ。
本研究の目的は,DSEフェーズタイムがアートCNNの状態に対して容易に爆発できることを実証することである。
そこで本稿では,出力の質を犠牲にすることなく,探索時間を劇的に短縮する最適化探索法を提案する。
関連論文リスト
- Transferability of Convolutional Neural Networks in Stationary Learning
Tasks [96.00428692404354]
本稿では,大規模な空間問題に対する畳み込みニューラルネットワーク(CNN)の効率的なトレーニングのための新しいフレームワークを提案する。
このような信号の小さなウィンドウで訓練されたCNNは、再学習することなく、はるかに大きなウィンドウでほぼ性能を発揮することを示す。
以上の結果から,CNNは10人未満の訓練を受けた後,数百人のエージェントによる問題に対処できることが示唆された。
論文 参考訳(メタデータ) (2023-07-21T13:51:45Z) - Trigger-Level Event Reconstruction for Neutrino Telescopes Using Sparse
Submanifold Convolutional Neural Networks [0.0]
畳み込みニューラルネットワーク(CNN)はニュートリノ望遠鏡を含む科学データ分析に広く応用されている。
これらの問題の解決策としてスパースサブマニフォールド畳み込み(SSCNN)を提案する。
SSCNNイベント再構成性能は従来の機械学習アルゴリズムに匹敵するか否かを示す。
論文 参考訳(メタデータ) (2023-03-15T17:59:01Z) - Attention-based Feature Compression for CNN Inference Offloading in Edge
Computing [93.67044879636093]
本稿では,デバイスエッジ共振器におけるCNN推論の計算負荷について検討する。
エンドデバイスにおける効率的な特徴抽出のための新しいオートエンコーダベースのCNNアーキテクチャ(AECNN)を提案する。
実験の結果、AECNNは中間データを約4%の精度で256倍圧縮できることがわかった。
論文 参考訳(メタデータ) (2022-11-24T18:10:01Z) - Fast Exploration of the Impact of Precision Reduction on Spiking Neural
Networks [63.614519238823206]
ターゲットハードウェアがコンピューティングの端に達すると、スパイキングニューラルネットワーク(SNN)が実用的な選択となる。
我々は、近似誤差を伝播するそのようなモデルの能力を生かした探索手法を開発するために、インターヴァル算術(IA)モデルを用いる。
論文 参考訳(メタデータ) (2022-11-22T15:08:05Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - SpikeMS: Deep Spiking Neural Network for Motion Segmentation [7.491944503744111]
textitSpikeMSは、モーションセグメンテーションの大規模な問題に対する最初のディープエンコーダデコーダSNNアーキテクチャである。
textitSpikeMSは,テキストインクリメンタルな予測や,より少ない量のテストデータからの予測を行うことができることを示す。
論文 参考訳(メタデータ) (2021-05-13T21:34:55Z) - Adaptive Latent Space Tuning for Non-Stationary Distributions [62.997667081978825]
本稿では,ディープエンコーダ・デコーダ方式cnnの低次元潜在空間の適応チューニング法を提案する。
粒子加速器における時間変動荷電粒子ビームの特性を予測するためのアプローチを実証する。
論文 参考訳(メタデータ) (2021-05-08T03:50:45Z) - A Little Energy Goes a Long Way: Energy-Efficient, Accurate Conversion
from Convolutional Neural Networks to Spiking Neural Networks [22.60412330785997]
スパイクニューラルネットワーク(SNN)は、空間時空間データ、つまり現実世界の感覚データを処理する固有の機能を提供します。
SNNに関する主要な研究のスレッドは、トレーニング済みの畳み込みニューラルネットワーク(CNN)を同じ構造のSNNに変換することである。
本論文では,比較的短いスパイクトレインを用いて,ほぼゼロの精度損失を達成できる新しいCNN-to-SNN変換法を提案する。
論文 参考訳(メタデータ) (2021-03-01T12:15:29Z) - End-to-End Framework for Efficient Deep Learning Using Metasurfaces
Optics [3.639016550240087]
本稿では,CNNを自由空間で光学的に計算するエンドツーエンドフレームワークを提案する。
我々のシステムは、最大で1桁の省エネを実現し、センサの設計を単純化し、ネットワークの精度を犠牲にする。
論文 参考訳(メタデータ) (2020-11-23T21:06:04Z) - MS-RANAS: Multi-Scale Resource-Aware Neural Architecture Search [94.80212602202518]
我々は,MS-RANAS(Multi-Scale Resource-Aware Neural Architecture Search)を提案する。
我々は,検索コストの削減を図るために,ワンショットのアーキテクチャ探索手法を採用した。
我々は精度-速度トレードオフの観点から最先端の結果を得る。
論文 参考訳(メタデータ) (2020-09-29T11:56:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。