論文の概要: CondenseNeXt: An Ultra-Efficient Deep Neural Network for Embedded
Systems
- arxiv url: http://arxiv.org/abs/2112.00698v1
- Date: Wed, 1 Dec 2021 18:20:52 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-02 14:40:48.455587
- Title: CondenseNeXt: An Ultra-Efficient Deep Neural Network for Embedded
Systems
- Title（参考訳）: CondenseNeXt:組み込みシステムのための超効率的なディープニューラルネットワーク
- Authors: Priyank Kalgaonkar, Mohamed El-Sharkawy
- Abstract要約: 畳み込みニューラルネットワーク(英: Convolutional Neural Network, CNN)は、画像センサが捉えた視覚画像の分析に広く用いられているディープニューラルネットワーク(DNN)のクラスである。
本稿では,組込みシステム上でのリアルタイム推論のために,既存のCNNアーキテクチャの性能を改善するために,深層畳み込みニューラルネットワークアーキテクチャの新しい変種を提案する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Due to the advent of modern embedded systems and mobile devices with
constrained resources, there is a great demand for incredibly efficient deep
neural networks for machine learning purposes. There is also a growing concern
of privacy and confidentiality of user data within the general public when
their data is processed and stored in an external server which has further
fueled the need for developing such efficient neural networks for real-time
inference on local embedded systems. The scope of our work presented in this
paper is limited to image classification using a convolutional neural network.
A Convolutional Neural Network (CNN) is a class of Deep Neural Network (DNN)
widely used in the analysis of visual images captured by an image sensor,
designed to extract information and convert it into meaningful representations
for real-time inference of the input data. In this paper, we propose a neoteric
variant of deep convolutional neural network architecture to ameliorate the
performance of existing CNN architectures for real-time inference on embedded
systems. We show that this architecture, dubbed CondenseNeXt, is remarkably
efficient in comparison to the baseline neural network architecture,
CondenseNet, by reducing trainable parameters and FLOPs required to train the
network whilst maintaining a balance between the trained model size of less
than 3.0 MB and accuracy trade-off resulting in an unprecedented computational
efficiency.
- Abstract（参考訳）: 制約のあるリソースを持つ現代的な組み込みシステムとモバイルデバイスの出現により、機械学習のために驚くほど効率的なディープニューラルネットワークが求められている。
また、データが処理され外部サーバに格納された場合、一般の利用者データのプライバシーと機密性への懸念が高まり、ローカル組み込みシステム上でのリアルタイム推論のための効率的なニューラルネットワークの開発の必要性がさらに高まっている。
本稿では,畳み込みニューラルネットワークを用いた画像分類について述べる。
畳み込みニューラルネットワーク(英: Convolutional Neural Network, CNN)は、画像センサが捉えた視覚画像の分析に広く用いられているディープニューラルネットワーク(DNN)の一種で、情報を抽出し、入力データのリアルタイム推論のための意味のある表現に変換するように設計されている。
本稿では,組込みシステム上でのリアルタイム推論のための既存のcnnアーキテクチャの性能を改善するために,ディープ畳み込みニューラルネットワークアーキテクチャのネオテリック変種を提案する。
CondenseNeXtと呼ばれるこのアーキテクチャは、トレーニング可能なパラメータとFLOPを削減し、トレーニングされたモデルサイズが3.0MB未満と精度のトレードオフのバランスを維持しながら、前例のない計算効率を実現することにより、ベースラインニューラルネットワークアーキテクチャであるCondenseNetと比較して極めて効率的であることを示す。
関連論文リスト
- Simultaneous Weight and Architecture Optimization for Neural Networks [6.2241272327831485]
アーキテクチャとパラメータを勾配降下と同時に学習することで、プロセスを変換する新しいニューラルネットワークトレーニングフレームワークを導入する。
このアプローチの中心はマルチスケールエンコーダデコーダで、エンコーダは互いに近くにある同様の機能を持つニューラルネットワークのペアを埋め込む。
実験により、我々のフレームワークは、高性能を維持しているスパースでコンパクトなニューラルネットワークを発見できることを示した。
論文 参考訳（メタデータ） (2024-10-10T19:57:36Z) - EvSegSNN: Neuromorphic Semantic Segmentation for Event Data [0.6138671548064356]
EvSegSNN は、Parametric Leaky Integrate と Fire のニューロンに依存した、生物学的に検証可能なエンコーダ-デコーダU字型アーキテクチャである。
本稿では,スパイキングニューラルネットワークとイベントカメラを組み合わせることによって,エンド・ツー・エンドのバイオインスパイアされたセマンティックセマンティックセマンティクス手法を提案する。
DDD17で実施された実験は、EvSegSNNがMIoUの観点から最も近い最先端モデルを上回っていることを示している。
論文 参考訳（メタデータ） (2024-06-20T10:36:24Z) - Variable Bitrate Neural Fields [75.24672452527795]
本稿では,特徴格子を圧縮し,メモリ消費を最大100倍に削減する辞書手法を提案する。
辞書の最適化をベクトル量子化オートデコーダ問題として定式化し、直接監督できない空間において、エンドツーエンドの離散神経表現を学習する。
論文 参考訳（メタデータ） (2022-06-15T17:58:34Z) - HyBNN and FedHyBNN: (Federated) Hybrid Binary Neural Networks [0.0]
新しいハイブリッドニューラルネットワークアーキテクチャHybrid Binary Neural Network (Hybrid Binary Neural Network, HyBNN)を導入する。
HyBNNは、タスク非依存、一般、完全精度の変動型オートエンコーダと、タスク固有のバイナリニューラルネットワークで構成されている。
提案システムは,入力バイナライゼーションにより,バニラバイナリニューラルネットワークを著しく上回る性能を有することを示す。
論文 参考訳（メタデータ） (2022-05-19T20:27:01Z) - Hybrid SNN-ANN: Energy-Efficient Classification and Object Detection for
Event-Based Vision [64.71260357476602]
イベントベースの視覚センサは、画像フレームではなく、イベントストリームの局所的な画素単位の明るさ変化を符号化する。
イベントベースセンサーによる物体認識の最近の進歩は、ディープニューラルネットワークの変換によるものである。
本稿では、イベントベースのパターン認識とオブジェクト検出のためのディープニューラルネットワークのエンドツーエンドトレーニングのためのハイブリッドアーキテクチャを提案する。
論文 参考訳（メタデータ） (2021-12-06T23:45:58Z) - EffCNet: An Efficient CondenseNet for Image Classification on NXP
BlueBox [0.0]
エッジデバイスは、安価なハードウェアと限られた冷却と計算資源のために、限られた処理能力を提供する。
我々はエッジデバイスのためのEffCNetと呼ばれる新しいディープ畳み込みニューラルネットワークアーキテクチャを提案する。
論文 参考訳（メタデータ） (2021-11-28T21:32:31Z) - A novel Deep Neural Network architecture for non-linear system
identification [78.69776924618505]
非線形システム識別のための新しいDeep Neural Network (DNN)アーキテクチャを提案する。
メモリシステムにインスパイアされたインダクティブバイアス(アーキテクチャ)と正規化(損失関数)を導入する。
このアーキテクチャは、利用可能なデータのみに基づいて、自動的な複雑性の選択を可能にする。
論文 参考訳（メタデータ） (2021-06-06T10:06:07Z) - Learning from Event Cameras with Sparse Spiking Convolutional Neural
Networks [0.0]
畳み込みニューラルネットワーク(CNN)は現在、コンピュータビジョン問題のデファクトソリューションとなっている。
イベントカメラとスピーキングニューラルネットワーク(SNN)を用いたエンドツーエンドの生物学的インスパイアされたアプローチを提案する。
この手法は、一般的なディープラーニングフレームワークPyTorchを使用して、イベントデータに直接スパーススパイクニューラルネットワークのトレーニングを可能にする。
論文 参考訳（メタデータ） (2021-04-26T13:52:01Z) - Binary Graph Neural Networks [69.51765073772226]
グラフニューラルネットワーク(gnns)は、不規則データに対する表現学習のための強力で柔軟なフレームワークとして登場した。
本稿では,グラフニューラルネットワークのバイナライゼーションのための異なる戦略を提示し,評価する。
モデルの慎重な設計とトレーニングプロセスの制御によって、バイナリグラフニューラルネットワークは、挑戦的なベンチマークの精度において、適度なコストでトレーニングできることを示しています。
論文 参考訳（メタデータ） (2020-12-31T18:48:58Z) - Modeling from Features: a Mean-field Framework for Over-parameterized
Deep Neural Networks [54.27962244835622]
本稿では、オーバーパラメータ化ディープニューラルネットワーク(DNN)のための新しい平均場フレームワークを提案する。
このフレームワークでは、DNNは連続的な極限におけるその特徴に対する確率測度と関数によって表現される。
本稿では、標準DNNとResidual Network(Res-Net)アーキテクチャを通してフレームワークを説明する。
論文 参考訳（メタデータ） (2020-07-03T01:37:16Z) - Progressive Tandem Learning for Pattern Recognition with Deep Spiking
Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。
高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文 参考訳（メタデータ） (2020-07-02T15:38:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。