論文の概要: HYPER-SNN: Towards Energy-efficient Quantized Deep Spiking Neural
Networks for Hyperspectral Image Classification
- arxiv url: http://arxiv.org/abs/2107.11979v2
- Date: Wed, 28 Jul 2021 06:17:55 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-20 21:44:34.548951
- Title: HYPER-SNN: Towards Energy-efficient Quantized Deep Spiking Neural
Networks for Hyperspectral Image Classification
- Title（参考訳）: HYPER-SNN:ハイパースペクトル画像分類のためのエネルギー効率の高い量子化ディープスパイクニューラルネットワークを目指して
- Authors: Gourav Datta, Souvik Kundu, Akhilesh R. Jaiswal, Peter A. Beerel
- Abstract要約: スパイキングニューラルネットワーク(SNN)は、重量、膜漏れ、発射閾値を最適化するために量子化対応の勾配降下を訓練する。
トレーニングと推論の両方の間、HSIのアナログ画素値はスパイクトレインに変換することなくSNNの入力層に直接適用される。
3次元および3次元/2次元ハイブリッド畳み込みアーキテクチャ上での3つのHSIデータセットを用いて提案手法の評価を行った。
- 参考スコア（独自算出の注目度）: 5.094623170336122
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Hyper spectral images (HSI) provide rich spectral and spatial information
across a series of contiguous spectral bands. However, the accurate processing
of the spectral and spatial correlation between the bands requires the use of
energy-expensive 3-D Convolutional Neural Networks (CNNs). To address this
challenge, we propose the use of Spiking Neural Networks (SNNs) that are
generated from iso-architecture CNNs and trained with quantization-aware
gradient descent to optimize their weights, membrane leak, and firing
thresholds. During both training and inference, the analog pixel values of a
HSI are directly applied to the input layer of the SNN without the need to
convert to a spike-train. The reduced latency of our training technique
combined with high activation sparsity yields significant improvements in
computational efficiency. We evaluate our proposal using three HSI datasets on
a 3-D and a 3-D/2-D hybrid convolutional architecture. We achieve overall
accuracy, average accuracy, and kappa coefficient of 98.68%, 98.34%, and 98.20%
respectively with 5 time steps (inference latency) and 6-bit weight
quantization on the Indian Pines dataset. In particular, our models achieved
accuracies similar to state-of-the-art (SOTA) with 560.6 and 44.8 times less
compute energy on average over three HSI datasets than an iso-architecture
full-precision and 6-bit quantized CNN, respectively.
- Abstract（参考訳）: ハイパースペクトル画像(HSI)は、一連の連続スペクトル帯域にわたって豊富なスペクトルと空間情報を提供する。
しかしながら、バンド間のスペクトルおよび空間相関の正確な処理には、エネルギー膨張型3次元畳み込みニューラルネットワーク(cnns)を使用する必要がある。
そこで本研究では,iso-architecture cnnから生成されたスパイキングニューラルネットワーク(snn)を用いて,重量,膜漏出,発火閾値を最適化するために量子化・アウェア勾配降下を訓練することを提案する。
トレーニングと推論の両方の間、HSIのアナログ画素値はスパイクトレインに変換することなくSNNの入力層に直接適用される。
トレーニング手法のレイテンシ低減と高いアクティベーション間隔の併用により,計算効率が大幅に向上した。
3次元のHSIデータセットと3次元/2次元のハイブリッド畳み込みアーキテクチャを用いて提案手法の評価を行った。
本研究では,インドパインズデータセット上での5つの時間ステップ(平均遅延)と6ビット重み量子化により,合計精度,平均精度,kappa係数を98.68%,98.34%,98.20%とした。
特に、我々のモデルは560.6と44.8の計算エネルギーを平均3つのHSIデータセットで比較すると、イソアーキテクチャの完全精度と6ビットの量子化CNNよりも低い精度で達成した。
関連論文リスト
- TENNs-PLEIADES: Building Temporal Kernels with Orthogonal Polynomials [1.1970409518725493]
低レイテンシでオンライン分類と検出を行うために、これらのネットワークをイベントベースのデータで相互接続することに重点を置いている。
我々は3つのイベントベースのベンチマークを実験し、メモリと計算コストを大幅に削減した大きなマージンで3つすべてに対して最先端の結果を得た。
論文 参考訳（メタデータ） (2024-05-20T17:06:24Z) - Sharpend Cosine Similarity based Neural Network for Hyperspectral Image
Classification [0.456877715768796]
ハイパースペクトル画像分類(HSIC)は、高いクラス間類似度と変動性、ネスト領域、重なり合いのため難しい課題である。
2D畳み込みニューラルネットワーク(CNN)は有効なネットワークとして登場したが、3D CNNは正確な分類のため、より良い代替手段である。
本稿では,HSICのためのニューラルネットワークにおける畳み込みの代替として,SCS(Sharpened Cosine similarity)の概念を紹介する。
論文 参考訳（メタデータ） (2023-05-26T07:04:00Z) - NAF: Neural Attenuation Fields for Sparse-View CBCT Reconstruction [79.13750275141139]
本稿では,スパースビューCBCT再構成のための新規かつ高速な自己教師型ソリューションを提案する。
所望の減衰係数は、3次元空間座標の連続関数として表現され、完全に接続されたディープニューラルネットワークによってパラメータ化される。
ハッシュ符号化を含む学習ベースのエンコーダが採用され、ネットワークが高周波の詳細をキャプチャするのに役立つ。
論文 参考訳（メタデータ） (2022-09-29T04:06:00Z) - Learning A 3D-CNN and Transformer Prior for Hyperspectral Image
Super-Resolution [80.93870349019332]
本稿では,CNN の代わりに Transformer を用いて HSI の事前学習を行う新しい HSISR 手法を提案する。
具体的には、まず勾配アルゴリズムを用いてHSISRモデルを解き、次に展開ネットワークを用いて反復解過程をシミュレートする。
論文 参考訳（メタデータ） (2021-11-27T15:38:57Z) - A New Backbone for Hyperspectral Image Reconstruction [90.48427561874402]
3次元ハイパースペクトル画像(HSI)再構成は、スナップショット圧縮画像の逆過程を指す。
空間/スペクトル不変Residual U-Net、すなわちSSI-ResU-Netを提案する。
SSI-ResU-Net は浮動小数点演算の 77.3% 以上で競合する性能を実現する。
論文 参考訳（メタデータ） (2021-08-17T16:20:51Z) - ANNETTE: Accurate Neural Network Execution Time Estimation with Stacked
Models [56.21470608621633]
本稿では,アーキテクチャ検索を対象ハードウェアから切り離すための時間推定フレームワークを提案する。
提案手法は,マイクロカーネルと多層ベンチマークからモデルの集合を抽出し,マッピングとネットワーク実行時間推定のためのスタックモデルを生成する。
生成した混合モデルの推定精度と忠実度, 統計モデルとルーフラインモデル, 評価のための洗練されたルーフラインモデルを比較した。
論文 参考訳（メタデータ） (2021-05-07T11:39:05Z) - Hyperspectral Image Classification: Artifacts of Dimension Reduction on
Hybrid CNN [1.2875323263074796]
2Dおよび3DCNNモデルは、ハイパースペクトル画像の空間的およびスペクトル情報を利用するのに非常に効率的であることが証明されている。
この研究は、計算コストを大幅に削減する軽量CNN(3Dと2D-CNN)モデルを提案した。
論文 参考訳（メタデータ） (2021-01-25T18:43:57Z) - Hyperspectral Classification Based on Lightweight 3-D-CNN With Transfer
Learning [67.40866334083941]
限定サンプルに基づくHSI分類のためのエンドツーエンドの3次元軽量畳み込みニューラルネットワーク(CNN)を提案する。
従来の3D-CNNモデルと比較して,提案した3D-LWNetはネットワーク構造が深く,パラメータが小さく,計算コストも低い。
本モデルでは,HSI分類の競合性能を,いくつかの最先端手法と比較した。
論文 参考訳（メタデータ） (2020-12-07T03:44:35Z) - Hyperspectral Image Classification with Spatial Consistence Using Fully
Convolutional Spatial Propagation Network [9.583523548244683]
深部畳み込みニューラルネットワーク(CNN)は、高スペクトル画像(HSI)を表現できる印象的な能力を示している
本稿では,HSI分類のための新しいエンドツーエンドの画素間完全畳み込み空間伝搬ネットワーク(FCSPN)を提案する。
FCSPNは3次元完全畳み込みネットワーク(3D-FCN)と畳み込み空間伝播ネットワーク(CSPN)からなる。
論文 参考訳（メタデータ） (2020-08-04T09:05:52Z) - A Fast 3D CNN for Hyperspectral Image Classification [0.456877715768796]
ハイパースペクトルイメージング(HSI)は、多くの現実世界の用途に広く利用されている。
2次元畳み込みニューラルネットワーク(CNN)は、HSICがスペクトル空間情報の両方に大きく依存する、実行可能なアプローチである。
本研究は,空間スペクトル特徴写像を併用した3次元CNNモデルを提案する。
論文 参考訳（メタデータ） (2020-04-29T12:57:36Z) - Spatial-Spectral Residual Network for Hyperspectral Image
Super-Resolution [82.1739023587565]
ハイパースペクトル画像超解像のための新しいスペクトル空間残差ネットワーク(SSRNet)を提案する。
提案手法は,2次元畳み込みではなく3次元畳み込みを用いて空間スペクトル情報の探索を効果的に行うことができる。
各ユニットでは空間的・時間的分離可能な3次元畳み込みを用いて空間的・スペクトル的な情報を抽出する。
論文 参考訳（メタデータ） (2020-01-14T03:34:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。