論文の概要: Differentiable architecture search with multi-dimensional attention for spiking neural networks

• arxiv url: http://arxiv.org/abs/2411.00902v1
• Date: Fri, 01 Nov 2024 07:18:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-05 14:51:53.935589
• Title: Differentiable architecture search with multi-dimensional attention for spiking neural networks
• Title（参考訳）: スパイクニューラルネットワークのための多次元注意を用いた微分可能なアーキテクチャ探索
• Authors: Yilei Man, Linhai Xie, Shushan Qiao, Yumei Zhou, Delong Shang,
• Abstract要約: スパイキングニューラルネットワーク(SNN)は人工知能の分野で大きな人気を集めている。 SNN法の大部分は、ニューラルネットワーク(ANN)の構造を直接継承している。 本稿では,SNNの最適ネットワーク構造探索を直接自動化するために,MA-DARTS(Multi-Attention Differentiable Architecture Search)を提案する。
• 参考スコア（独自算出の注目度）: 4.318876451929319
• License:
• Abstract: Spiking Neural Networks (SNNs) have gained enormous popularity in the field of artificial intelligence due to their low power consumption. However, the majority of SNN methods directly inherit the structure of Artificial Neural Networks (ANN), usually leading to sub-optimal model performance in SNNs. To alleviate this problem, we integrate Neural Architecture Search (NAS) method and propose Multi-Attention Differentiable Architecture Search (MA-DARTS) to directly automate the search for the optimal network structure of SNNs. Initially, we defined a differentiable two-level search space and conducted experiments within micro architecture under a fixed layer. Then, we incorporated a multi-dimensional attention mechanism and implemented the MA-DARTS algorithm in this search space. Comprehensive experiments demonstrate our model achieves state-of-the-art performance on classification compared to other methods under the same parameters with 94.40% accuracy on CIFAR10 dataset and 76.52% accuracy on CIFAR100 dataset. Additionally, we monitored and assessed the number of spikes (NoS) in each cell during the whole experiment. Notably, the number of spikes of the whole model stabilized at approximately 110K in validation and 100k in training on datasets.
• Abstract（参考訳）: スパイキングニューラルネットワーク(SNN)は、低消費電力のため、人工知能の分野で大きな人気を集めている。 しかしながら、SNN手法の大多数は、ニューラルネットワーク(ANN)の構造を直接継承し、通常、SNNの準最適モデル性能に繋がる。 この問題を軽減するために,ニューラルネットワーク探索(NAS)手法とマルチアテンション微分可能なアーキテクチャ探索(MA-DARTS)を提案し,SNNの最適ネットワーク構造探索を直接自動化する。 当初,異なる2レベル探索空間を定義し,固定層下でマイクロアーキテクチャ内で実験を行った。 そこで我々は多次元アテンション機構を導入し,MA-DARTSアルゴリズムを探索空間に実装した。 CIFAR10データセットでは94.40%、CIFAR100データセットでは76.52%の精度で、同じパラメータの他の手法と比較して、我々のモデルは分類における最先端のパフォーマンスを実証した。 さらに,実験全体を通して各セルのスパイク数(NoS)を測定し,評価した。 特に、モデル全体のスパイクの数は、検証で約110K、データセットでのトレーニングで100kと安定しました。

関連論文リスト

• Spatial-Temporal Search for Spiking Neural Networks [32.937536365872745]
  スパイキングニューラルネットワーク(SNN)は、次世代人工知能の潜在的な候補と考えられている。 空間次元と時間次元の両方でSNNを最適化するための微分可能なアプローチを提案する。 本手法は,96.43%,78.96%,70.21%の精度でCIFAR10/100とImageNetの分類性能を比較検討した。
  論文  参考訳（メタデータ） (2024-10-24T09:32:51Z)
• Evolutionary Neural Architecture Search for 3D Point Cloud Analysis [0.6378824981027466]
  本稿では, 連続点干渉次元探索(SHSADE-PIDS)を用いた成功史に基づく自己適応微分進化法を提案する。 SHSADE-PIDSは、離散的なディープニューラルネットワークアーキテクチャを連続空間にエンコードし、効率的なポイントクラウドニューラルネットワークアーキテクチャのための連続空間での探索を実行する進化的NASフレームワークである。 挑戦的な3Dセグメンテーションと分類ベンチマークに関する総合的な実験は、SHSADE-PIDSの機能を示している。
  論文  参考訳（メタデータ） (2024-08-10T13:41:18Z)
• A Pairwise Comparison Relation-assisted Multi-objective Evolutionary Neural Architecture Search Method with Multi-population Mechanism [58.855741970337675]
  ニューラルアーキテクチャサーチ(NAS)により、リサーチ者は広大なサーチスペースを自動的に探索し、効率的なニューラルネットワークを見つけることができる。 NASは重要なボトルネックに悩まされており、探索プロセス中に多くのアーキテクチャを評価する必要がある。 SMEM-NASは,多集団構造に基づく多目的進化アルゴリズムである。
  論文  参考訳（メタデータ） (2024-07-22T12:46:22Z)
• Advancing Spiking Neural Networks towards Multiscale Spatiotemporal Interaction Learning [10.702093960098106]
  スパイキングニューラルネットワーク(SNN)は、ニューラルネットワーク(ANN)のエネルギー効率の良い代替品として機能する 我々は、マルチスケールの時間的相互作用情報をキャプチャするスパイキング・マルチスケール・アテンション(SMA)モジュールを設計した。 われわれのアプローチは、主流のニューラルネットワークで最先端の結果を得た。
  論文  参考訳（メタデータ） (2024-05-22T14:16:05Z)
• DCP-NAS: Discrepant Child-Parent Neural Architecture Search for 1-bit CNNs [53.82853297675979]
  バイナリ重みとアクティベーションを備えた1ビット畳み込みニューラルネットワーク(CNN)は、リソース制限された組み込みデバイスの可能性を示している。 自然なアプローチの1つは、NASの計算とメモリコストを削減するために1ビットCNNを使用することである。 本稿では,1ビットCNNを効率的に探索するためにDCP-NAS(Disrepant Child-Parent Neural Architecture Search)を提案する。
  論文  参考訳（メタデータ） (2023-06-27T11:28:29Z)
• Multi-scale Evolutionary Neural Architecture Search for Deep Spiking Neural Networks [7.271032282434803]
  スパイキングニューラルネットワーク(SNN)のためのマルチスケール進化型ニューラルネットワーク探索(MSE-NAS)を提案する。 MSE-NASは脳にインスパイアされた間接的評価機能であるRepresentational Dissimilarity Matrices(RDMs)を介して、個々のニューロンの操作、複数の回路モチーフの自己組織化の統合、およびグローバルなモチーフ間の接続を進化させる 提案アルゴリズムは,静的データセットとニューロモルフィックデータセットのシミュレーションステップを短縮して,最先端(SOTA)性能を実現する。
  論文  参考訳（メタデータ） (2023-04-21T05:36:37Z)
• Quantifying uncertainty for deep learning based forecasting and flow-reconstruction using neural architecture search ensembles [0.8258451067861933]
  本稿では,ディープニューラルネットワーク(DNN)の自動検出手法を提案するとともに,アンサンブルに基づく不確実性定量化にも有効であることを示す。 提案手法は,タスクの高パフォーマンスニューラルネットワークアンサンブルを検出するだけでなく,不確実性をシームレスに定量化する。 本研究では, 歴史的データからの予測と, 海面温度のスパースセンサからのフロー再構成という2つの課題に対して, この枠組みの有効性を実証する。
  論文  参考訳（メタデータ） (2023-02-20T03:57:06Z)
• D-DARTS: Distributed Differentiable Architecture Search [75.12821786565318]
  微分可能なArchiTecture Search(DARTS)は、最も流行しているニューラルネットワークサーチ(NAS)の1つである。 セルレベルで複数のニューラルネットワークをネストすることでこの問題に対処する新しいソリューションD-DARTSを提案する。
  論文  参考訳（メタデータ） (2021-08-20T09:07:01Z)
• ANNETTE: Accurate Neural Network Execution Time Estimation with Stacked Models [56.21470608621633]
  本稿では,アーキテクチャ検索を対象ハードウェアから切り離すための時間推定フレームワークを提案する。 提案手法は,マイクロカーネルと多層ベンチマークからモデルの集合を抽出し,マッピングとネットワーク実行時間推定のためのスタックモデルを生成する。 生成した混合モデルの推定精度と忠実度, 統計モデルとルーフラインモデル, 評価のための洗練されたルーフラインモデルを比較した。
  論文  参考訳（メタデータ） (2021-05-07T11:39:05Z)
• Neural Architecture Search For LF-MMI Trained Time Delay Neural Networks [61.76338096980383]
  TDNN(State-of-the-the-art Factored Time delay Neural Network)の2種類のハイパーパラメータを自動的に学習するために、さまざまなニューラルネットワークサーチ(NAS)技術が使用されている。 DARTSメソッドはアーキテクチャ選択とLF-MMI(格子のないMMI)TDNNトレーニングを統合する。 300時間のSwitchboardコーパスで行われた実験では、自動構成システムはベースラインLF-MMI TDNNシステムより一貫して優れていることが示唆された。
  論文  参考訳（メタデータ） (2020-07-17T08:32:11Z)
• DC-NAS: Divide-and-Conquer Neural Architecture Search [108.57785531758076]
  本稿では,ディープ・ニューラル・アーキテクチャーを効果的かつ効率的に探索するためのディバイド・アンド・コンカ(DC)手法を提案する。 ImageNetデータセットで75.1%の精度を達成しており、これは同じ検索空間を使った最先端の手法よりも高い。
  論文  参考訳（メタデータ） (2020-05-29T09:02:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。