論文の概要: Topology Optimization of Random Memristors for Input-Aware Dynamic SNN

• arxiv url: http://arxiv.org/abs/2407.18625v1
• Date: Fri, 26 Jul 2024 09:35:02 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-29 13:50:27.558344
• Title: Topology Optimization of Random Memristors for Input-Aware Dynamic SNN
• Title（参考訳）: 入力対応動的SNNのためのランダム・メミュレータの位相最適化
• Authors: Bo Wang, Shaocong Wang, Ning Lin, Yi Li, Yifei Yu, Yue Zhang, Jichang Yang, Xiaoshan Wu, Yangu He, Songqi Wang, Rui Chen, Guoqi Li, Xiaojuan Qi, Zhongrui Wang, Dashan Shang,
• Abstract要約: 入力対応動的旋回型スパイクニューラルネットワーク(PRIME)のプルーニング最適化について紹介する。 信号表現の面では、PRIMEは脳固有のスパイキング機構をエミュレートするために、漏れやすい統合と発火のニューロンを使用する。 計算深度の動的調整にインスパイアされた再構成性のために、PRIMEは入力対応の動的早期停止ポリシーを採用している。
• 参考スコア（独自算出の注目度）: 44.38472635536787
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: There is unprecedented development in machine learning, exemplified by recent large language models and world simulators, which are artificial neural networks running on digital computers. However, they still cannot parallel human brains in terms of energy efficiency and the streamlined adaptability to inputs of different difficulties, due to differences in signal representation, optimization, run-time reconfigurability, and hardware architecture. To address these fundamental challenges, we introduce pruning optimization for input-aware dynamic memristive spiking neural network (PRIME). Signal representation-wise, PRIME employs leaky integrate-and-fire neurons to emulate the brain's inherent spiking mechanism. Drawing inspiration from the brain's structural plasticity, PRIME optimizes the topology of a random memristive spiking neural network without expensive memristor conductance fine-tuning. For runtime reconfigurability, inspired by the brain's dynamic adjustment of computational depth, PRIME employs an input-aware dynamic early stop policy to minimize latency during inference, thereby boosting energy efficiency without compromising performance. Architecture-wise, PRIME leverages memristive in-memory computing, mirroring the brain and mitigating the von Neumann bottleneck. We validated our system using a 40 nm 256 Kb memristor-based in-memory computing macro on neuromorphic image classification and image inpainting. Our results demonstrate the classification accuracy and Inception Score are comparable to the software baseline, while achieving maximal 62.50-fold improvements in energy efficiency, and maximal 77.0% computational load savings. The system also exhibits robustness against stochastic synaptic noise of analogue memristors. Our software-hardware co-designed model paves the way to future brain-inspired neuromorphic computing with brain-like energy efficiency and adaptivity.
• Abstract（参考訳）: 最近の大規模言語モデルや、デジタルコンピュータ上で動作する人工ニューラルネットワークである世界シミュレータによって実証された機械学習は、前例のない発展を遂げている。 しかし、信号表現、最適化、実行時の再構成性、ハードウェアアーキテクチャの違いにより、エネルギー効率や異なる困難さの入力への適応性の合理化という点では、人間の脳の並列化は依然として不可能である。 このような根本的な課題に対処するために,入力対応動的旋律スパイクニューラルネットワーク(PRIME)のプルーニング最適化を導入する。 信号表現の面では、PRIMEは脳固有のスパイキング機構をエミュレートするために、漏れやすい統合と発火のニューロンを使用する。 脳の構造的可塑性からインスピレーションを得たPRIMEは、高価なメムリスタコンダクタンスを微調整せずにランダムなメムリシブスパイクニューラルネットワークのトポロジーを最適化する。 計算深度の動的調整にインスパイアされた実行時再構成性のために、PRIMEはインプット対応の動的早期停止ポリシーを採用し、推論中の遅延を最小化し、性能を損なうことなくエネルギー効率を向上する。 アーキテクチャの面では、PRIMEはメモリ内コンピューティングを利用して、脳をミラーリングし、フォン・ノイマンのボトルネックを緩和する。 我々は40nm 256 Kb memristor-based in-Memory computing macro on neuromorphic image classification and image inpainting。 その結果,分類精度とインセプションスコアはソフトウェアベースラインに匹敵するが,エネルギー効率は62.50倍,計算負荷は77.0%向上した。 また, アナログメムリスタの確率的シナプス雑音に対して頑健性を示す。 私たちのソフトウェアハードウェアの共同設計モデルは、脳に似たエネルギー効率と適応性を備えた、未来の脳にインスパイアされたニューロモルフィックコンピューティングへの道を開くものです。

関連論文リスト

• Efficient and accurate neural field reconstruction using resistive memory [52.68088466453264]
  デジタルコンピュータにおける従来の信号再構成手法は、ソフトウェアとハードウェアの両方の課題に直面している。 本稿では,スパース入力からの信号再構成のためのソフトウェア・ハードウェア協調最適化を用いた体系的アプローチを提案する。 この研究は、AI駆動の信号復元技術を進歩させ、将来の効率的で堅牢な医療AIと3Dビジョンアプリケーションへの道を開く。
  論文  参考訳（メタデータ） (2024-04-15T09:33:09Z)
• Resistive Memory-based Neural Differential Equation Solver for Score-based Diffusion Model [55.116403765330084]
  スコアベースの拡散のような現在のAIGC法は、迅速性と効率性の点で依然として不足している。 スコアベース拡散のための時間連続型およびアナログ型インメモリ型ニューラル微分方程式解法を提案する。 我々は180nmの抵抗型メモリインメモリ・コンピューティング・マクロを用いて,我々の解を実験的に検証した。
  論文  参考訳（メタデータ） (2024-04-08T16:34:35Z)
• Single Neuromorphic Memristor closely Emulates Multiple Synaptic Mechanisms for Energy Efficient Neural Networks [71.79257685917058]
  我々はこれらのシナプス機能を本質的にエミュレートするSrTiO3に基づく膜状ナノデバイスを実証する。 これらのメムリスタは、安定かつエネルギー効率の良い運転を可能にする非定常低導電系で機能する。
  論文  参考訳（メタデータ） (2024-02-26T15:01:54Z)
• Pruning random resistive memory for optimizing analogue AI [54.21621702814583]
  AIモデルは、エネルギー消費と環境持続可能性に前例のない課題を提示する。 有望な解決策の1つは、アナログコンピューティングを再考することである。 ここでは、構造的塑性に着想を得たエッジプルーニングを用いたユニバーサルソリューション、ソフトウェア・ハードウエアの共設計について報告する。
  論文  参考訳（メタデータ） (2023-11-13T08:59:01Z)
• Biologically Plausible Learning on Neuromorphic Hardware Architectures [27.138481022472]
  ニューロモルフィックコンピューティング(Neuromorphic Computing)は、アナログメモリの計算によってこの不均衡に直面している新興パラダイムである。 この研究は、異なる学習アルゴリズムがCompute-In-Memoryベースのハードウェアに与える影響を初めて比較し、その逆も行った。
  論文  参考訳（メタデータ） (2022-12-29T15:10:59Z)
• Sequence learning in a spiking neuronal network with memristive synapses [0.0]
  脳計算の中心にある中核的な概念は、シーケンス学習と予測である。 ニューロモルフィックハードウェアは、脳が情報を処理する方法をエミュレートし、ニューロンとシナプスを直接物理的基質にマッピングする。 シークエンス学習モデルにおける生物学的シナプスの代替としてReRAMデバイスを使用することの可能性について検討する。
  論文  参考訳（メタデータ） (2022-11-29T21:07:23Z)
• Optimizing Memory Placement using Evolutionary Graph Reinforcement Learning [56.83172249278467]
  大規模検索空間を対象とした進化グラフ強化学習(EGRL)を提案する。 我々は、推論のために、Intel NNP-Iチップ上で、我々のアプローチを直接訓練し、検証する。 また,NNP-Iコンパイラと比較して28～78%の高速化を実現している。
  論文  参考訳（メタデータ） (2020-07-14T18:50:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。