論文の概要: Genetic Motifs as a Blueprint for Mismatch-Tolerant Neuromorphic Computing
- arxiv url: http://arxiv.org/abs/2410.19403v1
- Date: Fri, 25 Oct 2024 09:04:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-28 13:37:31.457830
- Title: Genetic Motifs as a Blueprint for Mismatch-Tolerant Neuromorphic Computing
- Title(参考訳): ミスマッチ耐性ニューロモルフィックコンピューティングのためのブループリントとしての遺伝子モチーフ
- Authors: Tommaso Boccato, Dmitrii Zendrikov, Nicola Toschi, Giacomo Indiveri,
- Abstract要約: SNNの混合信号実装はエッジコンピューティングアプリケーションに有望なソリューションを提供する。
これらのニューロモルフィックプロセッサのアナログ回路におけるデバイスミスマッチは、堅牢な処理の展開に重大な課題をもたらす。
この問題に対処するために,生物開発に触発された新しいアーキテクチャソリューションを導入する。
- 参考スコア(独自算出の注目度): 1.8292454465322363
- License:
- Abstract: Mixed-signal implementations of SNNs offer a promising solution to edge computing applications that require low-power and compact embedded processing systems. However, device mismatch in the analog circuits of these neuromorphic processors poses a significant challenge to the deployment of robust processing in these systems. Here we introduce a novel architectural solution inspired by biological development to address this issue. Specifically we propose to implement architectures that incorporate network motifs found in developed brains through a differentiable re-parameterization of weight matrices based on gene expression patterns and genetic rules. Thanks to the gradient descent optimization compatibility of the method proposed, we can apply the robustness of biological neural development to neuromorphic computing. To validate this approach we benchmark it using the Yin-Yang classification dataset, and compare its performance with that of standard multilayer perceptrons trained with state-of-the-art hardware-aware training method. Our results demonstrate that the proposed method mitigates mismatch-induced noise without requiring precise device mismatch measurements, effectively outperforming alternative hardware-aware techniques proposed in the literature, and providing a more general solution for improving the robustness of SNNs in neuromorphic hardware.
- Abstract(参考訳): SNNの混合信号実装は、低消費電力でコンパクトな組み込み処理システムを必要とするエッジコンピューティングアプリケーションに対して、有望なソリューションを提供する。
しかしながら、これらのニューロモルフィックプロセッサのアナログ回路におけるデバイスミスマッチは、これらのシステムにおけるロバスト処理の展開に重大な課題をもたらす。
ここでは、この問題に対処するために、生物開発にインスパイアされた、新しいアーキテクチャソリューションを紹介します。
具体的には、遺伝子発現パターンと遺伝的規則に基づく体重行列の再パラメータ化により、発達した脳のネットワークモチーフを組み込んだアーキテクチャを実装することを提案する。
提案手法の勾配勾配勾配最適化との整合性により, 生体神経発達の堅牢性をニューロモルフィックコンピューティングに適用することができる。
このアプローチを検証するために,Yin-Yang分類データセットを用いてベンチマークを行い,その性能を最先端のハードウェア認識トレーニング手法でトレーニングされた標準多層パーセプトロンと比較した。
提案手法は, 高精度なデバイスミスマッチ測定を必要とせずに, ミスマッチによるノイズを軽減し, 文献で提案する代替ハードウェア認識手法を効果的に上回り, ニューロモルフィックハードウェアにおけるSNNの堅牢性向上のためのより一般的なソリューションを提供する。
関連論文リスト
- Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。
既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。
ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-29T19:02:54Z) - A Realistic Simulation Framework for Analog/Digital Neuromorphic Architectures [73.65190161312555]
ARCANAは、混合信号ニューロモルフィック回路の特性を考慮に入れたスパイクニューラルネットワークシミュレータである。
その結果,ソフトウェアでトレーニングしたスパイクニューラルネットワークの挙動を,信頼性の高い推定結果として提示した。
論文 参考訳(メタデータ) (2024-09-23T11:16:46Z) - Adaptive Error-Bounded Hierarchical Matrices for Efficient Neural Network Compression [0.0]
本稿では,物理インフォームドニューラルネットワーク(PINN)に適した動的,エラーバウンドな階層行列 (H-matrix) 圧縮手法を提案する。
提案手法は,ニューラル・タンジェント・カーネル(NTK)の本質的性質を保ちながら,大規模物理モデルにおける計算複雑性とメモリ要求を低減させる。
実験により, この手法は, 高精度を維持し, 一般化能力を向上させることにより, Singular Value Decomposition (SVD) やプルーニング, 量子化などの従来の圧縮手法よりも優れていることを示した。
論文 参考訳(メタデータ) (2024-09-11T05:55:51Z) - Evolving Connectivity for Recurrent Spiking Neural Networks [8.80300633999542]
リカレントニューラルネットワーク(RSNN)は、人工知能の進歩に大きな可能性を秘めている。
本稿では、RSNNをトレーニングするための推論のみの手法である、進化的接続性(EC)フレームワークを提案する。
論文 参考訳(メタデータ) (2023-05-28T07:08:25Z) - A Hybrid Neural Coding Approach for Pattern Recognition with Spiking
Neural Networks [53.31941519245432]
脳にインスパイアされたスパイクニューラルネットワーク(SNN)は、パターン認識タスクを解く上で有望な能力を示している。
これらのSNNは、情報表現に一様神経コーディングを利用する同質ニューロンに基づいている。
本研究では、SNNアーキテクチャは異種符号化方式を組み込むよう、均質に設計されるべきである、と論じる。
論文 参考訳(メタデータ) (2023-05-26T02:52:12Z) - End-to-End Meta-Bayesian Optimisation with Transformer Neural Processes [52.818579746354665]
本稿では,ニューラルネットワークを一般化し,トランスフォーマーアーキテクチャを用いて獲得関数を学習する,エンド・ツー・エンドの差別化可能な最初のメタBOフレームワークを提案する。
我々は、この強化学習(RL)によるエンドツーエンドのフレームワークを、ラベル付き取得データの欠如に対処できるようにします。
論文 参考訳(メタデータ) (2023-05-25T10:58:46Z) - NeuroBench: A Framework for Benchmarking Neuromorphic Computing
Algorithms and Systems [51.8066436083197]
NeuroBenchは、ニューロモルフィックコンピューティングアルゴリズムとシステムのベンチマークフレームワークである。
NeuroBenchは、業界とアカデミックの50以上の機関で100人近い共著者からなるオープンコミュニティから共同で設計された取り組みである。
論文 参考訳(メタデータ) (2023-04-10T15:12:09Z) - Gradient-descent hardware-aware training and deployment for mixed-signal
Neuromorphic processors [2.812395851874055]
混合信号ニューロモルフィックプロセッサはエッジ推論ワークロードに対して極めて低消費電力な演算を提供する。
我々は、混合信号型ニューロモルフィックプロセッサDYNAP-SE2へのスパイキングニューラルネットワーク(SNN)の訓練と展開のための新しい手法を実証する。
論文 参考訳(メタデータ) (2023-03-14T08:56:54Z) - Adaptive Anomaly Detection for Internet of Things in Hierarchical Edge
Computing: A Contextual-Bandit Approach [81.5261621619557]
階層エッジコンピューティング(HEC)を用いた適応型異常検出手法を提案する。
まず,複雑性を増した複数のDNNモデルを構築し,それぞれを対応するHEC層に関連付ける。
そこで我々は、文脈帯域問題として定式化され、強化学習ポリシーネットワークを用いて解決される適応モデル選択スキームを設計する。
論文 参考訳(メタデータ) (2021-08-09T08:45:47Z) - Supervised training of spiking neural networks for robust deployment on
mixed-signal neuromorphic processors [2.6949002029513167]
混合信号アナログ/デジタル電子回路はスパイキングニューロンやシナプスを非常に高いエネルギー効率でエミュレートすることができる。
ミスマッチは、同一構成ニューロンとシナプスの効果的なパラメータの違いとして表現される。
ミスマッチに対する堅牢性や,その他の一般的なノイズ源を最大化することで,この課題に対処する,教師付き学習アプローチを提案する。
論文 参考訳(メタデータ) (2021-02-12T09:20:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。