論文の概要: A feedback control optimizer for online and hardware-aware training of Spiking Neural Networks
- arxiv url: http://arxiv.org/abs/2602.13261v1
- Date: Tue, 03 Feb 2026 10:08:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-23 12:01:13.593981
- Title: A feedback control optimizer for online and hardware-aware training of Spiking Neural Networks
- Title(参考訳): スパイキングニューラルネットワークのオンラインおよびハードウェア対応トレーニングのためのフィードバック制御オプティマイザ
- Authors: Matteo Saponati, Chiara De Luca, Giacomo Indiveri, Benjamin Grewe,
- Abstract要約: 本稿では、スパイクに基づく重み更新とフィードバック制御信号を統合する混合信号デバイス上でのスパイキングニューラルネットワーク(SNN)の新しい学習アルゴリズムを提案する。
我々のフレームワークでは、スパイキングコントローラがフィードバック信号を生成し、SNNアクティビティをガイドし、ウェイトアップデートを駆動し、スケーラブルでローカルなオンチップ学習を可能にする。
- 参考スコア(独自算出の注目度): 0.5512626046125358
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Unlike traditional artificial neural networks (ANNs), biological neuronal networks solve complex cognitive tasks with sparse neuronal activity, recurrent connections, and local learning rules. These mechanisms serve as design principles in Neuromorphic computing, which addresses the critical challenge of energy consumption in modern computing. However, most mixed-signal neuromorphic devices rely on semi- or unsupervised learning rules, which are ineffective for optimizing hardware in supervised learning tasks. This lack of scalable solutions for on-chip learning restricts the potential of mixed-signal devices to enable sustainable, intelligent edge systems. To address these challenges, we present a novel learning algorithm for Spiking Neural Networks (SNNs) on mixed-signal devices that integrates spike-based weight updates with feedback control signals. In our framework, a spiking controller generates feedback signals to guide SNN activity and drive weight updates, enabling scalable and local on-chip learning. We first evaluate the algorithm on various classification tasks, demonstrating that single-layer SNNs trained with feedback control achieve performance comparable to artificial neural networks (ANNs). We then assess its implementation on mixed-signal neuromorphic devices by testing network performance in continuous online learning scenarios and evaluating resilience to hyperparameter mismatches. Our results show that the feedback control optimizer is compatible with neuromorphic applications, advancing the potential for scalable, on-chip learning solutions in edge applications.
- Abstract(参考訳): 従来の人工ニューラルネットワーク(ANN)とは異なり、生物学的ニューラルネットワークは、疎い神経活動、繰り返し接続、局所学習規則による複雑な認知タスクを解決している。
これらのメカニズムはニューロモルフィックコンピューティングの設計原則として機能し、現代のコンピューティングにおけるエネルギー消費の重要な課題に対処する。
しかし、ほとんどの混合信号ニューロモルフィックデバイスは、半教師なし学習ルールに依存しており、教師付き学習タスクにおけるハードウェアの最適化には効果がない。
このオンチップ学習のためのスケーラブルなソリューションの欠如は、持続可能なインテリジェントエッジシステムを実現するために、混合信号デバイスの可能性を制限する。
これらの課題に対処するために、スパイクベースの重み更新とフィードバック制御信号を統合する混合信号デバイス上でのスパイクニューラルネットワーク(SNN)の新しい学習アルゴリズムを提案する。
我々のフレームワークでは、スパイキングコントローラがフィードバック信号を生成し、SNNアクティビティをガイドし、ウェイトアップデートを駆動し、スケーラブルでローカルなオンチップ学習を可能にする。
まず,フィードバック制御で訓練した単層SNNが人工ニューラルネットワーク(ANN)に匹敵する性能を発揮することを示す。
次に、連続的なオンライン学習シナリオにおけるネットワーク性能のテストと、ハイパーパラメータミスマッチに対するレジリエンスの評価により、混合信号ニューロモルフィックデバイスの実装を評価する。
以上の結果から,フィードバック制御オプティマイザはニューロモルフィックなアプリケーションと互換性があり,エッジアプリケーションにおけるスケーラブルでオンチップな学習ソリューションの可能性が高まっている。
関連論文リスト
- Peer-to-Peer Learning Dynamics of Wide Neural Networks [10.179711440042123]
本稿では,分散勾配降下法(DGD)アルゴリズムを用いて学習した広範ニューラルネットワークの学習力学を明示的に評価する。
この結果は,最近のニューラルネットワークカーネル(NTK)理論と,分散学習とコンセンサスタスクに関する広範な研究の両面を生かしている。
論文 参考訳(メタデータ) (2024-09-23T17:57:58Z) - Contrastive Learning in Memristor-based Neuromorphic Systems [55.11642177631929]
スパイクニューラルネットワークは、現代のバックプロパゲーションによって訓練されたディープネットワークに直面する重要な制約の多くを横取りする、ニューロンベースのモデルの重要なファミリーとなっている。
本研究では,前向き・後向き学習のニューロモルフィック形式であるコントラッシブ・シグナル依存型塑性(CSDP)の概念実証を設計し,検討する。
論文 参考訳(メタデータ) (2024-09-17T04:48:45Z) - Expressivity of Neural Networks with Random Weights and Learned Biases [44.02417750529102]
固定ランダム重み付きフィードフォワードニューラルネットワークは,任意の連続関数をコンパクトな集合上で近似することができることを示す。
我々の発見は神経科学に関係しており、シナプスの重みを変えることなく、またAIにも、動的に行動に関係のある変化が起こる可能性を実証している。
論文 参考訳(メタデータ) (2024-07-01T04:25:49Z) - A Hybrid Neural Coding Approach for Pattern Recognition with Spiking
Neural Networks [53.31941519245432]
脳にインスパイアされたスパイクニューラルネットワーク(SNN)は、パターン認識タスクを解く上で有望な能力を示している。
これらのSNNは、情報表現に一様神経コーディングを利用する同質ニューロンに基づいている。
本研究では、SNNアーキテクチャは異種符号化方式を組み込むよう、均質に設計されるべきである、と論じる。
論文 参考訳(メタデータ) (2023-05-26T02:52:12Z) - Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。
我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
論文 参考訳(メタデータ) (2023-03-30T02:40:28Z) - Learning in Deep Neural Networks Using a Biologically Inspired Optimizer [5.144809478361604]
人工神経(ANN)とスパイクニューラルネット(SNN)にインスパイアされた新しい生物モデルを提案する。
GRAPESは、ニューラルネットワークの各ノードにおけるエラー信号の重量分布依存変調を実装している。
生物学的にインスパイアされたこのメカニズムは,ネットワークの収束率を体系的に改善し,ANNやSNNの分類精度を大幅に向上させることを示す。
論文 参考訳(メタデータ) (2021-04-23T13:50:30Z) - Progressive Tandem Learning for Pattern Recognition with Deep Spiking
Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。
高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-07-02T15:38:44Z) - Spiking Neural Networks Hardware Implementations and Challenges: a
Survey [53.429871539789445]
スパイキングニューラルネットワークは、ニューロンとシナプスの操作原理を模倣する認知アルゴリズムである。
スパイキングニューラルネットワークのハードウェア実装の現状について述べる。
本稿では,これらのイベント駆動アルゴリズムの特性をハードウェアレベルで活用するための戦略について論じる。
論文 参考訳(メタデータ) (2020-05-04T13:24:00Z) - Structural plasticity on an accelerated analog neuromorphic hardware
system [0.46180371154032884]
我々は, プレ・グポストシナプスのパートナーを常に切り替えることにより, 構造的可塑性を達成するための戦略を提案する。
我々はこのアルゴリズムをアナログニューロモルフィックシステムBrainScaleS-2に実装した。
ネットワークトポロジを最適化する能力を示し、簡単な教師付き学習シナリオで実装を評価した。
論文 参考訳(メタデータ) (2019-12-27T10:15:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。